人工知能に基づく多くのアプリケーションやソリューションは、クラウド内の外部サーバーと通信する必要がなく、スマートフォンのメモリ上でローカルに動作するため、より安全であると見なされることがよくあります。これは、たとえば、Google AI Edge Gallery の場合に当てはまります。このアプリでは、接続がなくても AI モデルをダウンロードしてデバイス上で直接実行でき、その利点の中にプライバシーの向上が挙げられています。ただし、ジョージア工科大学の調査によると、この場合でも、チャットの削除は必ずしもチャットの痕跡をすべて消去することを意味するわけではありません。これらすべてを含めると、これはプライバシーを意味します。
Google Discover で Apple Geek LABO をフォローする
研究の実施方法
アトランタ大学の研究者は、Android スマートフォンで実行されている AI アシスタントから削除された会話を復元するツール ORISA を開発しました。このツールはそれらを再び作業セッションに再構築し、引き続き通信できるようにすることもできます。悪用された弱点は携帯電話のワーキングメモリです。ローカル アシスタントが実行されている限り、会話で交換された情報は、チャットが削除された後でもメモリに残ることができます。 ORISA はこれらの断片を正確に探し出し、再構成します。技術的には、これはチャットを復元するアプリではなく、調査員向けに設計された法医学ツールです。
Project Note Keeper を使った実験
このツールをテストするために、研究チームは Android アプリ ChatterUI を使用して、Project Note Keeper と呼ばれる模擬 AI アシスタントを作成しました。アシスタントにはプロジェクトに関する 100 件の捏造事実が与えられ、その後会話は削除されました。
削除時に、元のセッションはこれらのファクトのうち 14 件のみにアクセスできました。これは、他のファクトがアクティブ メモリから離れたためです。 ORISA は削除されたチャットから情報を復元し、それを使用して新しい作業セッションを作成しました。研究者らが彼に受け取ったプロジェクトのメモをリストアップするよう依頼したところ、回収された助手は 26 件を返しました。したがって、これは最初の 100 件の事実と比較すると部分的な回収です。ただし、これは元のセッションがまだ管理できていたものよりも高く、AI がすでに使用を停止していた情報もツールによって明るみに出される兆候です。次に研究者らは、10 個の Android アプリと 3 つの AI モデル、合計 60 個の構成で ORISA をテストしました。これらのテストでは、ツールは電話機のメモリに残っている会話から情報を復元しました。
回復は誰にでも手の届くところにあるわけではありません。 ORISA では、スマートフォンのメモリとストレージのコピーにアクセスする必要があります。さらに、研究者らの説明によれば、携帯電話のメモリが他の活動によって上書きされるため、情報を取得するのはさらに困難になります。調査の周囲も指定する必要があります。このテストは、プロバイダーのサーバーで会話を処理するチャットボットではなく、デバイス上でローカルに実行されるアシスタントに関するものです。
デジタル調査とプライバシー
ジョージア工科大学によると、この研究は研究者にスマートフォンから情報を取得する新しい方法を提供する可能性があるという。博士課程の学生であり、この研究の筆頭著者である Ken Xu 氏は、このツールは、人が AI アシスタントとどのような情報を共有し、どのような支援を受けたかを理解するのに役立つと説明しています。考えられる用途としては、チャットボットのアドバイスが医師との会話が共有されることなく患者に害を与えた可能性があるケースの調査を想定することができます。同時に、この研究は、会話を削除しても完全には消去されない可能性があるため、AI アシスタントをローカルで使用する人々のプライバシーについての懸念を引き起こしています。