Nothing の共同創設者兼 CEO である Carl Pei 氏は、オースティンで開催された SXSW カンファレンスの時間を利用して、スマートフォンの将来についてのビジョンを共有しました。 私たちが知っているアプリケーションは消滅するでしょうと彼は言いますが、人工知能エージェントはユーザーのことをよく知っていて、誰に頼まなくても自分で行動するようになります。ホーム画面、アプリ、アプリケーション ストアを備えた現在のインターフェイスは、20 年間実質的に変わっていません。彼の言葉を借りれば、それは「iPhone以前」の体験だという。

議論には論理がある。今日、誰かにコーヒーを注文するには、メッセージング、地図、Uber、カレンダーという 4 つの異なるアプリを使用する必要があります。ペイはあなたの意図を知って、 彼はただそれをするだけです。メニューも手順も手間もありません。エージェントがヒューマン インターフェイスを使用するのではなく、エージェントが効率的に動作するように特別に設計されたインターフェイスです。

昨年と同じように、Nothing はこのスピーチを中心的な主張として 2 億ドルの資金調達ラウンドを完了しました。そして、このビジョンはペイだけに限ったものではありません。 OpenAI は、Web 上で複雑なタスクを自律的に実行できる ChatGPT エージェントを開発してきました。 Microsoft は、Windows 用の AI エージェントの開発に取り組んでいます。 個人情報にアクセスするための明示的なユーザー権限これは、自動化されたシステムがあらゆるものにアクセスできるリスクをすでに予測した措置です。

問題？ AI エージェントは現実の環境でも驚異的な効果を発揮します

ペイ氏のビジョンは、紙の上では興味深いものです。問題はそれです 今日の AI エージェントは独自の基準を持つ存在ではありませんただし、言語モデルは実際のデジタル環境に接続されています。そして、エージェントがあなたのカレンダー、電子メール、銀行口座、または会社の内部システムにアクセスできる場合、この 2 つの違いは非常に重要です。

これ以上は説明しませんが、今週、メタはまさにこのリスクを示す事件を確認しました。従業員が社内フォーラムでエンジニアリング上の問題について指導を求めました。 AI エージェントが解決策を返しました。社員が実装してくれました。その結果は、 2 時間にわたり、大量の機密データが暴露されました メタエンジニアへ。同社は、データが悪用されたことはなく、人間が誤ったアドバイスを行った可能性もあると述べた。しかし、エージェントが行動できる規模と速度は人間のそれに匹敵するものではありません。

技術的な問題は既知です。 AI エージェントは、現在のタスクの指示を含む作業メモリの一種である、いわゆるコンテキスト ウィンドウを使用して動作します。しかし、その記憶には限界があり、劣化していきます。 2年以上の経験を持つエンジニア 蓄積された知識を持ち歩く どのシステムが重要なのか、午前 2 時に何が壊れる可能性があるのか​​、そしてどのような行為が波及効果をもたらすのかについて。プロンプトで説明されない限り、エージェントはこれらを何も知りません。たとえ説明されたとしても、タスクが進むにつれてその情報は薄れ始めます。

最近のケースはこれだけではありません。 Amazonは社内AIツールの展開に関連して少なくとも2回の停止を経験した。同社の従業員は、エージェントのワークフローへの統合が加速した結果、重大なエラー、ずさんなコード、生産​​性の低下について国際メディアに報告しました。

私たちは本当に AI にデジタル環境を制御させたいのでしょうか?

カール ペイのビジョンは、ユーザーがエージェントの必要性を認識する前にエージェントが行動する未来を描いています。意図を予測し、確認を求めずに実行するシステム。これを安全に動作させるためには、 エージェントには一定レベルの信頼性と状況理解が必要です 今日は単に存在していないということです。言語モデルは、最も先進的なものであっても、幻覚を起こし、文脈を混乱させ、誤った決定を下し続けます。

ペイ氏自身も、アプリがすぐに消えるわけではないこと、そして自身のオペレーティング システムでは依然としてユーザーがバイブ コーディングを使用して独自のミニ アプリを作成できることを認めています。 「エージェントは私が頼めばフライトを予約してくれる」から「エージェントは私が何を望んでいるのかを知っており、誰に頼まなくてもそれを実行してくれる」への飛躍は、信頼、セキュリティ、そして実際の技術能力の点で大きな進歩です。

残された疑問は、平均的なユーザーが本当に必要か、望んでいるのかということです。 自動化されたシステムは、デジタル ライフに対してそのレベルのアクセスと自律性を備えています。。 AI エージェントが私たちが深く考えずに行動できるようになる前に、AI エージェントは、今日の現実の環境において危険をもたらす間違いを犯さずに行動できることを実証する必要があります。