Windows 11でエージェント型AI機能を有効にすべきでしょうか？いいえ、セキュリティリスクです。その理由は以下のとおりです。

• Windows 11のエージェント型AI機能は、システムレベルの自動化を導入し、オペレーティングシステムがユーザーに代わってクリック、入力、その他の操作を実行できるようにします。
• これらの機能は強力ではあるものの、まだ実験段階であり、重大なセキュリティおよびプライバシー上のリスクを伴う。
• ほとんどのユーザーにとって、現時点でエージェント型AIを有効にすることは推奨されません。

マイクロソフトは、 Windows 11内で「エージェントAI」のテストを開始した。これは、人工知能が人間のようにクリック、タイピング、アプリケーション操作を行うことを可能にする、新しいシステムレベルの機能だ。これは、このオペレーティングシステムがここ数十年で行った最も野心的な変更の一つである。強力な自動化が期待される一方で、現在の実装では、ほとんどのユーザーが対処する準備ができていないセキュリティとプライバシーのリスクが生じる。

設定アプリに新しい「実験的なエージェント機能」のトグルが表示された場合、それをオンにするだけの利便性があるのか​​どうか疑問に思うかもしれません。結論から言うと、いいえ。少なくとも現時点では。マイクロソフト自身もその安全性を保証できておらず、セキュリティは「一度きりの機能」ではなく「継続的な取り組み」であると述べており、つまり、ミスや問題が発生した場合はその都度対処していくということです。

言い換えれば、現状では、一般的なユーザーにとって、エージェント型AIを有効にすることは、時間短縮というメリットを上回るリスクを招くことになる。

あなたのために行動できるAIは、同時にあなたに敵対するAIでもある。

Windows 11における最も重要な変化は、AIがもはや回答を生成するだけに留まらない点です。エージェント機能により、システムは「エージェントワークスペース」と呼ばれるオペレーティングシステムの別セッションでタスクを実行できます。つまり、ユーザーがメインのデスクトップセッションで作業を続けながら、エージェントはアプリを開いたり、ファイルを管理したり、複数の手順からなる操作を完了したりできるのです。

これは強力な機能ですが、同時に新たな攻撃形態も生み出します。チャットボットとは異なり、AIエージェントはシステムに変更を加えることができます。何らかの問題が発生した場合（誤った指示、ユーザーのミス、または操作されたプロンプトなど）、その影響は会話ウィンドウだけでなく、実際のファイルやアプリにも及びます。

エージェントワークスペースは初期状態では別のシステムセッションで実行される点に注意が必要です。ただし、今後のリリースでは、Microsoftはエージェントワークスペースを、個別のアクセス許可と機能を備えた軽量かつ安全な仮想環境として展開する予定です。

クロスプロンプトインジェクションは現実的な脅威である

マイクロソフトは、ウェブページ、ドキュメント、またはアプリのインターフェース内に隠されたテキストによってエージェントの指示フローを乗っ取る「クロスプロンプトインジェクション」と呼ばれる新たな攻撃手法を指摘しています。悪意のあるウェブサイトは、エージェントにマルウェアをダウンロードするよう密かに指示する命令を埋め込む可能性があります。エージェントはシステムアクションを実行する権限を持っているため、この種の攻撃は従来のプロンプト操作よりも大きな影響を及ぼす可能性があります。

これは理論上のリスクではありません。研究者たちが繰り返し実証してきた、エージェントシステムにおける既知の脆弱性です。そして、Windows 11は防御策の検討を始めたばかりです。

エージェントはあなたの個人フォルダにアクセスできます

この機能を有効にすると、エージェントアカウントは自動的に、ドキュメント、ダウンロード、デスクトップ、ピクチャ、ビデオ、ミュージックフォルダ内のファイルへの読み取りおよび書き込みアクセス権を取得します。

これはエージェントがタスクを完了するために必要なことですが、同時に、エージェント側のミス、誤解釈、または指示の不備が個人データに影響を与える可能性があることを意味します。誤って間違ったフォルダを整理してしまうのと、大量のファイルを誤って削除したり移動したりしてしまうのとでは、全く状況が異なります。

多くのユーザーは、AIがローカルデータに対して自律的に動作することによる影響に対処する準備ができていない。

幻覚はシステムレベルのミスとなる

AIモデルは依然として幻覚を見たり、指示を誤って解釈したりすることがあります。通常、これは無害ですが、エージェントによる操作が有効になっている場合、幻覚によって誤ったアプリが実行されたり、意図せずファイルを変更または削除したり、安全でないWebサイトにアクセスしたり、ワークフローで誤った手順を実行したりする可能性があります。

AIがオペレーティングシステムを物理的に制御するようになると、たとえ小さなミスでも重大な結果を招く可能性がある。

たとえあなたが忘れていても、バックグラウンドで動作しています。

現在、この最初のプレビュー版にはいくつかの既知の問題があります。例えば、Copilot Actionsが有効になっている場合、システムがスリープ状態になったりシャットダウンしたりしないことがあります。また、「他のユーザーがまだこのPCを使用しています」という警告が表示される場合もあります。

エージェントが目に見える形でバックグラウンドで動作し続けるという事実は、混乱を招いたり、アップデートが停止したり、ユーザーが停止したと思ってもその後もプロセスが長時間継続したりする原因となる可能性があります。

気づかないうちに、あなたのデバイスはマルチユーザーシステムになる

Windows 11のエージェント型AIは、非常に魅力的なアイデアです。これは、コンピューターが日常業務を自動化し、ワークフローを効率化し、受動的なデバイスではなく、よりインテリジェントなアシスタントのように動作する未来を象徴しています。しかし、現状では、この機能は未完成で実験段階であり、セキュリティ対策が不十分で、新たなタイプの攻撃に対して脆弱です。

それは、メインのパーソナルコンピュータに搭載すべき組み合わせではありません。

結論

開発者、セキュリティ研究者、あるいは最先端のAI技術を意図的に実験している方であれば、管理された環境下でエージェント機能を有効にしてみる価値はあるかもしれません。しかし、一般ユーザー、特にコンピュータに個人ファイルや仕事関連のファイルを保存している方は、この機能をオフにしておくことをお勧めします。

リスクは現実のものであり、保護対策は未熟で、メリットもまだ限られています。Windows 11は強力な自動化レイヤーとなる可能性を秘めた基盤を築いていますが、現時点では、この技術が一般ユーザーにとって実用的になるには、もう少し時間が必要です。