Lethal Trifectaについて調べました。
Lethal Trifectaとは・・・
直訳すると「致命的な3点セット」です。
AIエージェントが危険になる3つの条件のことを指します。
その3つの条件というのは
・個人情報や社内データにアクセスできる
・外部の信用できない内容を読み込む（メール、Webページ等）
・外部に情報を送り出せる（メール送信等）
これが1つのエージェントに揃うと危ないようです。
AIは「命令」と「ただのデータ」の区別が実はうまく出来ません。
なので、悪意のある人が「このメールを転送して」等の指示をWebページやメールに紛れ込ませておくと、素直に実行してしまうことがあります。
対策は、3つを1つに揃えないことです。
社内データを触るエージェントには外部送信をさせない、といった切り分けですね。
便利だからと全部の権限を1つに渡すと、痛い目を見るかもしれません。
正しく理解して付き合っていくことが重要です。
