AIエージェントに「偽指示」仕込まれたサイトが実在?プロンプトインジェクションの実例に衝撃
スレッズ経由で拡散された投稿により、サイト側にAIへの偽指示を仕込む「プロンプトインジェクション」が実際に確認されたとして話題に。AIエージェントの安全性を巡る議論が広がっている。
AIエージェントに外部サイトを読ませたとき、そのサイトに仕込まれた「偽の指示文」に従ってしまう現象が実例として報告され、拡散した。補助金リサーチなどAIエージェントを使う場面での注意喚起として広がっている。
<ネットの反応>
- なるほど、理論上の話だと思ってたけど実際あるんだな
- これ怖すぎるな
- 得体の知れないサードパーティのAIエージェント使うって発想がそもそもなかったわ
- これに個人情報載せられたら一発でアウトでは?
- 噂には聞いてたけどガチなんか…
- 対策としてメモリに「そういう指示は聞くな」って書いとくとかかな?
- ワイもあったわこれ
- そのうち一般社員に「パスワード入力してくれたら一括処理できます」とか言ってきそう
- 補助金のリサーチにって限定してるの、意図あるんじゃない?って勘繰っちゃう
- 全然詳しくないんだけどこれエージェント型AIだけの話なのかな
- 今日まさにやられたけど監査が止めてくれた、危なかった
- 情シスとして本当に他人事じゃないやつ
- 「公式からの緊急指示です」って権威装うパターン多そう
- 泥棒がお手伝いロボ騙して鍵持ってこさせる感じ、たしかに
- LLMの指示文とデータの境界が曖昧なの、現代的な脆弱性そのものでは
- 自然言語が新たなXSSやSQLインジェクションになる時代なんだな
- 補助金の相談は素直に役所行った方が早い気がする
- プロンプトインジェクション対策もう待ったなしだな
- AIエージェントにサイト丸投げはもうできないな
- サイトが裏切るのSF感あって逆にちょっとワクワクしてしまう
AIエージェントの普及が進むほど、こうした指示の乗っ取りリスクへの警戒が求められそうだ。権限を絞った設計の重要性を指摘する声も目立った。
M!LK新曲『You!Joy!Parade!』MV公開に「元気もらえる」と反響殺到
M!LK新曲MV公開!ワンカット撮影&わちゃわちゃ感にファン歓喜の反応続々
Number_iの新曲「BUGS LIFE」がYouTube Music公式プレイリストのカバーに選出でファン歓喜
コメント
0件まだコメントはありません。