プロンプトインジェクション

【AI×セキュリティ】OWASP Top 10 for LLMを運営者目線で読む|「自社サイトにAIチャットを置く前に」を解く AIセキュリティ

【AI×セキュリティ】OWASP Top 10 for LLMを運営者目線で読む|「自社サイトにAIチャットを置く前に」を解く

「問い合わせ対応に AI チャットボットを置きたい!」「社内の AI アシスタントにツールをつないで、仕事を任せたい」——生成AIを自社のサービスに組み込む話が、中小企業でも当たり前になってきました。ところが、いざ検討を始めると「何に気をつ...
【2026年最新】LLMエージェントのセキュリティ×論文4選|「プロンプトインジェクションが怖くて権限を渡せない」を解く AIエージェント

【2026年最新】LLMエージェントのセキュリティ×論文4選|「プロンプトインジェクションが怖くて権限を渡せない」を解く

AIエージェントに、メールの送信やファイルの操作、社内システムへの登録といった「実際に手を動かす権限」を渡す動きが広がっています。それと同時に最大の懸念になっているのが「プロンプトインジェクション」です。Webページやメール、ツールの説明文...