サイトや社内ツールに AI の機能を足すとき、どの AI サービスを使うかは確かめても、その会社がさらにどこへ処理を任せているかまで確かめているでしょうか。チャットボットのプラグイン、要約機能のある SaaS、AI 機能付きのノートアプリ。契約や規約を読むのは、契約する会社の分だけ、ということもあるはずです。
10月から11月にかけて、使っている AI サービスの、さらにその先で起きた侵害の公表が続きました。Fireworks AI は、オープンウェイトモデル(中身のパラメーターが公開されている AI モデル)を動かして回答を作る処理(推論)や、追加の学習を請け負う会社です。この会社が侵害を公表し、その影響で、Notion は Notion AI のチャット記録の一部が漏れたと顧客に知らせました。別件ですが、処理中のデータをハードウェアで隔離した領域で守る「機密計算(TEE)」を売りにする NEAR AI も、オープンソースの推論エンジン SGLang の脆弱性を突かれ、処理中のリクエストを見られた可能性があると公表しています。
10月4日の記事「社内データをAIに渡すときのリスク」では、AI に渡したデータが社内の見せてはいけない相手に届く問題を扱いました。今回はその外側、AI に渡したデータが、自分の知らない事業者のところでどう扱われているかの話です。読み手として想定しているのは、サイトの運営者と、自社のサービスに AI の機能を足す担当者です。
結論から言うと、AI の機能を足したら、データは「契約した会社」で止まるとは限りません。その会社が推論を任せている事業者にも、データや認証情報が渡ることがあります。さらに、その事業者が機材を置いている別のクラウドが、侵入の足がかりになることもあります。そして「データを保持しない(ZDR)」という契約上の約束や、機密計算という技術的な守りには、それぞれ及ぶ範囲があります。担当者にできるのは、機能ごとにデータの行き先と約束の範囲を聞いておくことと、AI に API キーなどの認証情報が渡る前提で備えておくことです。
10月〜11月に何が起きたか
日付は各社の発表に書かれた日付です(多くは米国時間)。角かっこの数字は末尾の参考文献の番号です。
| 日付 | 出来事 |
|---|---|
| 10月6日 | Fireworks AI が、社内の認証情報が不正に使われていることを確認。一部の顧客アカウントで、モデルを評価する処理に使う設定値(API キーなど)が盗まれた [1] |
| 10月9日 | Fireworks AI が初報を公開。この時点では、顧客のモデルやデータセットへの不正アクセスは見つかっていないと説明 [1] |
| 10月23日 | Fireworks の研究開発用の機材を置いていた、別のクラウド事業者でセキュリティ事故 [2] |
| 10月24日 | 侵入者がそこから Fireworks の開発用の機材に到達。Fireworks は同じ日に検知 [2] |
| 11月2日 | Fireworks が Notion に、データが盗まれたと通知。Notion が調べた時点では、合成したテスト用のデータで顧客データは含まれていないと判断 [3] |
| 11月3日〜4日 | Notion が Fireworks との接続を切り、Fireworks 上の自社データを削除 [3] |
| 11月6日 | Fireworks が Notion に、顧客データが盗まれた可能性を通知 [3] |
| 11月8日 | Fireworks が、影響を受けたデータを確定 [3]。同じ日、NEAR AI の推論サーバでは、処理中のリクエストを侵入者に見られた可能性がある [5] |
| 11月9日 | Fireworks が続報を公開 [2]。Notion が影響を受けた顧客に連絡 [3]。NEAR AI が事故の報告を公開 [5] |
| 11月11日〜12日 | Notion が、漏れたチャット記録の中にあった Notion の API キーを失効させ(11日)、他社の API キーを発行元に報告(12日)[3] |
3社がそれぞれ公表したこと
Fireworks AI:2度の侵入と、明らかになった影響範囲
10月9日の初報では、侵入者が盗んだのは、一部の顧客アカウントでモデルを評価する処理に使う設定値(環境変数)でした。そこには、外部のサービスにアクセスするための API キーやトークンが含まれていました。モデルやデータセット、推論の入出力については、不正アクセスを確認していないとしていました [1]。
11月9日の続報では、初報より広い影響が明らかになりました [2]。研究開発用の機材を置いていた別のクラウド事業者で10月23日にセキュリティ事故があり、侵入者はそこを足がかりに、翌24日に Fireworks の開発用の機材へ到達したと説明しています。調べた結果、アカウントと請求の情報(住所、請求・支払いの履歴、残高など)にも影響があり、一部のアカウントでは、保存していた認証情報、データセット、学習途中のモデルの重みにも影響があったとしています。カード番号は保存しておらず、影響はないとのことです。影響を受けた顧客の数は書かれていません。
同じ続報で Fireworks は、警察に届け、Palo Alto Networks の Unit 42 にフォレンジック調査(侵入の経路や被害を調べる調査)を頼んだと明かしました。さらに、LLM への不正なアクセスを売る金銭目的の犯罪グループとのつながりを示す証拠があるとし、こうした手口を「LLMJacking」と呼んでいます [2]。Google の脅威インテリジェンスグループ(GTIG)と Mandiant が11月2日に公開した報告によると、LLMJacking の主な入口は漏れたり盗まれたりしたクラウドの認証情報で、不正な利用料が1日で10万ドルを超え、失効までに累計100万ドルに達した組織もあったといいます [7](この報告は Fireworks の名前を挙げていません)。盗まれた認証情報で生成 AI が大量に使われた事例は、11月5日の記事「AIエージェントが侵入を回す攻撃フレームワーク」でも触れました。
なお Fireworks は、既定でデータを保持しない設定の3製品(Inference・Training SDK・Nexus)には、調査の時点で影響を確認していないとしています。調査は続いており、新しい事実が出る可能性があるとも書いています [2]。
Notion:自社は侵害されていないが、データは漏れた
Notion は Fireworks を、「Insights」という機能のための分類処理と、製品の中でオープンウェイトモデルを動かすための推論に使っていました。Insights は、ワークスペースの管理者に、メンバーの AI の使い方を見せる機能です。過去には、プログラムに参加してデータの提供を申し出た利用者のデータで、特定の作業向けのモデルを Fireworks 上で学習させる実験もしていました [4]。
Notion の説明では、影響を受けたのはワークスペース全体の1%未満で、漏れたのは Insights のために Fireworks へ送っていた Notion AI のチャット記録です。影響を受けたワークスペースの大半では、記録に「誰が書いたか」「どのワークスペースのものか」を示す情報は付いておらず、AI が外部の機能を呼び出して得た結果も含まれていなかったといいます。ただし Notion も「チャット記録そのものに書かれた内容を除けば」と断っており、会話の本文に会社名などが書かれていれば、そこからは誰のものかがわかりえます。ほかの機能には影響がないとしています [3]。Notion は「当社のシステムが侵害されたわけではない」と書いたうえで、Insights を止め、Fireworks 経由でのオープンウェイトモデルの提供もやめました [3][4]。
この件で特に注目したいのは、Notion のヘルプページにある次の説明です。Notion は Fireworks から、データを保持しない(ZDR)という契約上の約束を受けていました。それでも調査の結果、Notion が使っていた Fireworks の接続先(エンドポイント)でデータが保持されていたことがわかった、と書いています [4]。なお同じページは、Notion が自社の利用者に約束している ZDR についても説明しており、チャット履歴や Insights のように、機能を提供するためにデータの保存が必要な用途は対象外だとしています [4]。
Notion は影響を受けた顧客に、該当するデータを「漏れたもの」として扱い、その期間に Notion AI へ貼り付けたパスワードや API キーがあれば、すぐに入れ替えるよう勧めています [3][4]。11月11日には、漏れた記録の中にあった Notion の API キーを自ら失効させ、12日には、記録の中にあった他社の API キーを発行元に報告しました [3]。
NEAR AI:機密計算の中で動くソフトの穴
NEAR AI は、ハードウェアで隔離された領域(エンクレーブ)の中でオープンなモデルを動かし、運営者やホストからもデータを守る推論のクラウドを提供しています。11月9日の報告によると、侵入者は推論サーバで動いていたオープンソースの推論エンジン SGLang の遠隔コード実行の脆弱性(外から任意のプログラムを動かせてしまう脆弱性)を突いて1台の推論サーバでコードを実行し、そこから基盤の内部に入りました [5]。
NEAR AI は、提供を終えていたチャット製品「Private Chat」の裏の内部システムから、約100人分のアカウント情報が盗まれたと説明しています。メールアドレスと名前のほか、一部はプランと残高の情報も含まれていました。また、機密計算を使っていない古い環境で動いていたエージェント18体からは、チャット履歴・設定・ログが盗まれました。そのログには、NEAR AI Cloud の顧客2件が使っていた NEAR AI Cloud の API キーが含まれており、すでに失効させたとのことです [5]。
加えて、11月8日には、侵入されたサーバで処理中だったリクエストを、機密計算を使うモードのものも含めて見られた可能性があるとしています。一方、Private Chat に保存されていた会話やアップロードされたファイルについては、アクセスされた兆候は見つかっていないとのことです [5]。
NEAR AI 自身が、報告の中で次のように説明しています。機密計算は、運営者やホストからデータを守る。しかし、その環境の中で動くソフトウェアの脆弱性からは守らない。今回起きたのはまさにそれだ、と [5]。同社は全サーバに修正を入れて SGLang のプロジェクトに脆弱性を報告し、今後はエンクレーブの中の推論ソフトと周辺のサービスも、エンクレーブそのものと同じ厳しさで調べるとしています [5]。
各社の公表から見えること
利用者から見えない層で起きることがある
Notion AI の利用者から見ると、Fireworks は「使っているサービスが使っている会社」です。Cloud Security Alliance(CSA)は11月12日の研究ノートで、こうした相手を「第四者(fourth party)」と呼び、Notion の顧客の多くはおそらく評価も契約もしておらず、名前を聞いたこともない事業者だったと指摘しました。さらに Fireworks への侵入は、その先のクラウド事業者を経由しています。Notion の利用者から数えると、もう1段先です [6]。
AI の機能は、1つの会社で完結しているとは限りません。モデルを作った会社とは別に推論を請け負う事業者がいて、その事業者も別のクラウドで動いている、という構成がありえます。CSA は、推論事業者には利用者の入出力だけでなく、評価の処理のための認証情報、保存されたデータセット、学習途中のモデルが集まるとしています [6]。
約束にも技術にも、及ぶ範囲がある
Notion の件では、ZDR の約束がありながら、データは保持されていました。その理由は、2社とも明らかにしていません [4][6]。CSA は、ZDR は会社全体の性質ではなく、特定の処理経路にだけかかる約束として扱うべきだと書き、分析・評価・バッチ処理・学習のように、データをしばらく置いておく処理は別に確かめるよう勧めています [6]。
NEAR AI の件では、技術的な守りの限界が表に出ました。機密計算は、運営者やホストからデータを守る仕組みです。しかし、その環境の中で動くソフトウェアの脆弱性を突かれれば、中のデータに手が届きます [5]。契約上の約束についても、技術的な守りについても、それがどこまで及ぶのかを利用者の側で確かめる必要があります。
チャットに貼った認証情報が、一緒に漏れる
Notion の記録には、利用者が貼り付けた API キーが含まれていました [3]。NEAR AI でも、ログに顧客の API キーが残っていました [5]。設定ファイルのエラーを AI に相談するときなどに、API キーをそのまま貼ってしまうことがあります。CSA は、AI のチャット記録を「認証情報を含みうるデータ」として扱うよう勧めています。誰のものか紐づかない記録でも、中の API キーが有効なら価値は変わらない、という指摘です [6]。
知らせは、遅れて届く
Fireworks は10月24日に侵入を検知しましたが、Notion が最初の通知を受けたのは11月2日でした [2][3]。その時点では「顧客データは含まれていない」と判断され、顧客データだと確定したのは11月8日です [3]。CSA は、間に入る事業者が1つ増えるごとに調査と通知の時間が足されるとし、委託先のさらに先で起きた漏えいの知らせは、遅れて、情報がそろわないまま届くものと考えて契約と対応手順を組むべきだとしています [6]。
AI の機能を足す側が確かめること
ここからは、サイトや自社サービスに AI の機能を足す側の確認項目です。出典のある項目には番号を付けました。番号のないものは筆者の勧めです。
1. 機能ごとに、データの行き先を書き出す
「どのモデルを使っているか」ではなく、「この機能に入れたデータは、どの会社のどの処理を通るか」を聞きます。CSA は、委託先の審査で、AI の機能ごとにどの推論事業者が処理しているかを尋ねるよう勧めています [6]。会社全体の委託先一覧だけでは、どの機能のデータがどこへ行くかはわかりません。
サイトにチャットボットや要約のプラグインを入れる場合も同じです。プラグインの開発元のサーバを経由するのか、AI の API に直接送るのか。訪問者が入力した内容がどこまで行くかは、プライバシーポリシーの書き方にも関わります。
2. 「保持しない」は、どの処理に適用されるかを聞く
「ZDR です」と言われたら、それがリアルタイムの推論だけなのか、分析、評価、バッチ処理、学習にも適用されるのかを確かめます [6]。Notion 自身も、利用者への ZDR の約束について、保存が必要な機能は対象外だと説明しています [4]。契約では、ZDR を処理経路ごとに定めること、AI の機能がデータを保存し始める前に知らせることを求めるよう、CSA は勧めています [6]。
3. 管理者向けの分析機能が必要かを見直す
Notion の件で漏れたのは、管理者向けの利用状況の分析に使うために Fireworks へ送られたチャット記録でした [3]。「利用状況の見える化」「品質改善のため」といった機能は、便利な反面、会話を保存して別の場所へ送る理由になります。CSA も、こうした機能が有効になっているか、その機能の価値が、データの送り先や処理の経路が増えることに見合うかを見直すよう勧めています [6]。使っていない機能は止めておくのが無難です。
4. チャットに認証情報を貼らない。漏れたら発行元で無効にして作り直す
チームの決まりとして、AI のチャットにパスワードや API キーを貼らないことを伝えます。貼られてしまった場合に備えて、入れ替えの手順も決めておきます。Fireworks は初報で、保存先から認証情報を削除するだけでは、その認証情報は無効にならない、発行元で無効にして入れ替えるように、と顧客に伝えています [1]。
AI のサービスやエージェントに認証情報を預けるときは、権限をできるだけ絞ったものにしておくと、漏れたときの被害が小さくなります。考え方は10月8日の記事「AIエージェントとMCPの権限設計」で、公開されてしまった認証情報の扱いは11月9日の記事「AIペンテストツールが相次いで登場」で扱いました。
5. 推論エンジンを自分で動かすなら、更新の対象に入れる
外部の推論事業者を使わず、オープンウェイトモデルを自前のサーバで動かす選択もあります。CSA は、自前にすれば委託先は1つ減るが、運用とセキュリティの負担を引き受けることになり、自動的に安全になるわけではないとしています [6]。
自前で動かすなら、推論エンジンも OS や CMS と同じく、更新を追う対象に入れます。GitHub の脆弱性データベースには、2026年だけでも SGLang について、認証なしで遠隔からコードを実行できるとされる深刻度「critical」の公開情報が複数あります [8]。推論エンジンの管理用の接続口(ポート)をインターネットに出さないことも基本です。機密計算の環境で動かす場合も、NEAR AI の報告のとおり、中のソフトの脆弱性は別に管理する必要があります [5]。
6. 知らせが遅れて届く前提で、受け取り方を決めておく
委託先からの事故の連絡を、誰が受けて、誰が判断するかを決めておきます。Notion も Fireworks も、影響を受けた顧客にはメールで直接知らせています [1][3]。登録している連絡先のアドレスが、退職者のものになっていないかも確かめておきたいところです。CSA は、契約先だけでなくその先の推論事業者にも事故の通知期限がかかるよう契約を整えること、対応手順に「委託先の先での漏えい」の場面を入れておくことを勧めています [6]。
確認できなかったこと
- Fireworks で影響を受けた顧客の数:Fireworks の続報には、影響を受けたアカウントや顧客の数が書かれていません [2]。Notion 以外にどの会社が影響を受けたかも、公式には示されていません
- Notion のデータが、どちらの侵入で盗まれたか:Fireworks の発表は、Notion のデータがどの侵入で盗まれたかを示していません。CSA は、初報の時点でデータセットへのアクセスが見つかっていなかったことから、後の侵入によるものとみていますが、推測の域を出ません [6]
- ZDR の約束があったのに、なぜデータが保持されていたか:Notion は保持されていた事実を書いていますが、仕組みは説明していません [4]。CSA も、2社とも説明していないとしています [6]
- SGLang のどの脆弱性が使われたか:NEAR AI は脆弱性の番号(CVE)も影響する版も公表していません [5]。筆者は11月13日に GitHub の脆弱性データベースを確認しましたが、NEAR AI の発表と既存の公開情報を対応付けることはできませんでした [8]。未公開の脆弱性だったのか、既知の脆弱性が未修正だったのかはわかりません
- NEAR AI で、機密計算を使うモードのリクエストが実際に見られたか:NEAR AI は「見られた可能性がある」としており、実際に見られたかどうかは示していません [5]
押さえておきたい3点
- データの行き先は、機能ごとに聞く。契約した会社の先に、推論事業者と、そのまた先のクラウドがあることがある
- 「保持しない」「機密計算」は、及ぶ範囲を確かめる。分析・評価・学習の経路や、隔離された領域の中で動くソフトは別に見る
- AI のチャット記録は、API キーなどの認証情報を含みうるデータとして扱う。貼らない決まりと、発行元で無効にして作り直す手順を用意しておく
まとめ:AI の機能を足す前に、データの行き先を聞いておこう
各社の公表は、契約した会社のさらに先でデータが扱われることがあり、データを守る約束や仕組みにも及ぶ範囲があることを示しています。AI の機能を足すと、データの行き先は1社増えるだけとは限りません。機能を入れる前に「どこまで行くのか」「どの約束がどこまで及ぶのか」を聞き、認証情報が漏れた前提の手順を用意しておけば、委託先の先でセキュリティ事故が起きたときにも、慌てずに対応を始められます。
参考文献
- Fireworks AI「Fireworks October 2026 security incident」2026年10月9日公開・10月10日更新(https://fireworks.ai/security/bulletins/october-2026-security-incident)2026-11-13 確認
- Fireworks AI「Update on October 2026 security incident」2026年11月9日更新(https://fireworks.ai/security/bulletins/october-2026-security-incident-update)2026-11-13 確認
- Notion「Fireworks AI incident」(Security Advisory)2026年11月12日更新版・11月13日追記(https://www.notion.com/security/advisories/security-incident-involving-a-third-party-ai-vendor)2026-11-13 確認
- Notion ヘルプセンター「Notice about the Fireworks AI incident that may impact some Notion workspaces」(https://www.notion.com/help/security-incident-involving-a-third-party-ai-vendor)2026-11-13 確認
- NEAR AI「Security Incident Report」2026年11月9日(https://near.ai/blog/security-incident-report-sglang-vulnerability)2026-11-13 確認
- Cloud Security Alliance AI Safety Initiative「Your Vendor’s Inference Provider: Fourth-Party AI Subprocessor Risk」2026年11月12日(https://labs.cloudsecurityalliance.org/research/csa-research-note-fourth-party-ai-subprocessor-risk-20261112/)2026-11-13 確認
- Google Threat Intelligence Group・Mandiant「The Rise of LLMJacking: How Threat Actors Monetize Compromised Cloud and Model Resources」2026年11月2日(https://cloud.google.com/blog/topics/threat-intelligence/llmjacking-monetizing-compromised-cloud-models)2026-11-13 確認
- GitHub Advisory Database「sglang」の検索結果(https://github.com/advisories?query=sglang)2026-11-13 確認

