AIのチャットが返事を書く速さは、この数年でずいぶん上がりました。その裏で広く使われている高速化の手が「投機的デコーディング(speculative decoding)」です。小さなモデルが先に数語ぶんの下書きを書き、大きなモデルがそれをまとめて確かめる、という分業で、Google は検索の AI による概要(AI Overviews)の高速化にも使っていると公式ブログで説明しています。
スマートグラスのAIの記事では、「大きなモデルが小さなモデルの下書きを確かめてから表示する『投機的デコーディング』とは違い…」と1文だけ触れました。この記事では、その投機的デコーディングを掘り下げます。仕組みと、なぜ結果を変えずに速くできるのか、どこまで広がっているのかを整理し、そのうえで「下書きの当たり外れが暗号化された通信の刻みに表れ、内容の手がかりが外へ漏れうる」という研究を、論文に書かれている条件どおりに紹介します。内容は論文と公式の資料に書かれている範囲に限り、筆者は攻撃を試していません(2026年10月13日時点)。結論を先に言うと、投機的デコーディングは、正しく作れば大きなモデルの答えの出方(確率分布)を変えずに速くできる技術。ただし下書きが当たったか外れたかで「1回の計算で進む量」が変わり、ストリーミングで返事を流すサービスでは送り方によってそれが通信に表れるので、暗号化していても通信の大きさや間隔から問いの手がかりが漏れうる。作る側はまとめて送る・詰め物をするなどの対策を、使う側は機微な相談の通信の見え方を意識しておくのが基本です!
まず押さえたい:AIは「1語ずつ」しか書けない
1語ずつ書くAIは、なぜ遅いのか
ChatGPT のような大規模言語モデル(LLM)は、文章を「トークン」という単位(単語や単語の一部)で、前から1つずつ書きます。次のトークンは前のトークンが決まらないと書けないので、100トークンの返事には、モデルを100回、順番に動かす必要があります。
ここで効いてくるのが、計算の速さではなく「メモリから読み出す速さ」です。Google の研究者は、AI 向けのチップ(GPU や TPU)は1秒に数百兆回の計算ができる一方、メモリから読み出せるのは1秒に数兆バイト程度で、桁が2つほど違うと説明しています。大きなモデルは1トークン書くたびに重み(モデルの中身の数値)を丸ごと読み出すので、計算の力は余っているのに、読み出しを待つ時間が速さを決めてしまいます。Leviathan らの論文も、大きなモデルの推論は計算ではなくメモリの帯域と通信がボトルネックになりやすい、と書いています。
小さなモデルが先に書き、大きなモデルがまとめて確かめる
そこで、余っている計算の力を使います。投機的デコーディングの流れは次のとおりです。
- 速い小さなモデル(下書き役、ドラフトモデル)が、この先の数トークンを順番に書く
- 大きなモデル(本番役、ターゲットモデル)が、その数トークンを1回の計算でまとめて確かめる
- 下書きが本番役の考えと合っていれば何トークンでもまとめて採用し、合わなくなったところで本番役が自分の答えに差し替えて、そこから次の下書きに戻る
大きなモデルにとって、数トークンをまとめて確かめる手間は、1トークンを書く手間とあまり変わりません。Chen らの論文(DeepMind)は、下書きの短い続きをまとめて採点する時間が、大きなモデルで1トークン書く時間と同じくらいだ、という観察を出発点にしています。下書きがよく当たるほど、大きなモデルを動かす回数が減り、返事が速く出ます。
答えの出方が変わらない理由:受理と棄却の規則
速くするだけなら、小さなモデルの下書きをそのまま使ってもよさそうです。投機的デコーディングの要点は、どの文章がどれくらいの確率で出るか(出力の確率分布)が、大きなモデルが単独で書いたときと同じになるように、下書きを採用するか捨てるかの規則を決めていることです。
Leviathan らの論文によれば、下書き役がある語を選ぶ確率が本番役のその語の確率以下なら、その語はそのまま採用します。下書き役の方が高い確率を付けていた語は、「本番役の確率÷下書き役の確率」の割合でだけ採用し、残りの場合は捨てます。捨てたときは、本番役の確率が下書き役を上回っている語だけを対象に、その上回っている分に比例した確率で選び直します。こうすると、出てくる語の確率は本番役だけで書いたときと一致する、と論文は示しています。Chen らの論文も同じ形の規則を「修正した棄却サンプリング」として提案し、本番役の分布が「ハードウェアの数値計算の精度の範囲で」保たれる、と書いています。
つまり、うまく作られていれば、投機的デコーディングは「答えの質を下げて速くする」手ではありません。下書きが外れても本番役が直すので、答えの出方(確率分布)は本番役だけで書いた場合と変わらず、外れが多いと速くならないだけです。なお、これは「毎回まったく同じ文章が出る」という意味ではありません。もともと確率で語を選ぶ設定なら、本番役だけで書いても毎回の文章は変わりえます。
どれくらい速くなるのか
原論文と代表的な後続研究が報告している数字は次のとおりです(いずれも各論文の実験条件での値)。
| 論文 | 公開 | 実験の対象 | 報告された速さ |
|---|---|---|---|
| Leviathan ほか(Google) | 2022年11月(ICML 2023 で口頭発表) | T5-XXL(110億パラメータ)の翻訳・要約 | 標準の実装と比べ2〜3倍、出力の分布は変えない |
| Chen ほか(DeepMind) | 2023年2月 | Chinchilla(700億パラメータ)、分散環境 | 2〜2.5倍 |
| Medusa(Cai ほか) | 2024年1月 | 複数のモデル | Medusa-1 で約2.2〜2.3倍、Medusa-2 でモデル別に2.3〜2.8倍(Vicuna-7B の情報抽出の課題では3.6倍) |
| EAGLE(Li ほか) | 2024年1月 | LLaMA2-Chat 70B ほか | 2.7〜3.5倍(遅延) |
| EAGLE-3(Li ほか) | 2025年3月 | 対話モデル・推論モデル、5種類のタスク | 最大6.5倍 |
Leviathan らは、本番役より2桁ほど小さい下書き役だと、下書きが採用される率がおおむね0.5〜0.9になったと報告しています。どれだけ速くなるかは、主にこの採用率と下書き役の軽さで決まり、一度に書かせる下書きの長さや、機械・実装の違いでも変わります。
広がり:下書き役を「自分の中」に持つ方式と、推論サーバでの対応
別のモデルを用意しない「自己投機」
初期の代表的な構成では、下書き役に別の小さなモデルを使いました(Google は、既存の小さなモデルのほか、簡単な規則による予想でも実用上うまくいったと振り返っています)。Medusa の論文は、別の下書きモデルを手に入れて保守するのが導入の壁になっていると指摘し、大きなモデル自身に「数トークン先を予想する頭(ヘッド)」を追加する方式を提案しています。候補を木の形に並べて一度に確かめるのも特徴です。EAGLE は、大きなモデルの内部の特徴量を読む小さな下書き部品を使う方式で、後継の EAGLE-3 では予想の方法を変え、学習データを増やすほど性能が伸びるようにした、としています。
モデルの作り手が、最初から「先のトークンも予想する」学習をする例もあります。DeepSeek-V3 の技術報告(2024年12月)は、学習に使う「複数トークン予測(MTP)」の部品を、推論のときには外して普通に使うことも、投機的デコーディングに転用することもできると書いています。報告によれば、2つ目のトークンの予想が採用される率は評価したさまざまな話題で85〜90%で、1秒あたりに出せるトークン数は1.8倍になった、としています。
ただし、方式によっては「大きなモデル単独と同じ答えの出方」という性質をゆるめて速さを取るものもあります。Medusa の論文は、棄却の規則の代わりに「典型的な受理(typical acceptance)」という基準も提案し、こちらは生成の品質が「同程度」であることを実験で確かめた、という書き方です。また Medusa-2 は、大きなモデル本体も一緒に学習し直す方式です。「投機的デコーディングだから答えの出方は同じ」と一律には言えません。
推論サーバとサービスでの採用
いまでは、AI を動かすための主なソフトウェアが、投機的デコーディングの複数の方式に対応しています。2026年10月13日に確認した公式の資料(開発版の文書を含む)では、次のとおりです。使える方式はバージョンやモデル、動かす環境によって異なります(たとえば TensorRT-LLM の Medusa は Vicuna 向けのみ)。
| ソフトウェア | 公式資料の記載 |
|---|---|
| vLLM | EAGLE、MTP、下書きモデル、n-gram(文中の語の並びから予想)など複数の方式に対応。中〜低負荷でメモリ律速の場面の、トークン間の遅延を減らすためと説明 |
| TensorRT-LLM(NVIDIA) | 下書きモデル、Medusa、ReDrafter、EAGLE、n-gram、Lookahead などに対応。バッチが小さく GPU が余っている場面で1トークンあたりの遅延を減らす、と説明 |
| llama.cpp | llama-server で下書きモデル、EAGLE-3 などに対応。下書きモデルを使う方式が最もよく使われる、と説明 |
vLLM の資料は、投機的デコーディングは理論上は数値計算の精度の範囲で出力を変えないとしたうえで、浮動小数点の誤差などで、投機的デコーディングの有無によって出力が少し変わることはありうる、とも書いています。
サービス側では、Google が2024年12月の公式ブログで、投機的デコーディングを複数の Google 製品に使っていて、検索の AI による概要もその一つだと説明しています。業界全体に広がったとも書いています。一方で、ほかの各社のチャットや API が投機的デコーディングを使っているかどうかは、筆者が確認した各社の公式資料には書かれていませんでした。外から見て速さが変わることは観測されていますが(後述の Carlini らの論文)、その理由が投機的デコーディングなのかは、論文自身も特定していません。
セキュリティ面:下書きの当たり外れが「通信の刻み」に表れる
ここからが本題です。投機的デコーディングは、下書きが長く当たれば1回の計算で何トークンも進みます。途中で外れたときは、それまでに採用した分と本番役が直した1トークンだけ進み、最初で外れれば1トークンだけです。どこで当たってどこで外れるかは、問いと答えの中身に左右されます。返事をできたそばから送る「ストリーミング」では、送り方によっては、この進み方の違いが、通信の1回ごとの大きさや間隔のパターンに表れます。
「When Speculation Spills Secrets」:パケットの大きさから問いを当てる
トロント大学の Wei らの論文 When Speculation Spills Secrets: Side Channels via Speculative Decoding In LLMs(arXiv:2411.01076、初版2024年11月、最新の第4版は2026年2月。確認した arXiv の記載には採録先が書かれていないので、ここでは査読前のプレプリントとして扱います)は、この違いを「サイドチャネル(本来の通信内容ではなく、その副産物から情報が漏れる経路)」として調べました。
論文の想定する攻撃者は、悪意のあるインターネット接続事業者や乗っ取られたルーターのように、利用者とAIのサーバの間の通信を見られる立場の者です。通信は暗号化されていて中身は読めませんが、パケット(通信の小分けの単位)の大きさは見えます。下書きが当たってまとめて進んだ回はパケットが大きく、外れた回は小さくなるので、パケットの大きさの並びが、その問いと答えに特有の「指紋」になります。攻撃者は、あらかじめ問いの候補を自分で送って指紋を集めておき、利用者の通信の指紋と照らし合わせて、どの問いだったかを当てます。論文は、病気や症状を尋ねる医療相談のチャットボットを、漏れると困る場面の例にしています。
論文が報告している主な結果は次のとおりです。
| 実験 | 条件 | 問いを当てた正答率 |
|---|---|---|
| 4つの方式で、50個の問いの中から当てる | 温度0.3(温度は答えのばらつきの大きさ) | REST 100%、LADE 91.6%、BiLD 95.2%、EAGLE 77.6% |
| 同上 | 温度1.0 | REST 99.6%、LADE 61.2%、BiLD 63.6%、EAGLE 24%(当てずっぽうなら2%) |
| 遠隔の vLLM サーバ(Llama3 8B Instruct+EAGLE、クラウドの A100 GPU)を、1,500マイル以上離れた大学のネットワークから観測 | 温度0.3、追加の負荷なしと、高負荷を計算上で模擬した条件 | どちらも77.6%(時間の間隔を使う従来の方法は14.4%、高負荷の模擬で6.4%) |
| 本物の問いを知らず、GPT-4o に作らせた「よくある病気50個」の問いで代わりの指紋を作る | 症状の似た病気を当てられたか(似ているかの判定は GPT-5 mini) | 23〜36%(同じ判定での当てずっぽうは6%) |
論文は、パケットの大きさは時間の間隔と違ってサーバの混み具合や回線の揺らぎに影響されにくく、そのぶん頑健だ、と述べています。また、下書きの材料に外部のデータの集まり(データストア)を使う方式(REST)では、細工した問いを送る悪意のある利用者が、そのデータストアの中身を毎秒25トークンを超える速さで引き出せた、とも報告しています。
この結果を読むときは、条件を押さえておく必要があります。
- 主な実験で当てる対象は、あらかじめ決めた50個の問いのうちのどれかです。自由に書かれた任意の文章を読み取ったわけではありません。問いを知らない条件の実験も、病名の完全一致ではなく「症状の似た病気」を当てられたかで数えています
- 実験のサーバは研究者が自分で用意したもので、商用のチャットサービスを攻撃した実験ではありません
- 遠隔の vLLM の実験では、先行研究と比べるために、1回の計算で出たトークンを別々のパケットで送るよう vLLM に手を加えたうえで、55ミリ秒以内に届いたパケットの大きさを足し合わせて指紋にしています
時間の差からも漏れる:Carlini と Nasr の研究
Google DeepMind の Carlini と Nasr の論文 Remote Timing Attacks on Efficient Language Model Inference(arXiv:2410.17175、2024年10月、査読前のプレプリント)は、パケットの大きさではなく返事が速いか遅いかに注目しました。投機的デコーディングのように、易しい問いでは速く、難しい問いでは遅くなる高速化の手法は、時間に中身の手がかりを残す、という指摘です。
論文によれば、オープンソースのシステムでは、暗号化された通信の時間だけから、会話の話題(医療相談かプログラミングの相談か、など)を90%を超える精度(precision)で当てられました。商用の OpenAI の ChatGPT と Anthropic の Claude については、話題の当て方の精度ではなく、特定の問いを区別できたことと、利用者の使っている言語を推定できたことを報告しています。ただし、これらの商用サービスが具体的にどの高速化の手法を使っているかは、論文も特定していません。論文は、OpenAI に2024年1月、Anthropic に2024年4月に報告したと書いています。
同じ系統の研究として、イェール大学の Soleimani らの Wiretapping LLMs(暗号の論文を集める IACR ePrint 2025/167、2025年2月、プレプリント)は、投機的デコーディングなどのサーバ側の最適化が、暗号化されたパケットの時間と大きさに入力ごとの違いを生むとし、医療・金融の場面で私的な属性を、オープンソースの vLLM では71〜92%、商用の ChatGPT では50〜90%の精度で推定できたと要旨に書いています。
提案されている対策と、その代償
Wei らは、次の対策を評価・提案しています。実験で評価した通信の対策(まとめて送る・詰め物)は、どれも「漏れを減らすほど、通信量か待ち時間が増える」関係にあります。
- まとめて送る: 何回分かの計算で出たトークンをまとめてから送る。問いを知っている条件(温度0.8)で20回分まとめると、正答率は LADE で65%→9.2%、REST で100%→52%、BiLD で49.2%→11.2% まで下がった。ただし、まとめる回数に比例して、画面に文字が出る間隔が延びる
- ランダムな詰め物: パケットの中身にランダムな長さの埋め草を足す。温度0.8の実験で、最大48バイトの詰め物で、LADE と BiLD の正答率は当てずっぽうに近い水準(3.6%・4.8%)に下がり、REST も100%から27%に下がった。中身の大きさは5〜8倍に増える
- 一定の大きさに詰める: 中身を常に1,024バイトに揃えると、正答率は当てずっぽうと同じ2%まで下がった(付録の条件別の表では2〜4%)。そのかわり中身の大きさは230倍になる
- パケットを分けて散らす: 1回の計算で出たトークンを1つずつ別のパケットにし、時間をずらして送る。回数の上限も設ける必要があり、遅延への影響は環境によると論文は書いています(こちらは提案で、実験の数値はありません)
- データストアから漏れる問題には、公開してよいデータだけを下書きの材料に使い、個人情報は匿名化する
なお Wei らは、従来の「トークンの文字数」から漏れる問題への対策(各トークンを最大の大きさまで詰める)だけでは、1回に送るトークンの数の違いが残るため、この攻撃は50%を超える精度で成り立つと報告しています。
Carlini と Nasr は、決まった間隔で1トークンずつ送り、出すものが無いときは空のメッセージを送る「一定の速さで送る」対策で攻撃を完全に防げるとし、10ミリ秒ごとに送れば遅延はほぼ増えないが通信量が50〜300%増え、80ミリ秒ごとなら通信量の増加は10%未満で、1トークンあたり4〜13ミリ秒の遅れで済む、と見積もっています。
各社の対策状況:確認できた範囲
投機的デコーディングの通信の刻みに対して、各社がどんな対策をとったかは、筆者が確認した資料には書かれていませんでした。 Wei らの論文にも、各社への報告や対応についての記述は見当たりませんでした。
近い話題として、Microsoft の研究者による Whisper Leak(arXiv:2511.03675、2025年11月、プレプリント)は、ストリーミングの返事のパケットの大きさと間隔から、暗号化されていても問いの話題を推定できることを28のモデルで示しました。この研究は投機的デコーディングに限った話ではありませんが、論文は、2025年6月に28の提供元へ報告し、OpenAI・Mistral AI・xAI が対策をとり、Microsoft も Azure 上のモデルに修正を入れたと書いています(論文に添えられた時期は順に2025年8月・9月・8月・10月)。OpenAI と Microsoft は、ストリーミングの返事にランダムな長さの埋め草を足す形の対策を入れた、とも書かれています。一方で、修正を見送った提供元や、返事のない提供元もあったとしています。これとは別に、論文が自ら試した3種類の対策(ランダムな詰め物、まとめて送る、偽のパケットを混ぜる)は、どれも攻撃の効果を下げたものの、完全には防げなかったと評価しています。
スマートグラスの記事の「端末で即答」との違い
スマートグラスのAIの記事で紹介した論文 Micro Language Models Enable Instant Responses(査読前のプレプリント)の方式は、小さなモデルと大きなモデルの分業という点では投機的デコーディングに似ていますが、向きが逆です。投機的デコーディングでは、小さなモデルの下書きは大きなモデルが確かめるまで画面に出ず、答えの出方(確率分布)は大きなモデル単独と同じです。論文の方式では、端末の超小型モデルが書いた最初の数語を確かめずにすぐ表示して確定し、クラウドの大きなモデルはその続きを書きます。論文自身も、投機的デコーディングでは大きなモデルが確かめてから確定・表示するので最初の表示までの時間が通信の往復に縛られるのに対し、自分たちの方式は端末で作った書き出しをすぐ表示する、と違いを説明しています。速さを取る代わりに、外れた書き出しは後から言い直すしかない、というのがその方式の割り切りです。
安全に使うために:確かめたい6つの点
使う側が確かめること
- 機微な相談は「中身が暗号化されていても、通信の形は見える」前提で考える
紹介した研究が想定する攻撃者は、接続事業者や乗っ取られたルーター、同じ無線LANにいる者など、通信の経路を見られる立場の者です。健康・お金・法律のような相談を、信頼できない公衆の無線LANから送るのは避けましょう。社用では会社が認めた接続環境から使うのが基本ですが、これは手元の近くで覗かれる危険を減らす筆者の助言で、接続事業者のような経路の途中の観測者まで防げるわけではありません。 - 「速いAI=答えが劣る」とは限らないが、方式は確かめる
正しく作られた投機的デコーディングは、大きなモデル単独と同じ確率分布で答えを出します。ただし、品質が「同程度」の基準で速さを取る方式もあります。社内で自前のモデルを選ぶときは、使っている方式が答えの出方を変えない種類かを資料で確かめます。 - サービスの対策状況は、公表されているものを確かめる
ストリーミングの通信に埋め草を足すといった対策は、公表されている会社もあれば、されていない会社もあります。機微な用途で選ぶときは、提供元にサイドチャネル対策の有無を問い合わせる価値があります。
作る側(AIを自社で提供する側)が確かめること
- ストリーミングの送り方を、漏れの観点で設計する
投機的デコーディングを有効にしたまま、1回の計算で出たトークンをそのままの大きさで流すと、当たり外れがパケットの大きさに出ます。何回分かまとめて送る、ランダムな詰め物をする、一定の間隔で送る、といった対策と、遅延・通信量の増え方を見比べて決めます。研究の実験は「あらかじめ用意した50個の候補のどれか」を当てる形でした。医療相談のように、攻撃者が問いの候補を前もって集められる用途では、この形の攻撃が当てはまりうる点に注意します。 - 下書きの材料に機密データを入れない
過去の会話や社内文書を下書きの材料(データストア)に使う方式では、細工した問いで中身を引き出せることが示されています。材料は公開してよいデータに限り、個人情報は匿名化します。 - 推論サーバの既定値を「速さ」だけで選ばない
vLLM・TensorRT-LLM・llama.cpp は、方式とモデルに応じた設定で投機的デコーディングを有効にできます。速くなるかどうかだけでなく、どの方式が答えの出方を変えないか、ストリーミングにどう表れるかを、導入前に検証項目に入れておきましょう。
投機的デコーディングを理解する鍵は次の3点です
- 小さなモデルが下書き、大きなモデルがまとめて確かめる
メモリの読み出しが律速の大きなモデルに、余っている計算の力でまとめて確かめさせることで、動かす回数を減らします。 - 規則どおりに作れば、答えの出方は大きなモデル単独と同じ
採用と棄却の規則で、答えの出方(確率分布)を本番役と一致させます。ただし速さのためにこの性質をゆるめる方式もあります。 - 当たり外れは、暗号化された通信の形に表れる
下書きが当たった回と外れた回で1回に進む量が変わり、送り方によっては通信の大きさや間隔に表れます。研究では、50個の候補から問いを当てる実験で高い正答率が報告され、まとめて送る・詰め物をするなどの対策は、通信量か待ち時間との引き換えになります。
まとめ:速さの仕組みを知って、漏れ方まで設計しよう!
投機的デコーディングは、2022〜2023年に Google と DeepMind がそれぞれ発表した、小さなモデルの下書きを大きなモデルがまとめて確かめる高速化の手法です。採用と棄却の規則によって、大きなモデル単独と同じ確率分布で答えを出しながら、論文の実験では2〜3倍の速さを示しました。その後、モデル自身に下書き役を持たせる Medusa・EAGLE や DeepSeek-V3 の MTP へと広がり、vLLM などの推論サーバでは設定で選んで使える機能になっています。
一方で、下書きの当たり外れが、送り方によっては通信の大きさや間隔に表れ、暗号化されていても問いの手がかりになりうることが、複数の研究で示されました。対策はあるものの、通信量か待ち時間とのトレードオフです。AIを提供する側は送り方まで含めて設計し、使う側は機微な相談をどの経路で送るかを意識する。速さの仕組みを知ることが、安全に使う第一歩です!
参考文献
- Yaniv Leviathan, Matan Kalman, Yossi Matias「Fast Inference from Transformers via Speculative Decoding」arXiv:2211.17192・ICML 2023(https://arxiv.org/abs/2211.17192)2026-10-13 確認
- Charlie Chen ほか「Accelerating Large Language Model Decoding with Speculative Sampling」arXiv:2302.01318(https://arxiv.org/abs/2302.01318)2026-10-13 確認
- Google Research「Looking back at speculative decoding」(https://research.google/blog/looking-back-at-speculative-decoding/)2026-10-13 確認
- Tianle Cai ほか「Medusa: Simple LLM Inference Acceleration Framework with Multiple Decoding Heads」arXiv:2401.10774(https://arxiv.org/abs/2401.10774)2026-10-13 確認
- Yuhui Li ほか「EAGLE: Speculative Sampling Requires Rethinking Feature Uncertainty」arXiv:2401.15077(https://arxiv.org/abs/2401.15077)2026-10-13 確認
- Yuhui Li ほか「EAGLE-3: Scaling up Inference Acceleration of Large Language Models via Training-Time Test」arXiv:2503.01840(https://arxiv.org/abs/2503.01840)2026-10-13 確認
- DeepSeek-AI「DeepSeek-V3 Technical Report」arXiv:2412.19437(https://arxiv.org/abs/2412.19437)2026-10-13 確認
- vLLM「Speculative Decoding」(https://docs.vllm.ai/en/latest/features/speculative_decoding/)2026-10-13 確認
- NVIDIA「TensorRT-LLM: Speculative Sampling」(https://nvidia.github.io/TensorRT-LLM/advanced/speculative-decoding.html)2026-10-13 確認
- llama.cpp「Speculative Decoding」(https://github.com/ggml-org/llama.cpp/blob/master/docs/speculative.md)2026-10-13 確認
- Jiankun Wei ほか「When Speculation Spills Secrets: Side Channels via Speculative Decoding In LLMs」arXiv:2411.01076(https://arxiv.org/abs/2411.01076)2026-10-13 確認
- Nicholas Carlini, Milad Nasr「Remote Timing Attacks on Efficient Language Model Inference」arXiv:2410.17175(https://arxiv.org/abs/2410.17175)2026-10-13 確認
- Mahdi Soleimani ほか「Wiretapping LLMs: Network Side-Channel Attacks on Interactive LLM Services」IACR ePrint 2025/167(https://eprint.iacr.org/2025/167)2026-10-13 確認(要旨のみ)
- Geoff McDonald, Jonathan Bar Or「Whisper Leak: a side-channel attack on Large Language Models」arXiv:2511.03675(https://arxiv.org/abs/2511.03675)2026-10-13 確認
- Wen Cheng ほか「Micro Language Models Enable Instant Responses」arXiv:2604.19642(https://arxiv.org/abs/2604.19642)2026-10-13 確認

