AIセキュリティ 【AI×セキュリティ】OWASP Top 10 for LLMを運営者目線で読む｜「自社サイトにAIチャットを置く前に」を解く
「問い合わせ対応に AI チャットボットを置きたい！」「社内の AI アシスタントにツールをつないで、仕事を任せたい」——生成AIを自社のサービスに組み込む話が、中小企業でも当たり前になってきました。ところが、いざ検討を始めると「何に気をつ...
LLM
AIセキュリティ 
AIニュース 【2026年最新】速く・型付きで判断するAI「Jev」×論文8選｜「LLMの判断は遅いし、自信の数字も当てにならない」を解く
問い合わせの振り分け、書類からの項目の抜き出し、不審なアクセスかどうかの判定。こうした「選択肢の中から1つを選ぶ」判断をLLMに任せたいと考えたとき、つまずきがちなのが速さと扱いやすさです。LLMは文章を1語ずつ書き出すので、返事が来るまで...
AIセキュリティ 【AI×セキュリティ】社内データをAIに渡すときのリスク｜「便利なAIアシスタントが、見せてはいけない情報まで答える」を解く
「社内の共有フォルダやメールを AI アシスタントにつないだら、資料探しが一気に楽になった！」——そんな声を聞く機会が増えました。その一方で、導入を任された担当者からはこんな不安も聞こえてきます。「人事評価のファイルについて新入社員が質問し...
AIセキュリティ 【2026年9月 急上昇ワード】オープンウェイトモデルの安全性ギャップ×論文4選｜「OSSモデルに乗り換えたら安全性はどこまで落ちるのか」を解く
「顧客データを外部のAPIに送れないので、公開されているモデルを自社のサーバーで動かしたい」。セキュリティ要件や社内規程の都合で、こう考える組織が増えています。ところが検討を進めると、「有名な商用モデルと比べて、危ない依頼を断る力はどれくら...
AIセキュリティ 【AI×セキュリティ】生成AIで巧妙になるフィッシングとビジネスメール詐欺｜「怪しい日本語」で見抜けなくなった時代の守り方
「社長の名前で『至急、対応してほしい件がある』とメールが来た。日本語も自然で、署名もそれらしい。本物なのか、もう見分けがつかない」。経理や総務を兼ねている情シス担当者から、こんな声を聞くことが増えました。少し前までは「日本語がおかしい」「敬...
AIニュース 【2026年最新】医療・臨床現場のオンデバイスAI×論文4選｜「患者データを院外に出せない」を解く
診察中の会話の記録、カンファレンスの議事録、カルテの略語の読み解き。医療現場にも、生成AIに任せたい作業はたくさんあります。一方で、患者の診療情報は最も機微な個人情報の一つです。外部のクラウドへ送ること自体を院内の規程で認めていない、という...
AIニュース 【2026年最新】オンデバイスAI（エッジ推論）×論文4選｜「スマホや端末の中でLLMは使い物になるのか」を解く
クラウドにデータを送らず、スマートフォンやPCなどの端末の中でLLMを動かす「オンデバイスAI」への期待が高まっています。個人情報を外に出さずに済み、通信が不安定な場所でも使え、クラウドの利用料も抑えられる、というのが主な理由です。しかし現...
AIエージェント 【週刊論文ウォッチ 9/21〜9/27】コーディングエージェントの続報と、今週の新語「音響グラウンディング」
毎週、arXiv の cs.SE（ソフトウェア工学）・cs.CR（セキュリティ）・cs.CL（自然言語処理）に投稿された論文をすべて読み、2 つの観点で拾います。1 つは、月次の「急上昇ワード」で取り上げたテーマのその後。もう 1 つは、こ...
AIニュース 【2026年最新】ハルシネーションの検出と抑制×論文4選｜「分からないのに自信満々で答える」を解く
LLMが、もっともらしいけれど誤った内容を生成してしまう「ハルシネーション」。社内文書などの根拠を検索して渡すRAGは有力な対策ですが、根拠となる資料が存在しない質問や、資料に答えが書かれていない場面では、AIが推測で答えてしまう問題が残り...
AIニュース 【2026年最新】学習データの合成×論文4選｜「データが足りない」「AIが作ったデータで劣化しないか」を解く
自社向けにモデルを調整したくても、肝心の学習データが足りない。そんなときの定番になっているのが、LLMに学習用のデータを作らせる「合成データ」です。しかし現場では、「作らせると似たようなデータばかりになる」「合成データで学習を繰り返したら性...