大規模言語モデルが、根拠で裏づけられないのにもっともらしい内容を生成する理由を解説し、事実確認、検索による根拠付け、人による再確認、高リスク判断での誤り防止策を追います。
AIのデータ集計がいつも間違うのは、不注意だからではなく、もともと計算機ではないからだ。大規模言語モデルはトークン単位でテキストを生成し、次の語を予測して答えを組み立てるのであって、実際に演算を実行しているわけではない。桁数の多い加減乗除では繰り上がりがずれやすく、表が長くなれば行を読み飛ばしたり、...
AIが出した参考文献がデータベースで見つからない場合、検索ミスではなく、AIが創作した可能性の方が高いです。著者、誌名、年号、巻号まで整っているのに、その論文だけが存在しない。これは大規模モデルの最も典型的な幻覚の一つで、モデルの仕事は「文献らしく見える文章を生成すること」であって、データベースから...
Perplexity は 2026 年 10 月 9 日、無料百科事典 Alexandria を公開した。構築したのは同社のエージェントシステム Computer で、今後の保守も Computer が担う。CEO の Aravind Srinivas は発表で具体的な数字を示した。項目数 66,5...
Excel数式をAIに書かせると貼った途端にエラーになることが多いですが、たいていAIが計算を間違えたわけではありません。お使いのExcelのバージョン、言語環境、そして表の中のデータ形式が、AIが前提にした書き方と合っていないのです。書き直させる前に、下の四か所を一つずつ照らしてください。自分で原...
Claudeが生成した登山ルートが、16歳の少年をクライミング装備が必要な崖へ導いた。2026年10月3日から4日にかけて、少年はカナダ・ブリティッシュコロンビア州のクラウンマウンテンで立ち往生し、ノースショア・レスキューにヘリコプターで吊り上げ救助された。アウトドア誌Backpackerが10月7...
AIの会議要約が人名を間違えるのは、たいてい要約の段階が鈍いからではありません。誤りはもっと早い段階で仕込まれています。文字起こしで人名が聞き間違えられ、話者分離で発言が別人へ付けられ、最後に要約がその誤りを事実として議事録に書き込むのです。点検はこの連鎖に沿って進め、どの段階で壊れたかを特定してか...
カリフォルニア州 SB 574 の弁護士 AI 新規則が成立した。2026年9月30日、Gavin Newsom 知事がこの法案（2026年制定法第858章）に署名し、2027年1月1日に施行される。カリフォルニア州はこれにより、生成 AI の弁護士による利用を成文法で専門に規制する米国初の州となっ...
Google のオープンソース脆弱性報奨金が最初に音を上げた。2026 年 10 月 1 日から、Google はオープンソースソフトウェア脆弱性報奨プログラム（OSS VRP）の製品脆弱性報告の受付を一時停止した。理由は自動送信の大幅な増加で、その大半が無効だったという。Google はソーシャル...
