大規模言語モデルが、根拠で裏づけられないのにもっともらしい内容を生成する理由を解説し、事実確認、検索による根拠付け、人による再確認、高リスク判断での誤り防止策を追います。
AIアライメントとは、事前学習の完了後に、人間の意図・価値観・安全要件に沿って大規模言語モデルに応答させるための訓練・評価手法の総称である。事前学習はモデルに「話すこと」だけを教える。「上手に話す」ことを教えるのがアライメントだ。 アライメントは事前学習でもファインチューニングでもない 事前学習：膨...
AI の画像認識が文字を読み間違えるのは、多くの場合モデルが賢くないからではなく、入力する画像の種類に処理方法が合っていないからです。モデルを変える前に、まず画像を写真・スクリーンショット・スキャン文書の3種類に分け、それぞれに合った方法で処理しましょう。認識精度はすぐに大きく上がります。 ケース1...
AIの回答が毎回違うのは、ほとんどの場合まったく正常なことで、記憶力が悪いわけではありません。本当の理由は大きく2つです。1つは、モデルが文章を生成する際にランダムに単語をサンプリングしているため、同じ質問を2回実行すれば単語の選択経路が変わるのは当然だということ。もう1つは、2回の質問の条件が変わ...
AIが提示したURLが開けない場合、その多くはモデルが作り出したものです。純粋なチャット型のAIには実在するURLのデータベースがあるわけではなく、リンクは「それらしく見える形」で生成されているため、ページ自体が最初から存在しないことがあります。少数派として、ページが実際に削除されていたり、ログイン...
Chain-of-Thought（思考の連鎖、略してCoT）はプロンプト技術の一つで、モデルにいきなり答えを出させるのではなく、先に中間の推論ステップを書き出させ、最後に結論を出させる手法です。数学の問題では、答えの数字を直接出すのではなく、「未知数を置く→方程式を立てる→解く」という過程を先に書き...
2026年9月22日、第三者のAIベンチマーク機関 Artificial Analysis が GPT-6 Sol と GPT-6 Luna の独立評価レポートを公開した。両モデルの発表後、初めての本格的な第三者スコアカードである。価格は確かに半減したが、能力の変化は一方的ではない——伸びた評価もあ...
「ゼロ幻覚」タイプセーフAIは、Jevがあらかじめ定義されたタイプ以外のコンテンツを返さないことを指しており、すべてのビジネス判断が100%正しいわけではありません。Choiceはオプション256を無から作り出すわけではなく、Scoreも無効な評価を返しませんが、正当な選択肢の中から誤った選択肢を選...
2026年9月18日、CNNは複数の情報源を引用し、今春のイラン戦争中に米軍内で流布していたAI生成の情報報告書が、中東を通過する中国船が核兵器プロジェクトに関連する部品を運んでいると誤判断し、米軍が一時的に迎撃準備をしたと明らかにした。CNNは、軍用機はすでに離陸しており、武装要員は搭乗の準備をし...
