今年に入ってAIが急速に進歩したように感じている。
昨年はClaude CodeのようなAIによるプログラミングは補助という感じの使い方だったが、今年はAIにほとんど任せて、出来上がったものをチェックするようになった。
「AIエージェント」も3月に中国で「ロブスター旋風」を巻き起こした「OpenClaw（オープンクロウ）」ブームの頃は、「新し物好きの中国人がセキュリティの危険を犯して飛びついている」という印象だったが、今では毎日当たり前のように動いている。
1950〜1960年代の第一次、1980年代の「エキスパートシステム」による第二次AIブームは、例外や矛盾にうまく対応できなかったことなどにより衰退したが、10年前にGoogle DeepMindの「アルファGO」が囲碁の世界チャンピオン・イ・セドル氏を破ったことから始まった第三次AIブームは、2023年11月末の生成AI「ChatGPT」の発表で加速し、インターネットに匹敵する大きな変革を生み出す新しい技術となった。
日本の若者は「チャッピー」と呼ぶ「ChatGPT」に悩みごとを相談したり、「ググる（Google検索）」に代わって日常の調べごとに使うようになり、ビジネスでも調査資料、プレゼン用パワーポイント、レポート、翻訳などに毎日のように使う人が増えた。
■ハルシネーション（幻覚・嘘）
日本ではNECのPC-9800が国内市場の過半数を占めたパソコン普及期のように、AIは会社で一つから、全社員が当たり前のように毎日使う道具に急速になってゆくと考えられるが、今の時期だからこそ気をつける必要があるのが、「AIの嘘（ハルシネーション=hallucination）」だ。
各社が次々と発表する「推論モデル」から出てくる「自信満々な答え」は理路整然としており、引用元のリンクなども掲載されているため信用しがちだが、ある調査では「通常モデル」の2倍の幻覚率（AIの嘘）があるという。
推論モデルの場合、推論の最初のステップで小さな誤った仮定が入り込むと、その後の思考がすべて誤った方向に積み上がっていくようで、「賢い推論モデル」という認識とは逆の結果だ。
資料やレポートは簡単にどんどん作れるようになるため、企業の「労働生産性」はAIによって一見上がっているように思えるが、実際には短時間で膨大にAIが作成したものを人間がちゃんと検証してゆく作業が必要で、当面は人間の仕事は増える。
マイカー普及期の交通事故増（交通戦争=1970年頃死亡者1万6,000人/年）、インターネット普及期のコンピュータウィルスや情報漏えいなどと同様に、AI普及期にも問題はいろいろ出てくるが、当面はAIが出してきたことを鵜呑みにせず、人間が検証することが企業には必要だ。
======== DATA =========
●Hughes Hallucination Evaluation Model (HHEM) Leaderboard
https://huggingface.co/spaces/vectara/leaderboard
●Vectara GitHub – hallucination-leaderboard
https://github.com/vectara/hallucination-leaderboard
