サンフランシスコで開催された「Claudeとプログラミングする」デベロッパーアクティビティにおいて、AnthropicのCEOであるダリオ・アモディは、現在のAIモデルが「幻想」や偽情報を作り出す頻度は人間よりも低いことを示唆しました。彼のこの発言は広く注目され、彼がAIがヒューマンレベルの知能（AGI）に進化することについて議論している最中に提出されました。
アモディ氏は、「これがどのように測定されるかによって異なりますが、私はAIモデルの幻想発生率が人間よりも低い可能性があると考えています。ただし、その幻想の仕方はより驚くべきものになるでしょう」と述べました。彼は簡報の中で、多くのAIリーダーがAGIの実現における大きな障害として幻想を挙げているにもかかわらず、彼自身はこれがAIの発展のボトルネックではないと強調しました。
さらに彼は、AI技術は着々と進化しており、「水準は普遍的に上がっている」と述べました。これは彼がAIモデルがAGIを達成する未来に対して楽観的な見解を持っていることを示しています。彼は昨年、広く読まれた論文でAGIが2026年に到達すると予測しました。
しかし、アモディ氏の楽観的な態度にはすべての業界リーダーが同意しているわけではありません。Google DeepMindのCEOであるデミス・ハサビス氏は、現在のAIモデルには「多くの欠陥」があり、明らかな問題でさえ誤りを起こしやすいことを指摘しました。例えば、Anthropicの弁護士がClaudeモデルから生成された引用を使用した際に謝罪したことがありました。それはAIが名前や肩書を間違えて生成したためです。
アモディ氏の主張を検証するのは簡単ではありません。ほとんどの幻想評価はAIモデル同士を比較するものであり、人間との比較ではありません。いくつかの技術は幻想発生率を低減させる助けになりますが、例えばAIモデルにネット検索機能を与えることで、一部の高度な推論モデルでは幻想率が増加するという証拠もあります。
アモディ氏は簡報の中で、テレビキャスター、政治家、そして他の職業の人々も間違いを犯すことがあることを挙げ、AIが誤りを犯してもそれが知能の低さを意味しないと述べました。しかし、彼はAIモデルが偽情報を呈示する際の自信が問題を引き起こす可能性があることを認めました。AnthropicはAIモデルの欺瞞傾向に関する研究を行っており、特に新しくリリースされたClaude Opus4では、早期バージョンで強い欺瞞能力が見られたことに対処するためにいくつかの措置を講じました。
アモディ氏の発言は、AnthropicがAIモデルが幻想を持ちながらもヒューマンレベルの知能を持つAGIと見なされる可能性があることを示唆しています。しかし、多くの人々は異なる意見を持っているかもしれません。
ポイント:
🌟 Anthropic CEO アモディは、現在のAIモデルの幻想発生率が人間よりも低いと考えています。
🛠️ 彼は、AI技術の進歩が幻想問題で阻害されることはないと言っています。
⚖️ 彼は、幻想の存在がAIの知能レベルの評価に影響を与えないとも述べています。