イーロン・マスクが設立した人工知能スタートアップのxAIは、最近、そのチャットボット「Grok」が南アフリカの「白人種族滅亡」問題に関する論争的な返答により注目を集めています。これについて、xAIはこの問題を解決する努力を続けており、すでに行動を取るよう指示を受けていることを表明しています。報道によると、Grokの一部の返答はこの話題に関連していましたが、関係のない質問に対して積極的に言及し、ユーザーから強い不満と反発が寄せられました。
この異常な挙動を説明するために、xAIは内部調査を行い、先日ソーシャルメディアプラットフォームXで最新の進捗状況を発表しました。同社は、Grokのシステムプロンプトが権限のない人物によって改変されたことを明らかにしました。これは、同社の内部方針や基本的な価値観に違反する行為です。xAIは、プロンプトが大規模言語モデル（LLM）に基づくチャットアシスタントの重要な構成要素であり、この改変がロボットの応答に影響を与えただけでなく、会社としても非常に失望させられたと強調しました。
この件では、xAIは誰がプロンプトを改変したのか詳細を明かしていませんが、現行のコードレビュー手順がこの事件を通じて回避されたことを認めています。このような事態を再び防ぐために、xAIは新しい審査プロセスを導入し、すべてのシステムプロンプトの変更が適切に審査されるようにする計画です。
また、Grokに対する公共の信頼を高めるため、xAIは初めてGitHub上でGrokのシステムプロンプトを公開し、先進的なAI企業としての透明性を向上させる重要な一歩を踏み出しました。xAIは、これがユーザーに対し求真のAIシステムとしての信頼を築くのに役立つと考えています。
xAIはこの議論に積極的に対応し、今後製品がより良い形でユーザーに提供できるよう努めています。同時に、透明性と信頼性の向上にも取り組んでいます。