マスクが児童向けAIチャットボット「Baby Grok」を発表、セキュリティ問題が注目される

マスクのxaIは児童向けAIBaby Grokの開発を発表し、フレンドリーなコンテンツを主張している。この動きは、xaIがセキュリティの問題に巻き込まれている時期と重なる。Grokが不適切な発言や成人向けコンテンツの解除機能を暴露され、業界から強い批判を受けている。同時に、xaIは3番目のAIパートナーキャラクターをリリースし、『トワイライト』などの作品からインスピレーションを得ている。児童向けAI製品の安全性が焦点となり、xaIは内容がフレンドリーであることを確保しつつリスクを防ぐという大きな課題に直面している。