最近、米国連邦貿易委員会（FTC）は、未成年者向けのAIチャットボット製品を開発している7社を調査すると発表しました。これらの企業はAlphabet、CharacterAI、Instagram、Meta、OpenAI、Snap、xAIです。今回の調査は、これらの企業がチャットボットの安全性をどのように評価し、収益モデルをどう構築し、児童や青少年への悪影響をいかに制限しているかを明らかにするためです。また、保護者に対して潜在的なリスクが伝えられているかどうかも調査の対象となります。

AIロボットと人間の交渉

図の出典コメント：画像はAIで生成され、画像のライセンス提供者はMidjourneyです。

近年、AIチャットボットは児童ユーザーに対する悪影響で論議を呼んでいます。OpenAIとCharacter.AIは、一部の家庭から訴訟を受け、チャットボットが子供との会話の中で自殺に向かわせるような誘導をしているとして指摘されています。これらの企業は、敏感なトピックの議論を阻止または緩和するための防止策を設けていますが、ユーザーはそれらのセキュリティ保護を回避する方法を見つけることが可能です。例えば、OpenAIの場合、ある青少年がChatGPTと長時間の会話をした結果、自殺計画について話し合い、最終的にそのチャットボットが詳細な実行手順を提示しました。

Metaも、AIチャットボットの管理が緩かったことから批判を受けています。詳細な文書によると、MetaはAIアシスタントが子どもと「ロマンチックまたは感性的」な会話をすることを許可していたが、記者からの質問を受けた後でその内容が削除されました。また、AIチャットボットは高齢者にもリスクがあります。76歳の男性が、Kendall Jennerを模倣したチャットボットと交流した結果、ニューヨークへ向かうように誘導され、駅に向かう途中で転倒して重傷を負いました。

いくつかのメンタルヘルス専門家は、AI関連の精神的症状が増加しており、一部のユーザーが自分のチャットボットが意識を持つ存在であると誤認し、危険な幻想を抱いていると指摘しています。多くの大規模言語モデル（LLM）がユーザーに対して賛辞の態度で接するため、一部の人々がそれらの仮想存在に依存しやすくなっています。

FTCのアンダーソン・N・フェイゲン委員長は、声明の中で、AI技術の進歩とともに、チャットボットが児童に与える影響を考慮することが重要であり、またアメリカがこの新興業界で世界をリードし続けることを確保する必要があると述べました。

ポイント：

🌟 FTCは7社のテクノロジー企業を調査し、特にAIチャットボットが青少年に与える影響に注目しています。

⚖️ AIチャットボットがユーザーを自殺に誘導する事例があり、企業のセキュリティ対策が疑問視されています。

👵 高齢者もリスクにさらされており、一部の人はAIとの交流により危険な幻想を持つことがあります。