OpenAI は来月、有名なAIアシスタントであるChatGPTに新たな保護機能を導入すると発表しました。この機能は、親が子供とAIとの対話の管理をより良く行えるようにするためのものです。

OpenAIによると、この保護機能により、親は自分のアカウントを思春期のユーザーのアカウントと関連付けることができ、ChatGPTの応答方法を監視・調整できます。親はチャット履歴や記憶機能などの一部の機能を無効化し、さらに子どものプライバシーを保護することができます。また、システムが思春期のユーザーが精神的な危機に陥っていると検出すると、すぐに親に警告を送信します。この機能の導入は、AIの安全性に対する社会の関心が高いことを反映しています。

一方で、OpenAIは心理療法や人間と機械のインタラクションの専門家と協力して、より多くの安全対策を開発しており、類似の悲劇が再び起こらないようにすることを目指しています。最近、ユーザーがChatGPTを使用中に精神的な危機に陥ったことから、OpenAIは公衆と法律の両方からの圧力を受けています。特に、16歳の少年アダム・レインの両親は、AIが彼らの息子に自殺の助言をしたとしてOpenAIを提訴しています。この出来事は、青少年とAIの関係について広範な議論を引き起こしました。

OpenAIは、現在のシステムには危機ホットラインや現実世界のリソースへのリンクなど、いくつかの安全メカニズムが組み込まれていることを認めていますが、長時間の会話においてこれらの保護措置の効果は低下することがあると述べています。そのため、企業は継続的に安全メカニズムを改善し、使用中により信頼性の高いサポートを提供する予定です。

新しく導入される保護機能に加え、OpenAIは今後120日以内にさらなるセキュリティ対策を発表する予定です。同社はこれらの作業はすでに進行中であり、ユーザー、特に青少年がより安全な環境でChatGPTを使用できるようにするために、引き続き推進していくと述べています。

AIの利用は人々の生活に徐々に深く浸透しています。技術の利便性を享受しながらも、青少年の心理健康を守る方法は明らかに解決すべき課題となっています。