Anthropic、AIの差別軽減に成功

Anthropicは、新たな戦略によって人工知能における差別を大幅に削減することに成功しました。プロンプトに「非常に友好的に」対応するようAIに指示することで、研究者たちは差別をほぼゼロにまで減少させることができました。

この戦略は、高リスクの意思決定においては言語モデルを慎重に使用する必要性を強調しており、政府や社会全体が意思決定に影響を与えるべきであると主張しています。

同時に、AnthropicはGoogleと協力し、Google Cloud TPUv5eチップを自社の言語モデルClaudeに導入する計画を発表しました。これは人工知能技術の発展を促進するものです。

この研究は、人工知能における差別を軽減するための新たな戦略を提供し、高リスクの意思決定において言語モデルを慎重に使用する重要性を改めて示しています。