AI音声転写ツールWhisper、深刻な「幻覚」問題が発覚　事実と異なる内容を生成

OpenAIのWhisper技術を搭載したAI音声転写ツールが、医療業界で広く利用されている。多くの医師や医療機関が、患者との面談の記録や要約にこのツールを使用している。ABCニュースの報道によると、研究者らがこのツールが「幻覚」現象を示し、場合によっては完全に内容をでっち上げる事例を発見した。Nabla社が開発したこの転写ツールは、700万回を超える医療会話の転写に成功しており、現在3万を超えるユーザーが利用している。