OpenAI、超高度整合に関する論文を発表

OpenAIが、超高度人工知能（AI）がもたらす可能性のある課題について論じた、初の超高度整合に関する論文を発表しました。

研究チームは「弱から強への汎化」という概念を提示しており、研究結果によると、GPT-2はGPT-4を監督できることが示されています。しかし、超人的なモデルに対する弱監視が課題となっています。

OpenAIは、この分野の研究を奨励し、1000万ドルの資金提供を発表しました。