OpenAI首篇超级对齐论文发布,探讨超级人工智能可能带来的挑战。团队提出「弱到强泛化」概念,研究表明GPT-2可监督GPT-4,但挑战在于超人类模型的弱监督。OpenAI鼓励研究并宣布提供1000万美元资助。