文章讨论当前主流的人工智能对齐研究是否能有效防止未来的灾难性危害。作者认为这些研究主要服务于提高产品表现,很难真正解决深层次的安全问题。防止灾难还需要更广泛地参与人工智能伦理和治理方面的讨论。公众舆论非常重要,但不能只依赖那些从人工智能部署中获得利益的人。
相关AI新闻推荐
7000万题库的AI革命：粉笔“智能刷题”单日卖1.4万单，效率提升40%
粉笔推出AI刷题系统班，单日销量达1.4万单，用户学习效率平均提升29%。系统基于7000万用户数据，提供个性化刷题路径，动态调整难度。AI覆盖题库、直播、面试全流程，智能诊断薄弱点，AI面试点评支持手写识别。
2025年11月19号 10:33
50
百度Q3 AI收入96亿元同比增50%，萝卜快跑出行量翻倍
百度三季度总营收312亿元，同比降7%，但AI业务首次独立披露即实现高增长：智能云基础设施42亿元（+33%）、AI应用26亿元（+6%）、AI原生营销28亿元（+262%），三大板块合计96亿元，同比增超50%，有效对冲在线营销收入18%的下滑。自动驾驶平台“萝卜快跑”季度订单310万次，增212%，累计覆盖22城，总里程破2.4亿公里。李彦宏称2025年起行业将迎拐点。
2025年11月19号 9:35
120
谷歌发布其最智能模型Gemini3Pro，专家级编码支持，深度理解图片视频
谷歌DeepMind推出最新AI模型Gemini3Pro，号称“最智能模型”。它具备强大推理能力，能帮助用户学习、构建和规划，尤其在理解复杂主题时提供清晰、简明且有用的回答。该模型不仅能辅助知识学习，还通过丰富响应方式加深信息理解，并能将想法转化为现实。
2025年11月19号 9:21
60
微软 Copilot AI 全面入驻 Office：助力办公效率升级
微软在Ignite2025活动中宣布Microsoft365Copilot重大更新，推动企业向AI驱动的“前沿企业”转型。90%财富500强企业已采用该工具。核心亮点是将“智能体模式”全面集成至Word、Excel和PowerPoint三大办公软件，提升办公智能化水平。
2025年11月19号 8:57
110
谷歌 Gemini 3 Pro Preview模型上线 AI Studio 开发者可灵活调整参数
谷歌发布Gemini3大型语言模型，其Pro Preview版已在AI Studio平台开放体验。该平台面向开发者、研究人员和学生，支持基于Gemini模型开发应用，并提供上下文长度、温度等参数灵活调整功能，便于优化模型配置。
2025年11月19号 8:47
60
国产 AI 模型 Kimi K2 成功接入 Perplexity，迈出重要一步
国产Kimi K2 Thinking模型成功接入全球知名AI搜索应用Perplexity，成为唯一接入该平台的国产模型。此次与OpenAI GPT-5.1同期接入，彰显国产AI技术国际竞争力。Perplexity作为2022年成立的对话式"答案引擎"，已成长为全球估值最高AI搜索应用，革新了用户获取信息方式。
2025年11月18号 16:06
200
英国消费者警惕 AI 聊天机器人提供不准金融建议
最新研究显示，AI聊天机器人（如ChatGPT和微软Copilot）在提供金融建议时存在严重准确性问题，误导英国消费者获得错误税务建议和不必要的旅行保险推荐，甚至建议违反英国税务海关总署的投资限制。
2025年11月18号 15:51
250
AI“超级科学家”Kosmos 12小时跑完半年科研，准确率79.4%
非营利机构FutureHouse推出AI科研系统Kosmos，12小时可完成1500篇论文阅读、生成4.2万行代码及引用报告，效率相当于人类团队6个月，准确率79.4%。该系统采用结构化世界模型，并行处理检索、分析与验证，已成功复现7项前沿发现。
2025年11月18号 15:40
40
2025年中国视频云市场回暖，AI 应用成推动新动力
2025年上半年中国视频云市场规模达52.3亿美元，同比增长8.9%，结束此前低迷期。音视频AI实时互动与智能媒体生产等细分领域增长显著，规模达4000万美元。市场复苏受多重因素推动。
2025年11月18号 15:22
260
昆仑万维发布轻量级多模态智能体 Skywork R1V4-Lite，开启智能交互新纪元
昆仑万维发布轻量级多模态智能体Skywork R1V4-Lite，集成视觉操作、推理与规划能力。区别于传统模型，它具备深度推理功能，支持图像操作、工具调用和多模态研究，适用于复杂场景。用户仅需拍摄照片，即可自动完成空间定位、文字放大、辅助线绘制等任务，操作灵活高效。
2025年11月18号 14:27
340