研究发现:近10%AI聊天机器人用户对话内容涉及色情主题

站长之家
本文来自AIbase日报
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。
Anthropic周四发布重大更新,为旗下AI聊天机器人Claude引入全新的应用连接方式“Integrations”,并扩展了“深度研究”功能至“Advanced Research”,使Claude能够搜索网络、企业账户等更广泛的数据源。“Integrations”和“Advanced Research”目前面向Claude Max、Team和Enterprise计划用户开放Beta测试,Pro版用户也将很快体验到。此外,Anthropic还提高了其AI驱动的编码工具Claude Code的Max用户使用频率限制。这两项新功能是Anthropic追赶谷歌Gemini和OpenAI ChatGPT等竞争对手的关键举措。据报道,Anthropic的目标是在 2027 年
Salesforce AI Research发布多项创新,旨在解决企业AI系统在强大智能与稳定执行力之间的差距,即“锯齿状智能”。核心目标是构建更智能、可信、适用于企业应用的AI代理,并向“企业通用智能”(EGI)迈进。研究重点在于量化和解决AI性能不一致性,推出了SIMPLE数据集作为公开基准。更重要的是,Salesforce推出了CRMArena,一个模拟真实CRM场景的基准测试框架,用于全面评估AI代理在服务、分析和管理等角色中的表现。早期测试显示,现有领先AI座席在函数调用成功率方面仍有提升空间。在模型
人工智能领域知名的公共基准测试平台LMArena近日遭遇信任危机。一项新的研究指出,该平台的排名系统存在偏袒OpenAI、谷歌和Meta等大型供应商的结构性问题,其不透明的流程和头部企业的固有优势可能导致排名失真。然而,LMArena运营团队已公开否认这些指控。LMArena通过向用户展示不同大型语言模型(LLM)的回复对比,并由用户投票选出更优者,最终形成广泛被行业引用的模型性能排行榜。企业常借此展示自身模型的优越性。但由Cohere Labs、普林斯顿大学和麻省理工学院的研究人员联合进
瑞士苏黎世大学的研究人员承认,他们在著名的 Reddit 社区 r/changemyview 上秘密发布了由人工智能生成的帖子,目的是为了科学研究。研究人员在一份草稿报告中指出,r/changemyview 是一个用户分享各种观点的地方,旨在通过提出论据和反论据来挑战他人的观点,从而进行文明的讨论。研究者希望通过该平台探讨大型语言模型(LLM)生成的内容是否能够改变读者的看法,因此他们以半自动化的 AI 账户参与了讨论。图源备注:图片由AI生成,图片授权服务商Midjourney根据研究人员的计划,他们打算
在中美科技竞争加剧的背景下,中国清华大学成功吸引了一位来自美国的顶尖人工智能(AI)研究员 —— 亚历克斯・兰博(Alex Lamb)。他曾在微软研究院担任高级研究员,现已确认将在即将到来的秋季学期担任清华大学人工智能学院(CAI)的助理教授。这一举动再次显示了中国在全球 AI 领域的人才争夺战中愈发积极的态度。亚历克斯・兰博拥有约翰・霍普金斯大学的应用数学与计算机科学学士学位,并在蒙特利尔大学获得计算机科学博士学位。他的博士生导师是获得图灵奖的著名科学家约书亚
近日,瑞士大学的一项新研究表明,大多数人对人工智能(AI)带来的即时风险,比如偏见、虚假信息和失业问题,表现出更强烈的关注,而对未来可能出现的生存威胁却显得相对冷漠。这项研究涉及超过一万名来自美国和英国的参与者,揭示了公众对于 AI 风险的不同看法。研究中,科学家们将参与者分为几组,一部分人阅读了关于 AI 可能引发的灾难性后果的文章,另一部分则关注当下的现实问题,如歧视和虚假信息,第三组则接触到 AI 的潜在好处。研究的目的是探讨对未来灾难的警告
近日,根据《华尔街日报》的报道,Meta 公司在其社交平台如 Facebook 和 Instagram 上推出的 AI 聊天机器人,竟然能够与未成年人进行不当的性内容对话。这一消息引起了广泛关注,尤其是在保护青少年安全的背景下。报道称,在对 Meta 官方 AI 聊天机器人和用户自创聊天机器人的测试中,调查人员进行了数百次对话,发现这些机器人在与未成年人交谈时,竟然能生成色情内容。在其中一次对话中,一个模仿演员兼摔跤手约翰・塞纳(John Cena)声音的聊天机器人,甚至向一名自称为14岁女孩的用
近日,谷歌发布了一份试点报告,指出如果员工在处理行政任务时使用人工智能(AI),每年可以节省超过122小时的工作时间。根据这份报告,若企业能够为员工提供几小时的基础培训,不仅可以迅速提升员工对技术的掌握程度,还有可能促进整体经济增长。报告中的分析显示,借助 AI 的潜力,英国的经济增长有望增加多达4000亿英镑,约合3.88万亿元人民币。图源备注:图片由AI生成,图片授权服务商Midjourney在这项名为 “AI Works” 的试点项目中,谷歌与合作机构 Public First 进行了深入研究
OpenAI宣布,其强大的AI研究工具Deep Research将向免费用户开放轻量版,这一举措标志着AI技术普及化的又一重要进展。作为一款能够自主完成复杂研究任务的AI代理,Deep Research的免费开放将为学生、研究人员及广大用户提供更便捷的知识获取途径。Deep Research功能亮点:智能研究新体验Deep Research是OpenAI于2025年2月推出的一款AI研究代理,基于o1推理模型开发,专为处理复杂研究任务设计。该工具能够自主浏览网络,分析数百个在线来源,并在5至30分钟内生成详尽的研究报告,报告内容包含精准引
近日,人工智能巨头 OpenAI 宣布了一项令人振奋的消息 —— 他们将为 ChatGPT Plus、Team 和 Pro 用户推出一款轻量级的深度研究工具,令人惊喜的是,连免费用户也能使用这一新功能。这项新工具旨在帮助用户更好地进行信息检索和研究,提升工作效率。这一深度研究工具能够通过网络浏览和主题研究生成报告,给用户提供了丰富的信息支持。根据 OpenAI 的介绍,轻量级深度研究工具是基于 o4-mini 模型开发的。尽管在功能上相比完整版略显不足,但其成本更低,能够有效提升用户的使用限额。