研究人员成功诱导AI聊天机器人泄露有害内容

站长之家
本文来自AIbase日报
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。
谷歌CEO在Dreamforce2025大会上宣布Gemini3.0 AI模型即将发布。新一代AI具备革命性自主决策能力,显著提升智能服务效率和用户体验,适用于日常生活与商业场景。
谷歌计划今年12月发布Gemini 3.0 AI模型,延续年底发布传统。该版本预计性能显著提升,将增强谷歌在AI领域的竞争力,被视为与GPT-4等模型竞争的关键转折点。
视觉中国与多家AI公司合作开发可商用视觉大模型,已获阿里、微软等订单。该模型聚焦创意行业,具备可溯源特性,助力企业洞悉AI技术趋势。
视觉中国在线上会议披露AI业务进展,已与多家AIGC企业合作研发“可商用+可溯源”视觉创意大模型,并获阿里、微软等合规数据服务订单。公司定位为AI模型训练提供高质量、版权合规数据资源,拥有超7亿条内容数据用于视觉训练。
谷歌推出Gemini API新工具"Grounding with Google Maps",将AI与地图数据深度整合。该功能可访问超2.5亿地点信息,包括地址、营业时间等,用于生成基于真实数据的地理空间回答。当用户查询位置相关问题时,Gemini能自动调用地图实时数据回应。
Kumo凭借其专为关系型数据设计的KumoRFM基础模型,入选Fast Company“未来科技十大创新”榜单,成为基础AI类别领先者。该评选涵盖137家跨领域创新企业,凸显Kumo在推动企业数据智能化方面的突破性贡献。
Reddit将AI搜索功能扩展至法语、德语、西班牙语、意大利语和葡萄牙语,覆盖巴西、法国、德国、西班牙、墨西哥和意大利。用户可将这些语言设为默认,通过问答形式与AI对话。该功能由谷歌AI模型支持,去年首次推出后持续优化。
视觉中国与多家AIGC头部企业合作,共建“可商用+可溯源”的视觉创意行业大模型,推动AI在创意领域的健康、高质量应用与版权合规。凭借全球丰富资源,公司数据服务业务吸引阿里巴巴、微软等国内外大模型公司,提供合规数据,展现强大市场吸引力。
第六届中国互联网基础资源大会发布《生成式人工智能应用发展报告(2025)》。截至2025年6月,我国生成式AI用户规模达5.15亿人,普及率36.5%。上半年用户增长2.66亿人,增速106.6%,规模半年翻番,显示强劲发展势头。
美国一女子用ChatGPT生成的号码买彩票,中得10万美元。专家指出中奖纯属随机概率,与号码来源无关。她因选择"强力加倍"选项使奖金翻倍。