Patronus AI获300万美元A轮融资,针对企业级大模型安全需求

雷锋网
本文来自AIbase日报
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。
微信新推出的AI搜索功能因涉嫌泄露个人隐私引发广泛关注。近日,多名网友在社交平台反映,该功能可通过姓名超链接一键生成个人简历,引发用户对隐私安全的担忧。据用户反馈,微信AI搜索的争议主要集中在其自动识别机制上。当用户在微信公众号推文中遇到人名时,系统会自动将姓名转换为蓝色超链接。点击该链接后,AI系统会强制生成一份包含个人简历在内的详细信息页面,同时展示所有涉及该姓名的相关推文内容。多名体验过该功能的网友证实,"确实可以根据名字查到很多个人
市场监管总局(国家标准委)近日批准发布一批重要国家标准。在新兴产业方面,发布人工智能、信息技术、物联网等7项国家标准,为释放数字化服务与应用能力提供技术保障。发布数据中心、网络安全技术、系统与软件工程等5项国家标准,助力数字经济深层次互联互通。发布电动土方机械安全和换电系统通用要求2项国家标准,持续完善传统工程机械电动化标准体系,助力传统产业绿色化转型升级。发布拖拉机安全技术规范和建筑施工机械与设备通用安全要求2项强制性国家标准,提升装
据 The Information 报道,OpenAI 正在加大其企业 AI 咨询业务的力度,收费标准至少为每位客户1000万美元。公司工程师直接与各组织合作,调整如 GPT-4o 等模型以适应其特定数据,并构建定制应用程序,包括聊天机器人等。这一举措使 OpenAI 与诸如 Palantir 和 Accenture 等知名企业展开直接竞争。图源备注:图片由AI生成,图片授权服务商MidjourneyOpenAI 提供的服务不仅限于模型定制,还包括数据标注服务。在这一过程中,专家会对 AI 生成的答案进行审核和修正。内部消息人士透露,OpenAI 正在考虑将部分
—xAI公司在其开发者控制台中新增了对Grok4及Grok4Code的引用,预示着其下一代人工智能模型的发布即将来临。这一消息引发了业界对Grok4系列功能的广泛关注,标志着xAI在通用人工智能及开发者工具领域的又一重大进展。根据AIbase的报道,xAI控制台的更新显示,Grok4将是xAI的旗舰模型,专注于自然语言处理、数学推理和综合推理能力的提升,被描述为“全能型AI的巅峰之作”。与此同时,Grok4Code作为一款专为编程优化的模型,预计将与代码编辑器(如Cursor)无缝整合,为开发者提供高效的代
近日,TEN Agent团队宣布将其企业级实时语音活动检测器(TEN VAD)正式开源,这一突破性举措引发行业热议。TEN VAD以帧级精度的语音检测能力和优于WebRTC VAD及Silero VAD的性能表现,成为构建实时对话语音助手的强力引擎。TEN VAD:帧级精度的企业级语音检测TEN VAD是一款基于深度学习的轻量级、低延迟语音活动检测(VAD)模型,专为企业级应用设计。它能够精确识别音频帧中的人类语音,过滤背景噪音、沉默等非语音内容。相较于业界常用的WebRTC VAD和Silero VAD,TEN VAD在多样化场景测试中展现出更
2025年6月26日,字节 正式发布其最新图像合成技术 ——XVerse,旨在提供高精度的多主体图像生成解决方案。这项创新的技术使得用户能够对多个个体进行独立且精确的控制,极大地提升了个性化和复杂场景生成的能力。XVerse 的核心在于其独特的 DiT 调制方法,能够在不影响整体图像潜在特征的情况下,对每个主体的身份和语义属性进行调控。通过将参考图像转化为特定于令牌的文本流偏移量,XVerse 使得图像合成更加灵活和直观,用户只需简单的文字描述,即可生成符合预期的高保真图像。
在人工智能领域日益引人注目的背景下,OpenAI 的首席执行官萨姆・奥特曼(Sam Altman)近日发出了一个重要警告。他指出,尽管其公司开发的聊天机器人 ChatGPT 在全球范围内获得了广泛应用和认可,但用户对其的信任程度却让他感到惊讶,甚至有些担忧。在最新的采访中,奥特曼强调,用户应当对 ChatGPT 保持一份谨慎的态度。奥特曼在 OpenAI 的官方播客中提到,ChatGPT 的使用者人数已经达到了数百万,涉及研究、育儿等多个领域。然而,尽管这个工具非常流行,他并不认为它是绝对可靠的。
Google 近期宣布,将在7月7日推出一项重大更新,让其全新的 AI 助手 Gemini 成为用户手机的智能助理。这一更新允许 Gemini 在用户的手机上执行多项任务,比如拨打电话、发送信息、使用 WhatsApp 等,且无需开启 Gemini 应用。听起来是不是很方便?不过,随着这一变化,许多用户对隐私问题表示担忧。Google 在与 AndroidPolice 的沟通中表示,用户可以随时选择禁用 Gemini 的应用活动设置,这将有效阻止聊天记录被用作改进 AI 模型的训练数据。简而言之,用户在享受便捷的同时,也能有效保护自己的隐
近日,AI安全公司XBOW宣布,其自主研发的AI工具“XBOW”在全球知名漏洞众测平台HackerOne上力压群雄,成为美国排行榜第一名。这是AI工具首次超越人类安全研究员,登顶HackerOne漏洞披露排行榜,标志着AI在漏洞检测领域的里程碑式突破。XBOW AI:全自动渗透测试的先锋XBOW的AI工具是一款完全自主的渗透测试(pentest)系统,无需人工干预即可模拟人类安全研究员的操作,发现并利用软件漏洞。据悉,该工具能够在数小时内完成全面的渗透测试,覆盖包括远程代码执行(RCE)、SQL注入、跨站脚本(XSS)
WhatsApp近日推出全新AI消息摘要功能,允许用户通过Meta AI对个人聊天记录进行智能总结。该功能目前已在美国推出英语版本,计划于今年晚些时候扩展至更多国家和语言。用户可通过点击展开聊天中所有未读消息的按钮来访问这一功能。与直接显示原始消息不同,WhatsApp使用Meta AI生成用户错过内容的项目符号摘要,避免了冗长信息的阅读负担。Meta特别强调该功能采用了"隐私处理"技术,通过创建"安全的云环境"来隐藏用户与AI模型的交互过程,声称可以防止Meta自身和其他第三方窥探用户消