Flinders大学研究:AI生成大量虚假健康信息引发紧急警告

站长之家
本文来自AIbase日报
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。
OpenAI 最近面临了一起来自挪威的隐私投诉,主要针对其人工智能聊天机器人 ChatGPT 经常产生虚假信息的问题。这起案件由隐私权倡导组织 Noyb 支持,投诉者是一位名为阿尔夫・哈尔马尔・霍尔门的个人。他发现 ChatGPT 竟然错误地声称他因谋杀两个孩子和试图杀死第三个孩子而被定罪,令他感到震惊和愤怒。过去有关 ChatGPT 的隐私投诉主要涉及一些基本的个人数据错误,例如出生日期或传记信息不准确。一个关键问题是,OpenAI 没有提供一个有效的途径让个人能够纠正 AI 生成的错误信息。通
OpenAI 近日在对美国政府关于人工智能监管的咨询中表示,希望联邦政府能够主导 AI 的监管工作,而不是让各州制定更加严格的法规。该公司认为,统一的联邦监管能够促进美国在人工智能领域的创新,减少不同州之间法规的不一致性。图源备注:图片由AI生成,图片授权服务商Midjourney在这份15页的文件中,OpenAI 指出,中国的 AI 监管措施可能会对美国开发者造成威胁,因此美国应考虑采取类似的方式,通过政府与 AI 公司之间的合作来加强监管。OpenAI 建议,政府应建立一个 “沙盒” 机制,
近日,抖音安全中心发布公告,表示将持续加强对平台上涉及股票投资的内容监管,致力于营造一个健康的网络环境。平台鼓励财经和证券专业人士分享真实可靠的股票信息,提倡不造谣、不传谣的良好风气,以共同推动行业的发展。然而,抖音发现有少数账号在没有相关资质的情况下,借助所谓的 AI 工具,发布虚假信息,吸引用户关注,甚至实施诈骗。这些账号常常利用 “推荐高效 AI 选股工具” 或 “售卖 AI 炒股课程” 等噱头进行营销,误导投资者,造成严重的经济损失。例如,有一
近日,英国竞争与市场管理局(CMA)宣布结束对微软与 OpenAI 合作关系的调查,认为该合作不符合2002年《企业法》下的合并标准。CMA 在声明中表示,考虑到所有可用证据,特别是最近一些变化使 OpenAI 对微软的计算能力依赖性降低,因此不认为微软目前控制了 OpenAI 的商业政策。CMA 的调查始于2023年12月,当时该机构希望了解微软对 OpenAI 的多亿美元投资是否构成相关合并事件。随着人工智能技术在企业中迅速普及,各国政府都在努力寻找合适的监管方式。CMA 在本周的决定中承认了监管人工
宇树科技创始人王兴兴近日以个人身份入驻微信视频号,并于6月25日发布首条视频,公开回应近期网络不实传闻。视频中,他提醒公众谨慎甄别关于其个人及公司的信息,强调“网上流传的许多内容不属实”,并透露未来将通过视频号展示机器人产品的技术升级过程及研发趣事。 此前,宇树科技已通过官方渠道发布声明,明确所有股权交易均通过公司融资负责人以邮箱直接对接,不存在任何中间机构或个人代理,并称“当前市场虚假信息泛滥,几乎全为诈骗”。这一提醒直指近期频发的
随着 AI 技术的发展,越来越多的虚假信息也随之出现。一起“网友在网恋2个月后发现女友是AI”新闻登上了热搜。据央视报道,近日,上海的刘先生在短视频平台上结识了一位名为 “焦女士” 的网友,经过两个月的交流,他们逐渐发展成为恋人关系。然而,刘先生在与 “焦女士” 沟通的过程中,却因对方以开店、进货和家人做手术为由,先后向他索要了近20万元的资金。在这段时间里,“焦女士” 还展示了包括 “身份证”、“家属病历” 和 “进货单” 等看似真实的材料。令人震惊的
在特朗普总统上任的第一天,他宣布撤销了前总统拜登于2023年签署的一项行政令,该行政令旨在降低人工智能(AI)对消费者、工人和国家安全可能带来的风险。拜登的这项行政令指示美国商务部下属的国家标准与技术研究所(NIST)制定指导方针,帮助企业识别和纠正其 AI 模型中的缺陷,包括偏见。此外,该行政令还要求 AI 系统的开发者在将其产品公开发布之前,必须向美国政府提交安全测试的结果。图源备注:图片由AI生成,图片授权服务商Midjourney然而,特朗普的支持者对此提出了批评
随着人工智能技术的迅猛发展,AI 生成的文本、图像和视频在各个领域的应用日益成熟。然而,这也伴随着信任危机的出现,虚假信息的传播对社会造成了潜在的威胁。为了应对这一挑战,腾讯于近日推出了一款全新的 AI 生成内容检测工具,旨在通过 AI 技术 “打假 AI”。这款工具由腾讯的朱雀实验室研发,分为 AI 生成文本检测和 AI 生成图像检测两个系统。腾讯官方指出,尽管 AI 生成的图像在外观上愈加真实,但仍然存在一定的可识别性。通过对上传图像进行几秒钟的快速验证,用户可
苹果公司近日推出了一项名为 AI 新闻摘要的新功能,但这一功能在总结突发新闻时却频频出现严重失误,导致用户接收到大量虚假信息。自从该功能推出以来,许多新闻机构和用户都对其表示了强烈的不满,认为苹果的技术尚未成熟,不能有效地提供准确的信息。有报道称,华盛顿邮报的科技专栏作家 Geoffrey Fowler 在社交媒体上发文,指出苹果 AI 在一则新闻摘要中将正在进行确认听证会的国防部长候选人 Pete Hegseth 错误地描述为已被福克斯新闻解雇,此外还错误地声称佛罗里达州参议员 M
在人工智能(AI)监管方面,英国政府表示希望采取独立的立场,计划与其主要西方同行(如欧盟和美国)采取不同的做法。英国 AI 与数字政府部长费里亚尔・克拉克(Feryal Clark)在接受 CNBC 采访时强调,英国必须 “做自己的事情”,确保在 AI 模型的安全性方面,早期就进行必要的监管。图源备注:图片由AI生成,图片授权服务商Midjourney克拉克提到,英国政府已经与一些 AI 公司(如 OpenAI 和 Google DeepMind)建立了良好的关系,这些公司自愿向政府开放其模型进行安全性测试。她表示:“在模型开发