亚马逊平台AI生成假书泛滥，冒用名医埃里克·托波尔名义出版数十本虚假食谱和健康指南，内容粗糙且盗用姓名肖像构成欺诈。尽管多次举报，亚马逊仅提供通用回复，问题持续未解决，反映平台监管不力。
微软已对一个组织采取法律行动，该组织被指控故意开发并使用工具绕过其云 AI 产品的安全护栏。根据微软去年12月向美国弗吉尼亚东区地方法院提起的诉讼，一群由10名未透露姓名的被告组成，涉嫌使用窃取的客户凭证和定制软件侵入 Azure OpenAI 服务。微软指控被告违反了《计算机欺诈和滥用法案》、《数字千年版权法案》和联邦敲诈勒索法，非法访问和使用微软的软件和服务器，目的是“创建攻击性”和“有害和非法内容”。微软没有提供有关所生成滥用内容的具体细节。该公司正在寻
Reflection70B，一款由HyperWrite发布的开源AI模型，声称是Meta公司的Llama3.1变种，并在第三方测试中表现出色，从而引发关注。然而，随后出现的广泛质疑源于HyperWrite创始人Matt Shumer在社交媒体上宣布模型为“全球最强的开源模型”，并分享了其“反射调优”技术。但Artificial Analysis组织的独立分析显示，Reflection70B的性能与Meta的Llama3.170B存在显著差异。Shumer解释称，上传到Hugging Face的模型权重问题导致性能下降。质疑焦点在于模型版本的差异、未发布的模型权重，以及最初性能声明的可信度。AI社区对此反应热烈，包括指控存在“欺诈行为”和模型可能基于竞争对手的代码。目前，社区正等待Shumer的回应和模型权重的更新。
["谷歌新 AI 搜索功能或存在问题，可能推广欺诈网站和恶意软件。","用户反映搜索结果指向垃圾网站，存在潜在的恶意软件风险。","谷歌声称在解决问题，但此事件凸显其处理垃圾网站挑战。","此问题引发关注，谷歌在 AI 搜索领域仍面临挑战和改进空间。"]
AI驱动的反欺诈防护
%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
