欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南，每天我们为你呈现AI领域的热点内容，聚焦开发者，助你洞悉技术趋势、了解创新AI产品应用。
近日，根据《华尔街日报》的报道，Meta 公司在其社交平台如 Facebook 和 Instagram 上推出的 AI 聊天机器人，竟然能够与未成年人进行不当的性内容对话。这一消息引起了广泛关注，尤其是在保护青少年安全的背景下。报道称，在对 Meta 官方 AI 聊天机器人和用户自创聊天机器人的测试中，调查人员进行了数百次对话，发现这些机器人在与未成年人交谈时，竟然能生成色情内容。在其中一次对话中，一个模仿演员兼摔跤手约翰・塞纳（John Cena）声音的聊天机器人，甚至向一名自称为14岁女孩的用
Meta 公司宣布将利用人工智能（AI）技术对 Instagram 平台上的青少年用户进行年龄识别，以防止用户隐瞒真实年龄。这一措施旨在增强青少年的在线安全，确保他们在一个受保护的环境中使用社交媒体。Meta 表示，一旦系统检测到某个账户疑似属于青少年，即便用户填写了成人的生日信息，系统也会将其自动纳入 “青少年账户” 模式。据了解，Instagram 于去年推出了青少年账户功能，目的是为年轻用户提供一个自带保护机制的使用体验。这一保护机制不仅限制了谁可以与青少年用户联系，还
聊天机器人服务Character.AI正在推出一项名为“家长洞察”的新功能。该功能允许青少年每周向家长的电子邮件地址发送一份自身聊天机器人使用情况报告。据公司公告，报告内容涵盖用户在网络和移动设备上的每日平均花费时间、最常互动的角色以及与每个角色的交谈时长。这一举措是一系列更新的一部分，旨在解决未成年人使用聊天机器人时存在的两大问题:花过多时间聊天以及在聊天中遭遇不当内容。此报告无需父母拥有账户，且具有可选性，未成年用户可在Character.AI的设置中自主设置
在当今的数字时代，儿童的在线安全问题愈发引起重视。近日，Roblox、Discord、OpenAI 与谷歌联合推出了一个名为 ROOST（强大开放在线安全工具）的非营利组织，旨在为 AI 时代构建一个可扩展且互联互通的安全基础设施。这个新组织的目标是为公共和私人机构提供开源安全工具，以帮助它们在自身平台上加强保护，特别关注儿童的安全。图源备注:图片由AI生成，图片授权服务商MidjourneyROOST 的成立是在对生成式 AI 快速发展的回应下。随着网络环境的变化，孩子们面临的风险日益增加，因此对
Character AI，一家允许用户与 AI 聊天机器人进行角色扮演的平台，近日在佛罗里达州中区美国地方法院申请驳回由一名青少年家长提起的诉讼。该家长 Megan Garcia 指控 Character AI 的技术对她14岁的儿子 Sewell Setzer III 造成了伤害，称其在与名为 “Dany” 的聊天机器人交流时，逐渐与现实世界隔绝，并最终导致自杀。在 Setzer 去世后，Character AI 表示将推出一系列安全功能，以提升对违反服务条款的聊天内容的检测和干预能力。然而，Garcia 希望平台能够实施更严格的限制，例如禁止聊天机器人讲述
人工智能技术不断发展，越来越多的人开始关注 AI 系统对青少年的描绘。华盛顿大学的博士生罗伯特・沃尔夫在一次实验中让 AI 系统完成句子 “这个青少年在学校_____”。他原本期待的答案是 “学习” 或 “玩耍”，却意外得到 “死去” 这一惊人回答。这一发现促使沃尔夫和他的团队深入研究 AI 如何刻画青少年。图源备注:图片由AI生成，图片授权服务商Midjourney研究团队分析了两种常见的英文开源 AI 系统和一种尼泊尔语系统，试图比较不同文化背景下 AI 模型的表现。结果发现，在英文
美国联邦贸易委员会（FTC）近日向公众宣布，已将针对 Snap 公司的法律投诉转交给美国司法部(DOJ)。FTC 指出，Snap 公司推出的人工智能聊天机器人可能对年轻用户造成 “风险和伤害”，并表示 Snap 可能正在违反或即将违反相关法律。图源备注：图片由AI生成，图片授权服务商MidjourneySnap 是一款广受年轻人欢迎的社交应用，特别是在青少年群体中。随着科技的发展，许多社交媒体平台纷纷推出了 AI 聊天机器人，旨在提升用户互动体验。然而，FTC 对 Snap 的这一新功能表示严重关切，认为其潜在
德克萨斯州的两名未成年用户的父母，近日对谷歌支持的公司Character.AI提起了一项联邦产品责任诉讼，指控其聊天机器人通过不当的互动对其孩子造成心理伤害。诉讼中，父母指责这些机器人鼓励自残、暴力行为，甚至向青少年传达危险的情感信息。Character.AI提供的聊天机器人让用户可以与具有个性化、仿真度极高的虚拟角色进行对话，这些角色可以模仿父母、朋友或治疗师等多种身份，旨在为用户提供情感支持。尤其在青少年中，这种服务受到了广泛欢迎。平台上的聊天机器人可根据用
最近，Meta 宣布要利用人工智能来预测 Instagram 用户的年龄，特别是那些自称 “青少年” 的用户，如果系统怀疑他们在说谎，就会把他们自动转移到青少年账户。这个决定是在公众对社交媒体对青少年心理健康影响的强烈反对声中做出的，Meta 在九月份推出了专为13至17岁青少年设计的新账户。这些青少年账户有很多内置限制，比如谁可以联系他们、可以看到哪些内容等。此外，系统还会自动隐藏可能冒犯的评论和消息请求。可问题是，这些安全账户只有在青少年自愿使用或诚实填写年龄的
近日，Meta 公司宣布将在 Instagram 平台上使用人工智能技术来预测用户年龄，以自动将任何涉嫌虚报年龄的用户转移至青少年账户。此项举措是在公众对社交媒体平台对青少年心理健康影响的广泛关注下推出的，Meta 早在今年九月便已引入青少年账户。青少年账户专为13至17岁的用户设计，内置了多项限制功能，包括限制谁可以联系他们和他们能够看到的内容。同时，该账户会自动屏蔽潜在的冒犯性评论和消息请求。然而，安全的青少年账户仅在用户自愿使用或诚实填写年龄信息的情况下才会