麻省理工学院学者发布关于人工智能治理的政策文件

站长之家
本文来自AIbase日报
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。
在近日举行的世界互联网大会国际组织新闻发布会上,香港特区政府创新科技及工业局局长孙东宣布,香港首个自主研发的生成式 AI 大模型将在今年正式向全社会推出。这一重要消息标志着香港在人工智能领域迈出了新的步伐,进一步推动了本地科技生态的快速发展。孙东表示,除了注重技术的开发,团队还特别关注人工智能技术的治理。为此,专家小组经过一年多的深入研究,即将推出一套生成式人工智能的指引,旨在为 AI 技术的开发者、服务提供商及应用者提供必要的框架和建议,
麻省理工学院(MIT)的科学家正在开发一种人工智能(AI)工具,该工具能够生成逼真的卫星图像,以展示潜在的洪水情景。这项技术结合了生成式AI模型和基于物理学的洪水模型,旨在更准确地识别高风险区域,并为决策者提供可靠的可视化支持。AI+物理模型:生成更精准的洪水图像据Space.com报道,该工具首先通过物理学模型来识别有洪水风险的区域。然后,它会根据即将到来的风暴强度,生成该区域在洪水过后可能呈现的详细鸟瞰图。该工具采用了一种创新的方法,将生成式对抗网络(GAN)
在备受瞩目的NeurIPS人工智能大会上,麻省理工学院媒体实验室教授罗莎琳德·皮卡德的一次演讲,因涉及种族偏见的言论,迅速引发业内强烈反响。在题为"如何优化最重要的事情"的主题演讲中,皮卡德提到了一位"已被顶尖大学开除的中国学生",并引用该学生声称"学校没有人教授道德或价值观"。尽管她随后补充称"认识的大多数中国人都是诚实和道德高尚的",但这番言论仍然激起了业界的广泛争议。谷歌DeepMind科学家孙娇率先在社交媒体平台X上分享了演讲幻灯片,并毫不客气地表示:"从大
麻省理工学院本周展示了一种训练机器人的新模型,旨在解决模仿学习在引入小挑战时可能会失败的问题。研究人员指出,模仿学习在照明、不同环境或新障碍等情况下可能会失败,因为机器人根本没有足够的数据来适应。该团队寻求像 GPT-4这样的模型来寻找一种强力数据方法来解决问题。他们引入了一种名为异构预训练变压器(HPT)的新架构,该架构将来自不同传感器和不同环境的信息汇集在一起。然后使用变压器将数据汇总到训练模型中。变压器越大,输出越好。用户可以输入机器人
OpenAI 宣布任命前优步(Uber )首席伦理与合规官 Scott Schools 为公司的首席合规官,Schools 的加入将为 OpenAI 带来新的合规视角。他曾在美国司法部担任副检察长,因此对合规和伦理问题有着深厚的理解。随着 OpenAI 的运营不断扩展,面临越来越多的监管审查,公司希望借助 Schools 的专业背景,强化自身在人工智能治理框架和伦理标准方面的工作。他的加入标志着 OpenAI 在朝着更加合规和透明的方向迈出重要一步。与此同时,OpenAI 还在进行更广泛的结构调整,计划将公司转变为一家公共利益公
日,联合国的人工智能咨询机构发布了其最终报告,提出了七项重要建议,旨在解决人工智能(AI)带来的治理风险和挑战。这份报告是在9月即将召开的联合国峰会前夕发布的,引起了广泛关注。图源备注:图片由AI生成,图片授权服务商Midjourney自从2022年微软支持的 OpenAI 推出 ChatGPT 以来,AI 技术的使用迅速扩大,随之而来的是对虚假信息、假新闻以及侵犯版权问题的担忧。联合国的这项咨询机构成立于去年,成员由39位专家组成。他们在报告中提到,需要建立一个专门的委员会,提供有
近日,一项新研究表明,仅仅通过与聊天机器人进行不到10分钟的对话,就能有效降低人们对某些深信不疑的阴谋论的信念,比如关于 COVID-19疫情的谣言。这项研究由麻省理工学院的团队主导,研究人员特别设计了一个高效说服力的 AI 模型 ——ChatGPT,通过与参与者的个性化对话,逐一驳斥他们的阴谋论主张。在这个实验中,研究人员招募了超过2000名自认相信阴谋论的参与者。通过与 ChatGPT 的对话,平均而言,参与者对自己所相信的阴谋论的信念降低了约20%。更有意思的是,四分之一的参
麻省理工学院计算机科学与人工智能实验室展示了一种创新的家用机器人训练方法,利用iPhone扫描用户家庭环境,将数据上传至模拟环境进行训练。此方法旨在解决传统机器人训练在适应复杂家庭布局、光照与物体摆放时的局限性。通过模拟训练,机器人能在虚拟世界中进行数百万次实践,无实际损失,显著提高适应能力。环境数据库的构建,不仅强化了机器人在已知环境中的表现,更使其在面对动态变化时能够迅速调整,提高在家务场景中的智能化水平。
["世界隐私论坛报告指出,超过三分之一的AI治理工具存在“缺陷修复”,影响了公正性和可解释性的评估。","微软、IBM、谷歌等公司开发的一些工具和技术也被发现存在问题,引起关注。","缺乏质量保证和评估要求是主要问题,部分工具可能在不同背景和‘离标签使用’中产生问题。","专家表示通过国际组织和标准制定机构的合作,2024年有望取得人工智能治理工具的实质性改善。"]
["MIT CSAIL 的 “GenSim” 项目利用大型语言模型(LLMs)如 GPT-4,通过自动生成新任务或详细说明所需行为的每个步骤,扩大了机器人可以接受培训的仿真任务范围。","GenSim 系统具有目标导向和探索两种模式,通过 LLM 生成任务描述和模拟行为所需的代码,然后利用任务库优化代码,最终生成能教导机器人执行新任务的仿真。","在经过人类预训练的基础上,GenSim 自动产生了 100 种新行为,相比之下,类似的基准测试需要手动编写每个任务。该系统在演示中成功地训练机械臂执行任务,如以比可比方法更高的速度放置彩色积木。","GenSim 可能有助于厨房机器人、制造业和物流领域,在这些领域,该方法可以生成用于培训的行为。这将使机器人能够适应具有多步骤过程的环境,例如堆叠和将箱子移动到正确的区域。"]