欢迎访问山东省首席信息官(CIO)联盟!
CIO讲堂
马斯克:所有开发先进AI的组织都应该受到监管 包括特斯拉
发布时间:2020/2/21 18:41:43    |    数据来源:CIO管理员    |    访问次数:103

马斯克曾多次警告说,创造更独立、更先进的AI存在相关风险,甚至称其为“对人类文明存在的根本性风险”。

2月19日消息,据外媒报道,美国太空探索技术公司SpaceX与电动汽车制造商特斯拉首席执行官埃隆·马斯克(Elon Musk)日前再次就人工智能(AI)的发展发出警告。他在Twitter上发帖称,所有开发先进AI的组织都应该受到监管,包括特斯拉。

马斯克是在回应《麻省理工技术评论》(MIT Technology Review)对OpenAI的最新介绍时发出上述评论的。OpenAI是由马斯克与萨姆·奥特曼(Sam Altman)、伊利亚·苏茨凯弗(Ilya Sutskever)、格雷格·布罗克曼(Greg Brockman)、沃伊切赫·扎伦巴(Wojciech Zaremba)以及约翰·舒尔曼(John Schulman)共同创立的。

最初,OpenAI是个非营利性组织,得到了其初始投资者10亿美元资金的支持,目的是对先进的AI进行开放研究,重点是确保它是为了造福社会而研究,而不是将其开发留给利益狭隘的少数人(即营利性技术公司)。

2015年成立之初,马斯克就提出,OpenAI的想法本质上是作为“袖手旁观”或“鼓励监管监督”的替代方案。马斯克还在2017年表示,他认为应该出台监管规定来管理AI的发展,首先应该成立某种监管机构,在提出任何规则之前,研究并深入了解这个行业。

在其后的几年里,很多事情都发生了变化,包括OpenAI本身。2019年,该组织正式成立了一个由非营利性母公司拥有的营利性部门,并接受了微软10亿美元的投资,同时形成了范围广泛的合作伙伴关系,这似乎违反了其创建的最初原则。

马斯克本周在回应《麻省理工技术评论》的言论表明,无论是在意识形态上,还是在更实际、更实用的功能意义上,他与自己帮助共同创建的组织的目标都已经相距甚远。他还指出,他“必须同意”,去年微软宣布投资OpenAI时表达的对其使命的担忧“是合理的”,他说“OpenAI应该更加开放”。

马斯克还称,他对“OpenAI没有控制权,因此对其洞察力非常有限”,在确保AI安全开发方面,他对OpenAI研究总监达里奥·阿莫代伊(Dario Amodei)的“信心不高”。

虽然看到马斯克将特斯拉包括在对先进AI发展进行监管的总体呼吁中,可能确实令人惊讶,但这与他对AI发展的总体立场是一致的。马斯克多次警告说,创造更独立、更先进的AI存在相关风险,甚至称其为“对人类文明存在的根本性风险”。

他最近还澄清说,他认为先进的AI发展应该受到国家政府以及联合国等国际管理机构的监管。时间流逝显然未能削弱马斯克对AI潜在威胁的信念:也许这会鼓励他加大与其脑机接口创企Neuralink的努力,让人类有一条通往公平竞争环境的道路。


版权所有: 山东省首席信息官(CIO)联盟 2015-2030   鲁ICP备09072424 号
联系地址:山东省济南市山大路185号   邮编:250014
技术支持:济南政和科技有限公司  联系电话:0531-88873003   客户服务:0531-88873113