直指GPT-4!马斯克等千名“大佬”签署公开信,叫停AI训练_顶尖财经网
  您的位置:首页 >> 财经频道 >> 投资互联网 >> 文章正文

直指GPT-4!马斯克等千名“大佬”签署公开信,叫停AI训练

加入日期:2023-3-29 15:12:38

中新经纬3月29日电 当地时间28日,未来生命研究所(Future of Life Institute)网站披露了一封公开信,呼吁所有AI实验室立即暂停比GPT-4更强大的AI系统训练至少6个月。

生命未来研究所是在2014年创立于美国波士顿的研究机构,目的一方面是为了促进对“未来乐观图景”的研究,一方面是为了“降低人类面临的现存风险”。2017年制定了Asilomar AI原则,这是被公认最早和最有影响力的AI治理原则之一。

公开信显示,顶级实验室的深入研究表明,具有与人类能力相匹配的AI系统可能对未来社会和人文道德构成风险。正如广泛认可的Asilomar AI原则中所述,高级AI可能造成地球生命史上的深刻变化,应以相应的资源等进行规划和管理。不幸的是,为了开发和部署更强大的数字思维,最近几个月AI实验室陷入了一场失控的竞赛,但相应级别的规划和管理目前还没有。

来源:未来生命研究所网站

公开信指出,当代人工智能系统在一般任务上已变得与人类具有竞争力,必须扪心自问:我们是否需要让机器宣传充斥着信息渠道?我们是否要自动化所有工作?是否最终发展成可能超过我们并取代我们的非人类思维?应该冒险失去对我们文明的控制吗?

“只有确信它们的影响是积极并且风险可控时,才应该开发更强大的人工智能系统。”公开信呼吁,所有AI实验室立即暂停比GPT-4更强大的AI系统训练至少6个月。如果不能迅速实施暂停,政府应该介入。

公开信称,AI实验室和独立专家应该利用这次暂停,共同开发和实施一套用于高级AI设计和开发的共享安全协议,并由独立外部专家进行严格审计和监督。

网站页面显示,此封公开信已获得包括苹果联合创始人斯蒂夫·沃兹尼亚克、特斯拉首席执行官埃隆·马斯克等在内的上千位知名企业家、学者签名。

来源:未来生命研究所网站

据路透社此前报道,当地时间周一,欧洲刑警组织也表达了对ChatGPT等先进人工智能有关道德和法律的担忧,警告该系统在网络钓鱼、虚假信息和网络犯罪中可能被滥用。(中新经纬APP)

编辑:付健青