人工智能风口正盛,一封呼吁暂停大型AI研究的公开信在硅谷科技圈流传开来,激起千层浪。


(相关资料图)

最具戏剧性的是,OpenAI CEO Sam Altman的名字也曾赫然出现在公开信上。

不过周三晚些时候被证实是虚假签名,Altman在接受媒体采访时,他并没有计划呼吁暂停人工智能的开发。

Altman并不同意这封信的观点,他指出:

OpenAI不仅非常重视AI安全,而且比业内其他公司更重视。我们谈论这些问题的声音最大、强度最大、时间最长。

公开信引发争议

近日,OpenAI发布了ChatGPT升级版GPT-4,GPT-4在与人类交互方面和一些最具挑战性的标准化测试中表现出色,但同时这也引起了人们的警觉。

3月22日,非盈利组织生命未来研究所发布了一封《暂停大型人工智能研究》的公开信,呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练,暂停时间至少为6个月。图灵奖得主Yoshua Bengio、马斯克、苹果联合创始人Steve Wozniak等上千名科技大佬和AI专家均签署了公开信。

在众多大佬的光环下,这封信引起轩然大波,部分认为这就是是“酸葡萄心理”,AI竞赛中落后的玩家在为自己争取6个月的时间。

不过,也有人认为担忧有一定的合理性,AI发展太快,监管和审查方面没有跟上步伐。

仔细观察名单,签署呼吁信的主要有三类人群:学者、之前套现的公司创始人以及在人工智能竞备赛中落后的公司负责人。比如,苹果联合创始人Steve Wozniak签署了信,Pinterest联合创始人Evan Sharp也是如此。大约30%的签署者为学者,马斯克似乎是与人工智能最相关的上市公司负责人。

值得一提的是,尽管图灵奖得主Yoshua Bengio名字在内,但深度学习学界三巨头另外两位,泰斗级的Hinton没有公开表态,LeCun 则清晰指出不同意这一观点前提。

签署者名单还缺少Jack Clark,他是人工智能安全和研究公司Anthropic的联合创始人。Anthropic与谷歌云建立了正式合作伙伴关系,谷歌在Anthropic上投资了近4亿美元,加剧了该公司与OpenAI的竞争。

马斯克为什么签署公开信?

本来是AI的支持者,特斯拉曾举办两个人工智能日,向投资者介绍该公司的AI 工作,并招募顶级AI科学家为这家电动汽车制造商工作。那马斯克为什么会签署反对的公开信?

分析指出,马斯克并不是AI的狂热爱好者,他只是想开发关于汽车的狭义人工智能。

这是马斯克为了改善特斯拉处境而做出的精明举动。”Wedbush分析师Dan Ives表示:

这封信的呼吁将限制微软的发展速度,因为微软几乎在AI竞赛中处于霸主地位,谷歌紧随其后。

对于特斯拉来说是一把双刃剑,马斯克下一步的重点是推动自动驾驶技术研发。

分析指出,一方面马斯克下一步的重点是推动自动驾驶技术,其在暂停期间可以加快该技术研发;另一方面暂停大型AI研发是否会波及到暂停特斯拉的研发,目前尚不清楚。任何影响自动驾驶汽车潜力的事件都可能影响特斯拉的股价。

特斯拉正在以15000美元的价格出售其“全自动驾驶”辅助软件,目前这个系统尚不能完全自动化,仍需要驾驶员监督。

而特斯拉最大的投资者之一木头姐Cathie Wood,相信自动驾驶软件将解锁数千亿甚至数万亿的市值。木头姐预计,到2026年,自动驾驶软件将每年为特斯拉带来2800亿美元的利润。值得一提的是,木头姐并不在签署者名单上。

关键词: