OpenAI剧反映的真正危机是什么?

日期:2023-12-05 11:15:16 / 人气:114

“2023年11月17日以及之后的一周,全球最火的人工智能公司OpenAI的董事会,因其CEO萨姆·奥特曼的‘解雇门’事件震惊了所有人。
然后一切好像又回到了开始的地方,其实不是。对于员工、客户和投资者来说,一切都恢复了正常,但对于OpenAI及其使命来说却不是这样。我们看到了一个本着透明、造福人类的精神创立的机构,是如何在竞争和金钱的作用下,一点点被侵蚀,让全世界都看到了它的“脏衣服”。
复杂的权力斗争和幕后阴谋在世界级的新老公司和几乎任何权力运作的地方都很常见。我们只是很少和他们有第一手甚至第二手的接触。我们认为OpenAI是一家非常公开的公司(尽管它是一家私人公司,其科学和工程工作越来越封闭):我们知道他们是谁,他们在做什么,他们为什么要这样做。但在8日的“龚都”剧之后,我们不禁要问自己,我们真的知道这一切吗?
图/视觉中国
奥特曼的去留并不重要。很重要的一点是,OpenAI最初的承诺不仅仅是创造AGI(通用人工智能),而是确保它“造福全人类”。这个“保障”是由OpenAI的使命和架构决定的。这家营利性公司由一家非营利性组织拥有和控制,该组织在事件发生的周末之前由一个独立董事会控制。它的使命是确保OpenAI创造的人工智能能够造福全人类。
OpenAI有意抵制推动科技行业发展的价值观——对规模的不懈追求,以及推出消费级产品时“先造产品,再谈问题”的方式。然而,这种模式并没有完全持续下去。2019年,OpenAI成立子公司,采用“利润封顶”模式筹集资金,吸引顶尖人才,也必然会创造出商业产品。很快,OpenAI从一个非营利性的研究实验室转型为一个拥有大量投资和消费产品的营利性实体。原有的开源和非盈利色彩逐渐褪去,公司的重心转向更传统的利润驱动型科技初创企业,并且面临着利润目标与人工智能最重要的安全问题之间日益加剧的冲突。
ChatGPT发布后,OpenAI的收入和利润有了清晰的路径,估值也提高到了800亿-900亿美元。它再也不能证明自己是一个理想主义的研究实验室,因为客户希望在这里得到服务,投资者也下了巨大的赌注。这些琐事才是OpenAI迅速崛起和奥特曼令人震惊的被开除的故事核心。如果没有资本的强大压力,奥特曼也不会这么快上演反转剧。
据报道,OpenAI将保留其结构,投资者的利润将受到限制,董事会可以自由做出非收入驱动的决定。但我预计,在不久的将来,OpenAI的结构会更像一家普通公司。如果你要求投资者提供巨额资金来打造未来50年最重要的技术,那么他们会希望对公司的运营有一定的发言权。很奇怪,OpenAI能走到今天,但投资者——尤其是最大的投资者微软——绝不会让这种情况再次发生。
另一方面,整个事件凸显出人工智能的未来很可能取决于少数大公司及其董事会的想法。开发人工智能的基本模型是一个竞赛,这些模型的数量不会很多。事实上,它可能是一个自然的寡头垄断,少数模型可能适用于整个经济。大的科技公司现在与主要的基础人工智能模型重叠。换句话说,老领导就是新领导。怎么才能保证他们不会有超能力?
目前,监管机构尚未对OpenAI事件做出回应,但如何在人工智能技术的快速商业化和确保其负责任的发展之间取得平衡,是监管机构的迫切任务。未来几年,更多的资源必然会转向人工智能监管。
这场危机也可能成为硅谷围绕人工智能愿景的长期概念斗争的转折点。一派认为人工智能是革命性的新工具,将开启一个新的繁荣时代;另一派认为,人工智能更接近于一种外星生命形式,必须极其小心地限制和部署,以防止它接管世界并杀死我们所有人。随着奥特曼回归OpenAI,繁荣派赢了末日派。事实上,这两个派别并不像看起来那样截然不同。他们都相信“一切都是计算出来的”,都在通过商业竞争推动人工智能系统的发展,只是在发展速度上有分歧。然而,他们所相信的是不可思议的。如果那些以创造AGI为目标的人,连提前三天预见自己的决定会带来的影响都做不到,我们又怎么能保证AI能有这样的预见能力呢?当我们进入人工智能和技术的新领域时,我们不能忘记领导和决策中的人的因素。
(作者是北京大学新闻与传播学院教授)
本文仅代表作者观点。
发表于2023年12月4日《中国《新闻周刊》》杂志第1119期。
杂志标题:OpenAI剧反映的真正危机是什么?
作者:胡勇”

作者:富达注册登录官网




现在致电 5243865 OR 查看更多联系方式 →

富达注册登录官网 版权所有