YC教父奥尔特曼的雄心：将通用人工智能引入现实

2、奥尔特曼相信，可与开发在《刀塔2》中大放异彩的AI技术相似的方式建立AGI，并借此强化人类智能。

3、奥尔特曼说，微软的10亿美元投资大部分将花在OpenAI实现其雄心所需的计算能力上。OpenAI正从更小的项目开始，比如最近开发出了试图理解自然语言的系统。

4、奥尔特曼认为，AGI最初只比人类稍微聪明点儿，但最终可能比人类聪明100万甚至10亿倍，它将让全世界的人类受益。

（本文约5200字，阅读全文大约需要6分钟）

以下为文章正文：

经过30天的艰苦谈判，山姆·奥尔特曼（Sam Altman）近日终于说服微软向其领导的AI实验室OpenAI投资10亿美元，这标志着OpenAI将转向新的方向。今年3月，奥尔特曼辞去了硅谷初创企业孵化器Y Combinator的总裁职务，在这家机构工作帮助奥尔特曼迅速跻身硅谷精英阶层。现在，34岁的他担任OpenAI的首席执行官，这是他在2015年与电动汽车制造商特斯拉公司首席执行官埃隆·马斯克(Elon Musk)共同创建的AI实验室。

希望模拟人类大脑机制

马斯克去年离开实验室，专注于自己在特斯拉的AI雄心。自那以后，奥尔特曼开始致力于将非营利性组织OpenAI重新打造为盈利性公司，这样它就可以更积极地寻求融资。现在，奥尔特曼已经找到了大牌投资者，帮助它实现令人兴奋的崇高目标。奥尔特曼及其研究团队希望建立通用人工智能(AGI)，即可以模拟人脑执行任何任务的机器。

AGI仍然存在于科幻小说中。但在微软和OpenAI签署的协议中，双方用同样的事实语言讨论了将其变成现实的可能性，并将其应用到他们希望建立的任何其他技术上，无论是云计算服务还是新型的机器人手臂。奥尔特曼最近接受采访时称：“我运行OpenAI的目标是成功地创造出广泛有益的AI，而与微软建立伙伴关系是迄今为止取得的最重要里程碑。”

近年来，由AI研究人员组成的规模虽小但热情高涨的社区正将目光投向了AGI，而且他们得到了世界上许多最富有的公司的支持。谷歌母公司旗下顶级AI实验室DeepMind表示，它正在追求同样的目标。大多数专家认为，AGI在几十年甚至几个世纪内都不会到来。即使是奥尔特曼也承认，OpenAI可能永远不会实现目标，但竞争仍在继续。

在与奥尔特曼接受联合电话采访中，微软首席执行官萨蒂亚·纳德拉(Satya Nadella)后来将AGI与他的公司打造量子计算机的努力相提并论，这种计算机的速度将会比现在的机器快得多。纳德拉说：“无论是我们对量子计算的追求，还是对AGI的追求，我认为你都需要这些雄心勃勃的‘北极星’项目来指引方向。”

但自成立以来，OpenAI已经取得了许多令人印象深刻的成就。它开发了开源软件，让其他研究人员可以训练和测试他们的AI系统。它发明了一种新的软件，可以从反复试验中学习，而不是通过已有的数据学习。作为其最著名的成就之一，它创造了五个独立的AI，它们能够组队玩复杂的电子游戏《刀塔2》（Dota 2）。事实上，这些AI表现得非常好，打败了许多世界顶尖的人类团队。

OpenAI的技术之所以能在《刀塔2》中大放异彩，这要归功于被称为强化学习的数学技术，它允许机器通过极端试验和错误来了解任务。通过一遍又一遍地玩游戏，以及自动化的软件片段（称为代理），它可以了解哪些策略能帮助取得成功。这些“代理”在几个月的时间里学会了许多技能，并积累了相当于45000年的游戏经验。

OpenAI还教会了一只机械手以前所未有的灵巧程度操纵物体。最近，它创造了一种算法，用一两句人类书写的文本，然后自动生成长篇小说，而且能够保持相同的文风。

研发新技术耗资无数

然而，这些突破来之不易。其中有些使用了大量的计算能力，这就意味着需要花费大量的金钱。OpenAI曾表示，该公司怀疑获得AGI的方法是不断增加实验中使用的数据量，需要更多的服务器来训练算法。为此OpenAI花费数百万美元租用数万个计算机芯片，这些芯片位于谷歌和亚马逊等公司运营的云计算服务中。此外，AI背后的“人类大脑”也很昂贵，许多顶级机器学习专家的薪水都让人瞠目结舌。

尽管OpenAI获得了10亿美元的捐赠，但它觉得自己需要更多的资金。与企业AI实验室相比，这家非营利机构处于明显的劣势。企业AI实验室很多都是拥有大规模云计算业务的公司的一部分，因此不必为占用服务器时间支付高昂费用。此外，作为最大的初始捐赠者，马斯克在2018年初退出了OpenAI董事会，减少了对OpenAI的投入。OpenAI表示，特斯拉对将AI应用商业化越来越感兴趣，这给马斯克带来了利益冲突。

为了与拥有巨额风险投资储备的大公司和初创公司竞争，OpenAI的董事会做出了重要决定：如果它不能打败这些公司，那就加入它们。今年3月，奥尔特曼宣布OpenAI将创建名为OpenAI LP的独立盈利公司，寻求外部资本。然后本周，它获得了微软的巨额投资。交易的具体条款还没有披露，此次合作让许多观察人士摸不着头脑。雷希特说：“微软已经拥有世界上最受尊敬的私人研究机构之一——微软研究院。”

在回应电子邮件提问时，支付初创公司Stripe前首席技术官、现任OpenAI董事长格雷格·布罗克曼(Greg Brockman)表示，微软在这家盈利实体中“拥有大量但不是多数”股份。他补充说，微软也有权在这家非盈利机构获得董事会席位，但它尚未行使这一权利。

微软表示，其Azure云计算基础设施将成为OpenAI研究的首选平台，因此其10亿美元现金投资中的部分可能会以购买云计算的形式回报微软。但两家公司也表示，他们将合作开发新的AI专用超级计算机。

或许最重要的是，微软表示，它将成为OpenAI的首选合作伙伴，将OpenAI开发的除AI以外的任何技术商业化。布罗克曼表示，这一安排与OpenAI的反公司创立理念并不矛盾。

他说：“OpenAI有选择的权利，但没有义务授权任何特定的技术。授权我们某些技术的目的是为我们建造AGI的努力提供资金，这样我们就能完成我们的使命。但如果授权某些AGI技术违反了使命，我们不会这么做。”

奥尔特曼和其他人认为，开发AGI是个庞大的项目，成本绝不会便宜，可能需要数十亿美元投入。他说：“在未来几年内，我们可能需要投资大规模云计算，吸引和留住人才，构建AI超级计算机。”

构建AGI任重而道远

最终，奥尔特曼和他的同事们相信，他们可以用《刀塔2》类似的方式建立AGI。如果他们能够收集足够多的数据来描述人类每天处理的各种任务，并有足够的计算能力来分析所有这些数据，他们相信自己可以强化人类的智能。

奥尔特曼将与微软的交易描绘为朝这个方向迈出的一大步。在微软投资OpenAI的同时，这家科技巨头也将致力于构建新型计算系统，以便帮助实验室分析越来越多的信息。纳德拉说：“这是关于在雄心勃勃的AGI追求和我们的核心业务之间建立真正紧密反馈周期的举措，我们的核心业务是制造世界计算机。”

这项工作可能包括专门为培训AI系统而设计的计算机芯片。与谷歌、亚马逊以及全球数十家初创企业一样，微软已经在探索这种新型芯片。

由于AGI还不存在，OpenAI正在从更小的项目开始，它最近开发出了试图理解自然语言的系统。这项技术可以满足从Alexa和Google Home等数字助理到律师事务所、医院和其他企业内部自动分析文件软件所需的一切需求。

这笔交易也是这两家公司自我推销的一种方式。OpenAI需要计算能力来实现它的雄心壮志，但它也必须吸引世界领先的研究人员，这在当今的人才市场上是很难做到。而微软正在云计算领域与谷歌和亚马逊展开竞争，在云计算领域，人AI能力变得越来越重要。

问题是我们应该如何认真对待AGI的想法。和科技行业的其他人一样，奥尔特曼经常说，AGI的未来似乎是不可阻挡的。他表示：“我认为AGI将是人类历史上最重要的技术发展。”奥尔特曼暗示了马斯克等人的担忧，即AGI可能会脱离我们的控制。对此，他说：“找到控制方法将是我们面临的最重要社会挑战之一。”

但是像《刀塔2》这样的游戏与现实世界的复杂性相差甚远。近年来，得益于DeepMind和OpenAI等公司开发的许多技术，AI已经有了显着的进步。有些系统可以识别图像、口语单词，并在语言之间进行精确翻译。但这并不意味着AGI即将成为现实，甚至并非意味着它是可能实现的。但总部位于西雅图的艾伦AI研究所首席执行官奥伦·埃齐奥尼(Oren Etzioni)说：“我们比以往任何时候都离AGI更近了。”

最近，谷歌研究人员杰弗里·辛顿(Geoffrey Hinton)因过去几年对AI研究做出的贡献而获得了图灵奖(Turing Award)。最近有人问他关于AGI竞赛的问题，他说：“这是个太泛泛的问题，我更愿意专注于那些你能想出解决办法的事情。”他补充说，关于AGI的另一个问题是：我们为什么需要它？

能否兑现承诺受质疑

OpenAI成立于不到四年前，它采取勇敢的立场，反对“强大的新技术必然由大型企业控制”的观点。当时这家非盈利机构的目标是:“以最可能造福全人类的方式开发人工智能，不受产生经济回报的需要的束缚。”

然而本周早些时候，已经与初创时显得截然不同的OpenAI接受了微软10亿美元投资，后者是全球最有价值的科技公司之一。这笔交易让OpenAI拥有了巨大的资金来源，可以与资金充足的竞争对手(如谷歌、Facebook、腾讯以及百度等）展开竞争。

在奥尔特曼领导下，OpenAI目前已经建立以盈利为目的的部门。至于反对大公司控制先进技术的创立理念，情况似乎有点儿微妙。那么如何造福人类呢？这仍然是OpenAI的使命，只是微软现在需要在这个过程中赚点儿钱。

作为非盈利机构，OpenAI从许多富有的支持者那里获得了10亿美元的捐款，其中最引人注目的是特斯拉首席执行官埃隆·马斯克（Elon Musk）。据彭博社作家阿什莉·万斯(Ashlee Vance)为马斯克撰写的传记称，马斯克担心AI可能会失控，包括“吹按能够摧毁人类的AI增强机器人军队”。

马斯克还担心少数公司拥有通用人工智能(简称AGI)的知识产权。AGI的意思是能够像人类一样，在各种不同任务中表现出色的技术，而不是如今那种只能做某些单调乏味工作的狭隘AI，比如下棋或识别人脸。

OpenAI在其首篇博客中呼应了马斯克的世界观，称:“作为非盈利机构，我们的目标是为所有人而不是股东创造价值。我们认为AI应该是个人意志的延伸，并本着自由的精神，尽可能广泛而均衡地部署。”

尽管OpenAI的理念让人感觉良好，但有些人对该组织是否是将AI好处民主化的合适载体持怀疑态度。加州大学伯克利分校专门研究机器学习算法的教授本·雷希特（Ben Recht）就是其批评者之一，他担心马斯克和奥尔特曼所扮演的关键角色。他说：“任何相信马斯克和奥尔特曼在非营利组织中为人类造福的人都是在自欺欺人，这是一个怪异的硅谷虚荣项目。”

加盟OpenAI不止为了钱

那么，奥尔特曼为何辞去了Y Combinator的总裁职位，加入OpenAI担任首席执行官？

AGI是个有趣的押注，因为它目前还不存在，科技行业对AGI何时将成为实现也充满了争议，有人认为其很快就能出现，其他人认为也许永远不会出现。

在奥尔特曼看来：“我们正在努力建立安全的AGI。所以我相信，在未来的几十年里，某个人或某些人将会构建出在各个方面都比人类更聪明和更有能力的软件系统。最初，它可能只比人类稍强一点儿，但随着时间推移，它的能力可能超过人类100万乃至10亿倍。所以我们在试图弄清楚如何在技术上实现AGI的同时，也想要确保它的安全和公平，分享它的好处。”

当被问及OpenAI计划如何赚钱时，奥尔特曼回答说，“诚实的答案是我们不知道。我们从来没有取得过任何收入，目前也没有创造收入的计划。我们不知道将来会如何创造收入。”不过，奥尔特曼已经向投资者做出了软承诺：“一旦我们建立了AGI系统，基本上我们会让它想办法为你带来投资回报。”

奥尔特曼希望OpenAI为其他公司树立榜样，复制所谓“利润封顶”（capped profit）的商业模式。OpenAI表示，其首批盈利支持者的利润上限为初始投资的100倍，任何超额利润都将回流到这家非盈利机构。该公司表示，后续投资者的利润上限将有所不同。

值得注意的是，100倍回报是个非常高的门槛，大多数投资于普通营利性公司的投资者很少能获得如此高的回报。据说机构投资者红杉资本(Sequoia Capital)曾向WhatsApp投资6000万美元，当后者被Facebook斥资220亿美元收购时，红杉资本获得了50倍回报，这已经是非常惊人的数字。

OpenAI表示，微软没有参与首轮融资，首轮融资包括科斯拉风投(Khosla Ventures)和LinkedIn联合创始人里德·霍夫曼(Reid Hoffman)旗下慈善基金会。霍夫曼也是OpenAI的联合创始人之一，但该公司拒绝透露微软的上限水平。OpenAI表示，按照该公司宪章的要求，大部分价值最终将归全人类所有。但与此同时，OpenAI可能会让已经跻身全球最富有公司之列的微软变得更加富有。

因此，首先要构建出AGI，其次才是将其用于赚钱。奥尔特曼坚持称：“我真的相信，我们在OpenAI所做的工作，不仅会远远超过我在YC所做的工作，而且会远远超过科技行业任何人所做的工作。”