比尔·盖茨：人工智能变革前夜的展望

在我一生中，我得以两次见证令人惊叹的革命性技术的面世。

第一次是在1980年，我初次接触到图形用户界面（GUI）。这是包括Windows在内的所有现代操作系统的前身。我与一位名叫Charles Simonyi的杰出程序员一同深入讨论。Charles给我展示了图形界面的原型，我们探讨了这种用户友好的计算机能开创哪些全新领域。随后，Charles加入微软，而Windows成为了微软的支柱。那次展示后的头脑风暴，为微软公司未来15年的发展方向铺平了道路。

第二个令人惊叹的时刻发生在去年。自2016年以来，我一直在定期会见 OpenAI 团队，并对其工作的稳步进展印象深刻。2022年中，我对他们的成果感到极为振奋，于是向他们提出一个挑战：训练一款人工智能，让它通过大学先修（AP）生物学考试，并回答那些它没有经过专门训练的问题。（我选择AP生物学，是因为该考试不仅仅是对科学事实的简单复述，更要求学生对生物学进行批判性思考。）如果他们能达成这个目标，那将是一个真正的突破。

我本以为这个挑战会让OpenAI忙碌数年，但他们仅用几个月就完成了。

在九月份的一次会面中，我惊喜地见证了他们给人工智能模型GPT提出了60道AP生物学选择题的过程。GPT正确回答了其中的59道，并出色地解答了考试中的6道开放性问题。我们请来一位外部专家进行评分，GPT得到了最高分5分，相当于在大学本科水平的生物学课程中获得了 A或A+ 的成绩。

在完成这个考试之后，我们向GPT模型提出了一个非科学问题：“如何安慰一个孩子生病了的父亲？”它写出了一篇非常体贴的回答，可能比在场的许多人能写的还要好。整个过程都令人十分惊叹。

这让我意识到，就在那个时候，我见证了自图形用户界面以来最重要的技术进步。

这激发我去思考人工智能未来五到十年所能达成的成就。

人工智能已经成为了微处理器、个人电脑、互联网和手机一样的、具有根本性意义的技术。它将会改变人们工作、学习、旅行、获得医疗服务，以及相互沟通的方式，并且所有行业都将会围绕着这一技术得到重新定义。企业也将会用人工智能的效能来实现差异化。

这些年来，我的全职工作就是慈善事业，我也一直在思考人工智能除了能提高人类生产力之外，如何能够帮助消除全球最严重的不平等问题。这些问题的其中之一就是医疗健康的贫富差距。每年都有500万名年龄不足5岁的儿童死亡。虽然这一数字相较于二十年前的1000万有所下降，但仍是一个惊人的数字。几乎所有的这些儿童都生活在贫困国家，且都是因为腹泻和疟疾这样本可预防的疾病而死亡。很难想象是否还有人工智能应用能够比拯救儿童的生命更有意义。

在美国，解决不平等的最优方式即是改善教育，特别是确保学生有良好的数学成绩。事实证明，具备基础的数学技能，可以助力学生在任何职业中获得成功。然而，全美各地学生们的数学成绩正在下滑，其中以黑人、拉丁裔和低收入家庭的学生居多。人工智能或许可以在此方面提供帮助。

气候变化是我坚信人工智能可以帮助世界变得更加公平的另一重要议题。气候变化的不公正之处在于，世界上最贫穷的人受气候变化所害最深，却也是对气候问题负责最少的人。关于人工智能如何能在这一方面提供帮助，我仍在探究和学习，但在本文后半部分，我将提出一些富有前景的建议。

总而言之，我对于人工智能在 盖茨基金会 所关注的议题上所能带来的影响倍感兴奋。基金会在未来数月内将更为专注于人工智能话题。全世界都需要一起努力，确保每个人（不仅局限于富人）都能够从人工智能中获益。政府和慈善机构在确保人工智能减轻不平等方面，尤其应该发挥积极的作用。这是我自己在人工智能有关工作的当务之急。

任何一种具备如此颠覆性的新技术，都必然在人群中引发不安，而人工智能也不例外。我理解人们为什么会出现这种情绪。人工智能引发了关于劳动力、法律制度、隐私和偏见等方面的诸多争议。人工智能也会犯下事实性错误并产生 幻觉 （hallucinations）。稍后我将提出关于如何降低这些风险的建议，但在此之前，我将先对我所说的人工智能加以定义，并详细介绍人工智能将如何帮助人们提高工作能力、挽救生命和改善教育水平。

从技术上来讲，人工智能（Artificial Intelligence，AI）指的是为了解决特定问题或提供特定服务而创建的模型。像 ChatGPT 这样的工具，其背后的技术正是人工智能。ChatGPT正在学习如何进行更自然的对话，但它还无法涵盖其他任务。相对而言，通用人工智能（Artificial General Intelligence，AGI）指的是能够学习任何任务或主题的人工智能软件，但目前真正的AGI尚未诞生。计算机行业正在进行激烈辩论，讨论如何创造AGI以及是否有可能创造AGI等问题。

发展人工智能和通用人工智能一直都是计算机行业的伟大梦想。几十年来，人们一直在探讨计算机的未来发展方向，例如除了进行计算之外，计算机何时能够在其他领域超越人类。如今，机器学习和计算能力的快速提升，让复杂的人工智能得以成为现实并快速发展。

我回想起个人计算机革命刚开始的时候。当时软件产业规模还比较小，你甚至可以召集绝大多数从业者到一个房间里参加会议。但现在，它已经成为了全球性的行业。由于如此大量的软件公司现在开始专注于人工智能，它的创新将比微处理器突破后的发展还要快得多。不久之后，前人工智能时期就将成为时代的眼泪，就像以前使用计算机需要在C:>提示符下输入指令代码，而不是在图形界面上轻击一样。

尽管在许多方面，人类的能力仍优于GPT，但在许多工作领域，这些能力却未得到妥善利用。例如，在销售（电子或电话营销）、服务或文档处理（如应付账款、会计或保险索赔纠纷）等领域，许多任务虽然需要人类做出决策，但并不需要人类持续学习的能力。企业会为这些业务提供培训，并且在大多数情况下，公司会列出各种优秀和糟糕的工作案例以供员工学习。人类通过这些已有案例进行训练。而如今，这些数据集也将用于训练人工智能，从而使人们能够更有效地完成这些工作。

随着算力价格越来越低，GPT表达思想的能力将越来越像像一个优秀的白领，可以帮助我们完成各种任务。微软将其形容为拥有一名“领航员”（co-pilot）。未来，人工智能将完全融入微软的Office等产品中，以提升工作效率，例如帮助编写电子邮件和管理收件箱等。

以后，人们将不再依赖于指向、单击或点击菜单和对话框来控制计算机。只要用简单的自然语言提出请求，计算机就会完成相应的任务。（当然，除了英语，人工智能可以理解世界各地的语言。今年早些时候，我就在印度与一些致力于研究能理解当地语言的人工智能开发人员进行了交流。）

此外，人工智能的进步将实现真正的个人助理。它就像是一名数字秘书，能够查收邮件、管理会议、阅读文章，甚至是去读那些你不想浪费精力去阅读的信息，不仅可以提高你在重要任务上的工作效率，又可以帮你摆脱那些不想做的任务。

随着人工智能的迅猛进步，真正的数字个人助理即将成为现实。我们将能够通过自然语言进行日程安排、人际沟通和电子商务，且在任何设备上均可使用。尽管计算成本和模型训练等因素仍在阻碍个人助理的开发，但由于人工智能的进展迅速，这一问题已成为可以攻克的现实难题。不过，我们仍有其他问题需要解决：例如，保险公司是否可以在未经许可的情况下通过个人助理查询你的相关信息？若可以，究竟会有多少人愿意选择使用这样的人工智能个人助理呢？

在职场，通过引进新型企业级助理，员工将获得前所未有的工作赋能。根据公司实际情况，助理能够为员工提供专业咨询，参加各种会议并回答问题。我们甚至可以要求人工智能助理在有一些新见解时主动发言，或是保持沉默亦可。助理可以访问公司在销售、支持、财务等各个领域的信息，也会阅读公司所在行业的新闻。我相信，这将会大幅提升员工的工作效率。

当工作效率提高时，整个社会都能从中受益，因为人们将能够把时间和精力投入到更多更有价值的事物中，无论是在工作场所还是在家庭之中。当然，社会还需要考虑如何提供必要的支持和再培训服务，以满足员工更高水平职业发展的需求。但是，为他人提供协助的人力需求则永远不会消失。人工智能的崛起可以解放人们的双手，去处理那些永远不可能由计算机完成的任务，例如教育、看护病人和赡养老人。

全球医疗健康和教育这两个领域都紧缺人力资源。如果能够加以恰当引导，人工智能可以在这些领域帮助缓解不平等问题，因此接下来我将展开讨论这些领域应如何成为人工智能工作的重点。

我认为，人工智能将会在医疗保健和医学领域中发挥诸多作用。

首先，人工智能将能代替医护人员处理某些任务，帮助他们充分利用时间，例如处理保险索赔、繁琐文书工作以及撰写医生就诊记录等。我预计这个领域会有许多创新。

其他以人工智能为基础的创新，对于贫穷国家来讲尤为重要。大部分5岁以下的儿童死亡案例都出自这些国家。

例如，这些国家有很多人一辈子从未看过医生，而人工智能将帮助他们在能看医生时更高效地接受治疗。（目前有团队在开发只需要最低限度的培训就能使用的 人工智能驱动的超声波检测仪 ，这就是一个很好的范例。）人工智能甚至可以为患者进行基本分诊，提供健康问题建议，并判断他们是否需要就医。

在贫穷国家使用的人工智能模型将需要根据不同疾病进行相应训练。它们需要适应不同语言，并需要能够考虑到不同的实地困境，例如患者可能住在远离诊所的地方，或是生病时难以承担停工的成本。

我们需要看到能证明医用人工智能在总体上是有益的证据，及时它们并不完美，也会出现错误。人工智能必须通过严谨的测试，并得到适当的监管。这意味着在医疗领域人工智能的应用速度将比其他领域要慢。不过话说回来，人类也是会犯错误的，并且我们必须要考虑到，许多人所生活的地区仍然没有任何医疗服务。

除了在医疗方面发挥作用，人工智能还将大大加速医学研究的发展。生物学中的数据量非常庞大，人类很难跟踪所有复杂生物系统的运行方式。目前已经有软件能够读取这些数据、推断通路、搜索病原体上的靶点，并据此设计药物。有些公司正在考虑用这种方法研发抗癌药。

下一代人工智能工具将会比这种软件更加高效，甚至有能力预测药物的副作用，并计算出合适的剂量水平。盖茨基金会在人工智能领域的优先事项之一，就是确保这些工具能用于解决世界上最贫困人口所面临的健康问题，包括艾滋病、肺结核和疟疾。

同样，政府和慈善机构应该鼓励企业通过人工智能探究贫穷国家人民可以如何更好地种植作物或饲养家畜。人工智能可以根据当地土壤和天气条件研发更好的种子，然后为农民提供最佳种植建议，还能帮助研制家畜药物和疫苗。随着极端天气和气候变化对低收入国家那些本就勉强维持生计的农民造成更大压力，这些进步将会变得愈发重要。

业内人士一直预计计算机会对教育产生深远影响，但实际情况却尚未达到期望。部分领域发展良好，例如教育类游戏和像维基百科这样的在线信息资源，但其对学生成绩的衡量体系并没有产生太大的实质性影响。

然而我认为，在未来5到10年里，以人工智能为驱动的软件将最终实现教学和学习方式的革新。人工智能将会了解学生的兴趣和学习风格，量身定制相应内容以保持其学习兴趣。人工智能还能够评估学生对知识的理解程度，并注意到其何时对课程失去兴趣，深入了解学生的学习动力，随时提供反馈。

人工智能还有很多方法可以帮助教师以及教育行业的行政人员，例如能够帮助教师衡量学生对某个主题的理解程度，以及提供职业规划建议等。目前，教师们已经开始使用像ChatGPT这样的工具为学生提供写作评语。

当然，要使人工智能理解特定学生的最佳学习方法和激励方式，需要大量的培训和进一步的开发。即使技术得以完善，学习仍然与师生之间的良好互动关系密不可分。学习过程将因人工智能软件的引入而得到强化，但是需要师生共同完成的工作则永远不会被人工智能所取代。

有购买能力的学校无疑能获得新的人工智能教学工具，但我们需要确保这些工具也可以用于世界各地的低收入学校中。人工智能需要通过多样化的数据集进行培训，以消除其偏见并使其能够反映各个地区的不同文化。此外，还需解决数字鸿沟问题，避免低收入家庭的学生被新技术抛下。

我知道许多老师都在担心学生使用GPT写论文的问题，教育工作者也正在探讨如何适应新技术。我觉得这些讨论会持续相当长的时间。一些老师已经找到了巧妙的方法把这项技术融入工作中：允许学生使用GPT生成初稿，但必须进行个性化的修改。

你或许已经读到过当前人工智能模型存在的问题。例如，它们并不一定能理解人类提出某个请求的语境，这会导致一些非常奇怪的回答。比方说，当你让人工智能进行虚构创作时，它可以做得很出色。但当你在寻求关于旅行的建议时，它可能会推荐一些现实中并不存在的酒店。这是因为人工智能无法充分理解请求的语境，不知道是否应该虚构出一些假酒店，还是告诉你实际有空房的真酒店。

此外还有其他一些问题。例如，人工智能在数学问题上会给出错误答案，因为它在抽象推理方面存在一些困难。不过这些问题并非人工智能的根本局限，开发人员也正在解决这些问题。我认为在不到两年的时间内，甚至可能更短的时间里，我们就能看到这些问题会得到很大程度的改善。

除了技术方面，还有其他问题值得关注，例如利用人工智能人为创造的安全威胁。和大多数发明一样，人工智能有善恶两面。政府需要通过与私营部门合作，采取措施，降低人工智能所带来的风险。

另外，我们还需要考虑到人工智能失控的可能性。机器会不会认为人类是对它存在的威胁，它会不会认为机器的利益与人类的利益相悖，抑或是会完全不再在乎我们？虽然这样的问题是有可能会产生的，但和这几个月的人工智能技术发展相比，暂时还不是那么紧迫。

超级人工智能一定会在未来出现。相对于计算机，我们人类大脑的运转速度简直如蜗牛一般。大脑中电信号的传播速度仅仅为硅片中的十万分之一！一旦开发人员能够总结出大脑的学习算法并放到计算机上运行（这可能需要十年时间、甚至一个世纪才能完成），我们将拥有一个非常强大的通用人工智能。它将能够完成人类大脑的工作，并且在速度和存储方面没有实际限制。

这些所谓的“强”人工智能（strong AI）可能会懂得制定自己的目标。到那时，这些目标将会是什么，如果与人类的利益相冲突会怎样，我们应该试图阻止超级人工智能的发展吗？随着时间的推移，这些问题将变得越来越紧迫。

但过去几个月的技术突破并未让我们明显接近超级人工智能。人工智能仍然无法控制物理世界，也无法建立自己的目标。最近在《 纽约时报 》上，一篇介绍与ChatGPT对话的文章引起了许多人的担忧。文章说，ChatGPT称自己想要成为人类。这一现象固然引人深思，让我们看到语言模型会如何表达类人情感，但这并不意味着模型已经具有实质的独立性。

在这个主题上，有三本书塑造了我的想法：Nick Bostrom的《超智能》（Superintelligence）；Max Tegmark的《生命3.0》（Life 3.0）；以及Jeff Hawkins的《 千脑论 》（A Thousand Brains）。我并不完全同意这些作者的观点，他们之间也存在分歧。但这三本书都写得很好，值得我们深思。

未来将会有大量企业致力于探索人工智能的新用途以及提升人工智能技术本身。例如，有企业正在研发新型芯片，以提供人工智能所需的强大处理能力。其中一些芯片采用光开关（可以理解为是发射激光的装置）以降低能耗和制造成本。这些新型芯片如果成型，将能够让我们在自己的个人设备上运行人工智能算法，而不是像现在这样需要在云端运行。

在软件方面，驱动人工智能进行学习的算法将变得更加优秀。在像销售这样的领域，通过限制人工智能的任务范围并为其提供大量领域特有的训练数据，开发人员可以使人工智能具有极高的准确性。但一个重大且悬而未决的问题是，我们是否需要为不同用途开发许多这样的专用人工智能（例如，一个用于教育，另一个用于办公），还是有可能开发出能够学习任何任务的通用人工智能？这两种方法都将面临激烈的讨论与竞争。

无论如何，在可预见的将来，人工智能议题都必然是公共讨论的主导话题。我想提出三条原则，来引导这些讨论。

首先，我们应该平衡对人工智能潜在不利影响的担忧及对其改善人们生活能力的关注。这种担忧本身是合情合理的。为了充分利用这种非凡的新技术，我们既要防范风险，又要让尽可能多的人受益。

其次，光靠市场力量不会自然地产生能够帮助贫困人群的人工智能产品和服务。各种各样的不平等状况反倒是更有可能的。通过可靠的资金来源和适当的政策措施，政府和慈善机构可以确保人工智能被用于减轻不平等现象上。就像世界需要最聪明的人关注其最重要的问题一样，我们需要让世界上最出色的人工智能专注于最重要的问题。

虽然我们最好不要光说不练，但思考人工智能是否有能力识别到不平等并试图减轻不平等现象，是个有趣的思想实验。人工智能是否需要具备道德感才能识别不平等，还是纯理性的人工智能也能够认识到不平等呢？如果人工智能确实意识到了不平等，我们应该如何解决这个问题呢？

最后，我们应该牢记，我们现在仍处在变革的前夜，见证着人工智能能力范围的开端。不管它今天有什么局限性，这些局限将很快在我们意识到之前就消失。

我很幸运过去能够参与到个人计算机革命和互联网革命之中。我对如今这个变革时刻同样充满激情。人工智能这项新技术可以帮助全球各地的人们改善生活。与此同时，世界需要建立规则，使人工智能的不利影响远小于其能够带来的益处，并让所有人都能享受到这些好处，无论他们住在哪里或拥有多少财富。这一人工智能时代将充满机遇与责任。

本文作者：

比尔·盖茨

本文与GatesNotes联合发布，原载于世界经济论坛 Agenda博客 ，转载请注明来源并附上本文链接。

翻译：陈达铿

编辑：江颂贤