为不确定的未来做规划

为不确定的未来做规划

要预测人工智能将走向何方，以及当我们选择忽视或准备拥抱人工智能时，我们的生活会发生多大变化，需要一位极具洞察力的预言家。硅谷和世界其他地区的思想家与科学家已经在说，通用人工智能（AGI）不可避免；而从那里开始，超级智能及其所有不可预测的后果和影响，很可能只需再迈几步就会到来。

伊桑·莫利克（Ethan Mollick）是极具洞见的著作《共智——与人工智能共同生活与工作》（Co-Intelligence—Living and Working with AI）的作者。他在结尾章节“人工智能作为我们的未来”中，提出了人工智能未来的四种可能情景。

1 第一种情景是，人工智能已经接近你所能见到的最佳状态，未来的改进只会是渐进式的。只有在气候变化活动人士因大型语言模型（LLM）巨大的耗电量而担忧，或人工智能安全专家说服政府禁止所有人工智能开发，并最终得偿所愿的情况下，这才可能发生；但这不太可能，而且在一个快速变化、竞争极其激烈的创新环境中，显然也不可持续。人们对媒体上出现的任何内容，尤其是社交媒体上的内容，已经存在深深的不信任；随着时间推移，语音和图像轻易被伪造复制，将侵蚀我们所见所闻的一切的可信度。与机器人聊天也会达到其自然的疲惫点；在缺乏极端创新的情况下，人工智能会继续存在并被许多人接受，但只会作为人类不断增强能力的一种补充力量。听到这种情景时，我们是否听见了一声如释重负的叹息？

第二种情景与第一种差别不大，它设想的是增长，但速度缓慢。正如我们已经在中国推出 DeepSeek 时看到的那样，利用人工智能的新方法，以及更加优化的能源利用机制，将放缓发展速度，但创新仍将继续。人工智能将在工作场所创造更多价值，而企业和政府组成的联盟将限制某个国家或某个行业中人工智能不受监管增长可能释放出的危害。然而，人工智能将在所有企业环境中的科学研究与发现中发挥更大作用，并在我们的生活中占据越来越大的位置。人类仍将保持控制权。

第三种情景更接近指数式增长。人工智能公司利用人工智能系统来创造下一代人工智能软件，可能会在人工智能加速发展中形成飞轮效应。其负面影响是，不可预测的坏结果可能伴随甚至先于积极的新发现出现，例如在研发新药的过程中创造出一种新的致命神经毒气，以及由人工智能赋能的独裁者利用这一工具对毫无戒备的民众进行无处不在的监控。正如我们已经在电影中看到的那样，人工智能伴侣可能会变得比人类更有吸引力，更令人愿意交谈，从而导致新型的社会孤立。尽管在这种情景下，人工智能仍不会具有感知能力，但通过与研究人员、医生和数学家合作，人工智能或许能够发展并对我们其他人施展新的力量。这可能只是开始，因为人工智能随后可能达到一个起飞点，即一种能力水平，使其迈向通用人工智能，并可能达到一种远远超出人类所能拥有的智能！

最后一种情景是莫利克所称的“机器之神”，在这种情景中，机器已经获得通用人工智能和感知能力，并帮助设计出比自身更聪明的人工智能，直到超级智能出现。那么，人类是否会对人工智能失去价值，只变成一种麻烦，或仅仅成为潜在的分子来源？正如人工智能教父之一、于2023年离开该领域的杰弗里·辛顿（Geoffrey Hinton）所说：“完全可以想象，人类只是智能进化过程中的一个过渡阶段。”

在描绘了这一可怕情景之后——有些人认为它可信，许多人则选择无视——让我们基于这样一个假设来制定战略：世界末日并非近在眼前，也并非不可避免；如果由我们所有人共同阐明、设计并实施，一种经过精心规划的双重智能战略，在其中“人在回路中”始终保持控制，最有可能占据主导地位。