知识是一种重要的、潜在的力量，帮助我们理解和改变世界。

图灵奖得主、中美法三国院士希发基思在他的全新思想著作《理解和改变世界》中，颠覆性地以计算机科学家和工程师的视角，用严谨的逻辑推导出了一套科学世界观，阐明了知识和智能的本质，帮助我们（无论是青少年还是成年人）构建了一个认知世界的严谨体系。

书中理清了知识与信息、智能及意识之间的复杂关系，回顾了人工智能的发展历史以及最新的技术突破，对人类智能与人工智能进行了区分。而我们需要在此基础上开发、管理和应用知识，以获得对世界的正确认知。

作者对人工智能是否可以超越人类智能给出了清晰的解答（不会超越人类）。在如今人工智能飞速发展的时代，这本书能帮助我们理解人类认知的特点和优势，看清世界的底层逻辑，以更高维的方式思考和决策，培养出自身面向未来的核心竞争力，更好应对风险和挑战。

关于人工智能

1.人类和人工智能是互补的，而非互相替代的关系。

人类拥有的常识知识和形成模型的抽象能力，这是当前范式的人工智能无法做到的，因此它们也不可能形成原理性的创新。而人工智能是可以在不掌握原理的情况下，对于可能存在大量变量的复杂事物进行预测。这是人因为认知能力限制而无法达到的，这称为“AI神谕”，它可能带来一种“新的科学”。

2.目前的人工智能是一种弱人工智能，人类离通用人工智能（AGI）还很远。

机器可以做出令人印象深刻的事情。它们在游戏中可以超越人类。它们能够执行各种任务。最近也取得了巨大的成就。它们可以执行感官能力相关的任务，比如视觉识别。然而，当涉及到情境感知、环境变化的适应和创造性思维时，机器无法超越人类。

3.自主系统是朝向通用智能迈出的重要一步，帮助人工智能更加接近人类。

让计算机接近人类智能的第一步，是让它表现得像我们所说的强人工智能。传统计算机与人类的区别在于，传统计算机会自动执行某些预定的功能，是一个自动化系统；而人类则具有自主行动的能力。自主系统便是实现强人工智能的重要方式。

4.合理地使用人工智能和自主系统取决于：第一，根据客观标准评估我们是否可以信任计算机生成的知识。第二，全社会的警惕性和政治责任感。

如果我们不能保证足够的安全性和可靠性，那么就应该限制自主系统的使用。

5.“替代测试”可以超越“图灵测试”判断AI的智能程度。

图灵测试是不够的，需要使用替代测试，如果可以用一台机器替代执行任务的另一个代理，那么我会说这个代理和执行任务的代理一样聪明。如果我可以将机器代替人类驾驶汽车、教人类或成为一名优秀的外科医生，那么我会说机器和人类一样聪明。

6.改善人类的生活是科技发展的首要任务。

在这个过程中，社会必须以人类生活的改善为目标发展并应用技术。对我们的社会来说，重要的问题是我们是否能够与机器合作，掌握由机器辅助开发的知识的发展和演进。或者我们将发展出一种由人驱动的科学和机器驱动的科学并存的情况。

7.对于人类来说，最好的情景是机器和人类之间达成一种和谐合作。

AI会带来的最大威胁是人类对它的依赖可能导致我们无限让渡自己的判断，丧失决策权，最终成为“奴隶的奴隶”。人类需要掌握知识的发展、应用的所有过程，确保不会让这些机器自身为我们做出关键决策。

8.人工智能带来的风险不在于人类被机器所统治，而在于人类接受机器做出所有关键决策。

人工智能、包括通用人工智能都是好事，我不反对这些。AI带来的危险是明确的，主要可能来自于对它的滥用。但不幸的是，今天我们没有针对这种危险的相关法规。因为政府不知道这些东西是如何开发的，缺乏透明度也就意味着无法应用法规。各个国家、国际机构应该强制执行法规。

9.要识别出人工智能带来的实际风险和真正挑战。

人们都在热议计算机智能的假想风险，也许把真正的风险掩盖住了。而这些真正的风险才是问题所在，因为它们涉及社会组织的类型及其所服务的关系，特别是社会和政治性质的问题题。失业，防护、安全和风险管理，技术依赖将是人工智能带来的真正的风险。

10.人工智能时代通过适应性原则管理风险。

有两种风险管理办法：第一种基于预防原则，第二种方法则基于适应性原则。人们对危机管理的态度出现了一种危险的转变，曾被人们奉为圭臬的预防性原则逐渐被适应性管理取代，人们认为这种政策的转变是必要的，因为预防性原则的要求会使得人工智能和自主系统等新技术的推广与使用的成本攀升到令人望而生畏的地步。

关于知识和智慧

11.知识是有用和有效的信息，可以让我们理解和改变世界。

一方面，能让我们对周围发生的事情，包括物理世界、社会及其产物，有更深刻的认识；另一方面，知识能让我们实现目标。

12.在当今这个时代，拥有知识比拥有物质产品更重要，也更具有战略意义。

人们可以利用知识来控制物质世界并应对全球挑战，当然，前提是人们能够掌握管理知识的元知识。

13.要强调知识的“真实性”否则，知识将失去它的实用价值——帮助我们理解和改变世界。

14.要想获得更深入的知识，需要一种痛苦的、孤独的努力。

15.人们需要掌握管理知识的元知识。

元知识是用来管理所有形式知识的知识，它使我们能够把各种知识综合起来。元知识包括解决问题的方法、设计方法和决策方法等，同时还包括在专业技能中使用的非形式化的知识。

16.草率地采用表面上看起来科学的方法是件危险的事。

我们必须要有自己的辨别能力，而不是迷信于科学主义。科学主义假借自然科学中采用方法论的权威，滥用于其他不能经受验证的领域。以所谓基于科学的预测的名义来操控社会进程，是我们所面临的实实在在的风险，尤其是目前人工智能被广泛应用的情况下。

17.科学主义往往伴随着把专业知识神秘化的危险。

专业知识神秘化，让人们感觉好像所有严肃的事情都必须经过专家判断，并由他们来最终决定。计算机对知识的管理，更是强化了这种神秘的感觉。专家们滥用专业知识带来的权威性，可能会导致一些灾难性的政策。

18.创新是实现技术突破的关键。

美国成功的原因是创新方面十分出色。要实现创新，应该将卓越的大学和卓越的产业联系在一起。这不仅取决于物质资源，还取决于文化因素、教育以及制度应该认可个体的创造力和创业精神。

19.现代的创新需要形成完善的创新生态系统。

因此现代的创新，并不是关起门来就能完成的。而是要形成一个完善的创新生态系统。这个生态系统是三个因素协同作用的结果：（1）研究机构；（2）工业企业；（3）初创企业。一个完善的创新生态系统，能够会集专家、科学家、工程师和管理人员等重要的人力资源，并具有特殊的创新文化，硅谷就是一个很好的案例。

20.在知识和信息社会中，新闻和学术组织这样的机构应当发挥真理捍卫者的作用，帮助公众正确了解所有受关注的重大问题的作用。

糟糕的扭曲的信息，对个人和社会的自由都构成了巨大威胁。现在，越来越多捏造的谎言成为误导和操纵大众的工具，互联网和社交网络正在成倍地放大这种破坏性的影响。道德危机和相对主义模糊了真与假的界限，舆论正在被各种各样的信息混淆，人们难以区分未经证实的“新闻”和已被证实的事实，造成了如今的后真相时代。

关于社会

21.社会想要良好运转，需要塑造共同的价值尺度形成强大的凝聚力。

有许多社会衰落和崩溃的例子，而这往往并不是由外部风险或经济危机导致的，而是因为它们已经不能再作为一个连贯的社会群体而发挥作用。一个社会要想运转良好，必须有一个一致的、共同的价值尺度来形成强大的凝聚力，从而让个人愿意牺牲一部分自由来实现共同目标。每一次社会危机，都是社会各个领域共同价值体系贬值的结果。

22.社会制度能够促进社会的共同的价值体系，并通过明确的或隐含的规则来促进社会秩序的建设。

通过明确的和隐含的规则，制度在很大程度上定义了一个社会的价值尺度：什么是真实的或不可信的，什么是对的或错的，什么是合法的或非法的，什么是好的或坏的。这些规则的正常运作并适应不断变化的情况对于社会系统的存续来说至关重要。

23.新自由主义将会破坏人类社会共同价值。

自20世纪80年代中期以来，占主导地位的经济模式逐渐向“新自由主义”的经济模式演变。新自由主义鼓励竞争，制造不平等，减少社会服务。这一切都是成就市场的手段，但却会破坏集体结构，并滋养个人主义文化。我不知道这种对市场的盲目崇拜会将人类带向何方。

24.过度强调“经济决定论”将导致社会的失败。

比经济资源更为重要的因素是，社会作为一个连贯的（信息）系统，能够针对现实目标有效地将社会的创造力聚集在一起，并按步骤实现这些目标。

25.清晰的语言营造了信任和诚实的氛围，含糊不清的语言为违规和谎言敞开了大门。

当语言和概念退化时，价值观就开始崩塌。当词语失去其共同的概念价值时，它们就像一种无用的、伪造的、贬值的货币。社会作为一个整体发挥作用的能力便开始退化，它的凝聚力会被一种反对严谨、寻求模糊的氛围侵蚀。严谨思考和清晰表达的规则与标准消失了。

26.“政治正确”运动将摧毁传统的价值观。

“政治正确”运动口口声声号称要追求更广泛的正义，但它的实际目的是毁灭传统的价值观，而且它对纠正社会不公正现象没有起到一点作用。这是一种“向下看齐”的洗脑运动，目的就是改变我们社会系统的核心价值观，比如尊重个人价值和追求卓越的精神。

27.谎言是社会衰落和个人道德沦丧的标志。

最常见的谎言类型是“口头上”的谎言，另一种类型的谎言是“实践上”的谎言，还有另一种更加危险和狡猾的谎言——系统性谎言，这种谎言是通过某种自动机制融入那些逻辑混乱的说谎者身体的。如果系统性谎言得以大行其道，那么基于理性和道德的辩论或批评就没有生存的土壤。

28.民主是同时实现经济增长和社会正义这两个目标的最佳制度。

政治制度的目标是确保公民的生活质量和社会的经济繁荣。经济增长不能和社会正义的要求相冲突，两者应互相促进和补充。人们普遍认为，民主是一种能够实现两个目标的最佳制度。

29.民主的基础必须是任人唯贤、精英治理。

人们对民主的理解是扭曲的，它强调民意的作用，却忽略了领导人和创造者对于国家正常运作所起到的重要作用。一小撮开明的、贤能的人的行动可以改变一个国家的历史进程。社会衰落的一个特征是平庸的人物在公共生活中大行其道。

30.官僚主义是现代民主制度最大的祸害。

官僚主义体制增加了程序的复杂性，会造成国家管理效率低下。今天，它被认为是当权者无知和腐败的表现。在有的情况下，官僚主义可能是为了一己之私而干扰政府的正常运行，甚至危及个人自由。它可以掩盖某些人处理公共事务的无能，也可以为那些利益集团编织一张腐败的网络。

 

【相关讯息】专访约瑟夫·希发基思：AI不会超越人类，过度依赖才是最大挑战 

实现能够达到人类水平人工智能（AI）是人们的愿景，近年来，随着投资的增多和技术的进步，AI 领域正在加速发展。但是，由于部分媒体和科技公司的过度宣传，让一些人以为只需要几年的时间就能实现通用人工智能。

也有一些专家表达出“未来必然由机器主宰”的预言，放大了新智能时代到来的兴奋和喧嚣，这会导致大多数人倾向于接受“人工智能革命是我们无法逃脱的宿命”。

对机器的过度依赖可能会导致异化的后果。例如，使用 ChatGPT 存在的风险在于，人们会对其过度依赖，而不再发展出人类智能所特有的关键技能。其风险在于，人们出于贪图舒适或者思维懒惰，并接受机器代替他们作出决定，从而使人类可能变为机器的附属品。

如今，人们生活在一个绝对和相对主义泛滥的混乱时代，因此如何通过清醒、知情以及理性地辩论，去思考 AI 革命带来的风险是关键所在。几十年来所经历的危机，使人们迫切需要一种个人主义哲学——以一种简单易懂的、非教条主义的方式，解释个人幸福、社会和平与进步的价值观和伦理。

为帮助理解知识的重要性和局限性，并深入探究理解的双重性，图灵奖得主、中国科学院外籍院士、法国工程院院士、欧洲科学院院士约瑟夫·希发基思（Joseph Sifakis）进行了深入调查。

图丨约瑟夫·希发基思（Joseph Sifakis）（来源：资料图）

近期，他将相关结果和心得撰写在《理解和改变世界》一书中，讨论了高效获取知识的方法、人工智能与人类思维的核心差异、走向真正的通用人工的途径、自主系统、以及人类意识自主性影响行为决策等。

图丨《理解和改变世界》（来源：中信出版集团）

通用人工智能还有多远？

目前，机器学习还不能完全做到自主执行任务和适应环境变化。希发基思表示，实际上，今天的 AI 与通用人工智能（Artificial General Intelligence，AGI）之间的差距，比一些媒体和大型科技公司所宣传的要大得多。

《牛津词典》中关于智能的定义为“学习、理解和逻辑思考事物的能力，这种能力可以把事情做好”。如今，人们对“智能”没有清晰的概念，并对于如何实现智能有很多困惑，这会导致无法发展出智能如何运作的理论。

而机器在某些领域表现出卓越的能力，例如其在游戏中的表现比人类更出色，能够执行对感官更加敏感的任务，比如 BERT 和 ChatGPT。然而，在状况感知、适应环境变化和创造性思维方面，机器却无法超越人类。

如今，弱 AI 提供了构建智能系统的要素，但人们并不具备综合这些要素的原理和技术。希发基思举例说道：“例如在建造桥梁和建筑物时，我们无法建立可靠的、能替代人类完成各种任务的智能系统。而自主系统正是通往 AGI 的道路上重要的里程碑之一。”

自主代理是一个系统，能够与环境持续互动,并实现既定的目标。实现自主行为的过程需要经历五个相互独立的功能，即环境感知、状态表示、目标管理、策略规划和自我学习。

前两个功能（环境感知和状态表示）用于实现对状况的理解，以了解环境中发生了什么是必要的。环境感知接收来自环境的感官信息（图像、信号），并通过区分物体以及它们可能关联的关系并对其进行分析。其一般通过神经网络实现，而神经网络是当前唯一能胜任这个目标的技术。

所感知到的信息被传输到状态表示函数中，这种函数的功能在于建立一个系统外部和内部环境的模型。该模型必须实时更新，以便尽可能地接近反应出的环境的动态状态，它通过结合其他两个功能（目标管理和策略规划）来进行决策。

另一个关键功能是自我学习，它能够对知识进行管理和更新，以提高对环境中的变化的预测性和适应性。

人类智能是否会变得越来越接近于“完美”？

希发基思认为，如何基于数据的知识与符号知识联系起来，从而实现某种理解，是 AI 领域未来最大的挑战。

基于具体数据的知识，人类拥有将感官信息与常识知识联系起来的独特能力，这是人类与 AI 最大的不同。例如，人类会很自然地识别部分积雪覆盖停车的标志，因为它可以将视觉信息与停车标志的概念模型及其特性联系起来。对比之下，神经网络如果想实现精确地识别出停车标志，就需要提前针对所有天气条件对其进行训练，这显然是一件更为复杂的任务。

当人们可以搭建出能可靠地替代人类执行任务的自主系统时，比如执行驾驶任务，就说明机器智能已经接近人类智能。即通过自主代理逐步替代人类，比如被物联网所设想的自动驾驶汽车、智能电网、智能工厂、智能农场、自主网络等。

这些系统是分布式的，通常是关键任务系统，通过处理知识展现“拓展智能”，可以动态地管理一组有着潜在矛盾的目标。它们必须去处理复杂和网络物理环境的不确定性。

希发基思表示，如今的人工智能只能提供最基本的服务，还不能使用大语言模型来可靠地驾驶汽车、组织智能工厂的生产或管理智能电网。

他指出，要充分利用人类与机器之间的互补性来加速知识的发展。人类在从高维数据中提取知识时，会受到认知复杂性的限制。然而，人们可以使用强大的抽象机制，比如归纳、隐喻、类比、创造性思维来开发符号知识。

为了研究复杂的现象，人们会做一些被可能被证明是不现实的简化。而机器能够通过从高维数据中创造知识来实现计算智能，但它们目前创造和应用符号知识的能力有限。

得益于超级计算机和 AI，人们可以创造出一种新型的知识，这些知识介于科学知识和隐性经验知识之间。通过这些知识人们可以建立“神经神谕（neural oracles）”，对物理、经济、社会等复杂现象进行预测。

希发基思表示，“这些知识完全由机器所发现，但不可能从概念上完全被理解。有了这种知识，我们或许就能克服理解世界的局限性。然而，在关键决策中使用这种知识时，我们应该停下来进行思考。”

其认为，人类正经历着一场阴险的反革命，非解释的知识不再发挥解放人类的作用，不再成为使社会进步的驱动力。希发基思指出，提高对人们正在经历的知识革命所产生的影响的认识是当务之急。要做到这一点，需要超越旧日的口号。

整体来看通过《理解和改变世界》这本书，读者们可以看到除了有形实体之外的无形实体的重要性，以及理解其发展和实施过程的必要。其能够说明源于信息学的新概念和新模式对于人类的帮助。并且，它展示了构成社会的所有结构到底是如何实施信息系统的，而信息系统的正常运作则取决于可靠知识的无缝和及时交流。

希发基思表示：“这本书能让读者通过认知的视角看待世界，并使他们以个人和公民的身份采取正确的行动。”