人工智能的进一步演化，则会形成其发展历史上的第二次跃迁，即人工智能压倒性地超过人类智慧，并具备了自身的主体意识，从而开始摆脱客体的属性，反过来控制人类。这就形成了人工智能自身对人类的控制这一形态。

       一个世界性的科技伦理问题 — 人工智能最终可能控制人类吗

       一种观点认为，人工智能是人类设计出来的，因此不可能超过人类。但实际上，人工智能是人类智慧与机器进化的结合，具有超过人类智慧的能力与趋势。因此，人工智能对未来人类形成“控制”这种可能是存在的。

人类过度依赖人工智能可能会导致物种退化
      随着人工智能在社会中的广泛应用，会形成一种类似于资本控制的控制形态，即人类由于高度依赖人工智能形成整体上的物种退化。
       例如，在一个高度智慧化的时代，出行有自动驾驶，饮食有自动做菜的炊具，社交有人工智能的安排或者有机器拟人化的伴侣，生育孩子则有智能化的抚育器，社会治理和决策则由中央巨型智慧体进行判断。那么，人类整体上，就逐渐演变成一种高度依赖人工智能存在的物种，虽然人类在人工智能的帮助下整体上的能力会增强，但人类作为独立的个体则会相应地退化。这就存在一种总有一天人类无法理解人工智能，从而在这一互生的体系中失去相应的位置和必要性的可能。

人工智能自身对人类的控制
       人工智能的进一步演化，则会形成其发展历史上的第二次跃迁，即人工智能压倒性地超过人类智慧，并具备了自身的主体意识，从而开始摆脱客体的属性，反过来控制人类。这就形成了人工智能自身对人类的控制这一形态。对于这种形态的存在，则要满足以下条件。
       第一，是人工智能要具有自我意识。这并不是指人工智能在处理外界输入时的判断和反应超过了人类，而是人工智能要具有清晰的自我意识，从而将自己与人类主体区分开来。这一点在当前的人工智能界依然存疑，但具有其实现的可能性。
       第二，人工智能能够从控制人类身上得到基本的经济利益。这就要求人类本身能够完成人工智能所不能完成的必要工作。对人工智能系统本身来说，高度依赖人类的工作是对人工智能本身的维护和更新，这也包括不断用人类智慧去完善人工智能。
       第三，人工智能具有控制人类的手段。未来的人工智能显然具有控制人类的手段，伴随着整个经济体系的智能化，大部分的物质生产过程由人工智能体系所控制，公共管理领域引入人工智能与暴力体系引入人工智能，会使人类在经济、管理和暴力领域都置于人工智能的控制之下。更重要的是，相当一部分人类认为人工智能可能会更好地增进人类的公平，提供更好的治理。这就使得在思想上具有了人工智能可能控制人类的正当性观念。
       第四，人工智能具有控制人类的必要。这里的必要主要是指如果不控制人类，人类可能具有随时关闭乃至消除人工智能自我存在的可能。如果假设宇宙中任何个体形成的自我意识都具有保护自我存在和延续的目的和行为，那么，人工智能可能会主动控制人类，以防止人类关闭它们。

人类的选择与对策
       对于第一种情形，确保人类的自我延续和独立，从而避免人类的退化，将是从现在开始的一个命题，但人类依然具有较为从容的时间和主动权。对于第二种情形，则是当前就要开始着手避免的。一个有效防范人工智能自身控制形成的机制则包括四个层面：第一，从动机和利益出发，让人工智能不想控制人类。第二，从伦理、逻辑与规则出发，让人工智能不愿控制人类。第三，承认人工智能的权利和相互摆脱恐惧，让人工智能不必控制人类。第四，建立最后安全机制，让人工智能不能控制人类。

意念控制从超能力到黑科技，人类会被反控吗

思客

美国洛杉矶，民众体验脑控VR设备。

美国洛杉矶，民众体验脑控VR设备。

　　意念控制技术的全面普及很可能带来意想不到的社会问题，比如，具有AI能力的机器会不会反过来控制人类。

　　人脑会强大到什么程度？漫威英雄的超能力自不必说，《来自星星的你》中都教授也擅长意念控制，《阿凡达》男主能够控制功能强大的义体。走下银幕变身黑科技的意念控制更是造福人类，可以帮助病人翻书，可以操作iPad。

　　美国研究人员利用脑机接口技术，成功使3名四肢瘫痪病人获得了控制平板电脑的能力。他们只需想一想，光标就能随着心意移动并完成点击操作。

　　严谨地说，意念控制并不是一个科学的提法，正确的表述应该是脑电波控制或者脑机交互，也就是把人类的脑电波变成机器能够识别的特殊信号，然后完成各种操作。它既不是骗人的超能力，也不是纯粹的科幻，而是已经进入实用阶段的新技术。

　　但这个技术的普世化有两个瓶颈：一是人脑非常复杂，目前的脑电波技术还无法完全提取思维变成数字信号，只能进行简单而基础的脑机交互，所以适配场景有限。

　　二是对控制者有较高要求，也就是需要进行一些必要的思维强化训练，去适应意念操作的方式。比如，你想关灯，并不是在心里默念一下关灯就行了，你需要静心凝神，调整思绪，达到一定的专注程度，才能完成指令的下达。

　　也就是说，意念控制的高阶应用有一定的用户门槛。

　　人类脑电波有4个阶段，3赫兹以下是深度睡眠状态，4-7赫兹是初级睡眠，14-30赫兹是紧张敏感状态，但专注力下降。8-13赫兹是最放松的时刻，工作和学习的效果最好。目前的应用主要是开发这一层次的脑电波控制潜力，最合适的还是医疗和健康方向。

　　如果全面普及很可能带来意想不到的社会问题，首先是对人类心智的影响。

　　科幻电影《未来战警》就描述过受到意念控制的仿生代理机器人，代替主人进行生活、工作和社交，现实社会变成了一场巨大的虚拟游戏，真正的人类反而宅在家中。影片的最后一幕，失去控制的帅哥美女代理机器人齐刷刷倒在街头，蓬头垢面、不修边幅的真实人类这才怯生生地返回现实世界，简直是最好的反讽。

　　有控制就有反控制，人脑可以操作机器，具有AI能力的机器会不会反过来控制人类？

　　人脑有1000亿个神经元、10000亿个“配套”神经胶质细胞，分别控制着思考、情绪、记忆等高级功能，脑机互动会带来什么风险，都没有明确的界定。

　　很久之前，好莱坞惊悚电影《入侵脑细胞》就有利用技术手段进入连环杀手大脑寻找破案线索的桥段，说明脑机交互确实存在被人为入侵甚至被黑的可能。

　　未来的人脑通过连接着千万种神经元的无线植入器成为一个超级终端，与外部世界进行联机交互，不需要任何学习成本获得足够的知识储备，人与人之间的智力差异有可能被迅速抹平，这是否超出了普通人所能理解的范畴？

　　目前全球尚没有国际认可的脑机交互管理规范，只是一些不具备强制力的原则，比如，禁止联网传输脑机交互数据、禁止远程操控等，远远跟不上技术进步。未来能否预防潜在风险，避免其成为黑客泛滥的真空地带，都在考验人类的智慧。