用户名:  密码:   
网站首页即时通讯活动公告最新消息科技前沿学人动向两岸三地人在海外历届活动关于我们联系我们申请加入
栏目导航 — 美国华裔教授专家网科技动向学人动向
关键字  范围   
 
何哲:人工智能最终可能控制人类吗
何哲:人工智能最终可能控制人类吗
2018/12/6 2:27:28 | 浏览:3532 | 评论:1

      人工智能的进一步演化,则会形成其发展历史上的第二次跃迁,即人工智能压倒性地超过人类智慧,并具备了自身的主体意识,从而开始摆脱客体的属性,反过来控制人类。这就形成了人工智能自身对人类的控制这一形态。

何哲:人工智能最终可能控制人类吗

       一个世界性的科技伦理问题 — 人工智能最终可能控制人类吗

       一种观点认为,人工智能是人类设计出来的,因此不可能超过人类。但实际上,人工智能是人类智慧与机器进化的结合,具有超过人类智慧的能力与趋势。因此,人工智能对未来人类形成“控制”这种可能是存在的。

人类过度依赖人工智能可能会导致物种退化
      随着人工智能在社会中的广泛应用,会形成一种类似于资本控制的控制形态,即人类由于高度依赖人工智能形成整体上的物种退化。
       例如,在一个高度智慧化的时代,出行有自动驾驶,饮食有自动做菜的炊具,社交有人工智能的安排或者有机器拟人化的伴侣,生育孩子则有智能化的抚育器,社会治理和决策则由中央巨型智慧体进行判断。那么,人类整体上,就逐渐演变成一种高度依赖人工智能存在的物种,虽然人类在人工智能的帮助下整体上的能力会增强,但人类作为独立的个体则会相应地退化。这就存在一种总有一天人类无法理解人工智能,从而在这一互生的体系中失去相应的位置和必要性的可能。

人工智能自身对人类的控制
       人工智能的进一步演化,则会形成其发展历史上的第二次跃迁,即人工智能压倒性地超过人类智慧,并具备了自身的主体意识,从而开始摆脱客体的属性,反过来控制人类。这就形成了人工智能自身对人类的控制这一形态。对于这种形态的存在,则要满足以下条件。
       第一,是人工智能要具有自我意识。这并不是指人工智能在处理外界输入时的判断和反应超过了人类,而是人工智能要具有清晰的自我意识,从而将自己与人类主体区分开来。这一点在当前的人工智能界依然存疑,但具有其实现的可能性。
       第二,人工智能能够从控制人类身上得到基本的经济利益。这就要求人类本身能够完成人工智能所不能完成的必要工作。对人工智能系统本身来说,高度依赖人类的工作是对人工智能本身的维护和更新,这也包括不断用人类智慧去完善人工智能。
       第三,人工智能具有控制人类的手段。未来的人工智能显然具有控制人类的手段,伴随着整个经济体系的智能化,大部分的物质生产过程由人工智能体系所控制,公共管理领域引入人工智能与暴力体系引入人工智能,会使人类在经济、管理和暴力领域都置于人工智能的控制之下。更重要的是,相当一部分人类认为人工智能可能会更好地增进人类的公平,提供更好的治理。这就使得在思想上具有了人工智能可能控制人类的正当性观念。
       第四,人工智能具有控制人类的必要。这里的必要主要是指如果不控制人类,人类可能具有随时关闭乃至消除人工智能自我存在的可能。如果假设宇宙中任何个体形成的自我意识都具有保护自我存在和延续的目的和行为,那么,人工智能可能会主动控制人类,以防止人类关闭它们。

人类的选择与对策
       对于第一种情形,确保人类的自我延续和独立,从而避免人类的退化,将是从现在开始的一个命题,但人类依然具有较为从容的时间和主动权。对于第二种情形,则是当前就要开始着手避免的。一个有效防范人工智能自身控制形成的机制则包括四个层面:第一,从动机和利益出发,让人工智能不想控制人类。第二,从伦理、逻辑与规则出发,让人工智能不愿控制人类。第三,承认人工智能的权利和相互摆脱恐惧,让人工智能不必控制人类。第四,建立最后安全机制,让人工智能不能控制人类。


意念控制从超能力到黑科技,人类会被反控吗

思客

何哲:人工智能最终可能控制人类吗

美国洛杉矶,民众体验脑控VR设备。

美国洛杉矶,民众体验脑控VR设备。

  意念控制技术的全面普及很可能带来意想不到的社会问题,比如,具有AI能力的机器会不会反过来控制人类。

  人脑会强大到什么程度?漫威英雄的超能力自不必说,《来自星星的你》中都教授也擅长意念控制,《阿凡达》男主能够控制功能强大的义体。走下银幕变身黑科技的意念控制更是造福人类,可以帮助病人翻书,可以操作iPad。

  美国研究人员利用脑机接口技术,成功使3名四肢瘫痪病人获得了控制平板电脑的能力。他们只需想一想,光标就能随着心意移动并完成点击操作。

  严谨地说,意念控制并不是一个科学的提法,正确的表述应该是脑电波控制或者脑机交互,也就是把人类的脑电波变成机器能够识别的特殊信号,然后完成各种操作。它既不是骗人的超能力,也不是纯粹的科幻,而是已经进入实用阶段的新技术。

  但这个技术的普世化有两个瓶颈:一是人脑非常复杂,目前的脑电波技术还无法完全提取思维变成数字信号,只能进行简单而基础的脑机交互,所以适配场景有限。

  二是对控制者有较高要求,也就是需要进行一些必要的思维强化训练,去适应意念操作的方式。比如,你想关灯,并不是在心里默念一下关灯就行了,你需要静心凝神,调整思绪,达到一定的专注程度,才能完成指令的下达。

  也就是说,意念控制的高阶应用有一定的用户门槛。

  人类脑电波有4个阶段,3赫兹以下是深度睡眠状态,4-7赫兹是初级睡眠,14-30赫兹是紧张敏感状态,但专注力下降。8-13赫兹是最放松的时刻,工作和学习的效果最好。目前的应用主要是开发这一层次的脑电波控制潜力,最合适的还是医疗和健康方向。

  如果全面普及很可能带来意想不到的社会问题,首先是对人类心智的影响。

  科幻电影《未来战警》就描述过受到意念控制的仿生代理机器人,代替主人进行生活、工作和社交,现实社会变成了一场巨大的虚拟游戏,真正的人类反而宅在家中。影片的最后一幕,失去控制的帅哥美女代理机器人齐刷刷倒在街头,蓬头垢面、不修边幅的真实人类这才怯生生地返回现实世界,简直是最好的反讽。

  有控制就有反控制,人脑可以操作机器,具有AI能力的机器会不会反过来控制人类?

  人脑有1000亿个神经元、10000亿个“配套”神经胶质细胞,分别控制着思考、情绪、记忆等高级功能,脑机互动会带来什么风险,都没有明确的界定。

  很久之前,好莱坞惊悚电影《入侵脑细胞》就有利用技术手段进入连环杀手大脑寻找破案线索的桥段,说明脑机交互确实存在被人为入侵甚至被黑的可能。

  未来的人脑通过连接着千万种神经元的无线植入器成为一个超级终端,与外部世界进行联机交互,不需要任何学习成本获得足够的知识储备,人与人之间的智力差异有可能被迅速抹平,这是否超出了普通人所能理解的范畴?

  目前全球尚没有国际认可的脑机交互管理规范,只是一些不具备强制力的原则,比如,禁止联网传输脑机交互数据、禁止远程操控等,远远跟不上技术进步。未来能否预防潜在风险,避免其成为黑客泛滥的真空地带,都在考验人类的智慧。

相关栏目:『学人动向
Raymond Ro:一位上纽商学教授的非典型跨界 2025-03-18 [79]
威尔·杜兰特:文明倒退的七种征兆 2025-03-17 [106]
何清涟:大争之世,坚守理想但要尊重事实 ——回应德国驻新加坡大使方迪娜《坚守国际社会理念》 2025-03-14 [96]
[聚焦]赵晓:从俄乌争论看中国人的主流世界观 2025-03-10 [171]
孙立平:“五大寄生虫”阻碍中国经济发展 2025-03-07 [279]
许小年:经济还要下滑3到5年,将正面抗击三头灰犀牛 2025-03-07 [316]
吴菊生:【川普、泽连斯基及时代变迁】 2025-03-07 [250]
“万一成了呢?” ——赵晓速评川普最新国会讲话 2025-03-07 [250]
华人数学奇迹年,希尔伯特第六问题宣称解决! 2025-03-07 [347]
宋才发教授发表《在乡村振兴中推进农村养老保障体系建设》论文 2025-03-03 [386]
相关栏目更多文章
最新图文:
:浙江财经大学国际青年学者论坛的邀请函 (10/31-11/1) :美国加大审查范围 北大多名美国留学生遭联邦调查局质询 :天安门广场喜迎“十一”花团锦簇的美丽景象 马亮:做院长就能够发更多论文?论文发表是不是一场“权力的游戏”? :印裔人才在美碾压华裔:我们可以从印度教育中学到什么? :北京452万人将从北京迁至雄安(附部分央企名单) :《2019全球肿瘤趋势报告》 :阿尔茨海默病预防与干预核心讯息图解
更多最新图文
更多《即时通讯》>>
游客去游客家留言留言于2018-12-10 09:22:29(第1条)
人类无法解决二阶逻辑问题,所以人工智能不会走的太远,更不可能超越人类。
什么是二阶逻辑呢,一般数学家物理学家都不懂。我举一个简单例子;“加速度”不是一个基本量,例如长度或者质量,而是一个变化率,还是二阶变化率,即变化率的变化率。
例如三体问题(月球—地球—太阳)一直无法解决。
例如黎曼猜想:A(零点)成立充分必要条件依赖于包含A之中的B成立,而B有无穷多个可能。
所以不用担心人工智能控制人类。
 
打印本文章
 
您的名字:
电子邮件:
留言内容:
注意: 留言内容不要超过4000字,否则会被截断。
未 审 核:  是
  
关于我们联系我们申请加入后台管理设为主页加入收藏
美国华裔教授专家网版权所有,谢绝拷贝。如欲选登或发表,请与美国华裔教授专家网联系。
Copyright © 2025 ScholarsUpdate.com. All Rights Reserved.