用户名:  密码:   
网站首页即时通讯活动公告最新消息科技前沿学人动向两岸三地人在海外历届活动关于我们联系我们申请加入
栏目导航 — 美国华裔教授专家网科技动向学人动向
关键字  范围   
 
李开复:人工智能带来的真正危机是让人类丧失斗志
李开复:人工智能带来的真正危机是让人类丧失斗志
2016/3/13 7:05:32 | 浏览:1297 | 评论:0

李开复:人工智能带来的真正危机是让人类丧失斗志

机器速度会越来越快,学习能力会越来越强,数据会越来越多。

  3月9日AlphaGo第一盘棋战胜了李世石,激起了各种“机器超越人类,科幻小说将成真”的讨论。特别有趣的是有人揣测AlphaGo下面会不会故意输下几盘棋,以免人类起疑心,阻挡了它统治人类的野心。

  其实,虽然机器在逻辑分析推算方面,能力会远超人类,但是依然是属于人类操控的工具 。AlphaGo这类的“人工智能”机器真正可能带来的危机,不是奴役人类,而是让人类丧失斗志,无所事事。

  有些人描述AlphaGo是“和人一样的方式思考,但是比人快无数倍”。这么说并不精确。AlphaGo确实比人快无数倍,但是AlphaGo的思考只能说是“被人的大脑启发”,而非和人类思考一样。AlphaGo是一个能自我学习的深度学习,经过专家的调节,它能在任何在可以纯凭逻辑分析推算的问题上,把人类远远低抛在后面。机器速度会越来越快,学习能力会越来越强,数据会越来越多。

  基于深度学习的人工智能将带来什么改变呢?我们将看到无数的商机和产品,能够解决问题、拯救生命、产生巨大的商业和用户价值。未来, 自动交易能得到更高的投资回报和风险比例,自动诊断+基因排序会达到个性化精准医疗,推荐引擎将能推荐你最可能会买的产品、想吃的菜,想认识的人。在拥有大数据+大计算+专家调节的领域,就不必再跟人类相比了,因为人类根本差的太远了(就像没有人能打败搜索引擎一样)。

  这些技术可能辅助专家,也可能取代专家。非专家的工作者很多将会面临失业。未来十年,大部分今天的人类工作可被机器取代。机器将取代许多的护士、记者、会计、 教师、股理财师……的工作。任何带有“助理”、“代理”或“经纪”等字样的职位都很可能被取代。 这些机器不需要工资, 只需要供电和网,就会一年365天,一天24小时“上班”。这些机器将帮助我们创造世界上的大部分财富。

  虽然这些机器确实很“聪明”,而且又高效、勤奋、低廉,但是他们并不“人性化”,只是冷冰冰的机器和工具。比如说,AlphaGo第一场就战胜了李世石,但是它不会感觉高兴,也不会理解我们对于它的讨论。甚至,它说不上这局棋是怎么赢的。

  因为,它的思考虽然周密,但是它不懂“赢了有什么感受?”, 也不懂“为什么围棋好玩”,更不懂“人为什么要下棋?”,甚至连“你今天怎么赢的?”都说不上。今天的机器完全无法理解人的情感、喜怒哀乐、七情六欲、信任尊重、 价值观等方面 。对于人文艺术、美和爱、幽默感,机器更是丝毫不懂。

  有位AI研究员做了一套研究幽默感的系统,然后输入了一篇文章,这个系统看了每句话,都说“哈哈”! 今天的机器连个两岁小孩都不如。对人工智能的研究者,这应该是一大未来的挑战。

李开复:人工智能带来的真正危机是让人类丧失斗志
虽然李世石输了,但未来机器统治人类的预测还很遥远

  所以,今天这些机器仅仅是我们的工具,会为创造价值。至少今天,我们不必担心人工智奴役我们(不过要盯好拥有机器学习+大数据的公司,别来作恶伤害用户)。那我们该担心什么呢?这些强大的机器,将带来人类能否度过有史以来最大的“下岗潮”。这次的“机器取代人类”将远超过去的工业革命和信息革命。不过,“下岗”还不是最可怕的, 因为这些机器会产生巨大的商业价值,养活着这些下岗者,进而养活着人类。

  人类最应该担心的是:一旦当机器供养着人类,人类达到了马斯洛需求的基本需求,人类真的还会有动力去追求更宏伟的目标,自我实现吗?还是会醉生梦死、无所事事地或者?

李开复:人工智能带来的真正危机是让人类丧失斗志
未来机器养活无所事事的人:真实的危机

  面对这个担心,我们应该:

  1、关注启发式教育,用互动式教育启发孩子对学习的兴趣和效率。AlphaGo愿意跟人类学习,我们当然也要善用最善于分析,最博学的机器。善于学习,乐于学习的孩子,是不会醉生梦死的。

  2、正视发育右脑的学科领域,平衡文理。塞翁失马,焉知非福?机器超越人类的左脑(工程逻辑思维),也许就是要人类从过去几十年重视理工,倾斜回来,花更多的精力在机器不擅长的右脑,例如: 文学诗歌、艺术音乐、电影话剧、文创设计、工匠之美、宗教哲学、沟通情商。这不是说就不要学理工了,而是说应该让适合理工,爱好理工的人学理工,适合人文,爱好人文的人学人文。我们应该平等看待文理,并且鼓励发展文理双全的人才。

  3、鼓励有上进心的年轻人挑战自己,孜孜以求,成为专才。不要把时间浪费在“安稳”但是重复性的工作上,而要 以“成为某个特殊又有用领域的最顶尖人才”为目标,为己任。

那些对人工智能的恐惧,大多源自于人类对自身的厌恶

  伍隅

  李开复:人工智能带来的真正危机是让人类丧失斗志

AlphaGo如果想更接近人类,它的思考方式必须像一个人

AlphaGo接连两战打败李世石。有些人突然睡不着觉了。

  睡不着的人多半不是为了感叹,诶呀!科技真进步!而是担心突然有一天,黑客帝国的一幕出现在眼前:“人类是一种病毒……我们(机器人)才是解药……”

AlphaGo是划时代的

  和90年代深蓝战胜国际象棋冠军——卡斯帕罗夫,所引发的人类对AI初次集体焦虑不同。这一次,AlphaGo没有使用蛮力算法(brute force algorithm)。当年深蓝的胜出方式很干脆,卡斯帕罗夫说自己每下一步,会推演3-5步,在棋局关键步数上会提前计算12-14步。而深蓝可以每秒钟轻松计算出上亿个棋子可能移动的位置。尽管,卡斯帕罗夫在下棋过程中故意不按常理出棋,试图打破计算机的惯性思维,甚至在落败后强调对方作弊,上演了一系列狗血故事,但最终大部分人还是相信,97年一战之后,计算机已经可以超越人类国际象棋棋手。

  但围棋不同。它是人类最具变化性的桌游项目。在19乘19的棋盘格上,黑白两子所能演变出来的可能性是3(黑、白、空)的361次方(19*19)。除去规则上不允许的组合,依然约有2.08×10^170种可能。下棋过程,棋子之间完全没有优劣高低(比如象棋的车比兵的力量强大),无法对变量进行赋值计算,方寸之间瞬息万变。有人计算过靠超级运算能力,算出必胜棋局需要的运算量在10^600以上。目前根本做不到。但更重要的是,这并不是人类下棋的思维方式。AlphaGo如果想更接近人类,它的思考方式必须像一个人。

  根据Google的说法,AlphaGo不是一台单纯的超级计算机,而是由多个数据中心作为节点相连的神经网络系统,这种卷积神经网络常常用来做图像识别。而且它还有两套神经网络,策略网络(policy network),和价值网络(value network)。AlphaGo用策略网络运算靠谱的下棋招式,并且同时用价值网络减少不必要的瞎想,也就是说它只会集中精力想未来的20步棋,而不是天马行空的计算上百步。这会更较接近人类的思考方式。在有关AlphaGo大战李世石的报道里,都在不断强调,人类棋手在下围棋时,常常凭借“直觉”(intuition)也就是棋感。而AlphaGo则通过大量的学习,表现出了这种直觉。

  但AlphaGo的胜利并不是源自于一种新技术和新算法,而是表现出了目前这种算法展现出的新高度。

但它还没牛到可以毁灭人类

  没人觉得以现在人工智能的水平,能前一秒在围棋上击败了李世石,后一秒就开始琢磨人类怎么这么笨,于是决定自我复制,最终统治地球。但人工智能发展了60年,很多人逐渐觉得,未来的AI不可能一心一意为人类服务,鞠躬尽瘁死而后已。尤其是当它们足够聪明,就不可能甘心做一个工具。

   对于人工智能的讨论已经不光是一个科学问题,还是一个哲学的问题。但究竟这个世界能否出现对人类有威胁的人工智能,依然是所有讨论的基础。有一派人坚定的认为,人类不可能造出超越人脑的机器。而另一部分人则觉得值得期待,如果非要给出一个时限,人们给出的中值是在2040年到2050年之间。

  但无论人们觉得人工智能是造福、还是毁灭人类,如果不继续研究下去,都始终无法给出结论。只有当我们越深入开发,才能越了解它的危险和价值,并且采取对应的措施。面对人工智能的理智态度,绝不是停滞不前,空想和焦虑。

如果AI够聪明,它就一定要毁灭人类吗?

  人类开发出超越人类智力水平的人工智能,和它们将毁灭人类,这两者之间没有必然的因果关系。

   首先,智力水平和领导地位在某种程度上缺乏必然联系。智力超群的人类,比如科学家和哲学家,在我们这个社会中并没有扮演统治者的角色。即便是最聪明的科学家也要等着政府拨款和企业赞助。而权力和资源、社会关系的关系反而更加密切。所以想要靠智力水平超越人类,从而实现统治,需要的恐怕不是一般意义的高智商,而是我们无法体会的超高智商。

  其次,我很同意Evernote创始人Phil Libin对于AI的观点。就算有一天,一个超高智力水平,且完全理性思考的人工智能,真的获得了统治地位。为什么这个地球的最新主宰者,做出的理智决定是要毁灭全人类?事实上,人类越聪明,越不会轻易杀人,也不会对其他物种实施灭绝政策。相反我们会保护野生物种,和生态环境。这面除了感情的因素,还有更多理性思考,因为它们会对人类产生价值。除非,它们没有价值,或者“有害”。

  归根结底,那些对于人工智能的恐惧,还是源于我们对于自身缺陷的担忧,对人类不智行为的愧疚,以及对这个我们本身这个物种缺乏自信。我们担心的不是人工智能,而是担心出现一个超人。它有超越人类的能力,以及超越人类的“自私”和“邪恶”。才会把人类曾经做出的极端行为,加倍奉还。

相比AI,人类更可能会毁在其他问题上

  人工智能的确是一个我们需要关注和警惕的领域,就像所有现代科学领域,如果不能有效的控制管理,都有可能产生巨大威力。但它目前仍然不是一个我们需要为之焦虑的话题。尤其是当我们面对空气污染,气候变化,贫困和流行病,这些更有可能随时消灭人类的现实问题时。

   尽管,比尔盖茨发表过AI将对人类产生威胁的观点,但盖茨基金会大部分的工作重点依然在防止传染病方面。而他本人也认为(经过大量计算和分析),如果在有生之年经历人类大规模消亡,那么最有可能的祸根,不是核战争、不地震,也不是小行星的撞击,而是一场大规模的流行病。从致死数字和比例上看,黑死病和1918年的全球性H1N1甲型流感,完胜世界大战。Elon Musk也谈过人工智能的危险,但他目前在搞的这些无人驾驶技术,说白了也是人工智能。

  显然,最了解人工智能的人群,并没有我们想象的那么焦虑。

相关栏目:『学人动向
王缉思 | 国家终极政治目标是:安全、财富、信仰、公正和自由 2021-10-13 [6]
郭英剑:众多中国高校擅自将专硕学制“二改三”,到底错在哪里 2021-10-13 [101]
密歇根大学华裔教授盛宗亮两次获普利策奖 却被控种族歧视遭停课 2021-10-10 [205]
Facebook前华裔女数据科学家张学菲愿意去国会就前雇主所作所为作证 2021-10-12 [202]
新冠口服新藥是否會改變人類基因、致癌? 專家質疑 2021-10-12 [90]
陈功:现在就是世界的至暗时刻 2021-10-11 [153]
李井奎|诺奖得主Angrist的“出生季节论“:多读一年书到底能带来多少收入 2021-10-11 [72]
李稻葵:今年的诺贝尔经济学奖其实颁发给了经济学界的‘新潮流’ 2021-10-11 [83]
杨均明 |逻辑的力量:文明的竞争,核心是效率的竞争 2021-10-09 [170]
李成:重塑中美关系的希望在于中产阶级 2021-10-08 [305]
相关栏目更多文章
最新图文:
:摄影师苏唐诗与寂寞百年的故宫对话6年,3万张照片美伦美奂 :大数据分析图解:2019中国企业500强 张梦然:英国惠康桑格研究所:人体内的微生物与出生方式有关 :美众议院将调查华裔部长赵小兰“利用职权为家族谋利“ :UCLA CCS 2019 Fall Quarter Lecture Series Overview 谭晶晶:美国科技界高度关注中国科技创新进展 :推荐:2019年底前中国高校重要学术论坛(10月 - 12 月) :黄奇帆:今后10年,中国经济将发生5个历史性变化
更多最新图文
更多《即时通讯》>>
 
打印本文章
 
您的名字:
电子邮件:
留言内容:
注意: 留言内容不要超过4000字,否则会被截断。
未 审 核:  是
  
关于我们联系我们申请加入后台管理设为主页加入收藏
美国华裔教授专家网版权所有,谢绝拷贝。如欲选登或发表,请与美国华裔教授专家网联系。
Copyright © 2021 ScholarsUpdate.com. All Rights Reserved.