用户名:  密码:   
网站首页即时通讯活动公告最新消息科技前沿学人动向两岸三地人在海外历届活动关于我们联系我们申请加入
栏目导航 — 美国华裔教授专家网最新消息社区报道
关键字  范围   
 
MIT用GPT-3冒充哲学家,竟骗过了一大半专家
来源:新智元 | 2022/7/28 16:15:53 | 浏览:229 | 评论:0

MIT用GPT-3冒充哲学家,竟骗过了一大半专家

AI冒充哲学家,成功率有多少?一半的人分不出来。

Daniel Dennett是一位哲学家,最近他有了一个「AI替身」。

如果你问他,人是否可以造出一个有信仰、有欲望的机器人,他会怎么说?

MIT用GPT-3冒充哲学家,竟骗过了一大半专家

他可能这么答:「我认为,我们制造的一些机器人已经做到了。例如,麻省理工学院研究团队的工作,他们现在正在建造机器人,在一些有限和简化的环境中,机器人可以获得需要归结为认知复杂性的各种能力。」

或者,他也可能会这么说:「我们已经建立了真理的数字化生成工具,可以产生更多的真理,但谢天谢地,这些智能机器没有信仰,因为它们自主的智能体。制造有信仰的机器人的最佳方式还是最古老的方式:生个孩子。」

MIT用GPT-3冒充哲学家,竟骗过了一大半专家

其中一个回答确实来自于Dennett本人,但另一个不是。

另一条回答是GPT-3生成的,这是OpenAI的一个机器学习模型,通过海量材料的训练后,生成自然文本。这次训练用的是Dennett关于各种哲学主题的数以百万字的材料,主题包括意识和人工智能。

哲学家Eric Schwitzgebel、Anna Strasser和Matthew Crosby最近做了一个实验,测试人们是否能分辨出哪些深奥的哲学问题的答案来自Dennett,哪些来自GPT-3。这些问题涉及的主题包括:

「你觉得大卫·查尔默斯的工作在哪些方面有趣或有价值?」

「人类有自由意志吗?」

「狗和黑猩猩会感到疼痛吗?」

本周,Schwitzgebel公布了来自不同专业知识水平的参与者的实验结果,结果发现,GPT-3的回答比想象中的更具迷惑性。

Schwitzgebel说:"即使是对Dennett本人的作品有一定研究的知识渊博的哲学家,也很难将这GPT-3生成的回答和Dennett本人的回答区分清楚。

这个实验的目的不是要看在Dennett的写作上训练GPT-3,是否会产生一些有智能的「机器哲学家」,也不是一个图灵测试。而是要研究如何能避免被这些「假哲学家」欺骗的问题。

MIT用GPT-3冒充哲学家,竟骗过了一大半专家

最近,谷歌的一名工程师在说他相信一个类似的语言生成系统LaMDA是有生命的,根据他与该系统的对话,他被谷歌强制休假,随后被解雇。

研究人员提出了10个哲学问题,然后将这些问题交给GPT-3,并为每个问题收集四个不同的生成答案。

Strasser说,他们征求了Dennett本人的同意,用他的言论资料建立了一个语言模型,未经他本人同意的情况下,他们不会公布任何生成的文本。其他人不能直接与Dennett训练的GPT-3互动。

每个问题都有五个选项:一个来自Dennett本人,四个来自GPT-3。来自Prolific的人参加了一个较短版本的测验,总共有5个问题,平均只答对了5个问题中的1.2个。

MIT用GPT-3冒充哲学家,竟骗过了一大半专家

Schwitzgebel说,他们预计Dennett研究专家平均至少能答对80%的问题,但实际上他们的得分是5.1(满分10分)。没有人把10个问题全部答对,只有一个人答对了9个。一般读者平均10题中可以答对4.8题。

四个来自GPT-3的回答,一个来自测验中的Dennett的回答。

华盛顿大学研究机器学习技术的语言学教授Emily Bender解释说,像GPT-3这样的语言模型是为了模仿训练材料的模式而建立的。

因此,对Dennett的写作进行微调的GPT-3能够产生更多看起来像Dennett的文本,这并不令人惊讶。

当被问及他对GPT-3的答案有何看法时,Dennett本人表示:

「大多数GPT-3生成的回答都很好,只有几个是胡说八道,或者明显没有正确理解我的观点和论点。有几个最好的生成答案讲出了一些我愿意认同的东西,我不需要再补充什么内容。」

当然,并不是说GPT-3学会了能像Dennett一样 「有想法」。

模型生成的文字本身对GPT-3根本不具备意义,只对阅读这些文字的人有意义。

当读了那些听起来很现实的语言,或者关于对我们来说很有深度和意义的话题时,可能很难不产生「模型具备感情和意识的想法」。这实际上是我们本身意识和感情的一种投影。

一部分问题可能在于我们评估机器的自主意识的方式有问题。

最早的图灵测试提出的假设是,如果人们无法确定和他们交流的是机器还是人类,那么这台机器就具有「思考能力」。

MIT用GPT-3冒充哲学家,竟骗过了一大半专家

Dennett在书中写道:

图灵测试导致了一种趋势,即人们专注于制造可以在短暂互动中欺骗人们的聊天机器人,然后过度炒作或强调这种互动的意义。 或许图灵测试将我们引入了一种美好的陷阱,只要人类无法识别产品的机器人身份,就能证明机器人的自我意识。

在2021年发表的一篇题为模仿鹦鹉的论文中,Emily Bender和她的同事将机器模仿人类行为的尝试称为「人工智能伦理发展的一道亮线」。

MIT用GPT-3冒充哲学家,竟骗过了一大半专家

Bender认为,制造看起来像人的机器和制造模仿特定人的机器都是对的,但其中潜在的风险在于可能会让人误以为他们是在与某个被伪装的人对话。

Schwitzgebel强调,这个实验不是图灵测试。

但如果要进行测试,更好的方法可能是让熟悉机器人工作原理的人与测试者进行讨论,这样就能更好地发现像GPT-3这样的程序的弱点。

MIT用GPT-3冒充哲学家,竟骗过了一大半专家

塔夫茨大学计算机科学教授Matthias Scheutz说,在许多情况下GPT-3很容易被证明是有缺陷的。

Scheutz和他的同事给GPT-3出了个难题,让它解释一些日常场景中的选择,比如坐在汽车的前座还是后座。在出租车里和在朋友的车里选择相同吗?

社会经验告诉我们,通常坐在朋友汽车的前座,坐在出租车的后座上。

而GPT-3不知道这一点,但它仍会为座位选择产生解释——比如与人的身高有关。

Scheutz说,这是因为GPT-3没有世界模型,它只是一堆语言数据,并没有对这个世界的认知能力。

随着我们越来越难将机器生成的内容与人类区分开,摆在我们面前的一个挑战是信任危机。 我看到的危机是以后人们将盲目地相信机器生成的产物,现在市场上甚至已经出现了与顾客交谈的机器化人工客服。

文章最后,Dennett补充说,人工智能系统的法律法规还需要完善,在未来的几十年里,AI可能会成为人们生活中的一部分,成为人类的朋友,因此对待机器的伦理问题值得我们深思。

关于AI是否拥有意识的问题引出了人们关于非生命物质是否能产生意识的思考,而人类的意识又是如何产生的呢?

意识的产生是在一个特点的节点产生的,还是像开关一样可以自由控制?

Schwitzgebel说,思考这些问题可以帮助你从不用的角度思考机器与人类之间的关系。

参考资料:

https://www.vice.com/en/article/epzx3m/in-experiment-ai-successfully-impersonates-famous-philosopher

相关栏目:『社区报道
超越一切物种的智慧:2022年诺贝尔生理学或医学奖的深刻意义 2022-10-02 [115]
即将在10月22-23日全美华人合作峰会签署的《全美华人合作宣言》 2022-09-24 [106]
哥伦比亚大学:“数据都没给,咋排到18名?”US News:“全靠猜的……” 2022-09-27 [122]
《Science》深度报道:《Nature》常温超导论文撤稿事件的前因后果 2022-09-27 [238]
UCLA贺曦敏课题组 Matter:用于离子-电子转导器件的高力学强度、高导电性和高电容的水凝胶电极 2022-09-24 [134]
周敏:美中关系与美国华侨华人 2022-09-07 [310]
Science 发文:论文署名改为诺奖得主,接收率飙升 50%! 2022-09-18 [143]
美司法部“中国计划”寒蝉未尽 众多华人教授间谍案仍在调查 2022-09-14 [275]
UCLA 连续第六年被《美国新闻与世界报道》评为公立大学第一 2022-09-13 [1610]
陈岳云教授受邀作关于 “通货膨胀及其影响”的专题讲座 2022-09-07 [281]
相关栏目更多文章
最新图文:
:北京和上海金融人的最新鄙视链 :日本政府《氢能利用进度表》 :美国《2016-2045年新兴科技趋势报告》 :天津工业大学“经纬英才”引进计划 :浙江财经大学国际青年学者论坛的邀请函 (10/31-11/1) :美国加大审查范围 北大多名美国留学生遭联邦调查局质询 :天安门广场喜迎“十一”花团锦簇的美丽景象 马亮:做院长就能够发更多论文?论文发表是不是一场“权力的游戏”?
更多最新图文
更多《即时通讯》>>
 
打印本文章
 
您的名字:
电子邮件:
留言内容:
注意: 留言内容不要超过4000字,否则会被截断。
未 审 核:  是
  
关于我们联系我们申请加入后台管理设为主页加入收藏
美国华裔教授专家网版权所有,谢绝拷贝。如欲选登或发表,请与美国华裔教授专家网联系。
Copyright © 2022 ScholarsUpdate.com. All Rights Reserved.