你对人工智能怎么看？
有不少聪明人对这个问题发表过夸张的言谈。
2014年，特斯拉汽车（Tesla Motors）和太空探索技术公司（SpaceX）的总裁埃隆·马斯克将当前围绕人工智能所做的研究比作“召唤恶魔”，称《2001太空漫游》中的恶意哈尔9000比起未来的人工智能来只是条小宠物狗。
同年，理论物理学家史蒂芬·霍金指出：“发明人工智能可能是个错误，人类迄今犯过的最大错误！”
作为美国佐治亚理工学院交互计算机系的一名人工智能研究员，马克·里德尔并不那么忧心忡忡。“我觉得走不到人工智能威胁人类的那步田地，”里德尔说，“我不信天网的狗血剧情，也不吃‘奇异性’那套，说什么人工智能会犯上作乱，与人为敌。里德尔指出，当前的人工智能还远不到那个程度，不会一下子视人类为威胁，决意谋反对立。
然而，有限的人工智能业已创建出来去执行特定任务，甚至在一些情况下他们就近在眼前。
人工智能已创建出来去执行特定任务，甚至在一些情况下他们就近在眼前，如谷歌无人驾驶车
无人驾驶汽车在开往果蔬店的日常出行中按照人类意愿行事时，面临着一个虽不至于激动万分却也有些类似的问题，即如何将人类的价值观植入人工智能才能使它不会故意伤人。
里德尔提议说，让人工智能理解人类的最佳方式就是让它们阅读能表达人类价值观的读物。再简单点，即理论上假如人工智能读的懂《圣经》以及任何一本书，它就能明白人类的善恶观。
“濡化法”能让人工智能变好吗？
里德尔认为，人工智能不是因为“邪恶”才伤害人类，而是因为它不懂伤害是什么。为人工智能列出一系列“禁令”就算可行也实在太难。里德尔提出，相反地，我们应该濡化人工智能。
里德尔和同事布伦特·哈里森在最近的一篇论文《用故事濡化人工智能》中阐述了这一方法，听上去还挺像回事。
他俩的研究基于《天方夜谭》中的苏丹新娘谢赫拉沙德，一个能够在看故事中学习，创写交互式视频小说的人工智能。里德尔和哈里森利用这种在千千万万个故事中感应模式的能力，创建了一个名为“堂吉诃德”的系统，指导人工智能妥善执行任务。
举个例子，里德尔和哈里森做了一次模拟实验，给一人工智能布置抓药任务。
“如果人工智能的优化标准设置为效率，它到药店可能偷了药就跑。但如若我们训练人工智能遵守社会规范，给它一箩筐此类示例，教它先到银行取钱，再去药店买药，前面有人就要排队等都是些我们习以为常的小事。若能让人工智能遵守这些社会秩序将对人类意义深远。”里德尔如是说。
虽然有条件局限和控制，里德尔哈里森的实验证明此方法还是可行的。因为是模拟任务，研究人员无法真的造出去往现实药店的机器人来，给人工智能灌输一套一堆严格编程的药店之行故事。
人工智能通过辨别不同药店故事中不同的选择，在同一情境中若能如人般行事就会受到嘉奖，否则就要接受惩罚。
诚然，诺言实现了，这也为确保“创造人工智能并非召唤恶魔”的良方奠定了基础。
“濡化法”的问题何在？
濡化人工智能虽然在某种程度上是可行的，但却引出了另一个道德上更加晦涩的问题：——谁来选材？
“濡化法的问题在于我们缺少一个记录着道德行为和不道德行为的大型语料库，”他指出。“但我们有前车之鉴，有许许多多好人好事、坏人坏事的例子，我们没有人类文化的使用指南，却有彰显着人类价值、信仰的集体结晶。”
“这是个政治难题，”莫雷诺说到。“在我看来不筛选是不行的。当发明出这样一个系统时，就要进行方方面面的评判。”
“去除反面英雄题材就能真正了解社会了吗？我的不适正源于此。跨入大数据时代，知道的越多越有安全感。从文化中提取故事如若可行，则从圣经、寓言到科幻小说、童话故事都可采纳进去。例子越多，越能找出应模仿的恰当行为。”
从文化中提取故事如若可行，则从圣经、寓言到科幻小说、童话故事都可采纳进去。
教会人工智能美德更甚人类固然美事一桩，但我们不能简单的给道德行为加密。
美国当代著名小说家艾萨克·阿西莫夫在1942年撰写《机器人三定律》时就曾有过这种直觉。因而里德尔现在努力争取的是创造与人类美德价值观一致的人工智能，希望这些人工智能够良善。（Emanuel Maiberg）
英国《金融时报》关于机器人的特别系列报道一直围绕着这样一个问题：机器人是敌是友？这让我很感兴趣。我知道变化是可怕的，我也知道《终结者》中的半机器人确实可怕。但我读到的证据表明，我们在人工智能（AI）、传感器开发以及其他很多领域看到的快速变化，并没有在把我们快速推向一个机器产生自我意识并接管一切的未来。担心这种未来毫无意义，就像人工智能先驱吴恩达（Andrew Ng）所说的那样，这就好像担心“火星上人口过多。”
一种更紧迫且更切实（因此也更可怕）的威胁是经济可能出现混乱。机器人（我姑且使用这个词代指快速扩张的现代数字技术工具）正快速学习大量曾经是人类专属的技能——从理解自然语言到诊断疾病、再到驾驶汽车。未来数年，这些技术高超的机器将出现在全球各个经济体中，他们将用自动化取代人工，致使一些或许多人失业。
这当然意味着机器人是我们的敌人喽？不，完全不是这样。认为答案是肯定的，就是把人类贬低为只不过是体力劳动者，这未免太小瞧我们这个物种了。
首先，很多人根本不是劳动者；他们是儿童或退休人士、病人或残障人士。对于这些人而言，技术进步是近乎纯粹的福音。它将让老年人能过上更自立的生活（比如，设想一下无人驾驶汽车带着他们探亲访友），同时让他们的家人能密切监控他们的状况，在他们摔倒或迷路时进行干预。它将让孩子们能按照自己的进度学习他们想学的知识。它将让患者能获得最适合自己的医学治疗，而不是仅仅获得通常而言最有效的治疗。
总的来说，我想不出对所有这些群体而言，科技进步何以会是一件不好的事情。确实，儿童可能会花费太多时间盯着他们的智能手机，父母应控制他们玩手机的时间。但电视这种原本足以让我们变成彼此不进行任何互动的僵尸的技术诞生了，我们安然无恙；因此，我相信，孩子们会没事的。
但我们这些真正在为生计工作的人呢？即便对于我们，机器人也并非敌人，原因有两个。首先，他们不会很快让我们都失业。仍有很多事情是机器做不了的——从收拾桌子到教一个班的学生写小说。就连对技术发展最乐观的人也不认为，这些工作将在不远的未来实现100%自动化。
确实，机器现在做不了的很多工作都薪水不高（这主要是因为可以做这些工作的人很多，大量的潜在劳动力供应让薪资高不起来）。我认为，解决这一挑战的最佳办法是将收入所得税降至负值，为低收入员工增加收入。
机器人并非敌人的第二个也是更为重要的原因在于，他们让我们总体变得更为富有。通过提高我们的能力和生产率，他们创造了更富足的生活。我们喜欢交流、学习、娱乐、旅行以及消费产品和服务。技术进步将让我们能用同样的钱（乃至免费——按照如今的趋势），以更高的质量做更多我们喜欢的事情。
确实，我们多数人享受到这种富足的方式是通过获取劳动报酬。此外，对于越来越多的人而言，这种“便宜劳动力”正变得愈发难以消受。因为由于全球化和技术进步，他们的技能变得不那么有价值了。我们需要弄清楚如何应对这种情况。这将是未来数十年最重要的政策领域之一。
但我们还需要记住，这种情况源于这一事实：技术让我们用更少的力气创造更多的价值。如果我们无法弄明白如何应对这种形势，如何确保以反映我们共同价值观、保护弱者的方式分享机器人的劳动成果，那么我们应该感到羞愧。如果是那样的话，我们已遭遇真正的敌人，那就是我们自己。（作者：安德鲁•麦克菲，美国麻省理工大学（MIT）首席研究科学家 ）
打印本文章
