去年网上流传过一则趣闻。美国圣昆丁州立监狱安排囚犯学习编程，犯人出狱后，没有一个再犯罪被抓回。一位刚出狱的囚犯说：“太可怕了，我宁愿在外面饿死也不想再去学编程了。”

　　最后这句话是网友杜撰的，在程序员圈子里被当作笑话转发。但我觉得这则新闻是个很好的象征：当代社会就像一座机器组成的监狱，学会技术可以摆脱牢房。

　　人类已经不再生活在大自然里了，而是生活在机器环境中：住宅、交通、医疗、食物⋯⋯就连水和空气都是机器提供的。如果机器出故障，人类顿时就有危机。就像病人依赖呼吸机和心脏起搏器，人类也依赖着机器。整个社会已经机器化了。

　　我们理应享受技术成果，这没有问题。问题是，技术正变得越来越先进，也越来越难懂，大多数人已经不能够理解技术了。多少人能说清，手机通信的原理是什么？为什么对着空气发送信号，就能被几千公里以外的另一个人实时收到，而不会发错对象？为什么扫一下手机二维码，你的资金就转到了商家账上？

　　我们已经不懂技术如何达成这一切，只能按照别人设计好的方式，像傻瓜一样使用它。但是，如果有一天，你请不到人，或者索性机器坏了，你不就被困在了机器组成的监狱里了吗？

　　糟糕的是，技术已经变得如此复杂，没有人能够全部搞懂。就拿计算机来说，从底层的CPU芯片一直到上层的图形界面，中间大概依次有几十层（甚至上百层）操作接口，要想全部掌握这些层，几乎是不可能的。也就是说，没人能理解全部的技术，每个人只懂自己的那一小块。

　　因此我们根本无法预测和判断，某个领域的技术发展会引起整个系统怎样的变化。我们只能走一步看一步。

　　技术最终会把人类带到哪里呢？我们已经完全不知道了。小说《冰与火之歌》里，寒冷的北方有一道绝境长城，外面就是危险地带，任何人不得跨越。我最近常想，技术有没有边界呢？一旦接近“绝境长城”，我们就会自觉停在那里，不再往下发展。

　　举例来说，人工智能领域有一个概念，叫做“终极智能”。意思是，当机器的智能达到这种程度时，就不需要人类再做发明创造了，因为机器自己就会发明创造。如果这种“终极智能”真的可能实现，技术要不要去实现它呢？

　　目前来看，技术完全是野蛮生长，没有办法遏制。哪怕某种技术最终给人类带来毁灭性影响，我们也无能为力。

　　只要技术有能力做到的事情，最终都会做到。就像我们随意地往花盆里面扔种子，原意是种花，但长出来的可能是一棵树。我们能做的，就是在旁边看着它长。一旦植物长得太大，超过了花盆所能承受的重量，整个花盆就将倾覆。

　　我想到了另一个笑话：

　　一架飞机即将起飞，里面坐的都是各大软件公司的老板。这时，机长问：“如果这架飞机的控制软件是你的公司写的，你还敢坐吗？”除了一个人，其他人都表示不敢坐。机长走到惟一愿意留下的乘客面前，钦佩地说：“看来您对自己公司的软件非常有信心。”对方摇摇头：“不是啦，我很清楚，如果你们用了我们的软件，这架飞机根本飞不起来。”

　　我第一次听的反应是，这不是笑话。一架民航客机有100多吨，就悬浮在空中，上不着天，下不着地，机上乘客的性命其实完全取决于技术，我们真的是在把生命托付给软件公司。

　　如今，我的这种想法更强烈了。它其实是一个隐喻，整个人类正坐在一架软件驾驶的飞机里面，只能祈祷软件运行永远不发生错误。一旦发生问题，人类就会坠机。

　　物理学告诉我们，要想让飞机在高空不掉下来，就必须高速前进，不能够失去速度。技术也是如此。为了让现有的技术更可靠，只有发展更先进的技术。人类已经走上 一条无法回头的道路，只能提速，不能减速。

　　一个依赖技术的高科技、高度自动化社会，也是一个非常脆弱的社会。有人说，一旦出现危机（比如全球变暖或战争），人类就会减缓甚至冻结技术发展的速度。

　　错！危机只会进一步加速技术发展。技术的危机只能用更好的技术解决，否则人类社会就有立刻崩溃的危险。但是，高速公路上不能刹车，意味着什么？

　　20世纪初，美国经济学家熊彼特说过一句名言：“资本主义经济最终将因为无法承受其快速膨胀带来的能量，而崩溃于自身的规模。”我觉得，技术可能也是如此。高速发展所蕴含的巨大能量，最终将把人类社会带到难以预测的脆弱状态。