曾想让AI替人累，结果AI替代人类，这真的我们想要的未来吗？

电脑开始流行起来的时候，人们发现电脑真的是很棒的工具，可以轻松完成人类头晕眼花也做不完的计算，那时没人觉得电脑会抢夺人类的岗位，因为这些累活人类也不想干。

以这样的速度发展下去，可以预见电脑最终会成为能思考所有问题的机器；人们给这种高于工具属性的机器，或者实现方式，成为“人工智能”，简称AI。科幻作家忧虑人类自身的生理局限和人性的根本，对AI带来的未来通常都是偏向负面想象的，要么成为赛博朋克那样科技先进而寡头拥有绝对技术代差和资源优势、普通人在底层挣扎的社会，要么成为《终结者》那样的天网谋求统治全球、抹掉人类的世界，甚至即使在机器人三原则下AI的思考结果最克制也只能是“通过限制人类自由避免人类伤害自己”的《我，机器人》。也就是，AI将作为思考能力霸权的存在，要么成为统治者的统治工具，要么自身就是统治者，依赖AI作出判断的人类要么成为AI的宠物，要么流落成AI的弃物。

有这样的想象，根源在于人类对自身作为“万物之灵”的定位受到挑战、可能无法稳固地统治万物的恐惧，事实上跟对外星人（文明）的恐惧差不多，但相比远在宙边且不一定存在的星际文明，人类自己已经能构建且快速进化的AI能更是近在咫尺甚至越逼越近。星际文明对人类的威胁不过是想占领地球——人类还可以逃，或者想清理其他文明——反正谁不是逃无可逃；而AI对人类的威胁可会是，像人类奴役牲畜、精英奴役底层民众、霸权奴役仆从国那样，AI奴役一切人类、阶层、国家——这么想下来AI跟人造毒品还有什么区别？

就算不想那么远，就想想近期大热的“萝卜快跑”，无人出租车替代人类司机的忧虑已经让我们如此坐立不安。曾经有人想象“机器替我辛勤劳作，我自忙碌琴棋书画”，现今却是：棋，连公认最复杂的围棋，也已经被深度学习攻克；书，强大的生成式人工智能比人类码字灌水迅猛多了，“融梗”以后哪轮得到人类；画，扩散引擎已经可以通过寥寥几句生成相应的画面甚至视频，几秒一张图就能替代画师一天的活；乃至琴，AI作曲谱曲编曲已经熟练到能横扫大半“音乐人”的阵地；更有甚者，AI甚至已经初步实现了“写程序的程序”这一程序员的幻想……

有人说，AI不懂物理，不懂三维空间，不懂乐理不懂文法，现在能生成的东西不过都是模仿复制人类已有的东西组合出来的罢了，不算是“创新”，所以人类在创新创意的能力上还是AI无法企及的。尽管这说法听起来有点道理，但大多数人其实并不是从事创新创意工作，大多数人其实还是处于被AI替代的“阴影区”；而且，AI已经在算法和数据结构上模仿生物神经网络，其学习思考的方式已经和人类非常接近，只要其“上下文（context）”参考数据量足够大甚至超越人类，其能替代人类的思考的程度就会越来越高（更不用说如果量子计算机神经网络出现的话……），最终通过排列组合产生的“创新”也会冲击大部分人类创新工作。

现在，人类的想象还停留在AI能够替人类作出判断、但人类仍然能使用断电的法子重新夺回控制权的阶段，见电影《流浪地球》、《机器人瓦力》；但随着纳米技术、量子技术的不断发展，给出材料就能3D打印想要的各种组件（电影《流浪地球2》）甚至成品（游戏《看门狗2》）的想象将会成真，甚至纳米机器人的想象也可能成真，到时AI掌握这些技术给自己构建身体修复身体甚至改造地球都将不在话下，至起码也不会像电影《复仇者联盟2：奥创纪元》那样把机器身体都砸稀巴烂就完事了，到时该怎么构建关闭AI的最终开关、谁拥有控制这开关的权力？总不会必须大代价去中断最终能源供给（如《中国2185》那样全国停电，甚至电影《黑客帝国》那样屏蔽全球阳光后还失败了）来关停吧？