AI发展比核武更具有不确定性，别说伦理，超越人类的各种 “框架”几乎是必然的

【本文由“印加节度使”推荐，来自《AI的伦理悖论》评论区，标题为小编添加】

• 晨枫

• 一本书、一个视频甚至一句话都是人“制作”的吧？那是制作的人在作恶，你觉得呢？

他并没有get到你担忧的那个点，无异于南辕北辙。

这个涉及的学科方面比较多也比较复杂，可能不是一两句话或者几篇文章所能说明白的。

一方面是伦理学在人类文明发展中的作用和变化，不可能刻舟求剑的给一个框架就一劳永逸。

一方面是人的主观意识在环境变化中的不可知变化。

一个是AI作为工具的意义，在被不同动机的人 “赋能”中具有不同的发展方向。

最后是AI在自我学习、自我提升、自我觉醒中的变化。

人是一切社会活动的主体，随着自然环境和社会环境的变化制定“规则”（道德、法律以及伦理）并在这个框架中进行各种活动。如果把AI比作一个婴儿，“他”是否能遵从同时代的这个“框架”就是现在人们所担忧的。

最后，国家之间是无政府主义的状态，只有联合国这个脆弱的框架在约束国际事务。如果一个单一国家给AI在法律范围内一个约束，是可控的，但是这就像不扩散核武器条约一样，国家之间很难建立互信。

综上，个人浅见，AI的发展比核武更具有不确定性，别说伦理了，超越人类的各种 “框架”几乎是必然的。