欧洲的一个研究团队宣布，如果有意使用人工智能，可以轻松制造大量全新的生化武器，人工智能经过开发，能够帮助改变这个星球上的战争版图；这一结果引发了科学家的担忧。

根据3月7日发表在《自然·机器智能》（Nature Machine Intelligence）期刊上的一项研究，该团队设计了名为MegaSyn2的分子生成器，这是一种使用机器学习来寻找治疗人类疾病的新型化合物的算法。

机器学习是人工智能的一个分支，旨在构建和开发算法，使计算机能够像人类一样“学习”，利用可用信息推导出一般规则和规定，然后将其应用到接收的信息中。

反向目标

在正常情况下，算法是为了减少危害和最大化利益而设计的，即在算法的第一个循环中产生化合物后，在第二个循环中对其进行细化，使其主要服务于安全目的，对人体无害。

当然，这是可以理解的，任何研究人员都会使用这种逻辑来开发一种新的治疗方法，以获得尽可能多的益处，并尽可能地减少伤害。

但根据新的研究，研究人员逆向运作了这一机制，因此该算法学会了偏爱伤害和避免利益。在开启后不到6小时内，他们的模型产生了40000个被视为对人体有害的化学分子。

继续看全文