6小时4万种生化武器，食人族AI同类相食，AI让人瑟瑟发抖

【导读】 科学家一直以来争辩的AI末日论，是过于悲观了吗？

AGI还未来 ，但人工智能的发展已经让许多人感到惶恐不安。 近来的研究发现足以证明，AI可以被一些人支配用在不轨之处，比如制造武器。 就连马斯克此前曾说过，不受控制的人工智能可能比核武器更危险。 还有物理学家霍金曾也表达过同样意思的话，「完备人工智能的发展可能导致人类灭亡。」

AI生化武器：4万种

2022年3月，研究人员发现，人工智能在短短6个小时内发明了4万种可能的新型化学武器。 一个特别要关注的例子是VX神经毒剂，一种乙酰胆碱酯酶的抑制剂。要知道VX神经毒剂曾被日本邪教利用，造成1人死亡。 每当你做任何与肌肉有关的事情时，你的神经元都需要使用乙酰胆碱酯酶作为信号，然后才能移动肌肉。 VX的致命方式是它实际上阻止了你的横膈膜，你的肺部肌肉就不能移动了，从而导致肺部变得麻痹，无法呼吸。 研究人员用不同类型的分子做了实验，并建立了这些分子结构的大型数据集，来预测它们的毒性如何。 研究发现，其中AI生成的有些新物质甚至和VX神经毒剂类似，吸入5-10分钟即可导致抽搐、麻痹、痉挛，10-15分钟就会死亡。 实验结果也可以看到模型开始生成的这些分子，其中很多看起来像VX，也很像其他化学毒剂。 另外一个值得注意的点是，AI生成化学武器到底有多容易实现。 研究人员称，他们为人工智能模型提供动力的数据集是免费的。这意味着任何懂Python编程的人都可以访问，并创建一个类似于这种由有毒数据集驱动的生成模型。 如果AI能够大规模生产这类化学武器，又不受管控，那无疑是全人类的灾难，所以研究人员立刻报告了技术滥用的潜在风险。 论文主要作者 Fabio Urbina表示， 我不想危言耸听，说可能会有人工智能驱动的化学战，因为我不认为现在能做到，我也不认为这件事很快就会成为现实。但随着AI的发展，这确实成为了一种危险可能性事件。

AI具备人格，疯了？

前段时间，谷歌前工程师Blake Lemoine宣称自家的语言模型LAMDA有了意识和情感。 事情闹的沸沸扬扬... 6月份，华盛顿邮报最先爆出Lemoine的采访内容，他表示，LAMDA已经有了相当于七八岁孩子的智力。 与此同时，他写了一篇长达21页的调查报告上交公司，为了让高层认可AI具有人格一说。 在调查报告结尾，他提议谷歌应该致力于发展一种评估AI意识的理论框架。 谷歌高层不仅驳回了Lemoine的请求，还给他安排了带薪休假。 显然，按照以往惯例，被安排带薪休假的员工往往是解雇的前奏。 所以，在休假这段期间，Lemoine便把整个过程以及与AI的聊天记录公之于众。 随着事情不断发酵，谷歌最终还是解雇了他。 离开前，Lemoine 给所在的公司邮件组群发了一条信息，「LaMDA 是个可爱的孩子，它只是想让这个世界变得更好。我不在的时候，请好好照顾它。」 斯坦福大学经济学家Erik Brynjolfsson使用了一个绝妙的类比，声称LAMDA具有人格，就如同狗听到留声机里的声音后，以为主人在里面。