6小时4万种生化武器，食人族AI同类相食，AI让人瑟瑟发抖(2)

食人族AI，同类相食

到目前为止，AI做过的最令人毛骨悚然的事情是什么？ 虚拟同类相食，算吗？ 21世纪初，研究员Mike Sellers为美国国防部高级研究计划局（DARPA）开发了一个社交AI。 「我们有2个智能体，分别命名为亚当和夏娃。它们只知道如何行事，但对其他事情一无所知。比如知道如何吃，但不知道吃什么。」 研究人员便在模拟的环境中放置一颗苹果树，AI可以通过吃苹果来模拟饥饿感的满足而获得奖励。若是它们吃了树皮和房子，就不会触发奖励。 此外，研究人员又创造了一个叫Stan的智能体。 当亚当和夏娃吃苹果的时候，Stan正好也在场并在附近闲逛，它们便把Stan和吃苹果能够满足饥饿感联系在一起。 在吃完树上的苹果后，它们仍饥肠辘辘，便环顾四周，评估潜在的目标。 但是让人想不到的是，它们竟把Stan当成了食物，给吃了。 Mike Sellers表示， 在这个 AI 架构中，我们试图对行为施加尽可能少的限制……但在那之后我们确实设置了一个严格的禁止同类相食的限制：无论他们有多饿，他们都不会再互相吃同类了。

欢迎关注人工智能产业链联盟！期待您的加入！>>