这项最新调查劝退效果拉满：67% 的 NLPer 怀疑自己的研究没价值(4)

与规模化的观点形成对比，受访者对于语言理论、归纳偏差的支持度实际上不低。50% 的人认为，语言结构对于解决 NLP 问题是有必要的；51% 的人认为专家设计的归纳偏差也很重要。许多 NLP 研究者似乎认为，当前使用低归纳偏差的神经网络架构进行端到端建模的趋势将会发生逆转。 此外，有 61% 的受访者表示，2030 年被引用次数最多的五个系统很可能会从过去 50 年语言学或认知科学研究中获取灵感。而事实上，当前系统对认知科学的借鉴还仅仅停留在对神经元、注意力、token 的粗略解释上。

AGI 及其风险

AGI 的争议

Q3-1：了解 AGI 的潜在发展及其利益/风险应该是 NLP 研究者的一个重要关注事项。

Q3-2：大规模机器学习建模（例如语言建模和强化学习）的最新进展是 AGI 发展的重要表现。

GPT-3 和 PaLM 等大型预训练模型的多功能性和令人惊艳的语言输出，引发了人们对通用人工智能 (AGI) 的巨大争议，包括预测 AGI 何时会到来，我们是否真的在朝着 AGI 前进，以及 AGI 的后果会是什么，等等。 在关于 AGI 的问题上，受访者的意见分布比较均衡，58% 的人认为 AGI 应当是 NLP 研究者的一个重要关注点，57% 的人相信最近的研究显著推动了我们向 AGI 方向发展。这两种观点具有高度正相关性。 AGI 会带来什么？

Q3-3：在本世纪，由 AI/ML 的进步引起的劳动力自动化可能会导致具有工业革命规模的经济重组和社会变革。

Q3-4：在本世纪，由 AI/ML 系统做出的决策可能会引发一场全面核战争级别的严重灾难。

73% 的受访者认为，AI 的自动化可能很快会带来革命性的社会变革，这也是有那么多人认为 AGI 是一个重要问题的原因。值得注意的是，有 23% 的人尽管认同这种变革，但并不同意 AGI 的重要性，所以，关于 NLP 的讨论或许没有必要牵扯进关于 AGI 的辩论中。 此外，大约三分之一（36%) 的人认为，AI 决策可能会导致核战争级别的灾难。这表明，有相当一部分研究者都对 AGI 表示担忧。