ChatGPT甩了百度一大嘴巴子(5)
扫一扫
分享文章到微信
扫一扫
关注99科技网微信公众号
“以前AI的研发倾向于按领域训练出一个专有模型,比如一个专门翻译的AI模型,一个用于文本摘要的模型等等。但ChatGPT给大家证明一点,一个大规模的通用模型,可以解决大多数问题和任务。”
刘知远也表示,ChatGPT的出圈会让AI从过去只解决特定问题的“小作坊”转向了完成通用任务的“航空母舰”。这是两种底层技术的区别和迭代。
AIGC产业链,图源:国海证券
他介绍,在2010年左右,AI的深度学习曾受过一轮关注和讨论。当时的成功建立在有监督的机器学习上。
“AI学习的数据提前由专家标注好,这些数据都是有目标的。”此后的很长一段时间,“大家默认,数据标注得越多,模型学得就越好”。
但2018年开始,Open AI的GPT模型和谷歌的Bert等大语言模型横空出世,都是基于自监督学习方法。
“这类大模型的不同之处在于,不事先假定到底需要完成哪些任务或者特定能力。它穷尽互联网尽可能获取多的数据,让模型自动地从这些数据里面学习知识。”
几次迭代后,从ChatGPT的效果看,AI技术已经发生了跨越式的变化。
刘知远回忆,人工智能在2018年左右有一个热门研究领域,叫少次学习(Few-shot Learning),即假设AI学习了大量一定类别的数据后,对于新的类别,只需少量的样本就能快速学习。
“大模型的数据训练之后,我们会发现,因为AI见得足够多,它已经有了非常强的联想类比能力。过去没有的推理能力、少次学习、举一反三的能力,好像一下都出现了。”刘知远说。
喜人的技术革新由ChatGPT率先引爆。上述专家都相信,今后,大语言模型将成为人工智能届的主流。
—— || 03 || ——
99科技网:http://www.99it.com.cn
