ChatGPT甩了百度一大嘴巴子(6)
扫一扫
分享文章到微信
扫一扫
关注99科技网微信公众号
中国没能诞生 ChatGPT ,谁全责?
一个重要的前沿方向在几年前就出现。但2018年以来,除了Open AI和谷歌“大张旗鼓”在做,鲜有科技公司入局。中国的大厂除了百度和华为,其他也极少公开其对大语言模型的布局。
一个说法是,这是一个很贵的技术。Open AI很特殊,所有的资源流向了它。
2019年,设计ChatGPT的旧金山小公司OpenAI获得了微软大手笔10亿美元的投资。在此后的几年里,微软又悄悄地投资20亿美元。
完美的合作不止体现在“不差钱”上。前谷歌研究员艾登·戈麦斯曾表示,“建立这些系统真的需要一台超级计算机。而地球上没有多少这样的计算机。”
2019年,Open AI首席执行官山姆·奥尔特曼在受访时透露:“微软10亿美元的投资大部分是以OpenAI所需的计算能力出现的。微软成为其实验室唯一的算力来源。”
靠着“金主爸爸”的投资,GPT-3模型在2020年推出时,便突破了千亿级参数。据国盛证券2月12日名为《ChatGpt需要多少算力》的报告估算,GPT-3训练一次的成本约为140万美元(约合960万元)。对于一些更大的语言模型,训练成本介于200万美元至1200万美元(1300万-8300万元)之间。
OpenAI text-davinci-003模型,是所有模型里效果最接近ChatGPT的一个模型。
该报告同时表示,对于全球科技大企业而言,百万至千万美元级别的训练成本虽然不便宜,但尚在可接受范围内。
“不算昂贵。”
单次成本大概率不是中国巨头们的考量。张俊林认为,Open AI最难得的是,它突破了长期以来AI届的思维惯性。
“以前没走训练大模型的路,完全是基于思维惯性。几十年来,AI届的主流都在研究小模型,希望渐进式地实现突破和发展。”
问题不再于是否舍得投钱,而是取决于公司对通用人工智能的信心。
“不是说之前就没有大厂想过这条路。有很多人想过这条路,”张俊林说,“但是没有人(像Open AI一样)如此有决心发展LLM。那时候,大家不知道这条路能不能走得通,也就不会不计回报地烧钱。”
99科技网:http://www.99it.com.cn
