• 1
  • 2
  • 3
  • 4

首页 / 行业

ChatGPT需要多少算力支持? ChatGPT面临的挑战

2023-02-15 16:25:00

ChatGPT需要多少算力支持? ChatGPT面临的挑战

ChatGPT需要多少算力支持?

据中信建投研报数据,此前用于AI训练的算力增长符合摩尔定律,大约每20个月翻一番;深度学习的出现加速了性能的扩展,用于AI训练的算力大约每6个月翻一番;而目前大规模模型出现,其训练算力是原来的10到100倍。

“算力、算法、数据作为人工智能的三要素,在数字经济发展、产业智能化升级的进程中发挥巨大作用,数据可以看作生产资料,算法代表新的生产关系,算力则是新型生产力支撑着算法和数据,算力水平决定数据处理能力的强弱。在AI模型训练和推理运算过程中需要强大的算力支撑,随着训练强度和运算复杂程度的增加,算力精度的要求也在逐渐提高。”赛迪顾问人工智能产业研究中心常务副总经理邹德宝称。

根据国家数据资源调查报告,2021年全球数据总产量67ZB,近三年平均增速超过26%。基础算力、智能算力、超算算力都呈现稳定增长态势。

根据早些时候OpenAI发表了一份研究成果表明,AI训练所需算力指数增长,增长速度超越硬件的摩尔定律。

其实ChatGPT需要的算力取决于应用场景,一般来说,GPT需要大量的算力来完成复杂的任务。例如,在自然语言处理任务中,GPT需要大量的算力来处理大量的文本数据,以及处理复杂的语义关系。此外,GPT还需要大量的算力来处理复杂的图像和视频数据。

数据显示,自2012年至2018年,用于训练AI所需要的算力大约每隔3~4个月翻倍,整体呈现指数级上涨(而摩尔定律仅仅是18个月翻一倍)1。从2012年到2018年,训练AI所耗费的算力增长了30万倍,而摩尔定律在相同时间只有7倍的增长。

ChatGPT热度不减的背后,是人工智能内容自动生成技术所需要的算力需求也水涨船高。数据显示,ChatGPT的总算力消耗约为3640PF-days(即假如每秒计算一千万亿次,需要计算3640天),需要7~8个投资规模30亿、算力500P的数据中心才能支撑运行。

中国的算力情况正在迅速发展。根据最新的数据,中国的计算机算力已经超过美国,成为全球最大的计算机算力拥有国。中国的算力发展受到政府的大力支持,政府投入了大量资金用于研发新技术,推动算力的发展。此外,中国的科技公司也在积极投资算力,以满足市场需求。

ChatGPT大火面临的挑战

自ChatGPT发布以来,它的能力也不断被人们解锁,但人们在试用中慢慢发现,数学能力是ChatGPT的一大短板,连简单的“鸡兔同笼”题都能算错。大概是考虑到这一点,ChatGPT近日宣布了一次重要更新:提升了真实性和数学能力。

据了解,ChatGPT较上一代产品提升明显,对话模式具备更好的交互体验。但对比Google等搜索引擎,ChatGPT尚不具备替代搜索引擎的能力。ChatGPT的数据来自训练数据库,目前数据库仅更新至2021年,可用信息有限,同时真实性也无法得到保障。

主要来自于大量的文本数据,包括新闻文章、社交媒体帖子、书籍等。这些文本数据可以帮助ChatGPT学习语言,从而更好地理解人类语言。此外,从商业模式来看,ChatGPT目前采用免费的模式。

根据OpenAI的CEO SamAltman披露,ChatGPT每次聊天成本约为几美分,其中一部分来自Azure云服务,未来公司在持续优化成本的同时,会考虑通过收费获利,预计的收费模式包括订阅制、按条收费等。

文章综合选股宝、第一财经、中国科技网

摩尔定律支持训练硬件

  • 1
  • 2
  • 3
  • 4

最新内容

手机

相关内容

  • 1
  • 2
  • 3

猜你喜欢