首页 / 行业
ChatGPT需要多少算力支持? ChatGPT面临的挑战
2023-02-15 16:25:00
ChatGPT需要多少算力支持?
据中信建投研报数据,此前用于AI训练的算力增长符合摩尔定律,大约每20个月翻一番;深度学习的出现加速了性能的扩展,用于AI训练的算力大约每6个月翻一番;而目前大规模模型出现,其训练算力是原来的10到100倍。
“算力、算法、数据作为人工智能的三要素,在数字经济发展、产业智能化升级的进程中发挥巨大作用,数据可以看作生产资料,算法代表新的生产关系,算力则是新型生产力支撑着算法和数据,算力水平决定数据处理能力的强弱。在AI模型训练和推理运算过程中需要强大的算力支撑,随着训练强度和运算复杂程度的增加,算力精度的要求也在逐渐提高。”赛迪顾问人工智能产业研究中心常务副总经理邹德宝称。
根据国家数据资源调查报告,2021年全球数据总产量67ZB,近三年平均增速超过26%。基础算力、智能算力、超算算力都呈现稳定增长态势。
根据早些时候OpenAI发表了一份研究成果表明,AI训练所需算力指数增长,增长速度超越硬件的摩尔定律。
其实ChatGPT需要的算力取决于应用场景,一般来说,GPT需要大量的算力来完成复杂的任务。例如,在自然语言处理任务中,GPT需要大量的算力来处理大量的文本数据,以及处理复杂的语义关系。此外,GPT还需要大量的算力来处理复杂的图像和视频数据。
数据显示,自2012年至2018年,用于训练AI所需要的算力大约每隔3~4个月翻倍,整体呈现指数级上涨(而摩尔定律仅仅是18个月翻一倍)1。从2012年到2018年,训练AI所耗费的算力增长了30万倍,而摩尔定律在相同时间只有7倍的增长。
ChatGPT热度不减的背后,是人工智能内容自动生成技术所需要的算力需求也水涨船高。数据显示,ChatGPT的总算力消耗约为3640PF-days(即假如每秒计算一千万亿次,需要计算3640天),需要7~8个投资规模30亿、算力500P的数据中心才能支撑运行。
中国的算力情况正在迅速发展。根据最新的数据,中国的计算机算力已经超过美国,成为全球最大的计算机算力拥有国。中国的算力发展受到政府的大力支持,政府投入了大量资金用于研发新技术,推动算力的发展。此外,中国的科技公司也在积极投资算力,以满足市场需求。
ChatGPT大火面临的挑战
自ChatGPT发布以来,它的能力也不断被人们解锁,但人们在试用中慢慢发现,数学能力是ChatGPT的一大短板,连简单的“鸡兔同笼”题都能算错。大概是考虑到这一点,ChatGPT近日宣布了一次重要更新:提升了真实性和数学能力。
据了解,ChatGPT较上一代产品提升明显,对话模式具备更好的交互体验。但对比Google等搜索引擎,ChatGPT尚不具备替代搜索引擎的能力。ChatGPT的数据来自训练数据库,目前数据库仅更新至2021年,可用信息有限,同时真实性也无法得到保障。
主要来自于大量的文本数据,包括新闻文章、社交媒体帖子、书籍等。这些文本数据可以帮助ChatGPT学习语言,从而更好地理解人类语言。此外,从商业模式来看,ChatGPT目前采用免费的模式。
根据OpenAI的CEO SamAltman披露,ChatGPT每次聊天成本约为几美分,其中一部分来自Azure云服务,未来公司在持续优化成本的同时,会考虑通过收费获利,预计的收费模式包括订阅制、按条收费等。
文章综合选股宝、第一财经、中国科技网
最新内容
手机 |
相关内容
台积电1.4nm,有了新进展
台积电1.4nm,有了新进展,台积电,行业,需求,竞争力,支持,芯片,近日,台积电(TSMC)宣布将探索1.4纳米技术,这是一项令人振奋的举措,将有望为E芯片迈向系统化时代:EDA软件的创新
芯片迈向系统化时代:EDA软件的创新之路,时代,芯片,形式,支持,性能,验证,芯片设计是现代科技领域的重要组成部分,它涉及到电子设计自动射频前端芯片GC1103在智能家居无线
射频前端芯片GC1103在智能家居无线通信IoT模块中应用,模块,芯片,无线通信,智能家居,支持,数据交换,射频前端芯片GC1103是一种低功耗面向6G+AI,鹏城云脑的演进
面向6G+AI,鹏城云脑的演进,鹏城,人工智能,数据存储,脑可,智能终端,智能,随着科技的不断进步,人们的生活方式也在不断改变。6G+AI(人工阿里平头哥发布首颗SSD主控芯片:镇
阿里平头哥发布首颗SSD主控芯片:镇岳510,平头,芯片,物联网,性能,阿里巴巴,支持,阿里平头哥是指阿里巴巴集团的CTO张建锋,他在宣布了阿应用在阀门控制中的直流有刷驱动芯
应用在阀门控制中的直流有刷驱动芯片,芯片,控制,支持,远程控制,电动,调节,直流有刷驱动芯片是一种用于控制直流电机的IPB072N15N3G电路板技术水平和质量水平,影响着机
电路板技术水平和质量水平,影响着机器人赛道的发展前景,赛道,精度,支持,竞争力,可靠性,能和,电路板技术水平和质量水平对机器人赛道Transphorm推出TOLL封装FET,将氮化
Transphorm推出TOLL封装FET,将氮化镓定位为支持高功率能耗人工智能应用的最佳器件,支持,定位,推出,高功率,封装,器件,加利福尼亚州戈