首页 / 行业
以昇思为基,盘古生态引领中国AI未来
2023-04-13 10:18:00
尽管提倡在整个行业范围内停止人工智能训练,但据报道,埃隆·马斯克 (Elon Musk)已经在 Twitter 内启动了一个重大的人工智能项目。据Business Insider报道,该公司已经购买了大约 10,000 个 GPU,并从 DeepMind 招募了 AI 人才,用于涉及大型语言模型 (LLM) 的项目 。
以昇思为基,盘古生态引领中国AI未来
一位知情人士表示,马斯克的 AI 项目仍处于初始阶段。然而,根据另一个人的说法,获得大量额外的计算能力表明他致力于推进该项目。同时,生成人工智能的确切目的尚不清楚,但潜在的应用包括改进搜索功能或生成有针对性的广告内容。
目前,尚不清楚 Twitter 采购了哪些具体硬件。然而,据报道,尽管 Twitter 一直存在财务问题,但据报道 Twitter 在这些计算 GPU 上花费了数千万美元,马斯克将其描述为“不稳定的财务状况”。这些 GPU 预计将部署在 Twitter 剩余的两个数据中心之一,亚特兰大是最有可能的目的地。有趣的是,马斯克在 12 月下旬关闭了 Twitter 在萨克拉门托的主要数据中心,这显然降低了公司的计算能力。
除了为其生成式 AI 项目购买 GPU 硬件外,Twitter 还在招聘更多的工程师。今年早些时候,该公司从Alphabet 的子公司AI Research DeepMind招募了工程师 Igor Babuschkin 和 Manuel Kroiss。至少从 2 月开始,马斯克一直在积极寻找 AI 行业的人才,以与 OpenAI 的 ChatGPT 竞争。
OpenAI使用Nvidia 的 A100 GPU 来训练其 ChatGPT 机器人,并继续使用这些机器来运行它。到目前为止,Nvidia 已经推出了 A100 的后继产品,其H100计算 GPU 在大约相同的功率下速度快了几倍。
Twitter 可能会在其 AI 项目中使用 Nvidia 的 Hopper H100 或类似硬件,尽管我们在此进行推测。考虑到该公司尚未确定其 AI 项目的用途,因此很难估计它可能需要多少个 Hopper GPU。
通常Twitter 这样的大公司购买硬件时,他们会以特价购买,因为他们采购了数千台。与此同时,如果单独从 CDW 等零售商处购买,Nvidia 的 H100 主板单价可能超过 10,000 美元,由此可以看出该公司可能为其 AI 计划在硬件上花费了多少。
ChatGPT迈向商用,GPU需求上看3万颗
ChatGPT近期掀起云端与AI产业话题,Microsoft、Google、百度等相继推出基于生成式AI衍生的产品服务,根据集邦(TrendForce)最新报告「从AIGC看云端AI应用趋势与挑战」,未来迈向商用将上看3万颗;在此热潮下, GPU及AI芯片相关供应链业者可望受惠。
不过,集邦指出,市场普及度和产品服务的功能优化仍待考验,且由于AI是以用户体验为核心,涉及个资及内容提供的正确性,因此下个发展阶段或将还会面临法规问题。
TrendForce表示,生成式AI是透过GAN、CLIP、Transformer、Diffusion等演算法、预训练模型、多模态等AI技术的整合,在既有数据或资料中寻找规律,并在资料汇整、社交互动、文案产出等领域带出高效的内容产出,以及与用户互动体验。现行市面上已有不少生成式AI之应用,较常见的产出类别包括文字、图像、音乐、编码等。
集邦表示,数据、算力、算法是深耕生成式AI不可或缺的三大关键,且产品服务易做但优化困难,因此,握有相关资源的云端大厂在发展上将更具优势。就厂商角度而言,由于ChatGPT等生成式AI聊天机器人不仅能与用户自然对话,「类理解需求」的能力使其针对各式咨询能进一步提供建议,加上使用搜寻引擎已相当普遍,因此透过强化搜寻引擎已是各云端大厂的首要任务。
据TrendForce调查,目前全球搜寻引擎市场以超过9成的Google引擎为首,Microsoft Bing仅占3%,短期间不致造成威胁,但随着用户扩大、数据回馈与模型优化的循环,是否会产生服务差异甚或抢占广告商机,也是Google不得不预防的潜在风险。
集邦表示,由于生成式AI必须投入巨量资料进行训练,为缩短训练就得采用大量高效能GPU。以ChatGPT背后的GPT模型为例,其训练参数从2018年约1.2亿个到2020年已暴增至近1,800亿个,估GPU需求量预估约2万颗,未来迈向商用将上看3万颗。
集邦表示,生成式AI发展将成为趋势,将带动GPU需求显著提升,连带使相关供应链受惠,其中最大受益者是GPU芯片龙头的英伟达(NVIDIA),旗下可达到5 PetaFLOPS运算效能的DGX A100,几乎是目前用于大规模资料分析、AI加速运算的首选;此外,尚有推出MI100、MI200、MI300系列芯片的超微(AMD)。
审核编辑 :李倩
最新内容
手机 |
相关内容
芯片迈向系统化时代:EDA软件的创新
芯片迈向系统化时代:EDA软件的创新之路,时代,芯片,形式,支持,性能,验证,芯片设计是现代科技领域的重要组成部分,它涉及到电子设计自动清华大学研发光电融合芯片,算力超商
清华大学研发光电融合芯片,算力超商用芯片三千余倍,芯片,研发,商用,测试,计算,科学研究,近日,清华大学发布了一项重要科研成果,他们成所有遥不可及,终因AI触手可及
所有遥不可及,终因AI触手可及,出行,平台,无人驾驶汽车,导致,人工智能,学习,人类历史上,有许多事物曾被认为是遥不可及的,然而随着科技面向6G+AI,鹏城云脑的演进
面向6G+AI,鹏城云脑的演进,鹏城,人工智能,数据存储,脑可,智能终端,智能,随着科技的不断进步,人们的生活方式也在不断改变。6G+AI(人工黑芝麻智能助力亿咖通科技旗下首款
黑芝麻智能助力亿咖通科技旗下首款智能驾驶计算平台成功量产交付,智能驾驶,计算,助力,首款,交付,智能,近年来,智能驾驶技术逐渐成为探秘英伟达显卡的制造之路 | 英伟
探秘英伟达显卡的制造之路 | 英伟达断供GPU,中国大模型何去何从?,英伟达,模型,中国大,显卡,方案,能力,英伟达(NVIDIA)是全球领先的图形ACCEL光电芯片,性能超GPU千倍,新一代
ACCEL光电芯片,性能超GPU千倍,新一代计算架构将更早来临,性能,新一代,计算,芯片,超过,处理速度,ACCEL光电芯片是一种新型的IRFB3207PB清华研制出首个全模拟光电智能计算
清华研制出首个全模拟光电智能计算芯片ACCEL,芯片,智能计算,模拟,清华,混合,研发,清华大学最近成功研制出了一款全模拟光电智能计算