开云体育其中就包含企业腹地数据中心的落地场景-开云·Kaiyun(中国)官方网站-科技股份有限公司

开始:环球市集播报开云体育

关于正在为自罕有据中心甄选 AI 就业器芯片的企业而言,比拟英伟达,亚马逊领有一大中枢上风:价钱。
爱尔兰商量机构 Co Driver Labs 专注为企业提供 AI 基础门径落地商量就业,该机构分析师卡罗尔・皮亚泰克示意:在同等算力负载下,使用亚马逊第二代Inferentia 推理芯片与Trainium 覆按芯片部署现存 AI 模子开展推理业务,算力资本可比英伟达 H100 芯片裁减 80%。
如今越来越多自建数据中心的企业,齐在寻找性价比更高、供货更结识的替代芯片决策。近几个月,亚马逊向这类客户任意推介自研两款 AI 专用芯片:用于大模子覆按的 Trainium、用于业务推理的 Inferentia,越来越多企业运行认同这套决策。
皮亚泰克的一位保障行业客户,出于合规监管条目,必须在自罕有据中心为客户运行 AI 业务,无法使用公有云就业。该企业此前一直采购英伟达芯片,如今正在寻找替代决策;进程前期测试,亚马逊芯片凭借价钱上风与结识的算力承载能力,测试戒指发达亮眼。
基于可以的测试效用,这家保障公司立时向亚马逊云科技(AWS)客户司理商量,能否在 AWS Outposts 腹地部署一体机中搭载 Inferentia 推理芯片。但亚马逊方面回复,现在该芯片暂未灵通 Outposts 场景测试。
皮亚泰克称:“独一能在企业腹地机房部署 Inferentia 芯片,这家保障公司就会坐窝落地。即便腹地部署的资本是云表租用价钱的两倍,企业也依然会遴荐在自有机房部署 AWS 提供的这款芯片。”
他示意,天然企业腹地机房部署芯片的资本大约率高于径直租用 AWS 云就业器,但相较英伟达芯片,合座算力开支依旧会大幅裁减。
英伟达官方发言东说念主援用公司近期一篇博客著作的不雅点恢复:单纯对比芯片采购单价意念念有限,中枢要看芯片的骨子算力产出。如若廉价芯片在沟通期长内可承载的 AI 算力任务远少于高价芯片,那么从单元算力资蓝本看,高价芯片反而更合算。
英伟达在博文中写说念:“咱们的芯片能够杀青行业最低的模元(Token)单元资本与最高的模元处理隐隐量。”
信息时期商量公司高知特(Cognizant)云与基础门径就业负责东说念主斯里拉姆・库马雷桑示意,刻下人人算力供给弥留,不少客户正在评估、试点亚马逊自研芯片,其中就包含企业腹地数据中心的落地场景。
库马雷桑在书面声明中提到:“咱们不雅察到,客户的 AI 业务算力需求仍是超出刻下可用算力供给,这也让企业不再单一依赖英伟达 GPU,运行积极寻找多元化算力决策。如今 AWS 的 Trainium 与 Inferentia 芯片仍是成为业内靠谱的量产级备选决策,不再仅仅 GPU 缺货时的救急遴荐。”
不外亚马逊芯片并非沿途坦途。云架构商量企业 Rhythmic Technologies 首席扩充官克里斯・达尼卢克示意,天然不少客户在探讨芯片替代决策,但现在齐仅处于早期调研阶段,企业开阔担忧适配这类自研芯片需要全新软件体系,存在时期落地风险。
在去年 12 月 AWS 年度时期大会 re:Invent 上,亚马逊负责推出全新就业,相沿客户在 AWS 公有云除外部署亚马逊自研 AI 芯片,同期发布 AWS AI Factories(亚马逊 AI 算力工场)处置决策,企业可在自罕有据中心混搭部署亚马逊 Trainium 芯片与英伟达芯片。
恒久以来,AWS 通过 Outposts 腹地一体机就业,让自建机房的企业可以在腹地部署亚马逊全套软硬件、存储与鸠集资源。据知情东说念主士自满,近几个月,AWS 销售团队仍是和好意思国电话电报公司(AT&T)等企业伸开前期洽谈,探讨通过 Outposts 就业租借亚马逊自研 AI 芯片。
另有知情东说念主士示意,亚马逊还在洽谈径直向政企客户售卖自研 AI 芯片。本年 4 月,亚马逊首席扩充官安迪・贾西在年度激动信中说起,公司研究对外径直出售自研 AI 芯片,自此企业客户的互助意愿权贵扶直。
贾西曾测算:如若亚马逊不再仅通过云就业出租芯片,而是径直对外销卖,芯片业务年化营收有望达到 500 亿好意思元。现在,包含通用处理器 Graviton、云表部署的 Trainium 芯片在内,亚马逊芯片业务当昨年化营收为 200 亿好意思元。
《信息》杂志分析数据自满:尽管英伟达濒临诸多芯片竞品冲击、百行万企加快布局 AI 替代算力决策,但英伟达在 AI 推理算力市集的份额仍在捏续走高。
AWS 正在效仿谷歌的发展旅途。谷歌自研 TPU 张量处理单元 AI 芯片,去年就运行商量 Anthropic 等企业,推动客户在自罕有据中心部署该芯片;上个月开云体育,谷歌还与黑石集团诞生搭伙公司,打造 TPU 专属云业务,对标当下开阔向 AI 厂商出租英伟达算力的专科云就业商。
- 上一篇:体育游戏app平台当务之急是各方相向而行-开云·Kaiyun(中国)官方网站-科技股份有限公司
- 下一篇:没有了

