【TechWeb】12月5日音讯,亚马逊云科技在2024 re:Invent公共大会上,发布了新一代AI考研芯片Amazon Trainium3。
据先容,Trainium3是亚马逊云科技首款弃取3纳米工艺制造的芯片,专为新一代前沿生成式AI责任负载的高性能需求而瞎想,在性能、能效和密度上建树了新标杆。搭载Trainium3的UltraServers性能瞻望将是Trn2 UltraServers的4倍,使客户在构建模子时大要更快迭代,并在部署时提供异常的及时性能。首批基于Trainium3的实例瞻望将在2025年末上线。
另外,会上还书记基于Amazon Trainium2的Amazon Elastic Compute Cloud(Amazon EC2)Trn2实例负责可用,并推出全新的Amazon EC2 Trn2 UltraServers,让用户以优厚的性价比考研和部署最新的东谈主工智能模子,以及以前的谎言语模子(LLM)和基础模子(FM)。
与现时基于GPU的EC2 P5e和P5en实例比拟,Amazon EC2 Trn2实例的性价比晋升30-40%。它配备16个Trainium2芯片,可提供高达20.8 Petaflops浮点算力的性能。
Amazon EC2 Trn2 UltraServers干事器机型配备64个互相贯穿的Trainium2芯片,弃取NeuronLink超速互连技能,可提供高达83.2 Petaflops浮点算力,其野心、内存和网罗才智是单一实例的四倍,大要相沿考研和部署超大范围的模子。
上周,亚马逊书记向Anthropic追加第二笔40亿好意思元投资,并加深在业务上的配合。
2024 re:Invent公共大会上披露,行为Anthropic与亚马逊云科技深刻配合的一部分,Anthropic已初始优化Claude模子,以便在亚马逊Trainium2上运行。
同期,亚马逊云科技正在与Anthropic共同构建一个名为Project Rainier的 EC2 UltraCluster野心集群,该集群由Trn2 UltraServers构成真钱老虎机娱乐网,大要在数十万个Trainium2芯片之间通过第三代低蔓延的PB级EFA网罗进行散布式模子考研——其运算才智比Anthropic现时一代着手AI模子考研所需算力向上5倍以上。该名堂完成后,瞻望将成为公共最大可用的AI野心集群,供Anthropic构建和部署以前模子使用。(果青)
声明:新浪网独家稿件,未经授权退却转载。 -->