快捷搜索:

很多人都忽略了!国产大模型弯道超车的关键其实是算力

 

算力,对于大模型创业公司MiniMax而言,已经成为最为紧迫的问题。然而,在2023年的五月底,国内已经拥有了79个超过10亿参数的AI大模型,这表明算力需求将会持续增加。那么,MiniMax是如何应对这一挑战的呢?

MiniMax创业初期,还可以依靠自建小规模的算力平台来满足其业务需求。然而,随着产品和服务的不断推出,每天亿级的调用次数让自身的算力显然无法满足需求。MiniMax的解决方案是找到了腾讯云。

腾讯云还推出了HCC高性能计算集群,通过协同优化单机算力、网络架构和存储性能,降低了集群通信带来的算力损耗,同时提供高性能存储,使上千个计算节点能够同时高速读取训练数据。

然而,大模型任务和环境的复杂性意味着故障不可避免。中断一个小时在千卡规模下会产生数十万计的成本开销,为了降低这一风险,腾讯云提出了云原生解决方案,降低MiniMax的整体用云成本。

MiniMax的业务副总裁表示,云计算将会为AIGC(人工智能大模型地图研究报告)带来更多可能。Gartner预测,到2025年,全球AI服务器市场规模将达到318亿美元,这将是一个庞大的市场,而云计算将成为应对大模型创业企业算力需求的有效途径。

在数字时代,掌握算力将决定谁能在竞争中脱颖而出,MiniMax通过与腾讯云的合作,已经为自己的未来奠定了坚实的基础。

[注:本文部分图片来自互联网!未经授权,不得转载!每天跟着我们读更多的书]


互推传媒文章转载自第三方或本站原创生产,如需转载,请联系版权方授权,如有内容如侵犯了你的权益,请联系我们进行删除!

如若转载,请注明出处:http://www.hfwlcm.com/info/237030.html