【天天速看料】火山引擎升级云服务,要做AI大模型“发动机”
2023-04-20 19:35:10 凤凰WEEKLY


(相关资料图)

4月18日,字节跳动旗下火山引擎在其举办的“原动力大会”上发布自研DPU等系列云产品,并推出新版机器学习平台:支持万卡级大模型训练、微秒级延迟网络,弹性计算可节省70%算力成本。基于自研DPU的GPU实例,相比上一代集群性能最高提升三倍以上。

会上,火山引擎宣布与字节跳动国内业务并池。基于内外统一的云原生基础架构,抖音等业务的空闲计算资源可极速调度给火山引擎客户使用。简单来说就是,让用户在更小的资源池内调度资源,提高整体资源利用率的效果,从而达到降本增效。

字节跳动副总裁杨震原认为,业务创新需要试错,试错要大胆、敏捷,但试错也一定要控制成本。通过潮汐、混部等方式,火山引擎实现资源的高利用率和极低成本。以抖音推荐系统为例,工程师用15个月的样本训练某个模型,5小时就能完成训练,成本只有5000元。火爆全网的抖音“AI绘画”特效,从启动到上线只用一周多时间,模型由一名算法工程师完成训练。

据MiniMax联合创始人杨斌介绍,MiniMax与火山引擎合作建立了超大规模实验平台,实现千卡级常态化训练;超大规模推理平台有万卡级算力池,支撑单日过亿次调用。在火山引擎的云上,MiniMax大模型业务实现快速突破。

火山引擎总裁谭待透露,“国内大模型领域的数十家企业,超过七成已经在火山引擎云上”。

除了像MiniMax这类AI技术公司,火山引擎也在寻求与传统企业合作的机会。谭待对《凤凰周刊》记者表示,这是一个很有挑战性的事,不仅要有技术的升级,也要考虑到组织、机制等方面。目前火山引擎的做法是,找到行业内的标杆客户,加强彼此的了解,推出落地方案。比如和吉利在营销、座舱、自动驾驶等方面都在努力做深度共创。

图:火山引擎总裁谭待

同时,谭待也表示,火山引擎作为ToB服务和ToC服务很不一样,它需要一个漫长的积累过程,但在积累过后会有很强的连续性。所以短期内,火山引擎的目标是怎么面向客户创造更多价值,长期目标最终会回归商业本质,成为一个盈利的业务。而以目前全球领先的云计算公司盈利性作为参考,他认为这是一个很好的赛道。

热门推荐

文章排行

  1. 2023-04-20【天天速看料】火山引擎升级云服务,要做AI大模型“发动机”
  2. 2023-04-20安徽理工大学优势专业有哪些
  3. 2023-04-20观察:380v1kw多大电流(380v的1kw电机额定电流是多少)
  4. 2023-04-20贵州省从江县高脚村中寨教学点乡村教师孟荣达——扎根瑶寨 守护希望-环球短讯
  5. 2023-04-20世界讯息:神农集团拟20亿加码生猪产业链 生猪年销92.8万头三年增1.3倍
  6. 2023-04-20全球焦点!NBA季后赛掘金VS森林狼G2前瞻:掘金占据上风 森林狼内忧外患
  7. 2023-04-20大东方:2022年医疗健康业务收入同比增长108% 回购股份彰显公司发展信心|滚动
  8. 2023-04-20医药医疗连跌4日,资金无惧调整越跌越买!机构:AACR开幕,催化在即
  9. 2023-04-20世界微速讯:电科院实控人父子内斗不休,双方对簿公堂,最新进展来了!
  10. 2023-04-20永达1780mm热线预计6月底实现试投产-环球快报
  11. 2023-04-20杀人诛心是什么意思_词语杀人诛心什么意思
  12. 2023-04-20今日中国棉花价格指数为15742元/吨 较上个交易日增加9元/吨
  13. 2023-04-20合肥、淮北被评为全国婴幼儿照护示范城市 时快讯
  14. 2023-04-20支持天开园高质量发展!中国银行与天津天开发展集团联合发布相关措施|观焦点
  15. 2023-04-202022燃气灶十大品牌排行榜_燃气灶哪个牌子好 播资讯
  16. 2023-04-20隔离区丧尸末日生存开局什么属性好用
  17. 2023-04-20上海华美医疗美容医院程梓宁医生怎么样?个人简介、擅长项目在线盘点
  18. 2023-04-20中国人寿寿险公司:一季度赔付件数461万件 理赔金额超150亿元
  19. 2023-04-20资讯:十三年贯彻用心哲学,凯度电器再出发
  20. 2023-04-20全球今头条!2023吉林市马拉松赛开始报名