百度回应主力模型免费:限度降低企业创新试错成本

AI1个月前发布 黑马流
58 0
广告也精彩

在2024智能经济论坛上,百度集团执行副总裁、百度智能云事业群总裁沈抖深入解析了文心系列主力大模型免费策略的背后逻辑。

沈抖指出,文心大模型之所以能实行免费政策,主要得益于百度智能云强大的技术实力,特别是其业界领先的AI异构算力管理平台和“一云多芯”架构。这一策略旨在鼓励产业界摆脱对价格的过度关注,转而聚焦于场景创新和应用落地。成本的大幅降低,将激发产业界更广泛的创新尝试,从而加速AI技术的实际应用。

百度回应主力模型免费:限度降低企业创新试错成本

一周前,百度智能云宣布ERNIE Speed和ERNIE Lite两款主力模型全面免费,这两款模型在文案创作、聊天对话、知识问答、内容续写等场景中有着极高的调用量。沈抖在论坛上详细阐述了这一决策背后的技术支撑。

首先,百度百舸·AI异构计算平台通过统一、高效的管理不同地点、规模、集群的智能算力,结合芯片性能优化、自动芯片选型、潮汐混部等技术,实现了智能算力效能的大幅提升。万卡集群上的模型有效训练时长占比超过98.8%,帮助企业将资源成本降低一半,每年为企业客户节约的智算成本可达50亿元以上。

其次,“一云多芯”架构的引入,使得百舸平台能够兼容国内外主流AI芯片,支持不同厂商芯片的混合使用。这不仅降低了企业的芯片依赖风险,还提升了供应链的性价比、安全性和弹性。在多芯混合训练任务中,百舸平台能够将单芯片利用率、芯片间通信效率、集群整体效能发挥到极致,性能损失极低。

此外,千帆ModelBuilder提供的模型路由能力也是文心大模型实现免费策略的关键。这一能力能够针对任务类型自动分配合适的模型进行处理,使小参数模型在特定场景中达到与大参数模型相近的效果。以小度AI助手为例,通过模型路由能力,成本降低了99%,模型响应速度提升了200%。

目前,文心大模型已经拥有中国最大的产业落地规模,日均调用量超过2亿,每天处理的文本相当于74万本《新华字典》。千帆平台累计服务了10.5万家企业用户,帮助他们精调了1.75万个大模型,并开发了32万个AI原生应用。这一系列的成就,充分证明了百度智能云在AI领域的技术实力和产业影响力。

© 版权声明
广告也精彩

相关文章

广告也精彩

暂无评论

暂无评论...