千帆竞发,百度智能云2.0时代:42大模型矩阵震撼发布

小发发 by:小发发 分类:创业资讯 时间:2024/02/12 阅读:2074 评论:0

  9月5日,2023百度云智大会在北京正式召开。会上,百度智能云千帆大模型平台宣布实现2.0全面升级,首次公布月活企业数已近万家,覆盖金融、制造、能源、政务、交通等行业的400多个业务场景。

  

千帆竞发,百度智能云2.0时代:42大模型矩阵震撼发布

  

  

  百度智能云千帆大模型平台是百度智能云在3月推出的企业级大模型生产平台,不仅提供基于文心一言或者第三方开源大模型的大模型服务,还提供全套工具链和开发环境,帮助企业开发自己的专属大模型。

  

  

  

  本次升级后,千帆平台纳管的国内外主流大模型达到42个,还预置了41个高质量有行业特色的数据集,预装了知识问答、客服对话、代码助手等10个精选应用范式,大幅降低企业使用、训练和推理大模型的门槛。对于除文心大模型之外的第三方大模型,千帆平台不只是简单的接入,还提供中文增强、性能增强、上下文增强等能力。

  

  

  

  与此同时,工具链变得更丰富和更全面,也更加轻量化、敏捷化。过去客户验证大模型的效果至少需要一周时间,现在基于一站式的工具链,只需一天就可以跑通一个模型并看到效果。值得关注的是,千帆平台的工具链里内置了103套高质量的prompt模版,还有自动化prompt工程能力,用户做起来会更方便、更轻松。

  

  

  

  千帆平台还持续升级了算力服务,进一步降低客户的算力成本和时间成本。万卡集群训练大模型时,常规方法下,工程师们有30%-40%时间都花在容错和故障恢复上。现在,百度智能云自研的集群组网故障管理机制,使模型有效训练时间达到95%以上。基于分布式并行训练策略,千帆平台在万卡规模集群中的加速比可以达到95%,充分释放集群的整体算力。千帆平台还兼容国内外主流芯片和操作系统,客户的算法可以最小的修改成本运行。

  

  

  

  在安全方面,千帆平台全面升级模型安全、内容安全和数据安全保障能力。千帆平台为不同模型厂商设计了可信的专用隔离域,重点保护模型资产安全,预置安全模块,可以有效控制输入和输出的安全风险。在数据安全方面,千帆平台提供从模型、数据到日志的全链路加密,为模型厂商和用户提供可信任的执行环境。

  

  

  

  据介绍,百度多个产品也在基于千帆平台进行重构。例如,百度网盘推出“云一朵”智能助理,通过自然对话,“云一朵”就可以帮助用户快速搜索文件和视频、总结知识、翻译文档,甚至进行内容创作。截至8月31日,“云一朵”智能助理累计使用人数已经超过600万。

          

分享到:
声明:本站内容以用户投稿和用户转载为主,该文章版权归原作者所有。文章系作者个人观点,不代表本站立场,转载请联系原作者。如有任何疑问,请联系:719649110@qq.com。

本文地址:https://www.888cps.com/zixun/22168.html


TOP