天天热议:火山引擎不自研大模型,建算力底座引入第三方大模型

2023-06-29 07:43:13 来源: 数智前线


(资料图片)

6月28日,火山引擎发布了大模型服务平台“火山方舟”,面向企业提供模型精调、评测、推理等全方位的平台服务(MaaS,即Model-as-a-Service)。目前,“火山方舟”集成了百川智能、出门问问、复旦大学MOSS、IDEA研究院、澜舟科技、MiniMax、智谱AI等7家AI科技公司及科研院所的大模型,并已启动邀测。

数智前线获悉,火山引擎在大模型上采用了与其他大厂云平台不一样的市场策略,火山引擎并没有自建基础或者行业大模型,而是引入第三方的大模型来为企业提供服务,而火山引擎提供AI算力和大模型训练工具等服务。

火山引擎的策略背后,一方面是火山引擎有充裕的GPU资源,能给企业的大模型训练和推理提供算力服务,此前有消息称火山引擎囤积了大量英伟达的GPU卡;另一方面,火山引擎CEO谭待认为,未来的大模型市场一定是多云多模型,呈现“1+N”的模式:“1”是通过自研或深度合作,形成1个主力模型;由于成本和场景复杂多元等原因,在这个主力模型之外,还会有N个模型同时应用。这也意味着,企业的大模型需求并不会与单一的大模型产品绑定。

为此,火山方舟提供了丰富的模型精调和评测支持。吴迪介绍,企业可以用统一的工作流对接多家大模型,对于复杂需求可设置高级参数、验证集、测试集等功能,再通过自动化和人工评估直观对比模型精调效果,在不同业务场景里还可灵活切换不同的模型,实现最具性价比的模型组合。这些自定义指标和评估数据的积累,将成为企业在大模型时代宝贵的数据资产。

另外,在安全互信计算方面,“火山方舟”上线了基于安全沙箱的大模型安全互信计算方案,利用计算隔离、存储隔离、网络隔离、流量审计等方式,实现了模型的机密性、完整性和可用性保证,适用于对训练和推理延时要求较低的客户。

据吴迪透露,抖音集团内部已有十多个业务团队试用“火山方舟”,在代码纠错等研发提效场景,文本分类、总结摘要等知识管理场景,以及数据标注、归因分析等方面探索,利用大模型能力促进降本增效。这些内部实践在快速打磨“火山方舟”,推动平台能力的进一步完善。

“火山方舟”的首批邀测企业,还包括金融、汽车、消费等众多行业的客户。北京银行CIO龚伟华表示,大模型与客户营销、办公协同、数据智能的结合,在金融应用场景有巨大潜力。北京银行将与“火山方舟”合作,在算力优化、模型精调等方面展开研究,共同推动金融风控、营销等模型应用落地。(数智前线/周路平)

标签:

[责任编辑:]

最近更新