加速落地京东云大模型已支持数百个场景

时间:2024-06-07 07:12 来源:中国网   阅读量:10124      

6月6日,京东云城市大会在成都顺利举行,大会全面展示了京东场景大模型应用效果、言犀大模型技术能力升级,支持大模型的新一代数字基础设施,持续加速产业智能化变革。

京东云相关负责人介绍,京东围绕大模型的平台构建和场景应用,进行了深入探索,从虚拟数字人主播、到AIGC生成的营销物料,从商家运营的全面智能化、到智能配送车稳定运营,大模型应用落地京东数百个应用场景,已服务数十万商家,让商家和用户全方位感受到大模型带来的技术红利。

大模型深度应用于京东场景

自去年7月,正式发布京东言犀大模型以来,京东不断在自有场景中尝试大模型的落地实践,并依托自身供应链场景,在直播带货、店铺运营、广告投放等领域,实现了大模型技术商业化落地的单点突破。

在内容生产方面,超过9万商家借助大模型,零成本制作店铺营销物料,秒级生成商品详情图等营销素材,AIGC生成内容采纳率超50%,实现大幅度的降本提效。

在数字人直播方面,大模型加持的京东云言犀数字人,目前已在超过5000间品牌直播间开播,带货GMV总量近百亿。今年4月份,“采销东哥AI数字人” 开启直播带货,1小时内观看量超2000万,这也成为数字人在直播应用中创造价值的里程碑。

自研技术加速大模型应用

大模型落地应用的关键,是在资源、性能、效果三者取得一个比较好的平衡点。

京东云自研推理引擎,协同大小模型,为大模型产业落地提供最佳实践,如通过利用推测解码,用小模型辅助大模型进行推理,加速大模型推理速度,降低成本。

在大模型应用开发上,京东云自研大模型产品,支持更高效研发运维。

在代码编写上,自研辅助编码助手JoyCoder,帮助研发人员更高效地编写、阅读和优化代码。目前,京东上万名研发人员在使用JoyCoder,生成代码采纳率超过30%,助力开发周期缩短20%。

在运维服务上,自研混合多云智能运维平台,提供指标异常检测、日志分析、故障定位等,QPS 达千万级流量时,可用率仍达到 99.9%,让监控接入更简单,故障响应更及时,大幅提升运维效率。

支持大模型的新一代基础设施

为夯实产业应用,京东云推出了一套大模型的完整工具,包括支撑大模型应用的基础设施——言犀AI开发计算平台、向量数据库、混合多云操作系统云舰、高性能存储平台云海、软硬一体虚拟化引擎京刚等核心产品。

其中,言犀AI开发计算平台,经过近一年的持续打磨,可以提供从基础资源、模型服务,到智能体构建的一站式大模型服务,让大模型的能力轻松触达每一位开发者。

在基础资源方面,平台支持GPU资源的统一管理,兼容国内外主流AI芯片,以单元化技术实现跨芯片进行任务部署和调度,实现集群算力资源充分利用。

在模型服务方面,平台提供从模型数据准备、模型训练与微调,到部署、评测的全生命周期服务,支持万卡级别的分布式训练,实现动态资源统一管理。

在智能体构建方面,平台提供一系列多模态组件与应用框架,如文生图、语音识别等多模态组件,以及检索增强生成、智能体等AI应用框架,分钟级即可启动AI Agent构建,帮助企业高敏、高效地进行AI应用的开发。

面向未来,京东云愿与合作伙伴一道,以更丰富的应用场景和领先的技术能力,助推大模型抵达产业智能。

郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。