财经
当前位置:首页 > TMT > 正文

一键部署!京东云全面上线DeepSeek-R1/V3

京东云已正式上线DeepSeek-R1和DeepSeek-V3模型,支持公有云在线部署、专混私有化实例部署两种模式,供用户按需部署,快速调用。

模式一:公有云在线部署

开发者和企业可以在京东云官网,进入言犀AI开发计算平台的“AI资产市场“中,选用该模型进行一键部署。

言犀AI开发计算平台已经支持DeepSeek-V3、DeepSeek-R1以及所有蒸馏小参数模型(DeepSeek-R1-Distill)的一键部署,具体步骤如下:

1、选择基础模型

在“AI资产市场/模型”中,提供DeepSeek开源的多个版本,如DeepSeek-R1-Distill-Qwen-1.5B,点击进入卡片页可了解模型结构和预训练数据等关键信息,并查看模型文件结构。

一键部署!京东云全面上线DeepSeek-R1/V3

2、准备资源节点

在部署时,LLM模型因为模型较大,资源性能要求较高,需要独占计算卡进行部署,建议提前准备好专属资源节点。

功能路径:专属资源组-创建资源组-创建节点。

节点规格:部署DeepSeek-R1-Distill,推荐使用cap.p.n3a30.4xlarge;部署DeepSeek-V3,推荐使用cap.hc.p5h20.46xlarge

一键部署!京东云全面上线DeepSeek-R1/V3

3、模型部署使用

将模型部署到相应的服务资源上提供推理调用服务,在部署时平台将自动适配预置推理框架,实现一键部署,仅需指定使用的专属资源组和对应的节点规格。部署完成后,状态将会变为运行中,运行中的模型可被调用,提供推理服务。

功能路径:专属资源组-创建资源组-创建节点在线服务-部署;在线服务-服务列表|服务名称-在线调试

一键部署!京东云全面上线DeepSeek-R1/V3

模式二:专混模式数据不出域,私有化算力实例部署

专混私有化算力实例部署模式,已经同步上线京东云vGPU AI算力平台,为金融、企业、政府等客户提供数据不出域的私有化模型推理服务。

以DeepSeek R1版本为例,具体的使用步骤如下:

1、进入算力管理页面,点击租用新实例按钮 

一键部署!京东云全面上线DeepSeek-R1/V3

2、选择资源规格以及对应带有deepseek模型的镜像

一键部署!京东云全面上线DeepSeek-R1/V3

3、资源创建成功后进入实例,启动即可与之对话

一键部署!京东云全面上线DeepSeek-R1/V3

一键部署!京东云全面上线DeepSeek-R1/V3

一键部署!京东云全面上线DeepSeek-R1/V3

京东云言犀AI开发计算平台还支持私有化部署及API快速集成,通过自研高性能资源管理与弹性调度系统,可提供大模型的全生命周期服务及部署,涵盖模型开发、推理及多场景应用扩展。

针对资源紧缺的场景,京东云支持通过蒸馏技术训练企业自己的大模型,减少模型部署所需资源的同时具备较好的性能。使用京东云vGPU AI算力平台,可以将多个蒸馏过的企业自有模型部署在同一张卡上,有效提升资源利用率70%。

(责任编辑:zx0280)

推荐阅读

谁在围攻京东?

谁在围攻京东?

今天上午(11月26日),搜狐发布致歉声明,对其所发布传播的涉及刘强东章泽天的谣言向京东道歉。

华商韬略 2024-11-26 13:50:08
京东分拆得与失

京东分拆得与失

轰轰烈烈的京东系分拆上市大计,再进一步。

斑马消费 2024-10-10 08:49:03
京东物流,格局更大了!

京东物流,格局更大了!

苦练17年,这家企业迎来一个良机!

华商韬略 2024-11-22 11:35:20
阿里巴巴、京东、腾讯发布最新财报

阿里巴巴、京东、腾讯发布最新财报

京东集团发布2024年第二季度财报8月15日,京东集团发布2024年第二季度财报,财报显示,二季度京东集团实现营收2914亿元,上半年营收5514亿元;经营利润105亿元

鳌头财经 2024-08-16 15:57:12
物流“拆墙” 阿里京东言和

物流“拆墙” 阿里京东言和

此前水火不容的阿里和京东,在“双11”前夕相互示好。

北京商报 2024-09-27 14:51:30
京东:赚得不多,发得不少

京东:赚得不多,发得不少

投资于人,是最好的投资。

华商韬略 2025-01-07 09:36:48
第七届京东摄影金像奖圆满落幕 京东携手相机品牌掀起全民摄影创作热潮

第七届京东摄影金像奖圆满落幕 京东携手相机品牌掀起全民摄影创作热潮

11月15日,第七届京东摄影金像奖颁奖典礼在北京举行。

中华网财经 2024-11-15 17:03:55
京东11.11购物用户数同比增长超20% 京东采销直播订单量同比增长3.8倍

京东11.11购物用户数同比增长超20% 京东采销直播订单量同比增长3.8倍

截至11月11日23:59,2024年京东11.11购物用户数同比增长超20%,京东采销直播订单量同比增长3.8倍。超17000个品牌成交额同比增长超5倍,超30000个中小商家成交额同比增长超2倍。

中华网财经 2024-11-12 10:34:40
京东秒送宣战美团

京东秒送宣战美团

京东出手了,外卖行业真的要大变天了吗?

食业家 2024-09-18 16:28:02

京东一次招了一个“拼多多”

让有梦想的年轻人有实现梦想的地方,需要更多的“京东”站出来。

华商韬略 2024-09-06 10:37:19
京东探索研究院院长、京东科技人工智能业务负责人何晓冬:让大模型在产业先跑起来

京东探索研究院院长、京东科技人工智能业务负责人何晓冬:让大模型在产业先跑起来

近年来,大模型飞速发展,但同时也面临一些问题。

中华网财经 2024-07-31 10:37:04
京东金像奖开放日启动:逛京东11.11入手参赛装备、爆款直降千元

京东金像奖开放日启动:逛京东11.11入手参赛装备、爆款直降千元

和京东11.11共同见证“有趣的灵魂”。

中华网财经 2024-10-30 09:50:49
京东物流“智狼”机器人全新发布

京东物流“智狼”机器人全新发布

11月5-8日,2024亚洲国际物流技术与运输系统展览会(CeMAT ASIA)在上海举行。

物流指闻 2024-11-06 09:45:54
低价战略分野:阿里弱化,京东强化

低价战略分野:阿里弱化,京东强化

持续一年多的价格战后,电商平台交出了不同的答卷。

第三只眼看零售 2024-08-30 09:16:05
阿里破冰,京东和解,微信躺赢

阿里破冰,京东和解,微信躺赢

11年的高墙。

锌财经 2024-09-30 11:05:48
穆迪上调京东信用评级至A3展望稳定

穆迪上调京东信用评级至A3展望稳定

国际评级机构穆迪宣布将京东的信用评级从Baa1上调至A3,展望稳定。

中华网财经 2024-09-06 09:44:57
京东、阿里大笔投资香港市场,背后的逻辑是?

京东、阿里大笔投资香港市场,背后的逻辑是?

还有1个月,双11又要来了。

消费记 2024-10-09 09:22:35
京东物流:给员工授出736万股股份奖励

京东物流:给员工授出736万股股份奖励

1月2日消息,京东物流发布公告。

物流指闻 2025-01-03 10:31:22

友情链接

联系方式

中华网新媒体 财经频道
互动/投稿邮箱:
finance@zhixun.china.com
网上不良信息举报电话:010-56177181
财经频道联系电话:(010)56176102