亚马逊云科技针对DeepSeek推出多种不同部署方式
原标题:亚马逊云科技针对DeepSeek推出多种不同部署方式
导读:
近来外网的选举活动闹得沸沸扬扬连带互联网都掀起了一阵讨论的热潮这事还影响到了整个游戏圈这不米哈游的社区米游社国际服就被选举话题给攻占大家纷纷讨论谁最适合当提瓦特的总统在原神的讨...
近来,外网的选举活动闹得沸沸扬扬,连带互联网都掀起了一阵讨论的热潮。这事还影响到了整个游戏圈,这不,米哈游的社区“米游社”国际服就被选举话题给攻占,大家纷纷讨论谁最适合当提瓦特的总统。在原神的讨论区中,枫丹水神芙宁娜以最高票被大家推举为领导人该贴也获得了1.4万的赞。不少人认为芙宁娜女士就是一位伟大的...
2月7日消息,亚马逊云科技现已针对DeepSeek-R1模型推出多种不同的模型部署方式,包括在Amazon Bedrock Marketplace中部署,或在Amazon SageMaker Jumpstart中部署,也可通过Amazon Bedrock自定义导入功能或Amazon EC2 Trn1实例中部署DeepSeek-R1-Distill系列模型,企业可以在熟悉的云科技环境中轻松部署该系列模型。
DeepSeek于2024年12月推出DeepSeek-V3模型后,于2025年1月20日相继发布了参数规模达6710亿的DeepSeek-R1、DeepSeek-R1-Zero以及参数范围覆盖15亿至700亿的DeepSeek-R1-Distill系列模型。2025年1月27日,DeepSeek又新增了基于视觉的Janus-Pro-7B模型。这些模型均已开源,据称其成本效益比同类模型高出90%-95%。 表示,该系列模型通过强化学习等创新训练方法,在推理能力方面具有显著优势。
不同于普通用户端,企业端部署首先需要价格不菲的硬件,其次需要提供稳定的API,再者还需要构建面向的应用并实施托管,还有高阶的针对企业私有数据的定制优化,还需要考虑数据和模型的安全问题。
亚马逊云科技希望帮助企业在部署和使用模型中 这些工程化问题,包括成本、性能、能否针对私有数据进行定制优化,够不够安全,不同尺寸的模型和日益增长的各种智能体的复杂调度等。
(图示为在Amazon SageMaker Jumpstart中部署DeepSeek模型)
以DeepSeek为例,其公开的模型也有V3和R1等不同的型号,R1也有不同的尺寸规模,如DeepSeek-R1-Distill系列模型参数范围是15亿至700亿,而R1和R1-Zero的参数规模则达到6710亿。要完整部署R1实现完美推理和响应,需要如Amazon EC2 P5e性能级别的硬件和配套的便捷工具。
谈及优势,亚马逊云科技方面表示,首先是云端本身的优势,与本地部署相比,云端部署更灵活更易扩展;其次是多样化的模型选择优势,不同的场景能够灵活选择不同成本、性能、响应速度的模型;最后是模型从原型走向企业化生产环境时必须要考虑的一系列重要功能。(定西)