根据FOREXBNB的报道,2月11日,著名的音视频服务提供商七牛云(02567)宣布了DeepSeek-R1蒸馏版模型的上线。结合2月7日发布的信息,七牛云已经推出了专门适配DeepSeek-V3/R1全系列模型的GPU云主机和Token API推理服务。七牛云旨在通过其一站式AI推理解决方案来满足客户对生成式AI日益增长的需求,并提供了两种模型部署方式:一种是通过API接口快速集成,另一种是一键部署高性能GPU云服务器。
为了减少从概念到产品的距离,七牛云希望开发者能够在自己的应用中集成与官方版DeepSeek-R1相媲美的顶级推理能力,首先推出了全参数的DeepSeek-R1 671b全参模型。作为开源模型,DeepSeek-R1的效果与海外巨头的闭源模型相媲美,在推理效率、场景适配等多个方面树立了新的标准。因此,七牛云提供了最完整效果和最具成本效益的1.73bit量化DeepSeek-R1 671b全参版本,将显存需求大幅降低至158GB,并能在A100、V100、A10等高性价比GPU服务器上实现快速推理。
同时,为了满足不同开发者的个性化需求,七牛云迅速推出了DeepSeek-R1蒸馏版模型。这些模型经过优化,具有轻量化和高效推理的特点,能够在计算资源有限的设备上运行,特别适合中小企业和开发者部署,以低成本应用到实际业务中。为了帮助开发者,七牛云提供了与不同蒸馏模型相匹配的GPU主机配置建议,并提供了一键部署方式,确保开发者可以根据自己的需求快速选择配置,启动和运行模型。