如何在本地部署deepseek r1模型?

2024年1月20日晚,中国科技公司DeepSeek(深度求索)正式发布了其最新推理模型DeepSeek-R1,引发业界广泛关注。这款模型不仅在性能上与OpenAI的GPT-4相媲美,更以其开源策略和创新的训练方法,为AI发展带来了新的可能性。DeepSeek-R1 在后训练阶段大规模使用了强化学习技术,在仅有极少标注数据的情况下,极大提升了模型推理能力。在数学、代码、自然语言推理等任务上,性能比肩 OpenAI o1 正式版。

本文讲解如何在本地部署deepseek r1模型。deepseek官网https://chat.deepseek.com

1.首先下载ollama

官网:https://ollama.com

下载对应版本即可,下载安装运行

2.下载运行模型

进入ollma官网,点击models,选择deepseek r1,然后选择不同大小的模型,最小的1.5b最大的671b。

下面是不同模型推荐配置

复制下面命令,右键粘贴到cmd或者powershell 回车下载运行

下载运行成功

3.界面搭建

这样就搭建完成了

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注