deepseek本地部署教程,超级简单

deepseek的优势主要是 他的R1版本,也就是深度搜索的版本,本地部署的配置要求如下:



这里以win10系统为例,显卡的要求参考上面的表格。

1、安装 ollama

进入 ollama官网,https://ollama.com/

直接在首页点击 download进行下载。


我这里下载最新版本的windows版本。

下载完成后,直接双击安装 ,下一步下一步。

安装完成后,在cmd窗口就可以使用ollama命令了。

2、下载DeepSeek模型

在Ollama官网中,点击右上角菜单,选择Models,即可看到如下列表:

image

当前最火的r1排在第1位。



根据参数级别的大小有很多版本,


在cmd窗口输入以下代码安装7b版本: 

ollama run deepseek-r1

会自动进行下载,我这里是已经下载完的。



3、使用Cherry Studio或Chatbox进行对话

在默认的cmd窗口里对话显然 有点太简陋了,我们可以使用一些成熟的对话软件,如Cherry Studio或Chatbox

Cherry Studio官网:https://cherry-studio.com/

Chatbox官网:https://chatboxai.app/zh

我这里全部下载了windows的版本。


Cherry Studio可以接入 的模型非常的多,包括本地部署的版本和调用 一些在线API的接口(如硅基流动)。

如下图,接入了本地部署的7b,

点击左下角的设置按钮,进入设置页面,几个重点:

1、api密钥留空

2、api地址保持不变

3、点管理,把deepseek-r1:7b的模型放出来。



然后回到首页,选择最左上角的对话框就可以使用了。


Cherry Studio里内置了很多助手,可以切换不同的助手开启不同的对话。

声明: 本站部分资源内容为站内原创著作,也有部分基于互联网公开分享整理,版权归原作者所有。
如侵犯到您的权益,请联系本站,我们会尽快处理,谢谢。转摘请注明出处
本文永久链接:https://www.cybbx.com/aigc/1940044355/

给TA充电
共{{data.count}}人
人已充电
AIGC创业

强大的AI生图工具ComfyUI

2024-07-11 20:34:56

AIGC创业

利用AI工具SD制作热门美女跳舞视频详细教程

2024-07-18 14:42:25

0条回复
1
评分
个人中心
今日签到
有新私信 私信列表
搜索