詹学伟
詹学伟
Published on 2025-02-18 / 702 Visits
1
0

deepseek本地部署及局域网内使用

说明:本章节主要包含两个方面,一个是本地部署deepseek;第二个是使用chatBoxAi局域网内接入deepseek。我使用的是windows系统pc,使用ollama安装,安装的是deepseek-r1:7b,pc配置具体忘了,后面补上。

一、本地部署deepseek

访问ollama官网,

https://ollama.com/

下载自己需要的ollama安装,下载完成后,直接安装,安装完成后服务就启动了。这里需要说明下,启动方式还有两种,一种是上面app启动;另外一种是cmd,执行ollama serve命令启动;可以使用ollama help查看命令帮助。

安装完成后,根据自己pc配置选择不同的deepseek进行下载和运行,我选择的是7b,然后执行 ollama run deepseek-r1:7b,会看到ollama pull镜像,等待下载完成后,服务就启动成功,会出现success的提示。接着就可以对话了。

二、局域网内使用

上面已经将deepseek部署好了,可以自由对话。但是我现在需要在局域网内,另外的机器也使用自己部署的deepseek怎么办?这里就是将要降到的局域网内使用了。

上面已经部署好deepseek了,现在我们只需要配置下就可以实现局域网内访问。

  • 1.设置环境变量

OLLAMA_HOST=0.0.0.0
OLLAMA_ORIGINS=*

  • 2.防火墙关闭或者开放端口,默认的是11434

  • 3.重启下deepeek

  • 4.chatBoaxAI接入

然后测试即可:

感觉还是挺快的,就是这个硬件的配置和性能没有测试,还不清楚!!!!


Comment