分享零门槛本地部署手把手教你用Ollama+Chatbox玩转DeepSeek大模型。

访客 198 0

在ai技术迅猛发展的今天,大型语言模型不再是云端服务的专利。本文将指导你如何利用ollama和chatbox两款轻量级工具,在个人电脑上免费部署备受瞩目的deepseek模型,无需高端显卡,普通cpu即可流畅运行!

首先,我们需要在电脑上安装Ollama,以Windows为例进行说明。

Ollama简介

Ollama是一款开源的本地大模型部署工具,旨在让用户能够轻松在个人电脑上运行各种开源大型语言模型(如Llama、Mistral、DeepSeek等)。它支持跨平台操作(Windows/macOS/Linux),提供一键式安装和模型管理,优化了内存和计算资源的使用,即使是普通配置的设备也能流畅运行。通过Ollama,开发者、研究者和爱好者可以快速部署私有化AI应用,无需依赖云端服务,同时享受高效、安全的本地AI体验。

目前,Ollama在GitHub上已获得123k星标。

零门槛本地部署!手把手教你用Ollama+Chatbox玩转DeepSeek大模型

Ollama GitHub地址:https://www.php.cn/link/338fa17e14b16a99d24a5f09fd49c17d

Ollama安装

Ollama的安装非常简单,直接从官网下载Windows安装包并安装即可。

零门槛本地部署!手把手教你用Ollama+Chatbox玩转DeepSeek大模型

Ollama下载地址:https://www.php.cn/link/2575c857df983996d49550f3e924755f

安装完成后,我们可以在DOS窗口中使用以下命令查看版本:

ollama -v
登录后复制

零门槛本地部署!手把手教你用Ollama+Chatbox玩转DeepSeek大模型

使用Ollama下载DeepSeek模型

根据电脑配置选择合适的DeepSeek-r1模型进行安装,目前DeepSeek-r1有以下版本:

零门槛本地部署!手把手教你用Ollama+Chatbox玩转DeepSeek大模型

我下载的是14b的模型,下载命令如下(此处以8b为例):

ollama run deepseek-r1:8b
登录后复制

如果之前未下载过模型文件,执行命令时会自动下载。

零门槛本地部署!手把手教你用Ollama+Chatbox玩转DeepSeek大模型

下载完成后,我们就可以在窗口中使用DeepSeek-r1模型进行提问了。

零门槛本地部署!手把手教你用Ollama+Chatbox玩转DeepSeek大模型

Ollama API默认只能在本机使用,如果想在局域网中使用模型的API,需要在环境变量中添加以下两个配置:

OLLAMA_HOST   0.0.0.0
OLLAMA_ORIGINS   *
登录后复制

添加完成后,需要重启电脑才能生效。

Chatbox安装及API配置

Chatbox简介

Chatbox是一个AI模型桌面客户端,支持ChatGPT、Claude、Google Gemini、Ollama等主流模型,适用于Windows、Mac、Linux、Web、Android和iOS全平台。

该项目目前在GitHub上已获得28.9k星标。

零门槛本地部署!手把手教你用Ollama+Chatbox玩转DeepSeek大模型

GitHub地址:https://www.php.cn/link/4ff5d86ae9f50c4254668fedafa137ca

Chatbox安装

Chatbox的安装非常简单,下载最新安装包后直接安装即可。如果之前安装过Chatbox,建议卸载后再安装最新版本,以免速度变慢。

Chatbox下载地址:https://www.php.cn/link/de487db7a08250a136f966ead11da262

零门槛本地部署!手把手教你用Ollama+Chatbox玩转DeepSeek大模型

Ollama API配置

Chatbox安装完成后,即可配置Ollama API。如果要在局域网中使用,前述的环境变量配置是必需的,否则只能使用127.0.0.1。

在Chatbox中点击设置,选择模型提供方为OLLAMA API。

零门槛本地部署!手把手教你用Ollama+Chatbox玩转DeepSeek大模型

API域名填写模型安装机器的IP(本机安装的话也可以使用127.0.0.1):11434,模型可以选择自己下载过的任意一个。

零门槛本地部署!手把手教你用Ollama+Chatbox玩转DeepSeek大模型

这样,我们就可以使用Chatbox进行提问了。

零门槛本地部署!手把手教你用Ollama+Chatbox玩转DeepSeek大模型

总结

通过本教程,你已成功搭建了一个完全本地化的智能助手!无论是学术研究、代码编写还是日常问答,DeepSeek都能提供可靠支持。赶紧尝试使用ollama list探索更多可用模型,开启你的本地AI之旅吧!

以上就是零门槛本地部署!手把手教你用Ollama+Chatbox玩转DeepSeek大模型的详细内容,更多请关注楠楠科技社其它相关文章!

标签: #手把手 #玩转 #门槛