在ai技术迅猛发展的今天,大型语言模型不再是云端服务的专利。本文将指导你如何利用ollama和chatbox两款轻量级工具,在个人电脑上免费部署备受瞩目的deepseek模型,无需高端显卡,普通cpu即可流畅运行!
首先,我们需要在电脑上安装Ollama,以Windows为例进行说明。
Ollama简介
Ollama是一款开源的本地大模型部署工具,旨在让用户能够轻松在个人电脑上运行各种开源大型语言模型(如Llama、Mistral、DeepSeek等)。它支持跨平台操作(Windows/macOS/Linux),提供一键式安装和模型管理,优化了内存和计算资源的使用,即使是普通配置的设备也能流畅运行。通过Ollama,开发者、研究者和爱好者可以快速部署私有化AI应用,无需依赖云端服务,同时享受高效、安全的本地AI体验。
目前,Ollama在GitHub上已获得123k星标。
Ollama GitHub地址:https://www.php.cn/link/338fa17e14b16a99d24a5f09fd49c17d
Ollama安装
Ollama的安装非常简单,直接从官网下载Windows安装包并安装即可。
Ollama下载地址:https://www.php.cn/link/2575c857df983996d49550f3e924755f
安装完成后,我们可以在DOS窗口中使用以下命令查看版本:
ollama -v
使用Ollama下载DeepSeek模型
根据电脑配置选择合适的DeepSeek-r1模型进行安装,目前DeepSeek-r1有以下版本:
我下载的是14b的模型,下载命令如下(此处以8b为例):
ollama run deepseek-r1:8b
如果之前未下载过模型文件,执行命令时会自动下载。
下载完成后,我们就可以在窗口中使用DeepSeek-r1模型进行提问了。
Ollama API默认只能在本机使用,如果想在局域网中使用模型的API,需要在环境变量中添加以下两个配置:
OLLAMA_HOST 0.0.0.0 OLLAMA_ORIGINS *
添加完成后,需要重启电脑才能生效。
Chatbox安装及API配置
Chatbox简介
Chatbox是一个AI模型桌面客户端,支持ChatGPT、Claude、Google Gemini、Ollama等主流模型,适用于Windows、Mac、Linux、Web、Android和iOS全平台。
该项目目前在GitHub上已获得28.9k星标。
GitHub地址:https://www.php.cn/link/4ff5d86ae9f50c4254668fedafa137ca
Chatbox安装
Chatbox的安装非常简单,下载最新安装包后直接安装即可。如果之前安装过Chatbox,建议卸载后再安装最新版本,以免速度变慢。
Chatbox下载地址:https://www.php.cn/link/de487db7a08250a136f966ead11da262
Ollama API配置
Chatbox安装完成后,即可配置Ollama API。如果要在局域网中使用,前述的环境变量配置是必需的,否则只能使用127.0.0.1。
在Chatbox中点击设置,选择模型提供方为OLLAMA API。
API域名填写模型安装机器的IP(本机安装的话也可以使用127.0.0.1):11434,模型可以选择自己下载过的任意一个。
这样,我们就可以使用Chatbox进行提问了。
总结
通过本教程,你已成功搭建了一个完全本地化的智能助手!无论是学术研究、代码编写还是日常问答,DeepSeek都能提供可靠支持。赶紧尝试使用ollama list探索更多可用模型,开启你的本地AI之旅吧!
以上就是零门槛本地部署!手把手教你用Ollama+Chatbox玩转DeepSeek大模型的详细内容,更多请关注php中文网其它相关文章!
DeepSeek (深度求索)杭州深度求索(DeepSeek)官方推出的AI助手,免费体验与全球领先AI模型的互动交流。它通过学习海量的数据和知识,能够像人类一样理解和处理信息。多项性能指标对齐海外顶尖模型,用更快的速度、更加全面强大的功能答疑解惑,助力高效美好的生活。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号