作为一名常年折腾本地部署的 AI 玩家,今天要给大家解锁一个硬核技能:如何在个人电脑上搭建国产大模型新秀 —— 深度求索(Deepseek)的私服版。无需高端显卡,普通游戏本也能跑起来,文末还附赠性能调优秘籍!
部署前的战前准备,工欲善其事必先利其器,我们先来清点装备:硬件底线配置
- CPU:i5 十代以上(AMD 锐龙 5 同级别)
- 内存:最低 16GB(32GB 丝滑体验)
- 显卡:RTX 3060 12GB 显存起步(实测 7B 模型流畅推理)
- 硬盘:至少 50GB 固态空间(模型文件比《赛博朋克 2077》还大)
一、Windows 本地部署
1.1 新建环境变量


1.2进入ollama官网下载
Win安装包: https://pan.baidu.com/s/11lmCArJ6WDwn1yRYyJRVuQ?pwd=KAKA 提取码: KAKA
Mac安装包: https://pan.baidu.com/s/18rE6XDJs8IjFcK_f3grGOQ?pwd=KAKA 提取码: KAKA

1.3 下载语言模型
**模型地址:**https://ollama.com/library/deepseek-r1
🔸 deepseek-rl系列:
👉6B:轻量级,适合文案生成
👉13B:平衡性能与速度
👉70B:高精度,需32GB以上内存
🔸 量化版本:带 -q4
后缀为4bit压缩版,体积减半但精度略降
🔸 模型下载指令大全
👉 基础版:ollama run deepseek-rl:7b
👉 量化版:ollama run deepseek-rl:7b-q4
👉 指定版本:ollama run deepseek-rl:7b-text-20240510

1.4选择deepseek-r1模型版本下载至本地

1.5 选择本地文件夹CMD后粘贴刚才复制的命令

1.6开始下载

1.7 下载完成并测试

二、火山在线使用
https://console.volcengine.com/ark/region:ark+cn-beijing/experience/chat
✅ 聊天模式:支持多轮对话、角色预设(如“小红书博主”)
✅ 文件解析:上传PDF/TXT → 自动生成摘要
✅ API测试台:在线调试参数,实时查看响应
测试:写一首关于春天的诗

三、API本地调用
首先登录Deepseek开放平台获取API_Key
https://platform.deepseek.com/api_keys
步骤1:登录 https://platform.deepseek.com/api_keys→ 左下角「创建API密钥」
步骤2:填写名称 → 复制Key(⚠️仅显示一次!)

然后下载Chatbox,根据自己的电脑版本选择即可,也可以使用网页版
https://chatboxai.app/zh

下载完成后点击设置

选择「DeepSeek API」,


测试:写一首关于春天的诗
