超详细!DeepSeek本地部署全指南|从零到精通,保姆级教程+避坑大全

[复制链接]
七夏(UID:1) 发表于 2025-2-20 10:14:34 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

×

作为一名常年折腾本地部署的 AI 玩家,今天要给大家解锁一个硬核技能:如何在个人电脑上搭建国产大模型新秀 —— 深度求索(Deepseek)的私服版。无需高端显卡,普通游戏本也能跑起来,文末还附赠性能调优秘籍!

部署前的战前准备,工欲善其事必先利其器,我们先来清点装备:硬件底线配置

  • CPU:i5 十代以上(AMD 锐龙 5 同级别)
  • 内存:最低 16GB(32GB 丝滑体验)
  • 显卡:RTX 3060 12GB 显存起步(实测 7B 模型流畅推理)
  • 硬盘:至少 50GB 固态空间(模型文件比《赛博朋克 2077》还大)

一、Windows 本地部署

1.1 新建环境变量

图片

图片

1.2进入ollama官网下载

Win安装包: https://pan.baidu.com/s/11lmCArJ6WDwn1yRYyJRVuQ?pwd=KAKA 提取码: KAKA

Mac安装包: https://pan.baidu.com/s/18rE6XDJs8IjFcK_f3grGOQ?pwd=KAKA 提取码: KAKA

图片

1.3 下载语言模型

**模型地址:**https://ollama.com/library/deepseek-r1

🔸 deepseek-rl系列

👉6B:轻量级,适合文案生成

👉13B:平衡性能与速度

👉70B:高精度,需32GB以上内存

🔸 量化版本:带 -q4后缀为4bit压缩版,体积减半但精度略降

🔸 模型下载指令大全

👉 基础版ollama run deepseek-rl:7b

👉 量化版ollama run deepseek-rl:7b-q4

👉 指定版本ollama run deepseek-rl:7b-text-20240510

图片

1.4选择deepseek-r1模型版本下载至本地

图片

1.5 选择本地文件夹CMD后粘贴刚才复制的命令

图片

1.6开始下载

图片

1.7 下载完成并测试

图片

二、火山在线使用

https://console.volcengine.com/ark/region:ark+cn-beijing/experience/chat

聊天模式:支持多轮对话、角色预设(如“小红书博主”)

文件解析:上传PDF/TXT → 自动生成摘要

API测试台:在线调试参数,实时查看响应

测试:写一首关于春天的诗

图片

三、API本地调用

首先登录Deepseek开放平台获取API_Key

https://platform.deepseek.com/api_keys

步骤1:登录 https://platform.deepseek.com/api_keys→ 左下角「创建API密钥」

步骤2:填写名称 → 复制Key(⚠️仅显示一次!)

图片

然后下载Chatbox,根据自己的电脑版本选择即可,也可以使用网页版

https://chatboxai.app/zh

图片

下载完成后点击设置

图片

选择「DeepSeek API」,

图片

图片

测试:写一首关于春天的诗

图片

小时候,看腻了农村的牛和马,长大后,来到了城里,才知道原来到处都是牛马!
全部回复0 显示全部楼层
暂无回复,精彩从你开始!

快速回帖

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关于楼主

管理员
  • 主题

    1072
  • 回答

    437
  • 积分

    2970
虚位以待,此位置招租
虚位以待,此位置招租

商务推广

    此位置招租 此位置招租 此位置招租 此位置招租 此位置招租 此位置招租 此位置招租 此位置招租 此位置招租 此位置招租
最新热评 加载中...