超详细!DeepSeek本地部署全指南|从零到精通,保姆级教程+避坑大全
作为一名常年折腾本地部署的 AI 玩家,今天要给大家解锁一个硬核技能:如何在个人电脑上搭建国产大模型新秀 —— 深度求索(Deepseek)的私服版。无需高端显卡,普通游戏本也能跑起来,文末还附赠性能调优秘籍!部署前的战前准备,工欲善其事必先利其器,我们先来清点装备:硬件底线配置
[*]CPU:i5 十代以上(AMD 锐龙 5 同级别)
[*]内存:最低 16GB(32GB 丝滑体验)
[*]显卡:RTX 3060 12GB 显存起步(实测 7B 模型流畅推理)
[*]硬盘:至少 50GB 固态空间(模型文件比《赛博朋克 2077》还大)
一、Windows 本地部署
1.1 新建环境变量
1.2进入ollama官网下载
Win安装包: https://pan.baidu.com/s/1jHQP8vjm_PQz7kc-QPrnmA?pwd=mayi 提取码: mayi
Mac安装包: https://pan.baidu.com/s/1kpIwOtRBiDDPs8xZwH-orA?pwd=mayi 提取码: mayi
1.3 下载语言模型模型
地址:https://ollama.com/library/deepseek-r1
🔸 deepseek-rl系列:
👉6B:轻量级,适合文案生成
👉13B:平衡性能与速度
👉70B:高精度,需32GB以上内存
🔸 量化版本:带-q4后缀为4bit压缩版,体积减半但精度略降
🔸 模型下载指令大全
👉 基础版:ollama run deepseek-rl:7b
👉 量化版:ollama run deepseek-rl:7b-q4
👉 指定版本:ollama run deepseek-rl:7b-text-20240510
1.4选择deepseek-r1模型版本下载至本地
1.5 选择本地文件夹CMD后粘贴刚才复制的命令
1.6开始下载
1.7 下载完成并测试
二、火山在线使用
https://console.volcengine.com/a ... ing/experience/chat
✅ 聊天模式:支持多轮对话、角色预设(如“小红书博主”)
✅ 文件解析:上传PDF/TXT → 自动生成摘要
✅ API测试台:在线调试参数,实时查看响应测试:写一首关于春天的诗
三、API本地调用
首先登录Deepseek开放平台获取API_Key
https://platform.deepseek.com/api_keys
步骤1:登录 https://platform.deepseek.com/api_keys→ 左下角「创建API密钥」
步骤2:填写名称 → 复制Key(⚠️仅显示一次!)
然后下载Chatbox,根据自己的电脑版本选择即可,也可以使用网页版
https://chatboxai.app/zh
下载完成后点击设置
选择「DeepSeek API」,
测试:写一首关于春天的诗
页:
[1]