deepseek模型介绍

如何选择自己适配的大模型
那当然是直接问deepseek了,大模型主要考验的是计算机的内存和显存。

得到的回答是:

这个推荐选择32B,那就下载32B。
私有化部署方法
这里借鉴了阿坡老师分享的教程。
下载Ollama
Ollama 是一个开源的本地化工具,旨在简化大型语言模型(LLMs)的本地运行和部署。它专注于让用户能够轻松在个人计算机或服务器上运行多种开源语言大模型(如deepseek ,qwen,Llama、Mistral、Gemma等),而无需依赖云端服务或复杂的配置流程。
网址:https://ollama.com/
下载后安装

下载deepseek R1模型
打开终端:win+R,输入
代码块 ollama run deepseek-r1:32b

安装完后,没有图形界面,命令行操作。可以输入一个问题测试一下,有回答,说明已经正确安装。

安装docker
网址:https://www.docker.com/
跟普通软件一样,下载后正常安装就行。
因为docker会用到hyper-v,如果电脑没开启hyper-v,会自动重启一次(直接关机没商量),所以一定要提前保存好自己电脑正在运行的文件。

为了更好的阅读体验,来飞书看吧:
https://r0f2wr4t2ly.feishu.cn/docx/P7AmdsERAoxIk4x984LcEllQnfx
Comments on "deepseek本地部署和私有化知识库构建" :