最近想要开发一些AI应用,不想要要使用线上的API调用,收费不说,有时候还不稳定。
就想着本地安装一个大模型运行试一试。
这篇文章手把手带你一起安装本地大模型,以及不同配置电脑应该如何选择大模型。
平台Ollama,模型qwen3:8b
当然本地运行大模型也有一定的局限性,对电脑性能,有一定要求。对于参数很大的模型,运行起来有些困难,不过好在都有少参数版本的模型,可以尝鲜。
先看效果:

一、什么是ollama?
ollama是一个本地运行大模型的工具,上面有基本所有市面上的开源大模型。让你快速下载,并可以本地运行。
https://ollama.com/


下载
官网下载安装就可以了。https://ollama.com/download

为了更好的阅读体验,来飞书看吧:
https://kqxyky8cqrw.feishu.cn/wiki/Je7jw4xJViHIgmk95krcamdynuc
Comments on "2025/7/24 告别高额API!手把手教你在本地免费跑AI大模型,详细操作指南!" :