ollama 是一个快速部署和运行大语言模型的开源工具，https://ollama.com/。通过它可以在终端与大语言模型交互，而且安装非常的简单，支持非常多的模型，并且可以随意切换模型， 支持模型地址：https://ollama.com/library
如果你想使用LLM模型但是又不想暴露你的私人数据到公网，不放试一试这个方法。
以下是在 WSL 中安装它的过程
执行安装命令
curl -fsSL https://ollama.com/install.sh | sh
这样就安装好了。
使用
使用 命令 ollama -h 看看有哪些参数
(base) hayden@hayden ~$ ollama -h``Large language model runner`` ``Usage:` `ollama [flags]` `ollama [command]`` ``Available Commands:` `serve Start ollama` `create Create a model from a Modelfile` `show Show information for a model` `run Run a model` `pull Pull a model from a registry` `push Push a model to a registry` `list List models` `cp Copy a model` `rm Remove a model` `help Help about any command`` ``Flags:` `-h, --help help for ollama` `-v, --version Show version information`` ``Use "ollama [command] --help" for more information about a command.
在命令帮助信息中可以看到可以使用 serve 启动它，
接着我们来启动它：
(base) hayden@hayden ~$ ollama serve 127 ↵``Couldn't find '/home/hayden/.ollama/id_ed25519'. Generating new private key.
然后打开另一个窗口， 接着 从 https://ollama.com/library 中选一个模型 拉到本地跑，以 llama2 为例
(base) hayden@hayden ~$ ollama run llama2``pulling manifest``pulling 8934d96d3f08... 100% ▕██████████████████████████████████████████████▏ 3.8 GB``pulling 8c17c2ebb0ea... 100% ▕██████████████████████████████████████████████▏ 7.0 KB``pulling 7c23fb36d801... 100% ▕██████████████████████████████████████████████▏ 4.8 KB``pulling 2e0493f67d0c... 100% ▕██████████████████████████████████████████████▏ 59 B``pulling fa304d675061... 100% ▕██████████████████████████████████████████████▏ 91 B``pulling 42ba7f8a01dd... 100% ▕██████████████████████████████████████████████▏ 557 B``verifying sha256 digest``writing manifest``removing any unused layers``success``>>> Send a message (/? for help)
这样 llama2 模型就跑起来了，现在就可以在本地与 llama2 交互了。
这里我问了一句 what is you name 模型对问题做出了回答。我们也可以在写代码的时候让它帮助我们写一段代码。
>>> what is you name``I'm just an AI, I don't have a personal name. My purpose is to assist and provide helpful responses to``users like you, so please feel free to call me by any name you like!`` ``>>> Send a message (/? for help)
接着可以用 list 命令看看本地安装了哪些模型
(base) hayden@hayden ~$ ollama list``NAME ID SIZE MODIFIED``llama2:latest 78e26419b446 3.8 GB About a minute ag
我这里显示只安装了一个 llama2 模型，模型的大小是3.8GB。
需要注意 github 上面有介绍运行不同大小参数的模型对内存的要求不一样：
Note: You should have at least 8 GB of RAM available to run the 7B models, 16 GB to run the 13B models, and 32 GB to run the 33B models.
在选择模型的时候需要考虑一下你本地运行的机器的内存是否满足运行这个模型的要求，运行 7B 的模型需要至少 8 GB的内存， 运行 13B 的模型至少需要 16 GB的内存，运行 33B 的模型至少需要 32 GB 的内存。
最后如果不想继续使用某个模型，可以使用 rm 删掉以节省磁盘空间
(base) hayden@hayden ~$ ollama rm llama2
那么，如何系统的去学习大模型LLM？
我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。
作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。
但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
所有资料 ⚡️ ，朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》，扫码获取~
