一、Ollama是什么？
Ollama是一个强大的开源框架，专为在本地机器上便捷地部署和运行大型语言模型（LLM）而设计。以下是对Ollama的详细介绍：
一、主要功能特点
- 简化部署：Ollama通过优化的Docker容器化技术，将复杂的模型部署过程简化，使得非专业用户也能方便地管理和运行这些大型语言模型。
- 捆绑模型组件：它将模型权重、配置和数据捆绑到一个包中，称为Modelfile，这有助于优化设置和配置细节，包括GPU使用情况。
- 支持多种模型：Ollama支持多种大型语言模型，如Llama 2、Code Llama、Mistral、Gemma等，并允许用户根据特定需求定制和创建自己的模型。
- 跨平台支持：Ollama提供针对macOS、Linux以及Windows（预览版）的安装指南，确保用户能在多种操作系统环境下顺利部署和使用。
- 轻量级与可扩展：作为轻量级框架，Ollama保持了较小的资源占用，同时具备良好的可扩展性，允许用户根据需要调整配置以适应不同规模的项目和硬件条件。
- API支持：Ollama提供了一个简洁的API，使得开发者能够轻松创建、运行和管理大型语言模型实例，降低了与模型交互的技术门槛。
- 预构建模型库：它包含一系列预先训练好的大型语言模型，用户可以直接选用这些模型应用于自己的应用程序，无需从头训练或自行寻找模型源。
- 模型导入与自定义提示：支持从特定平台（如GGUF）导入已有的大型语言模型，也兼容PyTorch或Safetensors等深度学习框架。同时，允许用户为模型添加或修改提示（prompt engineering），以引导模型生成特定类型或风格的文本输出。
二、使用场景
- 研究与开发：研究人员和开发人员可以使用Ollama在本地进行模型的训练和调试，以便更好地理解和改进模型。
- 智能应用：开发人员可以利用Ollama为本地应用程序提供智能聊天功能，提高用户体验。
- 教育与娱乐：在教育领域，Ollama可以用于创建互动式学习材料；在娱乐领域，则可以用于生成有趣的对话和故事。
二、安装Ollama
1、搜索Ollama
2、进入官网,点击下载
3、之后我们进入右上角的Models
4、下载想要的ollama大语言模型（7b可以选择是它的模型参数大小）
复制以上的llama3.1
win+R打开Windows窗口输入cmd进入命名行,然后输入ollama，回车，若下载成功会显示这样的界面
之后输入 ollama run llama3.1开始下载ollama的语言模型
下载完成之后 输入ollama list可以看到你下载的所有模型
三、运行Ollama
到这一步就很简单了，打开命名行，直接输入ollama run (你的模型名字)
比如我的模型名字是llama3.1:latest ，就是ollama run llama3.1:latest
之后就如图所示可以在命名行中运行你的本地化AI大语言模型了！
湖北师范大学 计算机与信息工程学院 学科小组-马列
标签：语言,AI,Ollama,模型,用户,命令行,llama3.1,ollama From： https://blog.csdn.net/2301_79571285/article/details/143867484