首页 > 其他分享 >如何在本地跑大模型?

如何在本地跑大模型?

时间:2024-03-28 10:46:07浏览次数:13  
标签:-- com 模型 如何 host webui 本地 main ollama

先上地址https://github.com/ollama/ollama/tree/main

官网 https://ollama.com/

下载

运行,然后会默认下载

ollama run llama2

选择不同的model

ui交互

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v ollama-webui:/app/backend/data --name ollama-webui --restart always ghcr.io/ollama-webui/ollama-webui:main

标签:--,com,模型,如何,host,webui,本地,main,ollama
From: https://www.cnblogs.com/qcy-blog/p/18101017

相关文章

  • 决策树模型(3)决策树的生成与剪枝
    决策树的生成有了信息增益和信息增益比,我就可以以此衡量特征的相对好坏,进而可以用于决策树的生成。相对应的基于信息增益计算的方法所生成的决策树的算法我们叫做ID3算法,而基于信息增益的算法我们叫做C4.5,二者唯一的区别就在于一个使用信息增益衡量特征好坏而另外一个使用信息增......
  • 【论文速读】| 对大语言模型解决攻击性安全挑战的实证评估
    本次分享论文为:AnEmpiricalEvaluationofLLMsforSolvingOffensiveSecurityChallenges基本信息原文作者:MinghaoShao,BoyuanChen,SofijaJancheska,BrendanDolan-Gavitt,SiddharthGarg,RameshKarri,MuhammadShafique作者单位:纽约大学、纽约大学阿布扎比......
  • 如何导入LUT
    剪影专业版剪映专业版中如何导入和使用lut,分享一组lut给大家学习使用PS油管翻译:cameraraw(lightroom)如何使用cube格式的lutLr(要先完成Ps那步,并关闭重新打开Lr)cube预设怎么导入lr?......
  • 【计算机网络】应用层——应用层概念&网络应用模型
    应用层概述应用层对应用程序的通信提供服务。应用层协议定义:应用进程交换的报文类型,请求还是响应?各种报文类型的语法,如报文中的各个字段及其详细描述。字段的语义,即包含在字段中的信息的含义。进程何时、如何发送报文,以及对报文进行响应的规则。应用层的功能......
  • 「DevExpress中文教程」如何将DevExtreme JS HTML编辑器集成到WinForms应用
    在本文中我们将演示一个混合实现:如何将webUI工具集成到WinForms桌面应用程序中。具体来说,我们将把DevExtremeJavaScriptWYSIWYGHTML编辑器(作为DevExtreme UI组件套件的一部分发布的组件)集成到WindowsForms应用程序中。获取DevExtremev23.2正式版下载DevExpress技术交......
  • jvm内存模型
    1栈局部变量表存放局部变量局部变量表中的对象是指向堆中对象的地址操作数栈方法内的数据计算程序计数器程序一行代码运行后存放下一行代码的地址本地方法栈方法用native修饰动态链接符号引用转化为直接引用直接引用为方法区的具体地址方法出口2堆新生代伊甸......
  • 【Flutter 面试题】 Dart 是不是单线程模型?是如何运行的?
    【Flutter面试题】Dart是不是单线程模型?是如何运行的?文章目录写在前面口述回答补充说明示例:异步编程示例:使用Isolates处理计算密集型任务总结写在前面......
  • 如何从其他平台复制商品上传到自己店铺?官方授权接口,一键复制爆款同款
    很多做一件代发的卖家在上新时会从其他平台选品铺货,看到某个商品卖得不错,直接复制到自己店铺去卖,可以节省测款成本。现在平台严查无货源,直接从别人店铺搬运商品属于违规违规行为,想要复制这个爆款的话,就需要从1688选择同款货源进行铺货。①添加到上传列表中勾选商品,点击“添......
  • k8s中的服务发现机制是如何实现的
    Kubernetes的服务发现机制是Kubernetes集群中一个非常核心的功能,它允许集群内的Pod、Service以及其他网络实体相互发现和通信。这种机制对于构建微服务架构的应用程序尤为重要,因为它可以消除硬编码的网络地址和端口号,提供动态的、可扩展的服务访问方式。在Kubernetes中,服务发现主......
  • vue3背景下,el-input嵌套在弹出框中,自动聚焦“失效”?如何实现自动聚焦
    情景:在一个弹出框中,有一个el-input输入框,想要实现当弹出框出现时,input会自动聚焦。使用input的原生属性autofocus去自动获取焦点失效;使用ref获取el-input元素也显示undefined!!!<el-dialogv-model="dialogFormVisible"width="300">.......<el-input......