首页 > 其他分享 >【ai】如何在ollama中随意使用hugging face上的gguf开源模型

【ai】如何在ollama中随意使用hugging face上的gguf开源模型

时间:2024-06-18 17:01:58浏览次数:11  
标签:pull ai 模型 gguf hugging face txt ollama

【背景】

ollama的pull命令可以直接pull ollama列表中现有的模型,但是ollama可以直接pull的模型大都是英语偏好(llama2有直接可以pull的chinese版本),而hugging face上则有大量多语种训练的模型,如果能直接使用hugging face上的gguf开源模型,那就自由多了,本篇介绍方法。

【命令】

先找到hugging face上的guff模型下载下来,比如这个我已经下载好了:
在这里插入图片描述
然后写一个txt文件,内容如下:
在这里插入图片描述
进到txt文件同目录,用ollama命令生成ollama可直接使用的模型,同时可以给模型命名:

ollama create yourname-CH-model -f Modelfile.txt

标签:pull,ai,模型,gguf,hugging,face,txt,ollama
From: https://blog.csdn.net/weixin_41697242/article/details/139778154

相关文章

  • 揭秘大模型AI Agent:人工智能的新纪元
    什么是AIAgent(LLMAgent)“Agent”是一个跨学科的概念,涵盖了哲学、计算机科学、经济学、生物学等多个领域。尽管定义和应用范围各异,代理的核心特征在于其自主性、感知和决策能力,以及目标导向的行动能力。理解代理在不同领域中的具体应用和特征,有助于更全面地认识和利用这......
  • 【ACM独立出版/Fellow大咖云集】 第三届机器人、人工智能与信息工程国际学术会议(RAIIE
    2024年第二届机器人、人工智能与信息工程国际学术会议(RAIIE2024)将于2024年7月5-7日在新加坡举行。本次会议主要围绕“机器人”、“智能仿生”和“信息科学”的最新研究进展展开,会议汇聚了该领域内国际学者、专家、研究人员及相关从业人员,分享研究成果,探讨机器人的最新发展趋势,为......
  • [论文速览] Small-scale proxies for large-scale Transformer training instabilitie
    Pretitle:Small-scaleproxiesforlarge-scaleTransformertraininginstabilitiessource:ICLR2024paper:https://arxiv.org/abs/2309.14322code:ref:小尺度Transformer如何ScaleIdea这篇文章想通过小模型来研究大模型(Transformer)训练不稳定的原因Method(Model)图......
  • 希望六月:参加阿里云 PolarDB 与「AI函数计算」动手活动,送博客园T恤
    没想到今年六月是园子与阿里云的推广合作季,同时有好几个推广项目在合作,比如:阿里云开发者社区有奖征文活动,期待您出文相助「指间灵动,快码加编」:阿里云通义灵码,再次降临博客园阿里云618创新加速季,5亿补贴享不停,上云礼包抢先领再加上今天发布的PolarDB与AI函数计算动手活动......
  • AI写作与论文辅助:10款PC端AI工具的创新应用
    我看大家都推荐的差不多了,常见好用的PC软件就那些,我不想反复“咀嚼”了,我想另辟蹊径推荐点不一样的,比如10款PC端的AI网站。AI已经全方位“侵入”我们的生活,从AI写作到AI绘画,从AI视频到AI语音,AI无所不包。真正学会用好AI神器,可以解决我们生活中很多烦恼。一、bilingAI写作直达......
  • 大家都是怎么写毕业论文的? 推荐ai写论文工具
    写作这件事一直让我们从小学时期就开始头痛,初高中时期800字的作文让我们焦头烂额,一篇作文里用尽了口水话,拼拼凑凑才勉强完成。大学时期以为可以轻松顺利毕业,结果毕业前的最后一道坎拦住我们的是毕业论文,这玩意不是苦战几个通宵就能解决的!一件无从下手的事情从开头就能让人做......
  • AI润色技术:AI论文工具在提升写作质量中的作用
    GPT从3.5一路升级到4.0,不仅在国外火得一塌糊涂,还悄悄地在我们论文润色的世界里掀起了一场革命。首先,得承认,虽然这玩意儿是“洋货”,用起来可能得费点脑筋——注册个账号啦,买个会员啦之类的。但它对我们这些非英语母语者来说,简直就是救星。对,你没听错,就是救星!去年呢,我就尝试了......
  • AI论文创作:探索10款AI工具如何简化学术写作流程
    我看大家都推荐的差不多了,常见好用的PC软件就那些,我不想反复“咀嚼”了,我想另辟蹊径推荐点不一样的,比如10款PC端的AI网站。AI已经全方位“侵入”我们的生活,从AI写作到AI绘画,从AI视频到AI语音,AI无所不包。真正学会用好AI神器,可以解决我们生活中很多烦恼。一、bilingAI写作直达......
  • AI在学术写作中的多维应用:从草稿到定稿
    写作这件事一直让我们从小学时期就开始头痛,初高中时期800字的作文让我们焦头烂额,一篇作文里用尽了口水话,拼拼凑凑才勉强完成。大学时期以为可以轻松顺利毕业,结果毕业前的最后一道坎拦住我们的是毕业论文,这玩意不是苦战几个通宵就能解决的!一件无从下手的事情从开头就能让人做......
  • AI写作工具:从草稿到润色,AI如何助力论文创作
    GPT从3.5一路升级到4.0,不仅在国外火得一塌糊涂,还悄悄地在我们论文润色的世界里掀起了一场革命。首先,得承认,虽然这玩意儿是“洋货”,用起来可能得费点脑筋——注册个账号啦,买个会员啦之类的。但它对我们这些非英语母语者来说,简直就是救星。对,你没听错,就是救星!去年呢,我就尝试了......