首页 > 编程语言 >Continue-AI编程助手本地部署llama3.1+deepseek-coder-v2

Continue-AI编程助手本地部署llama3.1+deepseek-coder-v2

时间:2024-08-04 16:07:55浏览次数:18  
标签:coder code AI llama3.1 MacOS Windows VS https ollama

领先的开源人工智能代码助手。您可以连接任何模型和任何上下文,以在 IDE 内构建自定义自动完成和聊天体验

推荐以下开源模型:

聊天:llama3.1-8B 推理代码:deepseek-coder-v2:16b

嵌入模型

  • nomic-embed-text
模型默认存储路径:C:\Users\你的用户名\.ollama\models\blobs 模型离线下载:https://pan.quark.cn/s/dbc3fdeffc68 命令行运行:
ollama run deepseek-coder-v2:16b
ollama run llama3.1:8b
ollama pull nomic-embed-text:latest
VScode搜索:Continue   对话模型示例:
  "models": [
    {
      "title": "Ollama",
      "provider": "ollama",
      "model": "llama3.1:8b"
    }
  ],
    "models": [    
    {
      "model": "gpt-4-turbo-preview",
      "contextLength": 8192,
      "title": "gpt-4-turbo-preview",
      "systemMessage": "You are an expert software developer. You give helpful and concise responses.",
      "apiKey": "you-key",
      "apiBase": "https://api.fe8.cn/v1", 
      "completionOptions": {
        "temperature": 0.7,
        "topP": 0.9,
        "topK": 10,
        "presencePenalty": 0.01,
        "frequencyPenalty": 0.02
      },
      "provider": "openai"
    }
    ],
设置代码推理:
  "tabAutocompleteModel": {
    "title": "deepseek-coder-v2:16b",
    "provider": "ollama",
    "model": "deepseek-coder-v2:16b"
  },
设置嵌入:
  "embeddingsProvider": {
    "provider": "ollama",
    "model": "nomic-embed-text"
  },
 

使用教程:

轻松理解代码

VS code: cmd+L (MacOS) / ctrl+L (Windows)

Tab自动完成代码

 

重构您正在编码的函数

VS code: cmd+I (MacOS) / ctrl+I (Windows)

询问有关您的代码库的问题

VS Code: @codebase (MacOS) / @codebase (Windows)  

快速使用文档作为上下文

VS code: @docs (MacOS) / @docs (Windows)

使用斜杠命令开始操作

在此处了解有关斜杠命令的更多信息 VS Code: /edit (MacOS) / /edit (Windows)  

将类、文件等添加到上下文中

VS code: @files (MacOS) / @files (Windows) 在此处了解有关上下文提供程序的更多信息。  

了解终端错误

VS code: cmd+shift+R (MacOS) / ctrl+shift+R (Windows)   官方文档: https://github.com/continuedev/continue https://docs.continue.dev/setup/overview https://ollama.com/blog/continue-code-assistant https://docs.continue.dev/setup/select-model

标签:coder,code,AI,llama3.1,MacOS,Windows,VS,https,ollama
From: https://www.cnblogs.com/qianchilang/p/18341838

相关文章

  • OpenAI Function Call大模型调用单个多个agent案例
    参考:https://platform.deepseek.com/api-docs/zh-cn/function_callinghttps://blog.csdn.net/qq_31095905/article/details/139143778https://blog.csdn.net/jacbo/article/details/136278619##官方案例https://cookbook.openai.com/examples/how_to_call_functions_wi......
  • aiohttp 存在超时问题,但请求没有超时问题
    我正在尝试使用两种不同的方法在Python中获取网页:requests和aiohttprequests方法工作正常,但aiohttp方法会导致超时。代码如下:importasyncioimportaiohttpimportrequestsheaders={'User-Agent':'Mozilla/5.0(WindowsNT10.0;Win64;x6......
  • 科大讯飞AI学习机T20 Pro 怎么样 优缺点评测
    探索学习新天地,科大讯飞AI学习机T20Pro带你领略知识的魅力!这款专为求知若渴的学子打造的13.3英寸家教机,搭载星火认知大模型,8GB运存配合512GB超大存储,流畅运行各类学习应用,无论是小学生还是高中生,全龄段的学习需求都能轻松满足。智能护眼功能守护孩子视力健康,让学习更加安心。让A......
  • 科大讯飞AI学习机P30 值得入手吗
    科大讯飞AI学习机P30是一款功能强大的学习设备,适用于小学到高中各个年龄段的学生。其拥有6GB内存和256GB存储空间,运行更加流畅,存储更加充裕,能够满足学生各种学习和娱乐需求。11英寸护眼平板设计有效减少了眼睛疲劳,保护了学生的视力健康。此外,P30还配备了丰富的英语学习资源和交互......
  • 腰部 KOL 发展潜力预测与企业定制 AI 智能名片 O2O 商城小程序的协同发展
    摘要:随着社交媒体和内容创作平台的蓬勃发展,KOL(关键意见领袖)在品牌推广和营销领域的作用日益凸显。在头部KOL资源竞争激烈的当下,腰部KOL成为了新的运营重点。然而,挖掘有潜力的腰部KOL并非易事。本文通过分析腰部KOL晋升为头部KOL的关键指标,探讨如何运用多元回归模型进......
  • AI智能名片小程序:匹配法则下的粉丝经济新探索
    摘要:在数字化时代,企业与消费者之间的互动方式正经历着前所未有的变革。AI智能名片小程序作为这一变革中的新兴产物,不仅重塑了传统商务交流的场景,更在匹配法则的指导下,深刻影响着品牌与粉丝关系的构建与维护。本文旨在探讨AI智能名片小程序如何运用匹配法则,精准把握并满足粉丝的......
  • 基于大预言模型的AI逻辑推理#AI夏令营 #Datawhale #夏令营
    这是基于第二届世界科学智能大赛逻辑推理赛道:复杂推理能力评估(点击跳转赛事官网)的一篇从0基础入门AI的实践课,适合于零基础小白,本篇文章是我自己的学习笔记,供大家参考1.大语言模型介绍大语言模型的概念大语言模型(英文:LargeLanguageModel,缩写LLM),是一种人工智能模型,旨在理......
  • 使用LangChain访问个人数据第五章-检索
    需要学习提示词工程的同学请看面向开发者的提示词工程需要学习ChatGPT的同学请查看搭建基于ChatGPT的问答系统需要学习LangChian开发的同学请查看基于LangChain开发应用程序本部分前几个章节请查看使用LangChain访问个人数据第一章-简介使用LangChain访问个人数据第......
  • 【人工智能】如何选择AI绘画工具?Midjourney VS Stable Diffusion
    文章目录......
  • Datawhale AI 暑期夏令营 第四期Task3
    Transformer架构Transformer是一种用于自然语言处理(NLP)和其他序列到序列(sequence-to-sequence)任务的深度学习模型架构,它在2017年由Vaswani等人首次提出。Transformer架构引入了自注意力机制(self-attentionmechanism),这是一个关键的创新,使其在处理序列数据时表现出色。以下是Tran......