首页 > 其他分享 >1月26日总结(服务外包杯大模型总结)

1月26日总结(服务外包杯大模型总结)

时间:2024-01-26 10:55:06浏览次数:30  
标签:总结 26 chatglm3 模型 知识库 包杯 可以

在本地部署了chatglm3大模型的cpu运行版本,但是运行速度太缓慢。
在阿里云服务器部署了langchain-chatglm大模型,还有一个langchain-chatchat版本,之后会尝试一下。
观看了一些视频,有一些想法:

赛题官方答复可以做多个城市的旅游知识库。

可以添加多模态,生成图片音频,这可以作为一个进阶拔高的地方,目前只是听说了有这方面的内容,还未了解过怎么实现。

chatglm3新特性,可以实现多角色对话,使用系统角色告诉大模型身份,他能够记得更牢固。


各个模型的推理能力对比,目前使用的chatglm3和gpt3相当,日后会考虑购买chatgpt4提升推理能力。


通过以上两张图片可以看出,接入知识库的原理是(个人理解的):将用户输入的问题输入的问题现在知识库匹配,再将匹配到的内容和用户的问题一并交给大模型,让大模型给出答复。所以使用远程的大模型也可以接入知识库。

chatglm3的新特性,可以调用外部工具,日后可以为系统扩展更多功能。

大模型的多轮对话就是把之前问答的所有信息记录下来,在一次性的喂给他,他的模型本身是没有记忆能力的,是要靠代码把之前的问答存储下来的。

日后的一个扩展方向,sql代码解释器,直接向大模型提出需求,让大模型给出sql代码并执行,直接给出结果。

标签:总结,26,chatglm3,模型,知识库,包杯,可以
From: https://www.cnblogs.com/lmyy/p/17988867

相关文章

  • vue中动态添加style样式的几种写法总结
    项目中可能会需要动态添加style行内样式,但是在长期维护的项目里面,尽量要避免使用。注意:1、凡是有-的style属性名都要变成驼峰式,比如font-size要变成fontSize。2、除了绑定值,其他的属性名的值要用引号括起来,比如backgroundColor:'#00a2ff'而不是backgroundColor:#00a2ff。......
  • Kafka 特性总结
    Kafka特性可总结如下:1.高可用Kafka0.8以前是没有高可用机制的。Kafka0.8以后,通过副本机制来实现高可用,基于副本机制实现Kafka的高可用。2.持久性Kafka集群接收到Producer发过来的消息后,将其持久化到磁盘。此外,还支持数据备份。3.数据不易丢失通过合理的配置,Ka......
  • POJ2627 数独 (dfs or bfs)
    POJ2627数独(dfsorbfs)给出一个数独,空白用0表示,输出一个合理答案即可;SampleInput1103000509002109400000704000300502006060000050700803004000401000009205800804000107SampleOutput1436285795721394689867542313915427864689173527258639142374816956......
  • 今日总结
    Spark四大特点Spark使用Scala语言进行实现,它是一种面向对、函数式编程语言,能够像操作本地集合一样轻松的操作分布式数据集。Spark具有运行速度快、易用性好、通用性强和随处运行等特点。速度快由于ApacheSpark支持内存计算,并且通过DAG(有向无环图)执行引擎支持无环数据流,所......
  • js中数组反转的方法总结
    1.常用的方法reverse()[1,2,3,4].reverse()  //[4,3,2,1]2.采用for循环方式使用递减循环遍历的方式,将元素一次存入新的数组中,新数组就是反转后的新数组constdataRef=[1,2,3,4]constnewArr:any[]=[]for(leti=dataRef.length-1;i>=0;i--){ne......
  • nginx-rtmp-module 支持 Enhancing RTMP HEVC(H.265)
     EnhancingRTMP,FLV2023年7月31号正式发布,主要支持了HEVC(H.265)、VP9、AV1视频编码,发布差不多半年了,很多开源项目已支持,最近打算播放和推送端也支持下,想找个支持的rtmpserver方便测试用,但没找到合适的。干脆自己改改nginx-rtmp-module代码,做个基本的支持,能正常推送和播放En......
  • 李宏毅《机器学习》总结 - CNN
    使用场景:对图片进行分类首先,将图片变成向量。例如,对于一个彩色的\(N\timesN\)(这个N指的是像素个数)图片,其对应着一个\(N\timesN\times3\)的矩阵(其中3是图片的channel,在彩色图片中,每个像素由RGB构成,因此channel为3)一个初始的想法将这个矩阵拉长,变成一个向量,然后......
  • MAT使用思路总结
    参考:https://blog.csdn.net/x275920/article/details/123991656主要分为2种操作。简单粗暴来个内存泄漏分析LeakSuspects和TopConsumers,可以看出大部分简单的内存泄漏问题看保留堆/深堆RetainedHeap大的,这个表示如果这个对象被清理,那么RetainedHeap都是可以被清理的,所......
  • 选题要求分析总结
    问题:1、数据分布在不同的部门和系统中,数据采集难度大2、由于数据来源多样,且可能存在数据重复、数据不一致等问题3、缺乏专业的数据分析工具,导致数据分析能力不足,无法充分利用数据为决策提供支持4、缺乏有效的数据可视化工具,导致数据无法直观地展示,从而影响决策效率 功能:1......
  • Postman使用总结
    对于黑盒测试工程师来说,使用postman的场景无非就是拿它看看接口返回的数据。比对一下预期返回的参数与实际是否相符。所以我这里的postman使用方法仅限于如何调用接口。 首先,你需要下载postman(毋庸置疑,其实用网页版也可以)官网主页:https://www.postman.com/downloads/安装你......