- 2024-09-30nlp任务之预测中间词-huggingface
目录1.加载编码器1.1编码试算 2.加载数据集 3.数据集处理 3.1map映射:只对数据集中的'sentence'数据进行编码3.2用filter()过滤 单词太少的句子过滤掉3.3截断句子 4.创建数据加载器Dataloader 5. 下游任务模型 6.测试预测代码 7.训练代码 8.保存与加载模
- 2024-09-17huggingface上数据集常用格式Parquet及调用
Parquet格式解释及词解Parquet,中文通常翻译为帕奎或帕凯,是一种高效的列式存储格式。为什么叫Parquet?Parquet这个词源自法语,指的是一种镶木地板。这种地板是由许多小块木块拼凑而成的,每个木块代表一个数据列。这种比喻形象地说明了Parquet格式的存储方式。Parquet的特点和优
- 2024-09-11如何使用huggingface下载数据集和预训练模型
如果各位在下载huggingface上的模型和数据库也会出现“connectclosed/failed”等错误,不妨试试下面的解决方案,思路大致是,通过设置镜像的方式来解决。下载数据集1.找到你要下载的数据库名称,并复制2.打开终端,并选择需要使用的conda环境,编写bash文件(或者
- 2024-09-09Hugging Face 的应用
大纲Hugging-Face介绍Hugging-Face大语言模型LLM管理Transformers机器学习框架文本生成推理(TGI)HuggingFaceHugging-Face--大语言模型界的GithubHuggingFace专门开发用于构建机器学习应用的工具。该公司的代表产品是其为自然语言处理应用构建的transformers库,以及允
- 2024-09-09Hugging Face 的应用
大纲Hugging-Face介绍Hugging-Face大语言模型LLM管理Transformers机器学习框架文本生成推理(TGI)HuggingFaceHugging-Face--大语言模型界的GithubHuggingFace专门开发用于构建机器学习应用的工具。该公司的代表产品是其为自然语言处理应用构建的transformer
- 2024-08-28最强图像反推Joy_Caption结合ComfyUI Flux GGUF的使用
前言前言对于图像的提示词反推,大家不都陌生,最开始使用的WD14反推,到我之前写的文章[Flux超强图像提示词伴侣MiniCPM-V2.6(超强)|ComfyUI中Flux实现无IPA三图创意融合]反推的效果都在增强,今天再给大家推荐一款,号称最强提示词反推工具:JoyCaption,在ComfyUI中的安装,以及结合