首页 > 其他分享 >Huggingface数据集下载无法连接解决方式

Huggingface数据集下载无法连接解决方式

时间:2022-10-27 13:46:01浏览次数:43  
标签:load datasets cb Huggingface dataset glue super 连接 下载

 

问题背景

Huggingface网站提供了许多数据集,数据集格式比较标准,使用非常方便。但是在国内用服务器datasets.load_dataset()下载经常会遇到cannot connect的问题,即使在联网的状态下。

解决方法

解决“无法下载”一种比较可靠的方式,用个人联网电脑本地下载,比如下面super_glue里的cb数据集:

from datasets import load_dataset
dataset = load_dataset('super_glue', 'cb', cache_dir='./raw_datasets')
dataset.save_to_disk('super_glue_cb')

不出意外的话,这样就可以顺利下载。并保存至super_glue_cb, 会包含train、validation、test等文件。

将数据集上传到服务器器上就可以在本地加载数据集了,避免在线下载网络不稳定或无法连接的问题。

本地加载使用方式:

from datasets import load_from_disk
raw_dataset = load_from_disk("./super_glue/super_glue_cb")

 

标签:load,datasets,cb,Huggingface,dataset,glue,super,连接,下载
From: https://www.cnblogs.com/huadongw/p/16831916.html

相关文章