前一段时间写了系列的机器学习入门,本期打算写深度学习入门数据集,第一个入手的是Cifar-10。Cifar-10数据集主要用来做图像识别。 这个数据集包含图像和标签,图像信息由32*32像素大小组成,标签包含10个类别(飞机、汽车、鸟、猫、鹿、狗、青蛙、马、船、卡车)。 这个数据集的目的是,用这些标注好的数据训练深度学习模型,使模型能够识别图片中的目标。比如,我们可以通过这个神经网络识别猫vs狗。 一、数据集 官网地址 官网上提供多种格式数据集,我们选bin。 CIFA-10 前25条数据 相关代码: import numpy as np from scipy.misc import imsave import matplotlib.pyplot cifar10_train.py,如果数据集没有下载,那么要重新下载数据集,运行结果如下: Filling queue with 20000 CIFAR images before starting
CIFAR-10和CIFAR-100是带有标签的数据集,都出自于规模更大的一个数据集,它有八千万张小图片(http://groups.csail.mit.edu/vision/TinyImages/)。 CIFAR-10和CIFAR-100的共同主页是:http://www.cs.toronto.edu/~kriz/cifar.html CIFAR-10数据集共有60000张彩色图像,这些图像是32*32 下面这幅图就是列举了这10个分类,每一类展示了随机的10张图片: ? 该数据集有有如下三种版本: ? python版本下载并解压后包含以下文件: ? 其中的html文件是数据集的官网网页。 下面的代码可以将CIFAR-10 数据集解析到Numpy数组 import numpy as np from matplotlib import pyplot as plt import os def "batches.meta")) names = label_names[b'label_names']#分类结果字节字符串 if __name__ == "__main__": #测试数据集是否加载成功
Cifar10数据集不讲了吧,入门必备,下载地址: https://www.cs.toronto.edu/~kriz/cifar.html 官方提供三种形式的下载: 可以看出是不提供图片形式的下载的 ,需要进行数据转换,虽然可以直接读成ndarray,但是对于初学者可能读图更直观点 自己写了个转换程序(将bytes形式的文件转换为图片并分类存储): def recover_cifar10(cifar10 _dir): """Save cifar 10 data(only training data) to files. Args: cifar10_dir: cifar 10 dataset path(python version). /data/cifar10' def save_batch(path): with open(path, 'rb') as fo: batch_data
AIEarth中国10米地物分类数据集(AIEC) 简介与Notebook示例¶ 达摩院AI Earth团队自研的中国区10m分辨率地物分类产品,数据包含2020-2022年中国逐年土地覆盖信息。 AI EarthSentinel地物分类中国年度产品 AI Earth中国10米地物分类数据集(AIEC)是一个用于地物分类的数据集。 该数据集包含了中国范围内的高分辨率遥感影像,并对影像中的地物进行分类。前言 – 人工智能教程 AIEC数据集的分辨率为10米,覆盖了中国的各个地区。 AIEC数据集是由人工智能技术自动进行地物分类得到的,具有较高的准确性和可靠性。数据集可以用于训练和评估地物分类模型,以提高地物分类的精度和效果。 并做好数据集引用说明。
参考文献Tensorflow 官方文档[1] > tf.transpose 函数解析[2] > tf.slice 函数解析[3] > CIFAR10/CIFAR100 数据集介绍[4] > tf.train.shuffle_batch 并将其转化为int32型数据。 这和此数据集存储图片信息的格式相关。 # CIFAR-10数据集中 """第一个字节是第一个图像的标签,它是一个0-9范围内的数字。 从阅读器中构造CIFAR图片管道 def input_pipeline(batch_size, train_logical=False): # train_logical标志用于区分读取训练和测试数据集 /CIFAR100数据集介绍: http://blog.csdn.net/u013555719/article/details/79343353 [5]tf.train.shuffle_batch函数解析
本篇我们还是用序列化的(串行的)卷积神经网络,基于CIFAR-10数据集创建图像识别模型。 = tf.keras.datasets.cifar10 #(x_train, y_train), (x_test, y_test) = cifar10.load_data() #从网络下载数据集 x_train loss='sparse_categorical_crossentropy', metrics=['accuracy']) tf.keras.Model.fit()进行测试试数据与模型的拟合 可以看出,训练完后模型在验证集上的预测准确度高达98%。 _model.h5') #利用加载后的模型对整个验证集做预测 #预测一组样本 #y_ = new_model.predict(x_test) #result = tf.argmax(y_, 1) #
本节课继续主要介绍CIFAR10数据集的读取 cifar_train = DataLoader(cifar_train, batch_size=batchsz, ) # 按照其要求,这里的参数需要有batch_size batch_size def main(): batchsz=32 # 这个batch_size数值不宜太大也不宜过小 cifar_train = datasets.CIFAR10 =True) # 直接在datasets中导入CIFAR10数据集,放在"cifar"文件夹中 cifar_train = DataLoader(cifar_train, batch_size () # 将数据转化到Tensor中 ]), download=True) # 直接在datasets中导入CIFAR10数据集,放在"cifar"文件夹中 () # 将数据转化到Tensor中 ]), download=True) # 直接在datasets中导入CIFAR10数据集,放在"cifar"文件夹中
本节课主要介绍CIFAR10数据集 登录http://www.cs.toronto.edu/~kriz/cifar.html网站,可以自行下载数据集。 打开页面后 ? 前讲的MNIST数据集为0~9的数字识别,而这里的为10类物品识别。由上可见物品包含有飞机、汽车、鸟、猫等。照片大小为32*32的彩色图片。 继续定义数据集代码 def main(): cifar_train = datasets.CIFAR10('cifar', train=True, transform=transforms.Compose transforms.ToTensor() # 将数据转化到Tensor中 ])) # 直接在datasets中导入CIFAR10数据集,放在"cifar "文件夹中 这里暂时不写Normalize函数 写到这里别忘了让pytorch自己下载数据集 在代码后面加入download=True即可实现 ]), download=True) Cifar_train
共享单车数据集超10万条 获取方式: 转发本文至朋友圈,截图发给本微信公众号 datayx 即可。 23个优秀的机器学习训练公共数据集 帕尔默企鹅数据集 共享单车需求数据集 葡萄酒分类数据集 波士顿住房数据集 电离层数据集 Fashion MNIST 数据集 猫与狗数据集 威斯康星州乳腺癌(诊断)数据集 本质上,这个数据集是 MNIST 数据集的变体,它与 MNIST 数据集具有相同的结构,也就是说它有一个 60,000 个样本的训练集和一个 10,000 个服装图像的测试集。 /kazanova/sentiment140) 10.BBC 新闻数据集 我们再来看这个类别中另一个有趣的文本数据集。 该数据集包含了来自亚马逊的产品评论和元数据,包括 1996 年 5 月至 2018 年 10 月的 2.331 亿条评论。
/cifar10/trainLabels.csv' test_csv_file = './cifar10/sampleSubmission.csv' train_folder = '. /cifar10/train/' test_folder = '. /cifar10/test' def parse_csv_file(filepath, folder): """Parses csv files into (filename(path), label test_predict = model.predict_generator(test_generator, workers = 10 /cifar10/submission.csv" generate_submissions(output_file, test_predict_class) # %%
本部分介绍如何采用ResNet解决CIFAR10分类问题。 ? 之前讲到过,ResNet包含了短接模块(short cut)。本节主要介绍如何实现这个模块。 先建立resnet.py文件。 如图 ?
数据集类型:图像分类用,不可用于目标检测无标注文件 数据集格式:仅仅包含jpg图片,每个类别文件夹下面存放着对应图片 图片数量(jpg文件个数):1129 分类类别数:10 类别名称:["avulsion_fracture
1024, h, w] x = self.blk1(x) x = self.blk2(x) x = self.blk3(x) x = self.blk4(x) 由于我们要进行10 分类问题,要将添加代码 self.outlayer = nn.Linear(1024, 10) 和 x = self.outlayer(x) return x 为确定具体维度大小,我们先构建假数据 def = > [b, 1024, h, w] self.blk4 = ResBlk(512, 1024) self.outlayer = nn.Linear(1024, 10
nn.Conv2d(ch_in, ch_out, kernel_size=1, stride=stride), 这时运行的输出为 torch.Size([2, 128, 16, 16]) 这时为检测整个数据是否 model(x) print('resnet:', out.shape) 运行后报错: RuntimeError: size mismatch, m1: [65536 x 32], m2: [1024 x 10 print('after conv:', x.shape) x = self.outlayer(x) 该段输出 after conv: torch.Size([2, 1024, 32, 32]) 首先为减小数据量 after conv: torch.Size([2, 1024, 2, 2]) after pool: torch.Size([2, 1024, 1, 1]) resnet: torch.Size([2, 10 ]) 最后输出为10个,对应于十分类问题。
硬件再牛,也难以招架业务场景中产生的数据,提高算法性能和计算速度是永远的话题。 最近有人问有没有相关数据集,这几天抽时间整理了以下数据集,标题即是Kaggle竞赛题目,可以直接搜索获得赛题详细介绍,在此列出10个参赛队伍最多的竞赛题及标签,最重要的是提供数据集的下载。 10 San Francisco Crime Classification 多分类预测 Predict the category of crimes that occurred in the city
下载数据集请登录爱数科(www.idatascience.cn) 由电商平台爬取的图书信息,包括书名、出版信息、当前价格等。 1. 字段描述 2. 数据预览 3. 字段诊断信息 4. 数据来源 当当网搜索页面爬取。
下载数据集请登录爱数科(www.idatascience.cn) 其记录了2014年之前天文学家在恒星(除了太阳)周围发现的行星的信息。 1. 字段描述 2. 数据预览 3. 数据来源 来源于UCI机器学习库。
下载数据集请登录爱数科(www.idatascience.cn) 通过物理测量预测鲍鱼的年龄。 从原始数据中删除了缺失值的样本,并且对连续值的范围进行了缩放。数据集共4177个样本,8个字段 1. 字段描述 2. 数据预览 3. 字段诊断信息 4. 数据来源 Warwick J Nash, Tracy L Sellers, Simon R Talbot, Andrew J Cawthorn and Wes B Ford (1994) "The Population 数据引用 Nash W J, Sellers T L, Talbot S R, et al.
下载数据集请登录爱数科(www.idatascience.cn) 该数据集记录了一家全球超市4年的订购数据,包含订单的订单号、下单时间、发货时间、运输模式、顾客名称和地区等信息。 1. 数据预览 3. 字段诊断信息 4. 数据来源 来源于Kaggle。
下载数据集请登录爱数科(www.idatascience.cn) 小费数据集 1. 字段描述 2. 数据预览 3. 字段诊断信息 4. 数据来源