博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
【玩转数据系列十】利用阿里云机器学习在深度学习框架下实现智能图片分类...
阅读量:5894 次
发布时间:2019-06-19

本文共 3832 字,大约阅读时间需要 12 分钟。

伴随着今日在云栖大会的重磅发布,快来感受下人工智能的魅力。

一、背景

随着互联网的发展,产生了大量的图片以及语音数据,如何对这部分非结构化数据行之有效的利用起来,一直是困扰数据挖掘工程师的一到难题。首先,解决非结构化数据常常要使用深度学习算法,上手门槛高。其次,对于这部分数据的处理,往往需要依赖GPU计算引擎,计算资源代价大。本文将介绍一种利用深度学习实现的图片识别案例,这种功能可以服用到图片的检黄、人脸识别、物体检测等各个领域。

下面尝试通过阿里云机器学习平台产品,利用深度学习框架Tensorflow,快速的搭架图像识别的预测模型,整个流程只需要半小时,就可以实现对下面这幅图片的识别,系统会返回结果“鸟”:

二、数据集介绍

本案例数据集及相关代码下载地址:

使用CIFAR-10数据集,这份数据是一份对包含6万张像素为32*32的彩色图片,这6万张图片被分成10个类别,分别是飞机、汽车、鸟、毛、鹿、狗、青蛙、马、船、卡车。数据集截图:

数据源在使用过程中被拆分成两个部分,其中5万张用于训练,1万张用于测试。其中5万张训练数据又被拆分成5个data_batch,1万张测试数据组成test_batch。最终数据源如图:

三、数据探索流程

下面我们一步一步讲解下如何将实验在阿里云机器学习平台跑通,首先需要开通阿里云机器学习产品的GPU使用权限,并且开通OSS,用于存储数据。

机器学习:
OSS:

1.数据源准备

第一步,进入OSS对象存储,将本案例使用的相关数据和代码放到OSS的bucket路径下。首先建立OSS的bucket,然后我建立了aohai_test文件夹,并在这个目录下建立如下4个文件夹目录:

https://zos.alipayobjects.com/rmsportal/eXgLTWObHKpDvnWTWTVN.png

每个文件夹的作用如下:

  • check_point:用来存放实验生成的模型
  • cifar-10-batches-py:用来存放训练数据以及预测集数据,对应的是下载下来的数据源cifar-10-batcher-py文件和预测集bird_bullocks_oriole.jpg文件
  • train_code:用来存放训练数据,也就是cifar_pai.py
  • predict_code:用来存放cifar_predict_pai.py

    本案例数据集及相关代码下载地址:

2.配置OSS访问授权

现在我们已经把数据和训练需要的代码放入OSS,下面要配置机器学习对OSS的访问,进入阿里云机器学习,在“设置”按钮的弹出页面,配置OSS的访问授权。如图:

https://zos.alipayobjects.com/rmsportal/FFRjZMOnAhneNokppRgU.png

3.模型训练

从左边的组件框中拖拽“读OSS Bucket”以及“Tensorflow”组件链接,并且在“Tensorflow”的配置项中进行相关设置。

  • Python代码文件:OSS中的cifar_pai.py
  • 数据源目录:OSS中的cifar-10-batches-py文件夹
  • 输出目录:OSS中的check_point文件夹

点击运行,实验开始训练,可以针对底层的GPU资源灵活调节,除了界面端的设置,需要在代码中也有相应的支持,代码编写符合Tensorflow的多卡规范。

4.模型训练代码解析

这里针对cifar_pai.py文件中的关键代码讲解:

(1)构建CNN图片训练模型

network = input_data(shape=[None, 32, 32, 3],                         data_preprocessing=img_prep,                         data_augmentation=img_aug)    network = conv_2d(network, 32, 3, activation='relu')    network = max_pool_2d(network, 2)    network = conv_2d(network, 64, 3, activation='relu')    network = conv_2d(network, 64, 3, activation='relu')    network = max_pool_2d(network, 2)    network = fully_connected(network, 512, activation='relu')    network = dropout(network, 0.5)    network = fully_connected(network, 10, activation='softmax')    network = regression(network, optimizer='adam',                         loss='categorical_crossentropy',                         learning_rate=0.001)

(2)训练生成模型名为model的一系列文件,这些文件组成了TF的预测模型

model = tflearn.DNN(network, tensorboard_verbose=0)    model.fit(X, Y, n_epoch=100, shuffle=True, validation_set=(X_test, Y_test),              show_metric=True, batch_size=96, run_id='cifar10_cnn')    model_path = os.path.join(FLAGS.checkpointDir, "model.tfl")    print(model_path)    model.save(model_path)

5.查看训练过程中的日志

训练过程中,右键“Tensorflow”组件,点击查看日志。

点击打开logview连接,按照如下链路操作,打开ODPS Tasks下面的Algo Task,双击Tensorflow Task,点击StdOut,可以看到模型训练的日志被实时的打印出来:

随着实验的进行,会不断打出日志出来,对于关键的信息也可以利用print函数在代码中打印,结果会显示在这里。在本案例中,可以通过acc查看模型训练的准确度。

5.结果预测

再拖拽一个“Tensorflow”组件用于预测,

  • Python代码文件:OSS中的cifar_predict_pai.py
  • 数据源目录:OSS中的cifar-10-batches-py文件夹,用来读取bird_mount_bluebird.jpg文件
  • 输出目录:读取OSS中的check_point文件夹下模型训练生成的model.tfl模型文件

预测的图片是存储在checkpoint文件夹下的图:

结果见日志:

6.预测代码数据

部分预测代码解析:

predict_pic = os.path.join(FLAGS.buckets, "bird_bullocks_oriole.jpg")    img_obj = file_io.read_file_to_string(predict_pic)    file_io.write_string_to_file("bird_bullocks_oriole.jpg", img_obj)    img = scipy.ndimage.imread("bird_bullocks_oriole.jpg", mode="RGB")    # Scale it to 32x32    img = scipy.misc.imresize(img, (32, 32), interp="bicubic").astype(np.float32, casting='unsafe')    # Predict    prediction = model.predict([img])    print (prediction[0])    print (prediction[0])    #print (prediction[0].index(max(prediction[0])))    num=['airplane','automobile','bird','cat','deer','dog','frog','horse','ship','truck']    print ("This is a %s"%(num[prediction[0].index(max(prediction[0]))]))

首先读入图片“bird_bullocks_oriole.jpg”,将图片调整为像素32*32的大小,然后带入model.predict预测函数评分,最终会返回这张图片对应的十种分类['airplane','automobile','bird','cat','deer','dog','frog','horse','ship','truck']的权重,选择权重最高的一项作为预测结果返回。

注:因为模型训练存在随机性,所以不保证每次训练出的模型对于预测图片都可以返回准确结果,需要不断调试对应参数才能达到稳定效果,本实验只是简单案例。

四、其它

作者微信公众号(与作者讨论):

参与讨论:

免费体验:

往期文章:

转载地址:http://uissx.baihongyu.com/

你可能感兴趣的文章
The Z-Index CSS Property: A Comprehensive Look | Smashing Coding
查看>>
Java中HashMap详解
查看>>
Office版本差别引发的语法问题
查看>>
Apache——访问控制
查看>>
web前端(10)—— 浮动,清除默认样式
查看>>
ggplot2 aes函数map到data笔记
查看>>
3450: Tyvj1952 Easy
查看>>
delphi基本语法
查看>>
.net请求Webservice简单实现天气预报功能
查看>>
Loj #3056. 「HNOI2019」多边形
查看>>
正则表达式匹配非需要匹配的字符串(标题自己都绕晕了)
查看>>
沙盒目录介绍
查看>>
260. Single Number III
查看>>
《C语言》-(流程控制:顺序结构、选择结构、循环结构)
查看>>
Hadoop生态圈-Kafka的完全分布式部署
查看>>
《玩转Django2.0》读书笔记-探究视图
查看>>
SOCK_STREAM & SOCK_DGRAM
查看>>
css的border的solid
查看>>
div+css实现window xp桌面图标布局(至上而下从左往右)
查看>>
0-1 背包问题
查看>>