人工智能与大数据—线性回归之波士顿房价预测

一,首先导入必要的包

1,paddle.fluid--->PaddlePaddle深度学习框架

2,numpy---------->python基本库,用于科学计算

3,os------------------>python的模块,可使用该模块对操作系统进行操作

4,matplotlib----->python绘图库,可方便绘制折线图、散点图等图形

具体操作:

import paddle.fluid as fluid
import paddle
import numpy as np
import os
import matplotlib.pyplot as plt

二,准备数据

1,uci-housing 数据集介绍

  数据集共506行,每行14列。前13列用来描述房屋的各种信息,最后一列为该类房屋价格中位数

补充:

2,数据集的训练和测试

补充

数据训练集和测试集的区别:

一部分称之为训练集,用以学习数据的特征属性,这部分数据需要人工标定,为数据生成标签

另一部分称为测试集,测试集不需要人工处理,用于测试结果

PaddlePaddle提供了读取uci_housing训练集和测试集的接口。

分别为:

  • paddle.dataset.uci_housing.train()
  • paddle.dataset.uci_housing.test()

PaddlePaddle提供了读取uci_housing数据处理大小和取出训练大小。

  • paddle.reader.shuffle()    表示每次缓存BUF_SIZE个数据项,并进行打乱
  • paddle.batch()                  表示每BATCH_SIZE组成一个batch

具体操作:

BUF_SIZE=500    表示每次缓存BUF_SIZE个数据项,并进行打乱
BATCH_SIZE=20  表示每BATCH_SIZE组成一个batch

#用于训练的数据提供器,每次从缓存中随机读取批次大小的数据
train_reader = paddle.batch(
    paddle.reader.shuffle(paddle.dataset.uci_housing.train(),buf_size=BUF_SIZE),
       batch_size=BATCH_SIZE)   
#用于测试的数据提供器,每次从缓存中随机读取批次大小的数据
test_reader = paddle.batch(
    paddle.reader.shuffle(paddle.dataset.uci_housing.test(),buf_size=BUF_SIZE),
    batch_size=BATCH_SIZE)  

三,函数的准备

1,假设函数

具体操作:

#(1)假设函数的准备
#定义张量变量x,表示13维的特征值
x = fluid.layers.data(name='x', shape=[13], dtype='float32')
#定义张量y,表示目标值
y = fluid.layers.data(name='y', shape=[1], dtype='float32')
#定义一个简单的线性网络,连接输入和输出的全连接层
#input:输入tensor;
#size:该层输出单元的数目
#act:激活函数
y_predict=fluid.layers.fc(input=x,size=1,act=None)

2,损失函数的准备

此处使用均方差损失函数

square_error_cost(input,lable):接受输入预测值和目标值,并返回方差估计,即为(y-y_predict)的平方

具体操作:

#(2)损失函数的准备
#求一个batch的损失值,cost为(y-y_predict)的平方
cost = fluid.layers.square_error_cost(input=y_predict, label=y)
#对损失值求平均值,即均方差
avg_cost = fluid.layers.mean(cost)  

3,梯度下降函数的准备

                          

具体操作:

#(3)梯度下降函数的准备(采用随机梯度下降)
optimizer = fluid.optimizer.SGDOptimizer(learning_rate=0.001)
#采用optimizer.minimize(均方差)进行优化
opts = optimizer.minimize(avg_cost)

4,函数准备完成后,会获得两个fluid.Program

分别是:

  • fluid.default_startup_program()    参数初始化操作会被写入
  • fluid.default_startup_program()   用来获取默认或全局main program主程序,该主程序用于训练和测试模型

具体操作:

test_program = fluid.default_main_program().clone(for_test=True)

四,模型训练

1,创建一个运算场所

首先定义运算场所:

fluid.CPUPlace()表示运行场所在CPU

fluid.CUDAPlace(0)表示运算场所为GPU

Executor:接收传入的program,通过run()方法运行program

场所使用CPU和GPU的区别

CPU主要用于串行运算,一个规格一个规格的计算;而GPU则是大规模并行运算,所有数据一起计算。

具体操作:

#(1)创建模型运行的场所
#use_cuda为False,表示运算场所为CPU;use_cuda为True,表示运算场所为GPU 
use_cuda = False                         
place = fluid.CUDAPlace(0) if use_cuda else fluid.CPUPlace()
#创建一个Executor实例exe
exe = fluid.Executor(place)              
#Executor的run()方法执行startup_program(),进行参数初始化
exe.run(fluid.default_startup_program()) 

2,定义输入训练数据维度

DataFeeder负责将数据提供器(train_reader,test_reader)返回的数据转成一种特殊的数据结构,使其可以输入到Executor中。

feed_list设置向模型输入的向变量表或者变量表名

具体操作:

#(2)定义输入数据维度
feeder = fluid.DataFeeder(place=place, feed_list=[x, y])#feed_list:向模型输入的变量表或变量表名

3,定义绘制损失值变化趋势的函数

具体操作:

#(3)定义损失值变化的函数
iter=0;
iters=[]
train_costs=[]

def draw_train_process(iters,train_costs):
    title="training cost"
    plt.title(title, fontsize=24)
    plt.xlabel("iter", fontsize=14)
    plt.ylabel("cost", fontsize=14)
    plt.plot(iters, train_costs,color='red',label='training cost') 
    plt.grid()  #生成网格
    plt.show()  #显示图像

4,训练并保存模型

Executor接收传入的program,并根据feed map(输入映射表)和fetch_list(结果获取表) 向program中添加feed operators(数据输入算子)和fetch operators(结果获取算子)。

feed map为该program提供输入数据。

fetch_list提供program训练结束后用户预期的变量。

注:enumerate() 函数用于将一个可遍历的数据对象(如列表、元组或字符串)组合为一个索引序列,同时列出数据和数据下标,

具体操作:

#(4)训练并保存模型
EPOCH_NUM=50
model_save_dir = "/home/aistudio/work/fit_a_line.inference.model"

for pass_id in range(EPOCH_NUM):                                  #训练EPOCH_NUM轮
    # 开始训练并输出最后一个batch的损失值
    train_cost = 0
    for batch_id, data in enumerate(train_reader()):              #遍历train_reader迭代器
        train_cost = exe.run(program=fluid.default_main_program(),#运行主程序
                             feed=feeder.feed(data),              #喂入一个batch的训练数据,根据feed_list和data提供的信息,将输入数据转成一种特殊的数据结构
                             fetch_list=[avg_cost])    
        if batch_id % 40 == 0:
            print("Pass:%d, Cost:%0.5f" % (pass_id, train_cost[0][0]))    #打印最后一个batch的损失值
        iter=iter+BATCH_SIZE
        iters.append(iter)
        train_costs.append(train_cost[0][0])
       
   
    # 开始测试并输出最后一个batch的损失值

    test_cost = 0
    for batch_id, data in enumerate(test_reader()):               #遍历test_reader迭代器
        test_cost= exe.run(program=test_program, #运行测试cheng
                            feed=feeder.feed(data),               #喂入一个batch的测试数据
                            fetch_list=[avg_cost])                #fetch均方误差
    print('Test:%d, Cost:%0.5f' % (pass_id, test_cost[0][0]))     #打印最后一个batch的损失值
    
    #保存模型
    # 如果保存路径不存在就创建
if not os.path.exists(model_save_dir):
    os.makedirs(model_save_dir)
print ('save models to %s' % (model_save_dir))
#保存训练参数到指定路径中,构建一个专门用预测的program
fluid.io.save_inference_model(model_save_dir,   #保存推理model的路径
                                  ['x'],            #推理(inference)需要 feed 的数据
                                  [y_predict],      #保存推理(inference)结果的 Variables
                                  exe)              #exe 保存 inference model
draw_train_process(iters,train_costs)

五,模型预测

1,创建预测用的Executor

具体操作:

#(1)创建预测用的Executor
infer_exe = fluid.Executor(place)    #创建推测用的executor
inference_scope = fluid.core.Scope() #Scope指定作用域

2,可视化真实值与预测值方法的定义

具体操作:

#(2)可视化真实值与预测值方法定义
infer_results=[]
groud_truths=[]

#绘制真实值和预测值对比图
def draw_infer_result(groud_truths,infer_results):
    title='Boston'
    plt.title(title, fontsize=24)
    x = np.arange(1,20) 
    y = x
    plt.plot(x, y)
    plt.xlabel('ground truth', fontsize=14)
    plt.ylabel('infer result', fontsize=14)
    plt.scatter(groud_truths, infer_results,color='green',label='training cost') 
    plt.grid()
    plt.show()
    

3,开始预测

通过fluid.io.load_inference_model,预测器会从params_dirname中读取已经训练好的模型,来对从未遇见过的数据进行预测。

具体操作:

#(3)开始预测
with fluid.scope_guard(inference_scope):#修改全局/默认作用域(scope), 运行时中的所有变量都将分配给新的scope。
    #从指定目录中加载 推理model(inference model)
    [inference_program,                             #推理的program
     feed_target_names,                             #需要在推理program中提供数据的变量名称
     fetch_targets] = fluid.io.load_inference_model(#fetch_targets: 推断结果
                                    model_save_dir, #model_save_dir:模型训练路径 
                                    infer_exe)      #infer_exe: 预测用executor
    #获取预测数据
    infer_reader = paddle.batch(paddle.dataset.uci_housing.test(),  #获取uci_housing的测试数据
                          batch_size=200)                           #从测试数据中读取一个大小为200的batch数据
    #从test_reader中分割x
    test_data = next(infer_reader())
    test_x = np.array([data[0] for data in test_data]).astype("float32")
    test_y= np.array([data[1] for data in test_data]).astype("float32")
    results = infer_exe.run(inference_program,                              #预测模型
                            feed={feed_target_names[0]: np.array(test_x)},  #喂入要预测的x值
                            fetch_list=fetch_targets)                       #得到推测结果 
                            
    print("infer results: (House Price)")
    for idx, val in enumerate(results[0]):
        print("%d: %.2f" % (idx, val))
        infer_results.append(val)
    print("ground truth:")
    for idx, val in enumerate(test_y):
        print("%d: %.2f" % (idx, val))
        groud_truths.append(val)
    draw_infer_result(groud_truths,infer_results)

 

全部代码实现在如下链接:

https://aistudio.baidu.com/aistudio/projectdetail/161197

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/69758.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

波斯顿动力机器人为啥那么牛逼?

关注星标公众号,不错过精彩内容 作者 | strongerHuang 微信公众号 | 嵌入式专栏 原文:1980 - 2022年,波斯顿动力发展历程、机器人产品分类汇总。 视频:位于我的视频号『strongerHuang』中视频专辑《斯顿动力机器人》(第…

思考累了,看看故事:波士顿动力公司大狗系列--SpotMini

2016年6月23日,Boston Dynamics在YouTube发布了他们新一款的机器人SpotMini,截止26日,网上已经有超过200万人观看过这段视频,再加上国内视频的转发,观看量可想而知。这个热门程度有不禁让人想起来今年年初新一代Atlas发…

波士顿动力机器狗在工厂打工的实录火了

博雯 发自 凹非寺量子位 报道 | 公众号 QbitAI 实验室里的波士顿动力狗,跳舞跑酷后空翻,堪称狗界网红,机器界顶流: 但如果出了实验室,开始正经找个厂上班呢? 机器狗的生活就变成了现在这样: 迈着…

开源教程 | 树莓派 DIY 波士顿动力机器狗,立省 53 万 RMB

国外小哥 Michael Romanko 利用树莓派3B,伺服电机,液晶显示器,锂电池,PCA9695控制板打造了一只波士顿动力机器狗,成本不到4000元。 通过三轴身体姿态控制,这样一只树莓派版波士顿动力狗,可以实现…

波士顿动力真的无可企及吗?一步步剖析四足机器人技术(一)

四足机器人运动控制 第一章 序第二章 运动状态姿态控制运动控制 第三章 步态第四章 CPG控制网络介绍CPG模型分类基于HOPF振荡器的CPG单元模型CPG网络控制模型 Tips参考文献 大家可以先看看效果 [四足机器人]开环运动控制测试 第一章 序 足式机器人较传统的四轮式和履带式有着…

自己动手做个DIY波士顿机器狗

我想来整个DIY波士顿机器狗。 中文的介绍: https://www.qbitai.com/2020/08/17572.html 软件安装: https://github.com/mike4192/spotMicro 硬件制作: https://www.thingiverse.com/thing:3445283 中文介绍是这样的: 用树莓派DIY波士顿机器狗,帮你省下50万:教程开…

波士顿仿生机械狗 原理分析

导语:Boston Dynamics 在机器人动力方面堪称翘楚,其由双足或多足机器人组成的机器人天团总是时不时能给我们带来惊喜。上周,Boston Dynamics 又发布了一段视频,并再次推出了一款全新机器人——Handle,这也是Boston Dyn…

数据可视化分析报告这样做,大家都轻松

在BI数据可视化工具上这样做分析报告,智能分析、可视化呈现,拖拉拽点击就能快速完成一份数据可视化分析报告。不仅做分析报告的人轻松了,看报表的也轻松了,毕竟除了能够一眼看懂分析报告,更能够随时随地根据实际需求去…

数据分析-01数据分析之数据可视化(转)

声明:数据分析01-08均来自尚学堂学习内容,文档仅供学习交流使用,已上传github 一、数据分析介绍 什么是数据分析: 百度百科:数据分析是指用适当的统计分析方法对收集来的大量数据进行分析,提取有用信息和…

一般用哪些工具做大数据可视化分析?

做数据分析这些年来,从刚开始的死磕excel,到现在成为数据分析行业的偷懒大户,使用过的工具还真不少! 这篇分享一些我在可视化工具上的使用心得,由简单到复杂,按照可视化类型一共分为纯统计图表类、GIS地图…

如何做好数据可视化分析?

数据可视化是利用计算机图形学和图像处理技术,将数据转换成图形或图像在屏幕上显示出来,并进行交互处理的理论、方法和技术。数据可视化的实质是借助图形化手段,清晰有效的传达与沟通信息,使通过数据表达的内容更容易被理解。 那…

数据分析与可视化概述

目录 一、数据分析 二、数据可视化 三、数据分析与可视化常用工具 四、为什么用python进行数据分析与可视化 爬取数据需要 Python 数据分析需要 Python Python 语言简单高效 五、Python 数据分析与可视化常用库 1、Numpy 2、Pandas 3、Matplotlib 4、SciPy 5…

如何实现数据可视化分析?有这个解决方案就够了

在这个数据呈爆炸式增长的时代,每天都有海量数据在产生。如何通过简单的方式实现业务上的分析、计算、交互,并最终呈现出可视化的分析结果,帮助业务人员更好地理解数据的价值,将数据变现,是当前众多企业都需要面对的问…

数据可视化之平台数据分析

一 前言 近年来,随着网络技术和电子商务的发展,对科学数据分析的研究提出了更高的要求,数据分析技术随之发展起来。我们可以通过数据分析技术,发现大量金融、通信和商业数据中隐含的规律,从而为决策提供依据。这已成为…

数据可视化分析工具如何在国内弯道超车,迅速崛起?

什么是数据可视化 数据可视化:Data Visualization,即视觉传达,为了清晰有效地传递信息,数据可视化通过统计图形、图表、信息图表和其他工具,例如点、线或条对数字数据进行编码,以便在视觉上传达定量信息。…

数据可视化(推荐Tableau、 PowerBI 、FineBI、Echarts、ggplot、PYTHON、R)---数据分析领域的万金油技能

首先,这是一篇扩大知识面的文章,适合收藏起来,在地铁,公交,厕所,睡前,吃饭时看。。。。(耶,恶趣味) 其次,本文不放图,节省大家的阅读…

中国最美的经典古文名篇Top10,它们也是你心中的白月光吗?

迄今为止,汉字是世界上使用时间最长的文字 ,在漫长的历史中,先贤们用汉字组成美妙的文章,至今读来,依然唇角含香,韵味无穷。今天分享10篇最美的古文,文字美,韵律美,意境美…

名帖160 欧阳询 行书《仲尼梦奠帖》

《中国书法名帖目录》 《仲尼梦奠帖》是唐代书法家欧阳询创作的行书作品,现收藏于辽宁省博物馆。此帖以“仲尼梦奠”开头,共78字,叙述孔子梦奠之事, 有佛教无常、报应之意。 《仲尼梦奠帖》书法笔力苍劲古朴,用墨淡而…

java 读取文件在控制台打印、将内容写入到文件

文章目录 1. 读取txt文本文件内容在控制台打印(5种方式)1.1 字节流方式1.1.1 FileInputStream 文件字节输入流1.1.2 BufferedInputStream 缓冲输入字节流 1.2 字符流方式1.2.1 InputStreamReader 转换输入字符流1.2.2 FileReader 便捷字符输入流1.2.3 Bu…

【潜渊症 | 万字解析】模组制作研究讲义

潜渊症mod制作研究讲义 说明 作者:晓涵 Steam昵称:Xiao[CN] ——荧惑守心研究院 最后编辑:2023.04.17 本文共计 17,000 字/词 (含代码),预计阅读时长 1min ~ Infinity 如有建议&错误反馈,或需要mod制作的技术…