如何抓取网页中的实时监测数据进行分析

   使用wpf做了窗体,跟Silverlight开发环境一样,将前台设计与后台开发逻辑分离开来,抓取南京市九个PM 2.5监测站点的数据

   

前台代码:

    <Grid><Button Content="数据获取" Height="23" HorizontalAlignment="Left" Margin="487,23,0,0" Name="button1" VerticalAlignment="Top" Width="75" Click="button1_Click" /><DataGrid AutoGenerateColumns="False"  Height="338" HorizontalAlignment="Left" Margin="0,57,0,0" Name="dataGrid1" VerticalAlignment="Top" Width="591" CanUserAddRows="False"><DataGrid.Columns><DataGridTextColumn Header="名称" IsReadOnly="True"  Binding="{Binding Name,Mode=TwoWay}" Width="200"  /> <DataGridTextColumn Header="PM2.5浓度" IsReadOnly="True"   Binding="{Binding Density,Mode=TwoWay}" Width="200"/></DataGrid.Columns></DataGrid><Label Content="网址:" Height="28" HorizontalAlignment="Left" Margin="29,23,0,0" Name="label1" VerticalAlignment="Top" /><TextBox Height="23" HorizontalAlignment="Left" Margin="88,25,0,0" Name="textBox1" VerticalAlignment="Top" Width="362" /></Grid>
后台代码:

  

             class MonitorInfo{public  string Name{get;set;}public  string Density{get;set;}};List<MonitorInfo>  myListString=new List<MonitorInfo>();private string GetWebContent(string Url){string strResult = "";try{HttpWebRequest request = (HttpWebRequest)WebRequest.Create(Url);//声明一个HttpWebRequest请求 request.Timeout = 30000;//设置连接超时时间 request.Headers.Set("Pragma", "no-cache");HttpWebResponse response = (HttpWebResponse)request.GetResponse();Stream streamReceive = response.GetResponseStream();Encoding encoding = Encoding.GetEncoding("GB2312");StreamReader streamReader = new StreamReader(streamReceive, encoding);strResult = streamReader.ReadToEnd();}catch{System.Windows.Forms.MessageBox.Show("出错");}return strResult;} private void button1_Click(object sender, RoutedEventArgs e){textBox1.Text="http://www.pm2d5.com/city/nanjing.html";String Url = textBox1.Text;string strWebContent = GetWebContent(Url);int divIndex = strWebContent.IndexOf("weilai");int tableStartIndex = strWebContent.IndexOf("<table", divIndex);int tableEndIndex = strWebContent.IndexOf("</table>", tableStartIndex);string strWeb = strWebContent.Substring(tableStartIndex, tableEndIndex - tableStartIndex + 8);//生成HtmlDocumentWebBrowser web = new WebBrowser();web.Navigate("about:blank");HtmlDocument htmldoc = web.Document.OpenNew(true);htmldoc.Write(strWeb);HtmlElementCollection htmlTR = htmldoc.GetElementsByTagName("tr");int i = 0;myListString.Clear();foreach (HtmlElement tr in htmlTR){if (i == 0){i++;continue;//跳过表头}MonitorInfo monitorInfo = new MonitorInfo();monitorInfo.Name = tr.GetElementsByTagName("td")[0].InnerText.ToString();monitorInfo.Density = tr.GetElementsByTagName("td")[3].InnerText.ToString();myListString.Add(monitorInfo);}dataGrid1.ItemsSource = myListString;}}
         在MonitorInfo这个类的设计中,注意使用get,set,否则将List数据绑定到DataGrid后会出现空白行

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/33080.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

如何抓取网页数据

如何抓取网页数据&#xff0c;每当我们在网上找到自己想到的数据&#xff0c;都需要复制粘贴或下载然后一步一步地整理。今天教大家如何快速地免费获取网页数据信息&#xff0c;只需要输入域名点选你需要的数据&#xff0c;软件全自动抓取。支持导出各种格式并且已整理归类。详…

用wireshark抓取QQ聊天发送的图片

前言 老师在上课的时候演示了用wireshark抓取QQ发送出去的图片&#xff0c;蛮有意思的&#xff0c;复现一下。 一、使用工具 这里用到的是wireshark这个网络抓包工具&#xff0c;还有winhex这个十六进制编辑器&#xff0c;附上下载地址 wireshark&#xff1a;https://www.wire…

爬取某知名网站的数据

爬取某知名网站的数据&#x1f604; 爬虫 骚操作 不讲武德 耗子尾汁 增加你的浏览量 github传送门&#xff1a; https://github.com/rzy0901/CSDN_visitor 需要安装的包 1️⃣ BeautifulSoup2️⃣ urllib安装方法&#xff1a; 百度 随缘 pip install xxx 代码函数介绍 …

数据可视化网页内容自动抓取工具

网页内容提取支持我们对公开的网页信息数据进行提取&#xff0c;如果通过人工对网页数据采集&#xff0c;是一个繁琐的工作&#xff0c;网页内容提取工具通过可视化的操作页面&#xff0c;模拟人工进行网页内容提取&#xff0c;能快速获取整个网站的对应元素。 网页内容提取工具…

Charles抓取http接口数据

##1.Charles抓取http接口数据 这个资料网上一大堆&#xff0c;此处不再赘述。本着认真负责的态度我还是到网上找了一篇图文并茂的文章供大家参考 iOS使用Charles&#xff08;青花瓷&#xff09;抓包并篡改返回数据图文详解 值得一提的是&#xff0c;这篇文章中讲解的使用Charle…

从网页抓取数据的一般方法

首先要了解对方网页的运行机制 &#xff0c;这可以用httpwacth或者httplook来看一下http发送和接收的数据。这两个工具应该说是比较简单易懂的。这里就不再介绍了。主要关注的内容是header和post的内容。一般会包括cookie&#xff0c;Referer页面和其他一些乱其八糟可能看不懂的…

如何简单的抓取网站数据

1.首先&#xff0c;用带debug的火狐浏览器&#xff0c;访问要抓取的网站&#xff0c;通过debug的控制台或网络找到数据的接口。 2.Spring框架自3.0版本起&#xff0c;自带了任务调度功能&#xff0c;好比是一个轻量级的Quartz&#xff0c;而且使用起来也方便、简单&#xff0c;…

利用Wireshark抓取QQ的数据流

一、准备工作 1、下载好Wireshark。 2、在手机和电脑分别登录同一个 QQ。 3、电脑和手机连同一个网络&#xff08;WiFi和或者手机热点&#xff09;。 二、操作阶段 1、打开Wireshark。 2、查看手机所连接网络的ip地址。 3、选择WLAN&#xff0c;在搜索栏输入ip.src ip地…

如何实时抓取动态网页数据?

我们所生活的数字世界正在不断地产生大量的数据。利用动态大数据已经成为企业数据分析的关键。 在本文中&#xff0c;我们将回答以下几个问题&#xff1a; 1、为什么采集动态数据很重要? 2、动态数据是如何有效的促进业务增长? 3、最重要的是&#xff0c;我们如何能够轻松…

从网站抓取数据的3种最佳方法

1.使用网站API 许多大型社交媒体网站&#xff0c;例如Facebook&#xff0c;Twitter&#xff0c;Instagram&#xff0c;StackOverflow&#xff0c;都提供API供用户访问其数据。有时&#xff0c;您可以选择官方API来获取结构化数据。如下面的Facebook Graph API所示&#xff0c;…

谷歌内部泄露:我们和 OpenAI 都赢不了,因为正被“开源”偷家!

整理 | 郑丽媛、出品 | CSDN&#xff08;ID&#xff1a;CSDNnews&#xff09; 由 ChatGPT 掀起的 AI 大模型之战&#xff0c;已在全球范围内持续了几个月&#xff0c;其中业界尤为关注的&#xff0c;就是 OpenAI 和谷歌二者之间的博弈。 曾经&#xff0c;2017 年率先发布的 Tra…

贾扬清官宣:从阿里离职,或将投身AI创业!

点击下方卡片&#xff0c;关注“CVer”公众号 AI/CV重磅干货&#xff0c;第一时间送达 点击进入—>【计算机视觉】微信技术交流群 转载自&#xff1a;机器之心 贾扬清从阿里巴巴正式毕业&#xff0c;计划走向职业生涯的下一个挑战。 近段时间&#xff0c;ChatGPT 与大模型的…

阿里副总裁贾扬清回应:确认离职,或投身AI架构创业!

来源&#xff1a;机器之心 近段时间&#xff0c;ChatGPT 与大模型的爆火&#xff0c;又吸引了整个科技领域以及投资圈对 AI 的关注。最近也爆出了许多学术界、业界 AI 大佬投身创业潮的消息。 知名人工智能科学家贾扬清从阿里巴巴离职创业的信息也被爆出&#xff0c;贾扬清本人…

【人工智能】大模型基础概念、核心技术、应用场景和未来发展

目录 一、大模型概述 二、大模型的发展历程 三、大模型的核心技术 1. Transformer结

BFT 最前线 | 腾讯发布Q1季报;超2000伙伴测试阿里云通义千问;黄仁勋:芯片是NVIDIA加速与AI计算的的“理想应用”

原创 | 文 BFT机器人 AI视界 TECHNOLOGY NEWS 01 阿里云&#xff1a;超2000伙伴测试通义千问 行业专属大模型将成趋势 2023阿里云常州峰会上&#xff0c;阿里云智能中国区总裁黄海清透露&#xff1a;目前通义千问大模型已有超2000个合作伙伴进行测试。未来大模型面向各行各…

Open AI 新论文:通过“过程监督”来改进数学推理

本文经授权转载自「图灵社区公众号&#xff08;ID&#xff1a;ituring_book&#xff09;」 英文原文链接&#xff1a;https://openai.com/research/improving-mathematical-reasoning-with-process-supervision 我们训练了一个模型&#xff0c;通过对每个正确的推理步骤进行奖励…

下周,GPT-4就要来了!

来源&#xff1a;机器之心 我们知道&#xff0c;引爆如今科技界军备竞赛的 ChatGPT 是在 GPT-3.5 上改进得来的&#xff0c;OpenAI 很早就预告 GPT-4 将会在今年发布。最近各家大厂争相入局的行动似乎加快了这个进程。 最新消息是&#xff0c;万众期待的 GPT-4 下周就要推出了&…

从用户的角度谈GPT时代技术突破的两大关键逻辑

大家好,我是herosunly。985院校硕士毕业,现担任算法研究员一职,热衷于机器学习算法研究与应用。曾获得阿里云天池比赛第一名,CCF比赛第二名,科大讯飞比赛第三名。拥有多项发明专利。对机器学习和深度学习拥有自己独到的见解。曾经辅导过若干个非计算机专业的学生进入到算法…

发送短信功能模块

由于项目在注册、登录、找回密码 时需要发送短信验证的功能&#xff0c;我们使用腾讯云短信做。 为什么要用腾讯云短信呢&#xff1f; 因为注册就送 100条免费短信 的额度。哈哈哈哈&#xff0c;发短信的功能你就不用花钱了。 1.注册腾讯云 & 开通云短信 注册一个腾讯云…

怎么用106短信平台来发送营销短信?手把手教你轻松掌握

现如今&#xff0c;很多商家和企业都有短信发送的需求&#xff0c;因为很许多的企业和商家都需要106短信平台类推广自己最新的产品&#xff0c;以及促销活动等。要知道&#xff0c;短信平台&#xff0c;不仅价格便宜&#xff0c;而且精准获客&#xff0c;那么&#xff0c; 怎么…