从网页抓取数据的一般方法

首先要了解对方网页的运行机制 ,这可以用httpwacth或者httplook来看一下http发送和接收的数据。这两个工具应该说是比较简单易懂的。这里就不再介绍了。主要关注的内容是header和post的内容。一般会包括cookie,Referer页面和其他一些乱其八糟可能看不懂的变量,还有就是正常交互的参数,比如需要post或者get的querystring所包含的东西。

httplook和httpwacth 网上有很多下载的,这里推荐使用httpwach,因为可以直接嵌入到ie中,个人觉得这个比较好用。这两个工具可以到我上传在csdn的资源中下载,地址为

http://download.csdn.net/user/jinjazz

这里简单给出一段可以抓取数据的c#代码,比如登录某个网站,获取登录成功后的html代码,供数据分析使用。

private   void  login()
        
{
            System.Net.WebClient wb 
=   new  System.Net.WebClient();

            System.Collections.Specialized.NameValueCollection header 
=   new  System.Collections.Specialized.NameValueCollection();
            header.Add(
" Cookie " " czJ_cookietime=2592000; czJ_onlineusernum=1651; czJ_sid=w4bGJd " );
            header.Add(
" Referer " @" http://www.test_by_jinjazz.com.cn/bbs/login.php " );
            wb.Headers.Add(header);
            System.Collections.Specialized.NameValueCollection data 
=   new  System.Collections.Specialized.NameValueCollection();
            data.Add(
" formhash " " ebd2faac " );
            data.Add(
" referer " " http://www.test_by_jinjazz.com.cn/bbs/search.php " );
            data.Add(
" loginfield " " username " );
            data.Add(
" username " " jinjazz " );
            data.Add(
" password " " 999 " );
            data.Add(
" questionid " " 0 " );
            data.Add(
" answer " "" );
            data.Add(
" cookietime " " 2592000 " );
            data.Add(
" loginmode " "" );
            data.Add(
" styleid " "" );
            data.Add(
" loginsubmit " " 提交 " );

            
byte [] b  =  wb.UploadValues( " http://www.test_by_jinjazz.com.cn/bbs/login.php " " Post " , data);
            
string  strData  =  System.Text.Encoding.Default.GetString(b);
            Console.WriteLine(strData);
        }

以上代码除了三个url之外其他数据都是真实的,其中header和data中的参数和值都是用httpwatch来监测后得到。

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/33073.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

如何简单的抓取网站数据

1.首先,用带debug的火狐浏览器,访问要抓取的网站,通过debug的控制台或网络找到数据的接口。 2.Spring框架自3.0版本起,自带了任务调度功能,好比是一个轻量级的Quartz,而且使用起来也方便、简单,…

利用Wireshark抓取QQ的数据流

一、准备工作 1、下载好Wireshark。 2、在手机和电脑分别登录同一个 QQ。 3、电脑和手机连同一个网络(WiFi和或者手机热点)。 二、操作阶段 1、打开Wireshark。 2、查看手机所连接网络的ip地址。 3、选择WLAN,在搜索栏输入ip.src ip地…

如何实时抓取动态网页数据?

我们所生活的数字世界正在不断地产生大量的数据。利用动态大数据已经成为企业数据分析的关键。 在本文中,我们将回答以下几个问题: 1、为什么采集动态数据很重要? 2、动态数据是如何有效的促进业务增长? 3、最重要的是,我们如何能够轻松…

从网站抓取数据的3种最佳方法

1.使用网站API 许多大型社交媒体网站,例如Facebook,Twitter,Instagram,StackOverflow,都提供API供用户访问其数据。有时,您可以选择官方API来获取结构化数据。如下面的Facebook Graph API所示,…

谷歌内部泄露:我们和 OpenAI 都赢不了,因为正被“开源”偷家!

整理 | 郑丽媛、出品 | CSDN(ID:CSDNnews) 由 ChatGPT 掀起的 AI 大模型之战,已在全球范围内持续了几个月,其中业界尤为关注的,就是 OpenAI 和谷歌二者之间的博弈。 曾经,2017 年率先发布的 Tra…

贾扬清官宣:从阿里离职,或将投身AI创业!

点击下方卡片,关注“CVer”公众号 AI/CV重磅干货,第一时间送达 点击进入—>【计算机视觉】微信技术交流群 转载自:机器之心 贾扬清从阿里巴巴正式毕业,计划走向职业生涯的下一个挑战。 近段时间,ChatGPT 与大模型的…

阿里副总裁贾扬清回应:确认离职,或投身AI架构创业!

来源:机器之心 近段时间,ChatGPT 与大模型的爆火,又吸引了整个科技领域以及投资圈对 AI 的关注。最近也爆出了许多学术界、业界 AI 大佬投身创业潮的消息。 知名人工智能科学家贾扬清从阿里巴巴离职创业的信息也被爆出,贾扬清本人…

【人工智能】大模型基础概念、核心技术、应用场景和未来发展

目录 一、大模型概述 二、大模型的发展历程 三、大模型的核心技术 1. Transformer结

BFT 最前线 | 腾讯发布Q1季报;超2000伙伴测试阿里云通义千问;黄仁勋:芯片是NVIDIA加速与AI计算的的“理想应用”

原创 | 文 BFT机器人 AI视界 TECHNOLOGY NEWS 01 阿里云:超2000伙伴测试通义千问 行业专属大模型将成趋势 2023阿里云常州峰会上,阿里云智能中国区总裁黄海清透露:目前通义千问大模型已有超2000个合作伙伴进行测试。未来大模型面向各行各…

Open AI 新论文:通过“过程监督”来改进数学推理

本文经授权转载自「图灵社区公众号(ID:ituring_book)」 英文原文链接:https://openai.com/research/improving-mathematical-reasoning-with-process-supervision 我们训练了一个模型,通过对每个正确的推理步骤进行奖励…

下周,GPT-4就要来了!

来源:机器之心 我们知道,引爆如今科技界军备竞赛的 ChatGPT 是在 GPT-3.5 上改进得来的,OpenAI 很早就预告 GPT-4 将会在今年发布。最近各家大厂争相入局的行动似乎加快了这个进程。 最新消息是,万众期待的 GPT-4 下周就要推出了&…

从用户的角度谈GPT时代技术突破的两大关键逻辑

大家好,我是herosunly。985院校硕士毕业,现担任算法研究员一职,热衷于机器学习算法研究与应用。曾获得阿里云天池比赛第一名,CCF比赛第二名,科大讯飞比赛第三名。拥有多项发明专利。对机器学习和深度学习拥有自己独到的见解。曾经辅导过若干个非计算机专业的学生进入到算法…

发送短信功能模块

由于项目在注册、登录、找回密码 时需要发送短信验证的功能,我们使用腾讯云短信做。 为什么要用腾讯云短信呢? 因为注册就送 100条免费短信 的额度。哈哈哈哈,发短信的功能你就不用花钱了。 1.注册腾讯云 & 开通云短信 注册一个腾讯云…

怎么用106短信平台来发送营销短信?手把手教你轻松掌握

现如今,很多商家和企业都有短信发送的需求,因为很许多的企业和商家都需要106短信平台类推广自己最新的产品,以及促销活动等。要知道,短信平台,不仅价格便宜,而且精准获客,那么, 怎么…

个人用户实现发送短信功能

准备工作 因为国家政策 ,阿里云和其他的大型短信调用网站审核严格所以我们用比较普通的榛子云来练习短信验证 了解阿里云短信码 登录阿里云,选择短信服务 首先要了解发送短信的四个步骤 进入申请签名,查看大致内容,可以看到这边…

ChatGPT文本自动生成有哪些应用

ChatGPT具有强大的文本生成能力,能够模拟人类的语言和情感表达,对文字工作产生了重要影响。对于我们从事文字工作的小伙伴而言,ChatGPT的出现对我们的影响是首当其冲的,今天跟大家分享ChatGPT在文字创作方面有哪些影响。 自动化文…

简单的小程序聊天对话窗口界面

一个简单的微信小程序聊天对话窗口界面,包括发送文本功能 直接上代码,js代码: // 简单版 Page({data: {content: ,// 当前登录者信息login: {id: 2023,user: 大猪蹄子,avatar: https://img2.baidu.com/it/u1581320883,910100018&fm253&app53&sizew500&n0&…

聊天记录怎么录视频 微信聊天记录屏幕录制

互联网的发展,手机交流代替了面对面交流,手机交流更加方便快捷,也带来了一些便利,拉近了人与人之间的距离,现在大家都习惯在网上聊天了,聊天如果不删掉的话,就会有记录的。有的小伙伴想要录制成…

摆地摊又被城管赶了

文|洪生鹏 下班回家路过驿站顺便取了个快递,突然一阵阵砰砰的声音传来,好刺耳。 原来是城管来了,摆地摊的人纷纷推着车子往这边赶来,有卖水果的,有做小吃的,也有卖衣服。 摊主们得知城管来了,推…

程序员摆地摊能接到活吗?码农地摊卖什么能挣到外快钱?

现在全民摆地摊,做为一个码农,也是蠢蠢欲动,思来想去不知道卖什么好?看到好多同事下了班都着急回家出摊,挣外快, 同事们闲暇时间说来话去的也都是地摊经济,做一个有出息的程序员,我们…