都知道最近ChatGPT聊天机器人爆火，我也想方设法注册了账号，据说后面要收费了。
ChatGPT是一种基于大语言模型的生成式AI，换句话说它可以自动生成类似人类语言的文本，把梳理好的有逻辑的答案呈现在你面前，这完全不同于传统搜索工具。
ChatGPT不光可以回答人文、科学、情感等传统问题，还可以写代码、改bug，程序员可就急了，简直是在抢饭碗，所以网上出现各种ChatGPT让你失业的焦虑言论。
俗话说“百闻不如一见”，我试着让ChatGPT用Python去写爬虫脚本，看它到底行不行？
文章目录
- 技术提升
- 1、爬取知乎上的专栏文章
- 2. 爬取京东某商品的评论
- 3.继续更多的测试
技术提升
技术要学会分享、交流，不建议闭门造车。一个人走的很快、一堆人可以走的更远。
好的技术文章离不开粉丝的分享、推荐，资料干货、资料分享、数据、技术交流提升，均可加交流群获取，群友已超过2000人，添加时最好的备注方式为：来源+兴趣方向，方便找到志同道合的朋友。
方式①、添加微信号：pythoner666，备注：来自 CSDN + chatgpt
方式②、微信搜索公众号：Python学习与数据挖掘，后台回复：加群
1、爬取知乎上的专栏文章
提问：
帮我用python写代码爬取网站
ChatGPT:
把给到的代码放进PyCharm中跑一遍，发现没有报错，且打印出了内容。
import requests
from bs4 import BeautifulSoupurl = "https://zhuanlan.zhihu.com/p/595050104"
response = requests.get(url)
soup = BeautifulSoup(response.text, "html.parser")title = soup.find("h1", class_="Post-Title").text.strip()
body = soup.find("div", class_="Post-RichText").text.strip()print("Title:", title)
print("Body:", body)
虽然说ChatGPT给出的代码可以执行，但它也提到由于爬取的网站会随时变更，也就是HTML会变动，所以代码可能需要调整才能正常工作。
凡是写过爬虫的同学应该都能理解，人工写的爬虫代码也没法一劳永逸，需要随时改。
这一点ChatGPT提示的很有道理。
后来我测试了medium、百家号上的文章，ChatGPT提供的代码形式几乎和上面一致，没法直接执行获取结果，需要微调后才能跑。
2. 爬取京东某商品的评论
为了给ChatGPT增加难度，我试着让它去爬取某电商网站的用户评论
提问：
请用python写代码爬取这个京东商品的所有用户评论 https://item.jd.com/13652780.html
ChatGPT:
可能这个网页是动态页面，ChatGPT提供的方法并不能爬取评论。
我接着问：
爬取的结果是空值怎么办？
ChatGPT:
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-nnDP8sph-1676473447460)(null)]
ChatGPT提供了3种可能存在的原因，但并没有帮我修改代码。
于是我又问：
还是空值 请帮我重新写代码爬取
ChatGPT:
这次就牛掰了，它重新用Selenium写了爬虫代码，并告诉我爬取动态网页需要模拟浏览器行为，因此得用selenium技术。
我没有运行去测试代码正确与否，但ChatGPT确实惊艳到我了，能够前后关联对话内容，并给出正确的解决方法。
3.继续更多的测试
上面只是蜻蜓点水的玩玩，ChatGPT就已经吸引到我，
我准备多花时间去测试ChatGPT应对各种爬虫的解决方案，以及它对bug的修复能力。
仅仅从写代码层面看，ChatGPT已经可以媲美中高级程序员的水平了，而且它的知识范畴远超人类最厉害的程序员
ChatGPT能够根据对话生成人想要的内容，这是AI巨大的突破，未来它的应用之广难以想象。
