博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
爬取雪球网
阅读量:6918 次
发布时间:2019-06-27

本文共 1565 字,大约阅读时间需要 5 分钟。

import requests import json url = 'https://xueqiu.com/v4/statuses/public_timeline_by_category.json?since_id=-1&max_id={}&count={}&category=111' def xueqiu(number=1,max_id=None,count=None): if max_id is None: full_url = url.format(-1,10) else: full_url = url.format(max_id,count) count = 15 headers = { 'Cookie': 'device_id=3049fba19293376977728a287084d21f; _ga=GA1.2.780783310.1531212991; s=e212ctwtfc; __utmz=1.1531213044.1.1.utmcsr=(direct)|utmccn=(direct)|utmcmd=(none); __utma=1.780783310.1531212991.1531213044.1531220599.2; aliyungf_tc=AQAAADtGMFhh1gsAUhVFeSfUZkqI1Vuj; xq_a_token=584d0cf8d5a5a9809761f2244d8d272bac729ed4; xq_a_token.sig=x0gT9jm6qnwd-ddLu66T3A8KiVA; xq_r_token=98f278457fc4e1e5eb0846e36a7296e642b8138a; xq_r_token.sig=2Uxv_DgYTcCjz7qx4j570JpNHIs; _gid=GA1.2.1152894742.1534296305; _gat_gtag_UA_16079156_4=1; Hm_lvt_1db88642e346389874251b5a1eded6e3=1534296305; Hm_lpvt_1db88642e346389874251b5a1eded6e3=1534296305; u=211534296306130', 'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.62 Safari/537.36', } # 最大页码数 if number<=3: print('第%d页:'%number) number += 1 response = requests.get(full_url, headers=headers) res_dict = json.loads(response.text) list_list = res_dict['list'] # 遍历 list_list for list_item_dict in list_list: # list 列表内的一个item, 他是一个dict data_str = list_item_dict['data'] d = json.loads(data_str) print(d['id'], d['title']) xueqiu(number,max_id=list_list[-1]['id'],count=count) if __name__ == '__main__': xueqiu(1,-1,10)

转载于:https://www.cnblogs.com/luwanhe/p/9484753.html

你可能感兴趣的文章
菜鸟眼中的vim 编译器
查看>>
数据库密码设置
查看>>
java:抽象类与接口的姻缘
查看>>
关于linux下部署项目时遇到MYSQL_ATTR_INIT_COMMAND未定义时解决办法
查看>>
Account
查看>>
PHP集成开发环境里面的www问题
查看>>
探秘Java9之类加载
查看>>
记一次 OpenIPMI core的分析
查看>>
MySQL误操作后如何快速恢复数据?
查看>>
Bash中which的用法
查看>>
exec format error in docker
查看>>
VSCode安装使用(Python)
查看>>
解决wubi安装ubuntu时要下载系统映像文件问题
查看>>
碟中谍小组不要太夸张 Avaya要说:哈利法塔的网络很可靠
查看>>
php配置文件与代码分离的实现思路
查看>>
Linux vim使用心得I
查看>>
Redis进阶实践之六Redis Desktop Manager连接Windows和Linux系统上的Redis服务
查看>>
svn配置钩子自动更新web目录
查看>>
设置标准盒子和怪异盒子
查看>>
activiti BPMN事件
查看>>