【爬虫GUI】YouTube评论采集软件，突破反爬，可无限爬取！
目录[*]一、背景介绍
[*]1.1 软件说明
[*]1.2 效果演示
[*]二、科普知识
[*]2.1 关于视频id
[*]2.2 关于评论时间
[*]三、爬虫代码
[*]3.1 界面模块
[*]3.2 爬虫模块
[*]3.3 日志模块
[*]四、获取源码及软件
一、背景介绍
你好，我是@马哥python说 ，一名10年程序猿。
最近我用python开发了一个GUI桌面软件，作用是爬取YouTube指定视频的评论，6个关键字段，含：
评论id、评论内容、评论时间、评论作者昵称、评论作者频道、点赞数
1.1 软件说明
几点重要说明：
[*]运行之前，先打开魔法
[*]Windows用户可直接双击打开使用，无需Python运行环境
[*]可爬取指定数量评论，或者全部评论（不存在反爬问题）
[*]排序方式支持：按日期排序/按热门排序
[*]可爬取6个字段，含：评论id、评论内容、评论时间、评论作者昵称、评论作者频道、点赞数
[*]其中，评论时间含绝对时间（年月日时分秒的格式）
1.2 效果演示
演示视频：
【Python爬虫GUI】我开发了一个采集YouTube评论的软件！
运行截图1：
运行截图2：
二、科普知识
2.1 关于视频id
油管视频id号，比如，https://www.youtube.com/watch?v=9lc6D6nPd38这个视频链接的视频id就是"9lc6D6nPd38"。YouTube的每个视频都是如此。
2.2 关于评论时间
YouTube网页上是看不到绝对时间（年月日时分秒格式）的，只能看到相对时间（几个月前、几天前之类），此软件支持爬取绝对时间。
三、爬虫代码
3.1 界面模块
软件界面采用tkinter开发。
主窗口部分：
# 创建主窗口
root = tk.Tk()
root.title('YouTube评论爬虫 | 马哥python说')
# 设置窗口大小
root.minsize(width=850, height=650)
show_list_Frame = tk.Frame(width=800, height=350)# 创建<消息列表分区>
show_list_Frame.pack_propagate(0)
show_list_Frame.place(x=30, y=180, anchor='nw')# 摆放位置
# 滚动条
scroll = tk.Scrollbar(show_list_Frame)
# 放到Y轴竖直方向
scroll.pack(side=tk.RIGHT, fill=tk.Y)按钮控件部分：
# 界面设计
# 视频id
tk.Label(root, text='视频id：').place(x=30, y=50)
video_id = tk.StringVar()
video_id.set('')
entry = tk.Entry(root, bg='#ffffff', width=20, textvariable=video_id)
entry.place(x=160, y=50, anchor='nw')# 摆放位置3.2 爬虫模块
通过请求YouTube评论的ajax接口实现，详见文末完整代码。
3.3 日志模块
好的日志功能，方便软件运行出问题后快速定位原因，修复bug。
核心代码：
def get_logger(self):
self.logger = logging.getLogger(__name__)
# 日志格式
formatter = '[%(asctime)s-%(filename)s][%(funcName)s-%(lineno)d]--%(message)s'
# 日志级别
self.logger.setLevel(logging.DEBUG)
# 控制台日志
sh = logging.StreamHandler()
log_formatter = logging.Formatter(formatter, datefmt='%Y-%m-%d %H:%M:%S')
# info日志文件名
info_file_name = time.strftime("%Y-%m-%d") + '.log'
case_dir = r'./logs/'
info_handler = TimedRotatingFileHandler(filename=case_dir + info_file_name,
when='MIDNIGHT',
interval=1,
backupCount=7,
encoding='utf-8')日志截图：
四、获取源码及软件
爱学习的小伙伴，完整python源码及可执行软件，我已打包好，并上传至我的微信公众号"老男孩的平凡之路"，后台回复"爬油管评论软件"即可获取。
获取链接：【爬虫GUI】YouTube评论采集软件，突破反爬，可无限爬取！
我是@马哥python说，一名10年程序猿，持续分享python干货中！
来源:https://www.cnblogs.com/mashukui/p/ytb_cmt_spider.html
免责声明：由于采集信息均来自互联网，如果侵犯了您的权益，请联系我们【E-Mail:cb@itdo.tech】 我们会及时删除侵权内容，谢谢合作！
页:
[1]