【爬虫软件】2024油管评论采集工具

吕高平

目录

• 一、背景介绍
  
  
  
  • 1.1 软件说明
    
  • 1.2 效果演示
    
  
  
• 二、科普知识
  
  
  
  • 2.1 关于视频id
    
  • 2.2 关于评论时间
    
  
  
• 三、爬虫代码
  
  
  
  • 3.1 界面模块
    
  • 3.2 爬虫模块
    
  • 3.3 日志模块
    
  
  
• 四、转载声明
  

一、背景介绍

我用python开发的GUI软件，作用是爬取油管指定视频的评论，字段含：

评论id、评论内容、评论时间、评论作者昵称、评论作者频道、点赞数

1.1 软件说明

几点重要说明：

• 运行之前，先打开魔法
  
• Windows用户可直接双击打开使用，无需Python运行环境
  
• 可爬取指定数量评论，或者全部评论（不存在反爬问题）
  
• 排序方式支持：按日期排序/按热门排序
  
• 可爬取6个字段，含：评论id、评论内容、评论时间、评论作者昵称、评论作者频道、点赞数
  
• 其中，评论时间含绝对时间（年月日时分秒的格式）
  

1.2 效果演示

演示视频：见原文
运行截图1：

运行截图2：

二、科普知识

2.1 关于视频id

油管视频id号，比如，https://www.xx.com/watch?v=9lc6D6nPd38  这个视频链接的视频id就是"9lc6D6nPd38"。
2.2 关于评论时间

ytb网页上是看不到绝对时间（年月日时分秒格式）的，只能看到相对时间（几个月前、几天前之类），此软件支持爬取绝对时间。
三、爬虫代码

3.1 界面模块

软件界面采用tkinter开发。
主窗口部分：

1. # 创建主窗口
2. root = tk.Tk()
3. root.title('ytb评论爬虫 | 马哥python说')
4. # 设置窗口大小
5. root.minsize(width=850, height=650)
6. show_list_Frame = tk.Frame(width=800, height=350)  # 创建<消息列表分区>
7. show_list_Frame.pack_propagate(0)
8. show_list_Frame.place(x=30, y=180, anchor='nw')  # 摆放位置
9. # 滚动条
10. scroll = tk.Scrollbar(show_list_Frame)
11. # 放到Y轴竖直方向
12. scroll.pack(side=tk.RIGHT, fill=tk.Y)

复制代码

按钮控件部分：

1. # 界面设计
2. # 视频id
3. tk.Label(root, text='视频id：').place(x=30, y=50)
4. video_id = tk.StringVar()
5. video_id.set('')
6. entry = tk.Entry(root, bg='#ffffff', width=20, textvariable=video_id)
7. entry.place(x=160, y=50, anchor='nw')  # 摆放位置

复制代码

3.2 爬虫模块

通过请求评论的ajax接口实现，详见文末完整代码。
3.3 日志模块

好的日志功能，方便软件运行出问题后快速定位原因，修复bug。
核心代码：

1. def get_logger(self):
2.         self.logger = logging.getLogger(__name__)
3.         # 日志格式
4.         formatter = '[%(asctime)s-%(filename)s][%(funcName)s-%(lineno)d]--%(message)s'
5.         # 日志级别
6.         self.logger.setLevel(logging.DEBUG)
7.         # 控制台日志
8.         sh = logging.StreamHandler()
9.         log_formatter = logging.Formatter(formatter, datefmt='%Y-%m-%d %H:%M:%S')
10.         # info日志文件名
11.         info_file_name = time.strftime("%Y-%m-%d") + '.log'
12.         case_dir = r'./logs/'
13.         info_handler = TimedRotatingFileHandler(filename=case_dir + info_file_name,
14.                                                                                         when='MIDNIGHT',
15.                                                                                         interval=1,
16.                                                                                         backupCount=7,
17.                                                                                         encoding='utf-8')

复制代码

日志截图：

四、转载声明

转载已获原作者@马哥python说 授权：
博客园原文链接: 【爬虫GUI】YouTube评论采集软件，突破反爬，可无限爬取!

来源:https://www.cnblogs.com/ws235/p/18256427
免责声明：由于采集信息均来自互联网，如果侵犯了您的权益，请联系我们【E-Mail:cb@itdo.tech】 我们会及时删除侵权内容，谢谢合作！