【爬虫软件】用python批量采集YouTube博主联系方式！

灵芝

目录

• 一、背景介绍
  
• 二、代码讲解
  
  
  
  • 2.1 爬虫
    
  • 2.2 tkinter界面
    
  • 2.3 存日志
    
  
  
• 三、转载声明
  

一、背景介绍

我用python开发了一个GUI桌面软件，目的是爬取相关YouTube博主的各种信息，字段包括：

视频标题、视频链接、博主名称、博主链接、国家、telegram链接、whatsapp链接、twitter链接、facebook链接、instagram链接。

以近期某热门事件为例。
演示视频：见原文
运行截图：

爬取数据截图：

实现思路：
通过按指定关键词搜索视频，通过视频进入博主的主页简介，爬取博主的各种联系信息。
并把源码封装成exe文件，方便没有python环境，或者不懂技术的人使用它。
二、代码讲解

2.1 爬虫

本爬虫是通过selenium模拟手工搜索的过程，所以需要提前安装好chrome浏览器和chromedriver驱动。
安装chrome浏览器和chromedriver驱动的过程，请自行解决，不再赘述。
把chromedriver放到exe文件的旁边（同级目录下）即可。
展示部分核心代码：
初始化csv文件：

1. def init(self):
2.     with open(f'{self.query}.csv', 'a', newline='', encoding='utf_8_sig') as f:
3.         writer = csv.writer(f)
4.         writer.writerow(['视频标题', '视频链接', '博主名称', '博主链接', '国家', 'telegram链接', 'whatsapp链接', 'twitter链接', 'facebook链接', 'instagram链接'])

复制代码

爬博主信息：

1. # 先解析出所有链接
2. contact_url_els = self.browser.find_elements(By.XPATH, '//*[@id="link-list-container"]/a')
3. for j in contact_url_els:
4.     url = j.get_attribute('href')
5.     if "t.me" in url: # 电报链接
6.         de_url = unquote(url)
7.         de_url_dict = parse_qs(urlparse(de_url).query)
8.         url = de_url_dict.get("q")[0]
9.         telegram_url = url
10.     if "wa.link" in url or "api.whatsapp.com" in url: # whatsapp链接
11.         de_url = unquote(url)
12.         de_url_dict = parse_qs(urlparse(de_url).query)
13.         url = de_url_dict.get("q")[0]
14.         whatsapp_url = url
15.     if "twitter.com" in url: # twitter链接
16.         de_url = unquote(url)
17.         de_url_dict = parse_qs(urlparse(de_url).query)
18.         url = de_url_dict.get("q")[0]
19.         twitter_url = url
20.     if "facebook.com" in url: # facebook链接
21.         de_url = unquote(url)
22.         de_url_dict = parse_qs(urlparse(de_url).query)
23.         url = de_url_dict.get("q")[0]
24.         facebook_url = url
25.     if "instagram.com" in url: # instagram链接
26.         de_url = unquote(url)
27.         de_url_dict = parse_qs(urlparse(de_url).query)
28.         url = de_url_dict.get("q")[0]
29.         instagram_url = url

复制代码

2.2 tkinter界面

界面部分代码：

1. # 创建主窗口
2. root = tk.Tk()
3. root.title('YouTube爬虫-定制化开发 | 马哥python说')
4. # 设置窗口大小
5. root.minsize(width=850, height=650)
7. show_list_Frame = tk.Frame(width=800, height=450)  # 创建<消息列表分区>
8. show_list_Frame.pack_propagate(0)
9. show_list_Frame.place(x=30, y=120, anchor='nw')  # 摆放位置
11. # 滚动条
12. scroll = tk.Scrollbar(show_list_Frame)
13. # 放到Y轴竖直方向
14. scroll.pack(side=tk.RIGHT, fill=tk.Y)

复制代码

2.3 存日志

软件运行过程中，会在同级目录下生成logs文件夹，文件夹内会出现log文件，记录下软件在整个运行过程中的日志，方便长时间运行、无人值守，出现问题后的debug。
部分代码：

1. class Log_week():
2.     def get_logger(self):
3.         self.logger = logging.getLogger(__name__)
4.         # 日志格式
5.         formatter = '[%(asctime)s-%(filename)s][%(funcName)s-%(lineno)d]--%(message)s'
6.         # 日志级别
7.         self.logger.setLevel(logging.DEBUG)
8.         # 控制台日志
9.         sh = logging.StreamHandler()
10.         log_formatter = logging.Formatter(formatter, datefmt='%Y-%m-%d %H:%M:%S')
11.         # info日志文件名
12.         info_file_name = time.strftime("%Y-%m-%d") + '.log'
13.         # 将其保存到特定目录，ap方法就是寻找项目根目录，该方法博主前期已经写好。
14.         case_dir = r'./logs/'
15.         info_handler = TimedRotatingFileHandler(filename=case_dir + info_file_name,
16.                                                 when='MIDNIGHT',
17.                                                 interval=1,
18.                                                 backupCount=7,
19.                                                 encoding='utf-8')
20.         self.logger.addHandler(sh)
21.         sh.setFormatter(log_formatter)
22.         self.logger.addHandler(info_handler)
23.         info_handler.setFormatter(log_formatter)
24.         return self.logger

复制代码

三、转载声明

转载已获原作者@马哥python说授权：
博客园原文链接: 【GUI开发】用python爬YouTube博主信息，并开发成exe软件！

来源:https://www.cnblogs.com/ws235/p/18258286
免责声明：由于采集信息均来自互联网，如果侵犯了您的权益，请联系我们【E-Mail:cb@itdo.tech】 我们会及时删除侵权内容，谢谢合作！