翼度科技»论坛 编程开发 python 查看内容

最近台风肆虐,让我们用Python获取天气数据,分析一下台风到底要去哪!

4

主题

4

帖子

12

积分

新手上路

Rank: 1

积分
12
最近台风肆虐,已进入我国24小时警戒线!台风“卡努”到底要去哪儿?
作为一个Python程序员,虽然我帮不上忙,但是时时关注一下还是可以的,顺便祈祷一下台风往东边某个小日子过得不错的小岛吹。
于是我花了一分钟,用Python写了一个获取天气数据的代码,然后进行数据分析,看看到底吹不吹的过去。

首先我们要准备这些

软件环境

  • python
  • pycharm
模块

  • requests # 发送请求
  • parsel # 解析数据
这些都是第三方模块,需要手动安装,没有安装的话pip安装一下。
知识点以及流程思路

知识点

  • 动态数据抓包
  • requests发送请求
  • 结构化+非结构化数据解析
爬虫流程
介绍:
模拟成 浏览器(客户端) 向 2345服务器 发送网络请求
作用:
批量采集数据 / 模拟用户行为
案例实现
1、思路分析
找到 数据来源
静态数据
动态数据: 快捷方式
https://tianqi.2345.com/Pc/GetHistory?areaInfo%5BareaId%5D=54511&areaInfo%5BareaType%5D=2&date%5Byear%5D=2023&date%5Bmonth%5D=5
2、代码实现

  • 通过代码的方式访问 数据来源地址
  • 访问之后 将 数据内容 拿到
  • 将数据内容中 我们需要的内容取出来 不需要的内容 就剔除掉
  • 保存到表格当中
代码展示

天气数据获取
  1. import requests     # 发送请求的第三方库 用来访问网站的
  2. import parsel       # 第三方库 提取数据的
  3. import csv          # 内置模块 无需安装
  4. # 完整源码+视频讲解都放在这个q裙了:815624229
  5. f = open('tianqi.csv', mode='a', encoding='utf-8', newline='')
  6. csv_writer = csv.writer(f)
  7. for year in range(2013, 2023):
  8.     for month in range(1, 13):
  9.         url = f'https://tianqi.2345.com/Pc/GetHistory?areaInfo%5BareaId%5D=54511&areaInfo%5BareaType%5D=2&date%5Byear%5D={year}&date%5Bmonth%5D={month}'
  10.         # 1. 通过代码的方式访问 数据来源地址
  11.         response = requests.get(url)
  12.         # 2. 访问之后 将 数据内容 拿到
  13.         json_data = response.json()
  14.         # 3. 将数据内容中 我们需要的内容取出来 不需要的内容 就剔除掉
  15.         html_data = json_data['data']
  16.         select = parsel.Selector(html_data)
  17.         trs = select.css('tr')  
  18.         for tr in trs[1:]:
  19.             tds = tr.css('td::text').getall()
  20.             # 4. 保存到表格当中
  21.             csv_writer.writerow(tds)
复制代码
 
数据分析部分
导入包
  1. import pandas as pd
  2. import datetime
  3. from pyecharts import options as opts
  4. from pyecharts.charts import *
  5. from pyecharts.commons.utils import JsCode
复制代码
 
读入数据
  1. data = pd.read_csv('天气.csv')
  2. data
复制代码
 
数据预览
  1. data.sample(5)
  2. data.info()
复制代码
 
分割日期/星期
  1. data[['日期','星期']] = data['日期'].str.split(' ',expand=True,n=1)
  2. data
复制代码
 
去除多余字符
  1. data[['最高温度','最低温度']] = data[['最高温度','最低温度']].apply(lambda x: x.str.replace('°','').replace('', '0'))
  2. data.head()
复制代码
 
计算下雪天气
  1. data.loc[data['天气'].str.contains('雪'),'下雪吗']='是'
  2. data.fillna('否',inplace=True)
复制代码
 
分割日期时间
  1. data['日期'] = pd.to_datetime(data['日期'])
  2. data[['最高温度','最低温度']] = data[['最高温度','最低温度']].astype('int')
  3. data['年份'] = data['日期'].dt.year
  4. data['月份'] = data['日期'].dt.month
  5. data['日'] = data['日期'].dt.day
  6. # 预览
  7. data.sample(5)
复制代码
 
各城市初雪的时间
  1. s_data = data[data['下雪吗']=='是']
  2. s_data[(s_data['月份']>=9)].groupby('年份').first().reset_index()
复制代码
 
各城市下雪天气分布
  1. s_data.groupby(['城市','年份'])['日期'].count().to_frame('下雪天数').reset_index()
复制代码
 
做透视表
  1. data_bj = data[(data['年份'] == 2021) & (data['城市'] == '北京')]
  2. data_bj = data_bj.groupby(['月份','天气'], as_index=False)['日期'].count()
  3. data_pivot =  pd.pivot(data_bj,
  4.                 values='日期',
  5.                 index='月份',
  6.                 columns='天气')
  7. data_pivot = data_pivot.astype('float')
  8. # 按照 索引年月倒序排序
  9. data_pivot.sort_index(ascending=False,inplace=True)
  10. data_pivot
复制代码
 
北上广深2021年10月份天气热力图分布
  1. import matplotlib.pyplot as plt
  2. import matplotlib.colors as mcolors
  3. import seaborn as sns
  4. #设置全局默认字体 为 雅黑
  5. plt.rcParams['font.family'] = ['Microsoft YaHei']
  6. # 设置全局轴标签字典大小
  7. plt.rcParams["axes.labelsize"] = 14  
  8. # 设置背景
  9. sns.set_style("darkgrid",{"font.family":['Microsoft YaHei', 'SimHei']})  
  10. # 设置画布长宽 和 dpi
  11. plt.figure(figsize=(18,8),dpi=100)
  12. # 自定义色卡
  13. cmap = mcolors.LinearSegmentedColormap.from_list("n",['#95B359','#D3CF63','#E0991D','#D96161','#A257D0','#7B1216'])
  14. # 绘制热力图
  15. ax = sns.heatmap(data_pivot, cmap=cmap, vmax=30,
  16.                  annot=True, # 热力图上显示数值
  17.                  linewidths=0.5,
  18.                 )
  19. # 将x轴刻度放在最上面
  20. ax.xaxis.set_ticks_position('top')
  21. plt.title('北京最近10个月天气分布',fontsize=16) #图片标题文本和字体大小
  22. plt.show()
  23. data_gz= data[(data['年份'] == 2021) & (data['城市'] == '广州')]
  24. data_gz = data_gz.groupby(['月份','天气'], as_index=False)['日期'].count()
  25. data_sz= data[(data['年份'] == 2021) & (data['城市'] == '深圳')]
  26. data_sz = data_sz.groupby(['月份','天气'], as_index=False)['日期'].count()
  27. data_sh= data[(data['年份'] == 2021) & (data['城市'] == '上海')]
  28. data_sh = data_sh.groupby(['月份','天气'], as_index=False)['日期'].count()
  29. data_pivot_sz =  pd.pivot(data_sz,
  30.                 values='日期',
  31.                 index='月份',
  32.                 columns='天气')
  33. data_pivot_sz = data_pivot_sz.astype('float')
  34. # 按照 索引年月倒序排序
  35. data_pivot_sz.sort_index(ascending=False,inplace=True)
  36. #设置全局默认字体 为 雅黑
  37. plt.rcParams['font.family'] = ['Microsoft YaHei']
  38. # 设置全局轴标签字典大小
  39. plt.rcParams["axes.labelsize"] = 14  
  40. # 设置背景
  41. sns.set_style("darkgrid",{"font.family":['Microsoft YaHei', 'SimHei']})  
  42. # 设置画布长宽 和 dpi
  43. plt.figure(figsize=(18,8),dpi=100)
  44. # 自定义色卡
  45. cmap = mcolors.LinearSegmentedColormap.from_list("n",['#95B359','#D3CF63','#E0991D','#D96161','#A257D0','#7B1216'])
  46. # 绘制热力图
  47. ax_sz = sns.heatmap(data_pivot_sz, cmap=cmap, vmax=31,
  48.                  annot=True, # 热力图上显示数值
  49.                  linewidths=0.5,
  50.                 )
  51. # 将x轴刻度放在最上面
  52. ax_sz.xaxis.set_ticks_position('top')
  53. plt.title('深圳最近10个月天气分布',fontsize=16) #图片标题文本和字体大小
  54. plt.show()
  55. data_pivot_gz =  pd.pivot(data_gz,
  56.                 values='日期',
  57.                 index='月份',
  58.                 columns='天气')
  59. data_pivot_gz = data_pivot_gz.astype('float')
  60. # 按照 索引年月倒序排序
  61. data_pivot_gz.sort_index(ascending=False,inplace=True)
  62. #设置全局默认字体 为 雅黑
  63. plt.rcParams['font.family'] = ['Microsoft YaHei']
  64. # 设置全局轴标签字典大小
  65. plt.rcParams["axes.labelsize"] = 14  
  66. # 设置背景
  67. sns.set_style("darkgrid",{"font.family":['Microsoft YaHei', 'SimHei']})  
  68. # 设置画布长宽 和 dpi
  69. plt.figure(figsize=(18,8),dpi=100)
  70. # 自定义色卡
  71. cmap = mcolors.LinearSegmentedColormap.from_list("n",['#95B359','#D3CF63','#E0991D','#D96161','#A257D0','#7B1216'])
  72. # 绘制热力图
  73. ax_sz = sns.heatmap(data_pivot_gz, cmap=cmap, vmax=31,
  74.                  annot=True, # 热力图上显示数值
  75.                  linewidths=0.5,
  76.                 )
  77. # 将x轴刻度放在最上面
  78. ax_sz.xaxis.set_ticks_position('top')
  79. plt.title('广州最近10个月天气分布',fontsize=16) #图片标题文本和字体大小
  80. plt.show()
  81. data_pivot_sh =  pd.pivot(data_sh,
  82.                 values='日期',
  83.                 index='月份',
  84.                 columns='天气')
  85. data_pivot_sh = data_pivot_sh.astype('float')
  86. # 按照 索引年月倒序排序
  87. data_pivot_sh.sort_index(ascending=False,inplace=True)
  88. #设置全局默认字体 为 雅黑
  89. plt.rcParams['font.family'] = ['Microsoft YaHei']
  90. # 设置全局轴标签字典大小
  91. plt.rcParams["axes.labelsize"] = 14  
  92. # 设置背景
  93. sns.set_style("darkgrid",{"font.family":['Microsoft YaHei', 'SimHei']})  
  94. # 设置画布长宽 和 dpi
  95. plt.figure(figsize=(18,8),dpi=100)
  96. # 自定义色卡
  97. cmap = mcolors.LinearSegmentedColormap.from_list("n",['#95B359','#D3CF63','#E0991D','#D96161','#A257D0','#7B1216'])
  98. # 绘制热力图
  99. ax_sz = sns.heatmap(data_pivot_sh, cmap=cmap, vmax=31,
  100.                  annot=True, # 热力图上显示数值
  101.                  linewidths=0.5,
  102.                 )
  103. # 将x轴刻度放在最上面
  104. ax_sz.xaxis.set_ticks_position('top')
  105. plt.title('上海最近10个月天气分布',fontsize=16) #图片标题文本和字体大小
  106. plt.show()
  107. data_bj = data[(data['城市']=='北京') & (data['年份'] == 2021)]
  108. data_bj['日期'] = pd.to_datetime(data_bj.日期,format="%Y年%m月%d日")
  109. data_bj = data_bj.sort_values(by='日期',ascending=True)
复制代码
 
北京2021年每日最高最低温度变化
  1. color0 = ['#FF76A2','#24ACE6']
  2. color_js0 = """new echarts.graphic.LinearGradient(0, 1, 0, 0,
  3.     [{offset: 0, color: '#FFC0CB'}, {offset: 1, color: '#ed1941'}], false)"""
  4. color_js1 = """new echarts.graphic.LinearGradient(0, 1, 0, 0,
  5.     [{offset: 0, color: '#FFFFFF'}, {offset: 1, color: '#009ad6'}], false)"""
  6. tl = Timeline()
  7. for i in range(0,len(data_bj)):
  8.     coordy_high = list(data_bj['最高温度'])[i]
  9.     coordx = list(data_bj['日期'])[i]
  10.     coordy_low = list(data_bj['最低温度'])[i]
  11.     x_max = list(data_bj['日期'])[i]+datetime.timedelta(days=10)
  12.     y_max = int(max(list(data_bj['最高温度'])[0:i+1]))+3
  13.     y_min = int(min(list(data_bj['最低温度'])[0:i+1]))-3
  14.     title_date = list(data_bj['日期'])[i].strftime('%Y-%m-%d')
  15.     c = (
  16.         Line(
  17.             init_opts=opts.InitOpts(
  18.             theme='dark',
  19.             #设置动画
  20.             animation_opts=opts.AnimationOpts(animation_delay_update=800),#(animation_delay=1000, animation_easing="elasticOut"),
  21.             #设置宽度、高度
  22.             width='1500px',
  23.             height='900px', )
  24.         )
  25.         .add_xaxis(list(data_bj['日期'])[0:i])
  26.         .add_yaxis(
  27.             series_name="",
  28.             y_axis=list(data_bj['最高温度'])[0:i], is_smooth=True,is_symbol_show=False,
  29.             linestyle_opts={
  30.                    'normal': {
  31.                        'width': 3,
  32.                        'shadowColor': 'rgba(0, 0, 0, 0.5)',
  33.                        'shadowBlur': 5,
  34.                        'shadowOffsetY': 10,
  35.                        'shadowOffsetX': 10,
  36.                        'curve': 0.5,
  37.                        'color': JsCode(color_js0)
  38.                    }
  39.                },
  40.             itemstyle_opts={
  41.             "normal": {
  42.                 "color": JsCode(
  43.                     """new echarts.graphic.LinearGradient(0, 0, 0, 1, [{
  44.                 offset: 0,
  45.                 color: '#ed1941'
  46.             }, {
  47.                 offset: 1,
  48.                 color: '#009ad6'
  49.             }], false)"""
  50.                 ),
  51.                 "barBorderRadius": [45, 45, 45, 45],
  52.                 "shadowColor": "rgb(0, 160, 221)",
  53.             }
  54.         },
  55.         )
  56.         .add_yaxis(
  57.             series_name="",
  58.             y_axis=list(data_bj['最低温度'])[0:i], is_smooth=True,is_symbol_show=False,
  59. #             linestyle_opts=opts.LineStyleOpts(color=color0[1],width=3),
  60.             itemstyle_opts=opts.ItemStyleOpts(color=JsCode(color_js1)),
  61.             linestyle_opts={
  62.                    'normal': {
  63.                        'width': 3,
  64.                        'shadowColor': 'rgba(0, 0, 0, 0.5)',
  65.                        'shadowBlur': 5,
  66.                        'shadowOffsetY': 10,
  67.                        'shadowOffsetX': 10,
  68.                        'curve': 0.5,
  69.                        'color': JsCode(color_js1)
  70.                    }
  71.                },
  72.         )
  73.         .set_global_opts(
  74.             title_opts=opts.TitleOpts("北京2021年每日最高最低温度变化\n\n{}".format(title_date),pos_left=330,padding=[30,20]),
  75.             xaxis_opts=opts.AxisOpts(type_="time",max_=x_max),#, interval=10,min_=i-5,split_number=20,axistick_opts=opts.AxisTickOpts(length=2500),axisline_opts=opts.AxisLineOpts(linestyle_opts=opts.LineStyleOpts(color="grey"))
  76.             yaxis_opts=opts.AxisOpts(min_=y_min,max_=y_max),#坐标轴颜色,axisline_opts=opts.AxisLineOpts(linestyle_opts=opts.LineStyleOpts(color="grey"))
  77.         )
  78.     )
  79.     tl.add(c, "{}".format(list(data_bj['日期'])[i]))
  80.     tl.add_schema(
  81.         axis_type='time',
  82.         play_interval=100,  # 表示播放的速度
  83.         pos_bottom="-29px",
  84.         is_loop_play=False, # 是否循环播放
  85.         width="780px",
  86.         pos_left='30px',
  87.         is_auto_play=True,  # 是否自动播放。
  88.         is_timeline_show=False)
  89. tl.render('1.html')
  90. data_10 = data[(data['年份'] == 2022) & ( data['月份'] == 10)]
  91. data_10.head()
复制代码
 
北上广深10月份每日最高气温变化
  1. # 背景色
  2. background_color_js = (
  3.     "new echarts.graphic.LinearGradient(0, 0, 0, 1, "
  4.     "[{offset: 0, color: '#c86589'}, {offset: 1, color: '#06a7ff'}], false)"
  5. )
  6. # 线条样式
  7. linestyle_dic = { 'normal': {
  8.                     'width': 4,  
  9.                     'shadowColor': '#696969',
  10.                     'shadowBlur': 10,  
  11.                     'shadowOffsetY': 10,  
  12.                     'shadowOffsetX': 10,  
  13.                     }
  14.                 }
  15. timeline = Timeline(init_opts=opts.InitOpts(bg_color=JsCode(background_color_js),
  16.                                             width='980px',height='600px'))
  17. bj, gz, sh, sz= [], [], [], []
  18. all_max = []
  19. x_data = data_10[data_10['城市'] == '北京']['日'].tolist()
  20. for d_time in range(len(x_data)):
  21.     bj.append(data_10[(data_10['日'] == x_data[d_time]) & (data_10['城市']=='北京')]["最高温度"].values.tolist()[0])
  22.     gz.append(data_10[(data_10['日'] == x_data[d_time]) & (data_10['城市']=='广州')]["最高温度"].values.tolist()[0])
  23.     sh.append(data_10[(data_10['日'] == x_data[d_time]) & (data_10['城市']=='上海')]["最高温度"].values.tolist()[0])
  24.     sz.append(data_10[(data_10['日'] == x_data[d_time]) & (data_10['城市']=='深圳')]["最高温度"].values.tolist()[0])
  25.    
  26.     line = (
  27.         Line(init_opts=opts.InitOpts(bg_color=JsCode(background_color_js),
  28.                                      width='980px',height='600px'))
  29.         .add_xaxis(
  30.             x_data,
  31.                   )
  32.         
  33.         .add_yaxis(
  34.             '北京',
  35.             bj,
  36.             symbol_size=5,
  37.             is_smooth=True,
  38.             is_hover_animation=True,
  39.             label_opts=opts.LabelOpts(is_show=False),
  40.         )
  41.   
  42.         .add_yaxis(
  43.             '广州',
  44.             gz,
  45.             symbol_size=5,
  46.             is_smooth=True,
  47.             is_hover_animation=True,
  48.             label_opts=opts.LabelOpts(is_show=False),
  49.         )
  50.         .add_yaxis(
  51.             '上海',
  52.             sh,
  53.             symbol_size=5,
  54.             is_smooth=True,
  55.             is_hover_animation=True,
  56.             label_opts=opts.LabelOpts(is_show=False),
  57.             
  58.         )
  59.         .add_yaxis(
  60.             '深圳',
  61.             sz,
  62.             symbol_size=5,
  63.             is_smooth=True,
  64.             is_hover_animation=True,
  65.             label_opts=opts.LabelOpts(is_show=False),
  66.             
  67.         )
  68.         
  69.         .set_series_opts(linestyle_opts=linestyle_dic)
  70.         .set_global_opts(
  71.             title_opts=opts.TitleOpts(
  72.                 title='北上广深10月份最高气温变化趋势',
  73.                 pos_left='center',
  74.                 pos_top='2%',
  75.                 title_textstyle_opts=opts.TextStyleOpts(color='#DC143C', font_size=20)),
  76.             
  77.             tooltip_opts=opts.TooltipOpts(
  78.                 trigger="axis",
  79.                 axis_pointer_type="cross",
  80.                 background_color="rgba(245, 245, 245, 0.8)",
  81.                 border_width=1,
  82.                 border_color="#ccc",
  83.                 textstyle_opts=opts.TextStyleOpts(color="#000"),
  84.         ),
  85.             xaxis_opts=opts.AxisOpts(
  86. #                 axislabel_opts=opts.LabelOpts(font_size=14, color='red'),
  87. #                 axisline_opts=opts.AxisLineOpts(is_show=True,
  88. #                 linestyle_opts=opts.LineStyleOpts(width=2, color='#DB7093'))
  89.                 is_show = False
  90.             ),
  91.                
  92.             
  93.             yaxis_opts=opts.AxisOpts(
  94.                 name='最高气温',            
  95.                 is_scale=True,
  96. #                 min_= int(min([gz[d_time],sh[d_time],sz[d_time],bj[d_time]])) - 10,
  97.                 max_= int(max([gz[d_time],sh[d_time],sz[d_time],bj[d_time]])) + 10,
  98.                 name_textstyle_opts=opts.TextStyleOpts(font_size=16,font_weight='bold',color='#5470c6'),
  99.                 axislabel_opts=opts.LabelOpts(font_size=13,color='#5470c6'),
  100.                 splitline_opts=opts.SplitLineOpts(is_show=True,
  101.                                                   linestyle_opts=opts.LineStyleOpts(type_='dashed')),
  102.                 axisline_opts=opts.AxisLineOpts(is_show=True,
  103.                                         linestyle_opts=opts.LineStyleOpts(width=2, color='#5470c6'))
  104.             ),
  105.             legend_opts=opts.LegendOpts(is_show=True, pos_right='1%', pos_top='2%',
  106.                                         legend_icon='roundRect',orient = 'vertical'),
  107.         ))
  108.    
  109.     timeline.add(line, '{}'.format(x_data[d_time]))
  110. timeline.add_schema(
  111.     play_interval=1000,          # 轮播速度
  112.     is_timeline_show=True,      # 是否显示 timeline 组件
  113.     is_auto_play=True,          # 是否自动播放
  114.     pos_left="0",
  115.     pos_right="0"
  116. )
  117. timeline.render('2.html')
复制代码
 
最后想了下,小日子管我屁事呀,有些岛沉了也就沉了,还是分析北上广天气靠谱。
今天的分享就到这里,咱们下次见!

来源:https://www.cnblogs.com/hahaa/p/17608093.html
免责声明:由于采集信息均来自互联网,如果侵犯了您的权益,请联系我们【E-Mail:cb@itdo.tech】 我们会及时删除侵权内容,谢谢合作!

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x

举报 回复 使用道具