数据分析神器Pandas快速入门1序列（Series）简介

梁瑞

1序列简介

1.1 Pandas简介

Pandas（https://pandas.pydata.org/ Panel Data and Series ）是一个开源的库，主要是为了方便和直观地处理关系型或标记型数据。它提供了各种数据结构和操作，用于处理数字数据和时间序列。它建立在NumPy库之上的。
Pandas是Python数据分析领域的必备库之一，它提供了一系列易于使用的数据结构和数据分析工具，特别适用于处理结构化数据，如表格型数据（类似于Excel表格）。
Pandas最初是由Wes McKinney在2008年开发的，当时他在AQR资本管理公司工作。他说服了AQR允许他开放Pandas的源代码。另一位AQR员工Chang She在2012年加入，成为该库的第二个主要贡献者。随着时间的推移，许多版本的pandas已经发布。截至2024年6月26日，Pandas的最新版本是2.2.2，于2024年6月20日发布。
Pandas的主要功能包括：

• 数据导入和导出：Pandas可以轻松地从各种数据源中导入数据，如CSV文件、Excel文件、SQL数据库等，并可以将数据导出到各种格式中。
  
• 数据清理：Pandas提供了一系列数据清理工具，可以处理缺失值、重复值、异常值等。
  
• 数据分析：Pandas提供了一系列数据分析工具，可以进行数据统计、分组分析、时间序列分析等。
  
• 数据可视化：Pandas提供了一系列数据可视化工具，可以快速生成各种图表和图形。
  

Pandas的核心数据结构是：

• Series（序列）：类似于一维数组或列表，是由一组数据以及与之相关的数据标签（索引）构成。
  
• DataFrame（数据帧）：类似于二维表格，由多个Series组成，具有行和列索引。
  

Series和DataFrame都有共同的特征。例如，它们都有索引，我们需要通过研究索引来了解pandas是如何工作的。DataFrame实际上是Series的行或列的集合，因此我们必须先对Series进行全面研究。

1.2 Pandas的优势

• 处理和分析数据的速度和效率。
  
• 可以加载来自不同文件对象的数据。
  
• 易于处理浮点和非浮点数据中的缺失数据（以NaN表示）。
  
• 规模可变性：可以从DataFrame和更高维度的对象中插入和删除列。
  
• 数据集的合并和连接。
  
• 对数据集进行灵活的重塑和透视
  
• 提供时间序列功能。
  
• 强大的分组功能，用于对数据集进行分割-应用-合并的操作。
  

参考资料

• 软件测试精品书籍文档下载持续更新 https://github.com/china-testing/python-testing-examples 请点赞，谢谢！
  
• 本文涉及的python测试开发库 谢谢点赞！ https://github.com/china-testing/python_cn_resouce
  
• python精品书籍下载 https://github.com/china-testing/python_cn_resouce/blob/main/python_good_books.md
  
• Linux精品书籍下载 https://www.cnblogs.com/testing-/p/17438558.html
  

1.3 Series简介

序列是一维标签数组，能够容纳任何类型的数据（整数、字符串、浮点、python对象等。轴的标签统称为索引。序列只不过是excel表格中的一个行或列。标签不需要是唯一的，但必须是哈希类型。序列同时支持整数和基于标签的索引，并提供了大量的方法来执行索引操作。
序列通过从现有的存储中加载数据集来创建，可以是SQL数据库、CSV文件、Excel文件，也可从列表、字典和标量值中创建。

1. >>> import pandas as pd
2. >>> songs = pd.Series([145, 142, 38, 13], name='counts')
3. >>> songs
4. 0    145
5. 1    142
6. 2     38
7. 3     13
8. Name: counts, dtype: int64

复制代码

当解释器打印序列时，pandas会根据当前终端的大小对其进行格式化。数列是一维的。然而看起来像是二维的。最左边的一列是索引，包含索引的条目。索引不是值的一部分。索引的通用名称是轴，索引的值-0、1、2、3 称为轴标签。数据145、142、38和13也称为序列值。pandas中的二维结构--DataFrame--有两个坐标轴，一个用于行，另一个用于列。
输出中最右边的一列包含数列的值-145、142、38 和 13。在本例中，它们是整数（控制台表示为 dtype: int64，dtype 表示数据类型，int64 表示 64 位整数），但一般来说，数列的值可以是字符串、浮点数、布尔值或任意 Python 对象。为了获得最佳速度（并充分利用矢量化操作），这些值应具有相同的类型，但这并不是必须的。

查看序列（或数据帧）的索引：

1. >>> songs.index
2. RangeIndex(start=0, stop=4, step=1)

复制代码

索引的默认值是0开始递增的整数。
索引也可以是基于字符串的，在这种情况下，pandas会指出索引的数据类型是object（而不是字符串）：

1. >>> songs2 = pd.Series ([145, 142, 38, 13], name='counts ', index=['Paul', 'John ', 'George ', 'Ringo '])
2. >>> songs2
3. Paul       145
4. John       142
5. George      38
6. Ringo       13
7. Name: counts , dtype: int64
8. >>> songs2.index
9. Index(['Paul', 'John ', 'George ', 'Ringo '], dtype='object')

复制代码

打印Series时看到的 dtype 是值的类型，而不是索引的类型。尽管这看起来是二维的，但索引并不是值的一部分：当我们检查索引属性时，会发现其 dtype是object。
序列的实际数据（或值）不一定是数字或同质的。我们可以在序列中插入Python对象：

1. >>> class Foo:
2. ...     pass
3. ...
4. >>> ringo = pd.Series(
5. ...      ['Richard', 'Starkey', 13, Foo()],
6. ...      name='ringo')
7. >>>
8. >>> ringo
9. 0                                    Richard
10. 1                                    Starkey
11. 2                                         13
12. 3    <__main__.Foo object at 0x7f60bbf26590>
13. Name: ringo, dtype: object

复制代码

上例Series 的dtype-datatype是object（指Python对象）
object数据类型也用于具有字符串值的系列。此外object数据类型还用于具有异构或混合类型的值。如果序列中只有数值数据，就不希望将其存储为Python对象，而应该存储为int64或float64，这样就可以进行矢量化数值运算。
如果你有时间数据，并且是对象类型，那么你可能用字符串来表示日期。使用字符串而不是日期类型是不好的，因为不能进行日期操作。
1.3.1 NaN

当pandas确定一个数列包含数值，但找不到一个数字来表示条目时，它将使用 NaN。该值代表"非数字（Not A Number）"，通常在算术运算中被忽略。(类似于 SQL 中的 NULL）。

1. >>> import numpy as np
2. >>> nan_series = pd.Series([2, np.nan], index=['Ono', 'Clapton'])
3. >>> nan_series
4. Ono        2.0
5. Clapton    NaN
6. dtype: float64
7. >>> nan_series.count()
8. 1
9. >>> nan_series.size
10. 2

复制代码

此序列的类型是float64，而不是int64！因为float64支持NaN，而int64不支持。如果从CSV文件加载数据，数值列的空值将变为NaN。稍后，.fillna 和 .dropna 等方法将解释如何处理 NaN。在本书中，None、NaN、nan、和null是指在pandas数据系列或数据帧中发现的空数据或缺失数据的同义词。
int64类型不支持缺失数据。许多人认为这是pandas的缺陷。从pandas0.24开始，有了对另一种整数类型的可选支持，这种类型可以保存缺失值，如下所示。文档将这种类型称为可归零整数类型。创建序列时，可以输入dtype='Int64'（注意大写）：

1. >>> nan_series2 = pd.Series([2, None],
2. ...    index=['Ono', 'Clapton'],
3. ...    dtype='Int64')
4. >>> nan_series2
5. Ono           2
6. Clapton    <NA>
7. dtype: Int64
8. >>> nan_series.astype('Int64')
9. Ono           2
10. Clapton    <NA>
11. dtype: Int64

复制代码

1.3.2 Series与NumPy array

Series与NumPy array数组类似。两者都有索引操作和一些共同的方法：

1. >>> import numpy as np
2. >>> numpy_ser = np.array([145, 142, 38, 13])
3. >>> songs3[1]
4. 142
5. >>> numpy_ser[1]
6. 142
7. >>> songs3.mean()
8. 84.5
9. >>> numpy_ser.mean()
10. 84.5

复制代码

它们都有布尔数组的概念。布尔数组是与您在处理的数列具有相同索引且具有布尔值的数列，它可以用作过滤项的掩码。普通的Python列表不支持此操作，比如将列表插入索引操作中。

1. >>> mask = songs3 > songs3.median()
2. >>> mask
3. Paul        True
4. John        True
5. George     False
6. Ringo      False
7. Name: counts , dtype: bool
8. >>> songs3[mask]
9. Paul     145
10. John     142
11. Name: counts , dtype: int64
12. >>> numpy_ser[numpy_ser > np.median(numpy_ser)]
13. array([145, 142])

复制代码

一旦有了掩码，我们就可以将其用作过滤器。我们只需将掩码传递到索引操作中即可。如果掩码在给定索引中的值为 True，则保留该值。否则，该值将被删除。上面的掩码表示值高于系列中值的位置。
NumPy也有布尔数组过滤功能，但缺少数组的median方法。相反NumPy命名空间中提供了median函数。

1.3.3 分类数据

在加载数据时，可以指出数据是分类的。如果数据仅限于几个值，我们可能希望使用分类数据。分类值有以下几个好处

• 比字符串占用更少内存
  
• 提高性能
  
• 可以排序
  
• 可以对类别执行操作
  
• 对值执行成员资格
  

分类并不局限于字符串；我们还可以将数字或日期时间值转换为分类数据。要创建类别，我们可以在 Series 构造函数中传递 dtype="类别category"。或者，我们也可以在序列上调用.astype("category") 方法。

1. >>> s = pd.Series(['m', 'l', 'xs', 's', 'xl'], dtype='category')
2. >>> s
3. 0     m
4. 1     l
5. 2    xs
6. 3     s
7. 4    xl
8. dtype: category
9. Categories (5, object): ['l', 'm', 's', 'xl', 'xs']
10. >>> s.cat.ordered
11. False

复制代码

如果该系列表示尺码，则会有自然排序，即小号小于中号。默认情况下，类别没有排序。要将非分类系列转换为有序类别，我们可以使用 CategoricalDtype构造函数和适当的参数创建一个类型。然后，我们将此类型传入 .astype 方法：

1. >>> s2 = pd.Series(['m', 'l', 'xs', 's', 'xl'])
2. >>> size_type = pd.api.types.CategoricalDtype(
3. ...     categories=['s','m','l'], ordered=True)
4. >>> s3 = s2.astype(size_type)
5. >>> s3
6. 0      m
7. 1      l
8. 2    NaN
9. 3      s
10. 4    NaN
11. dtype: category
12. Categories (3, object): ['s' < 'm' < 'l']

复制代码

在本例中，我们将类别限定为"s"、"m"和"l"，但数据中的值不在这些类别中。将数据转换为类别类型后，这些额外的值将被替换为 NaN。如果我们有有序的类别，就可以对它们进行比较：

1. >>> s3 > 's'
2. 0     True
3. 1     True
4. 2    False
5. 3    False
6. 4    False
7. dtype: bool

复制代码

前面的示例从现有的非分类数据中创建了一个新的系列。我们也可以为分类数据添加排序信息。我们需确保指定类别的所有成员否则pandas将抛出 ValueError。

1. >>> s.cat.reorder_categories(['xs','s','m','l', 'xl'],
2. ...                          ordered=True)
3. 0     m
4. 1     l
5. 2    xs
6. 3     s
7. 4    xl
8. dtype: category
9. Categories (5, object): ['xs' < 's' < 'm' < 'l' < 'xl']
10. >>> s3.str.upper()
11. 0      M
12. 1      L
13. 2    NaN
14. 3      S
15. 4    NaN
16. dtype: object

复制代码

字符串和日期时间序列有str和dt属性，允许我们执行该类型特有的常用操作。如果我们将这些类型转换为分类类型，仍可使用 str 或 dt 属性：

1.3.3序列小结：

序列是一种一维数据结构。它可以保存数值数据、时间数据、字符串或任意的Python对象。如果您处理的是数值数据，使用 pandas而不是Python list会让您受益匪浅。Pandas速度更快，内存消耗更少，而且内置的方法对操作数据非常有用。此外，索引抽象允许通过位置或标签访问值。系列也可以有空值，与NumPy数组有一些相似之处。它是pandas的主要工作工具；掌握它将带来丰厚的回报。

来源:https://www.cnblogs.com/testing-/p/18267836
免责声明：由于采集信息均来自互联网，如果侵犯了您的权益，请联系我们【E-Mail:cb@itdo.tech】 我们会及时删除侵权内容，谢谢合作！