别再低效筛选数据了！试试pandas query函数

愤怒的南瓜饼

数据过滤在数据分析过程中具有极其重要的地位，因为在真实世界的数据集中，往往存在重复、缺失或异常的数据。
pandas提供的数据过滤功能可以帮助我们轻松地识别和处理这些问题数据，从而确保数据的质量和准确性。
今天介绍的query函数，为我们提供了强大灵活的数据过滤方式，有助于从复杂的数据集中提取有价值的信息，提高分析的效率。
1. 准备数据

下面的示例中使用的数据采集自链家网的真实房屋成交数据。
数据下载地址：https://databook.top/。
导入数据：

1. import pandas as pd
3. fp = "D:/data/南京二手房交易/南京建邺区.csv"
5. df = pd.read_csv(fp)
6. df.head()

复制代码

2. query 使用示例

query提供的查询接口非常灵活，可以用类似sql的方式组合查询条件。
2.1. 比较

比较是最常用的过滤手段，
比如：相等比较，检索2023年3月1日的成交数据。

1. df.query('dealDate == "2023.03.01"').head()

复制代码

同样，也可以进行大于或者小于的比较：

1. # 成交总价大于1000万的房屋
2. df.query('totalPrice > 1000').head()

复制代码

1. # 成交总价小于100万的房屋
2. df.query('totalPrice < 100').head()

复制代码

2.2. 多条件组合

在query函数中组合查询条件也非常简单，它的查询字符串中可以直接使用逻辑运算符。
比如，逻辑与的查询，用 & 来连接查询条件。

1. # 总价大于1000万，且每平米单价小于6万的房屋
2. df.query('totalPrice > 1000 & unitPrice < 60000').head()

复制代码

逻辑或的查询，用|来连接查询条件。

1. # 总价小于200万，或者每平米单价小于3万的房屋
2. df.query('totalPrice < 200 | unitPrice < 30000').head()

复制代码

因为是逻辑或，两个条件满足一个就行，所以查询出的数据有总价大于200万，也有单价大于3万的数据。
还有一个逻辑非的运算，用 not 关键字来表示。
2.3. 模糊查询

除了比较，也可以对字符串进行模糊查询，类似sql中的LIKE检索。
比如，查询名称包含万科的楼盘。

1. # 名称包含万科
2. df.query('name.str.contains("万科")').head(5)

复制代码

包含的字符串也支持正则表达式匹配，比如，查询万科楼盘中3室的房屋。

1. df.query('name.str.contains("万科.*3室")').head(5)

复制代码

2.4. 匹配列表

查询时，可以匹配某个列表中的一项，类似于SQL中的IN检索。
比如，查询任意三个日期的房屋成交信息，且总价大于500万。

1. dates = ["2023.02.28", "2022.12.11", "2022.04.10"]
2. df.query('totalPrice > 600 & dealDate == @dates').head(5)

复制代码

3. 总结

pandas的DataFrame提供了各种过滤检索数据的方式，与之相比，query函数允许用户以字符串的形式对DataFrame进行查询操作。
这样的好处有：

• 直观易读：类似SQL的语法，且查询语句以字符串形式表示，易于理解和阅读，有助于提高代码的可读性
  
• 灵活性高：支持复杂的查询条件，可以通过逻辑运算符组合多个条件，也支持模糊的匹配方式
  
• 减少代码量：可以减少编写过滤和条件判断的代码量，使代码更加简洁
  
• 易于调试：由于查询语句以字符串形式表示，因此在调试过程中可以轻松地打印和查看查询条件
  

来源:https://www.cnblogs.com/wang_yb/p/18052559
免责声明：由于采集信息均来自互联网，如果侵犯了您的权益，请联系我们【E-Mail:cb@itdo.tech】 我们会及时删除侵权内容，谢谢合作！