python DataFrame数据分组统计groupby()函数

人工智能73

groupby()函数

在python的DataFrame中对数据进行分组统计主要使用groupby()函数。

ʚʕ̯•͡˔•̯᷅ʔɞ 个人简介
🍹 欢迎各路大佬来到小啾主页指点☀️
发现我:博主作品目前主要涉猎python领域各大方向及常见问题
访问我:博客主页:云雀编程小窝 🌹꧔ꦿ
🌹꧔ꦿ 支持我:点赞 + 关注 + 收藏
python DataFrame数据分组统计groupby()函数
☀️ 感谢大家的支持:一起加油!共同进步! 🍹
python DataFrame数据分组统计groupby()函数

文章目录

; 1. groupby基本用法

1.1 一级分类_分组求和

import pandas as pd
data = [['a', 'A', 109], ['b', 'B', 112], ['c', 'A', 125], ['d', 'C', 120],
        ['e', 'C', 126], ['f', 'B', 133], ['g', 'A', 124], ['h', 'B', 134],
        ['i', 'C', 117], ['j', 'C', 128]]
index = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
columns = ['name', 'class', 'num']
df = pd.DataFrame(data=data, index=index, columns=columns)
print(df)
print("=================================================")
df1 = df.groupby('class').sum()
print(df1)

python DataFrame数据分组统计groupby()函数

1.2 二级分类_分组求和

给groupby()传入一个列表,列表中的元素为分类字段,从左到右分类级别增大。(一级分类、二级分类...)

import pandas as pd
data = [['a', 'A', '1等', 109], ['b', 'B', '1等', 112], ['c', 'A', '1等', 125], ['d', 'B', '2等', 120],
        ['e', 'B', '1等', 126], ['f', 'B', '2等', 133], ['g', 'A', '2等', 124], ['h', 'B', '1等', 134],
        ['i', 'A', '2等', 117], ['j', 'A', '2等', 128], ['h', 'A', '1等', 130], ['i', 'B', '2等', 122]]
index = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11]
columns = ['name', 'class_1', 'class_2', 'num']
df = pd.DataFrame(data=data, index=index, columns=columns)
print(df)
print("=================================================")
df1 = df.groupby(['class_1', 'class_2']).sum()
print(df1)

python DataFrame数据分组统计groupby()函数

1.3 对DataFrameGroupBy对象列名索引(对指定列统计计算)

其中,df.groupby('class_1')得到一个DataFrameGroupBy对象,对该对象可以使用列名进行索引,以对指定的列进行统计。
如:df.groupby('class_1')['num'].sum()

import pandas as pd
data = [['a', 'A', '1等', 109], ['b', 'B', '1等', 112], ['c', 'A', '1等', 125], ['d', 'B', '2等', 120],
        ['e', 'B', '1等', 126], ['f', 'B', '2等', 133], ['g', 'A', '2等', 124], ['h', 'B', '1等', 134],
        ['i', 'A', '2等', 117], ['j', 'A', '2等', 128], ['h', 'A', '1等', 130], ['i', 'B', '2等', 122]]
index = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11]
columns = ['name', 'class_1', 'class_2', 'num']
df = pd.DataFrame(data=data, index=index, columns=columns)
print(df)
print("=================================================")
df1 = df.groupby('class_1')['num'].sum()
print(df1)

代码运行结果同上。

2. 对分组数据进行迭代

2.1 对一级分类的DataFrameGroupBy对象进行遍历

for name, group in DataFrameGroupBy_object

其中,name指分类的类名,group指该类的所有数据。

import pandas as pd
data = [['a', 'A', '1等', 109], ['b', 'C', '1等', 112], ['c', 'A', '1等', 125], ['d', 'B', '2等', 120],
        ['e', 'B', '1等', 126], ['f', 'B', '2等', 133], ['g', 'C', '2等', 124], ['h', 'A', '1等', 134],
        ['i', 'C', '2等', 117], ['j', 'A', '2等', 128], ['h', 'B', '1等', 130], ['i', 'C', '2等', 122]]
index = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11]
columns = ['name', 'class_1', 'class_2', 'num']
df = pd.DataFrame(data=data, index=index, columns=columns)
print(df)
print("===============================")

df1 = df[['name', 'class_1', 'num']]
for name, group in df1.groupby('class_1'):
        print(name)
        print("=============================")
        print(group)
        print("==================================================")

python DataFrame数据分组统计groupby()函数
python DataFrame数据分组统计groupby()函数

2.2 对二级分类的DataFrameGroupBy对象进行遍历

对二级分类的DataFrameGroupBy对象进行遍历,
for (key1, key2), group in df.groupby(['class_1', 'class_2']) 为例
不同于一级分类的是, (key1, key2)是一个由多级类别组成的元组,而group表示该多级分类类别下的数据。

import pandas as pd
data = [['a', 'A', '1等', 109], ['b', 'C', '1等', 112], ['c', 'A', '1等', 125], ['d', 'B', '2等', 120],
        ['e', 'B', '1等', 126], ['f', 'B', '2等', 133], ['g', 'C', '2等', 124], ['h', 'A', '1等', 134],
        ['i', 'C', '2等', 117], ['j', 'A', '2等', 128], ['h', 'B', '1等', 130], ['i', 'C', '2等', 122]]
index = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11]
columns = ['name', 'class_1', 'class_2', 'num']
df = pd.DataFrame(data=data, index=index, columns=columns)
print(df)
print("===============================")

for (key1, key2), group in df.groupby(['class_1', 'class_2']):
        print(key1, key2)
        print("=============================")
        print(group)
        print("==================================================")

程序运行结果如下:
python DataFrame数据分组统计groupby()函数
python DataFrame数据分组统计groupby()函数
(部分)

3. agg()函数

使用groupby()函数和agg()函数 实现 分组聚合操作运算。

3.1一般写法_对目标数据使用同一聚合函数

以 分组求均值、求和 为例

给agg()传入一个 列表

df1.groupby(['class_1', 'class_2']).agg(['mean', 'sum'])

import pandas as pd
data = [['a', 'A', '1等', 109, 144], ['b', 'C', '1等', 112, 132], ['c', 'A', '1等', 125, 137], ['d', 'B', '2等', 120, 121],
        ['e', 'B', '1等', 126, 136], ['f', 'B', '2等', 133, 127], ['g', 'C', '2等', 124, 126], ['h', 'A', '1等', 134, 125],
        ['i', 'C', '2等', 117, 125], ['j', 'A', '2等', 128, 133], ['h', 'B', '1等', 130, 122], ['i', 'C', '2等', 122, 111]]
index = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11]
columns = ['name', 'class_1', 'class_2', 'num1', 'num2']
df = pd.DataFrame(data=data, index=index, columns=columns)
print(df)
print("===============================")
df1 = df[['class_1', 'class_2', 'num1', 'num2']]
print(df1.groupby(['class_1', 'class_2']).agg(['mean', 'sum']))

python DataFrame数据分组统计groupby()函数

3.2 对不同列使用不同聚合函数

给agg()方法传入一个字典

import pandas as pd
data = [['a', 'A', '1等', 109, 144], ['b', 'C', '1等', 112, 132], ['c', 'A', '1等', 125, 137], ['d', 'B', '2等', 120, 121],
        ['e', 'B', '1等', 126, 136], ['f', 'B', '2等', 133, 127], ['g', 'C', '2等', 124, 126], ['h', 'A', '1等', 134, 125],
        ['i', 'C', '2等', 117, 125], ['j', 'A', '2等', 128, 133], ['h', 'B', '1等', 130, 122], ['i', 'C', '2等', 122, 111]]
index = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11]
columns = ['name', 'class_1', 'class_2', 'num1', 'num2']
df = pd.DataFrame(data=data, index=index, columns=columns)
print(df)
print("===============================")
df1 = df[['class_1', 'num1', 'num2']]
print(df1.groupby('class_1').agg({'num1': ['mean', 'sum'], 'num2': ['sum']}))

python DataFrame数据分组统计groupby()函数

3.3 自定义函数写法

也可以自定义一个函数(以名为max1为例)传入agg()中。

import pandas as pd
data = [['a', 'A', '1等', 109, 144], ['b', 'C', '1等', 112, 132], ['c', 'A', '1等', 125, 137], ['d', 'B', '2等', 120, 121],
        ['e', 'B', '1等', 126, 136], ['f', 'B', '2等', 133, 127], ['g', 'C', '2等', 124, 126], ['h', 'A', '1等', 134, 125],
        ['i', 'C', '2等', 117, 125], ['j', 'A', '2等', 128, 133], ['h', 'B', '1等', 130, 122], ['i', 'C', '2等', 122, 111]]
index = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11]
columns = ['name', 'class_1', 'class_2', 'num1', 'num2']
df = pd.DataFrame(data=data, index=index, columns=columns)
print(df)
print("===============================")

max1 = lambda x: x.value_counts(dropna=False).index[0]
max1.__name__ = "类别数量最多"
df1 = df.agg({'class_1': [max1],
        'num1': ['sum', 'mean'],
        'num2': ['sum', 'mean']})
print(df1)

python DataFrame数据分组统计groupby()函数

4. 通过 字典 和 Series 对象进行分组统计

groupy()不仅仅可以传入单个列,或多个列组成的列表,
也可以传入一个字典或者一个Series来实现分组。

4.1通过一个字典

import pandas as pd
data = [['A', 10000, 20121, 14521, 20, 23, 4, 5000],
        ['B', 12000, 12541, 11220, 14, 25, 5, 6000],
        ['C', 21420, 26452, 34215, 25, 24, 4, 5266],
        ['D', 21025, 23155, 31251, 23, 26, 6, 6452],
        ['E', 30021, 23512, 21452, 30, 27, 5, 7525],
        ['F', 32152, 30214, 26321, 32, 30, 7, 6952]]
columns = ['公司', 'a产品产量', 'b产品产量', 'c产品产量', '搬运工数量', '推销员数量', '经理数量', '平均工资']
pd.set_option('display.unicode.east_asian_width', True)
df = pd.DataFrame(data=data, columns=columns)
df = df.set_index(['公司'])
print(df)
print("===============================")

mapping = {
    'a产品产量': '产品产量', 'b产品产量': '产品产量',
    'c产品产量': '产品产量', '搬运工数量': '人员数量',
    '推销员数量': '人员数量', '经理数量': '人员数量',
    '平均工资': '平均工资'
}

df1 = df.groupby(mapping, axis=1).sum()
print(df1)

程序运行结果:
python DataFrame数据分组统计groupby()函数

4.2通过一个Series

import pandas as pd
data = [['A', 10000, 20121, 14521, 20, 23, 4, 5000],
        ['B', 12000, 12541, 11220, 14, 25, 5, 6000],
        ['C', 21420, 26452, 34215, 25, 24, 4, 5266],
        ['D', 21025, 23155, 31251, 23, 26, 6, 6452],
        ['E', 30021, 23512, 21452, 30, 27, 5, 7525],
        ['F', 32152, 30214, 26321, 32, 30, 7, 6952]]
columns = ['公司', 'a产品产量', 'b产品产量', 'c产品产量', '搬运工数量', '推销员数量', '经理数量', '平均工资']
pd.set_option('display.unicode.east_asian_width', True)
df = pd.DataFrame(data=data, columns=columns)
df = df.set_index(['公司'])
print(df)
print("===============================")

data = {
    'a产品产量': '产品产量', 'b产品产量': '产品产量',
    'c产品产量': '产品产量', '搬运工数量': '人员数量',
    '推销员数量': '人员数量', '经理数量': '人员数量',
    '平均工资': '平均工资'
}
s1 = pd.Series(data)
df1 = df.groupby(s1, axis=1).sum()
print(df1)

程序运行结果:
python DataFrame数据分组统计groupby()函数

参考资源: python数据分析从入门到精通 明日科技编著 清华大学出版社

Original: https://blog.csdn.net/weixin_48964486/article/details/123331058
Author: 侯小啾
Title: python DataFrame数据分组统计groupby()函数



相关阅读

Title: pytorch安装详细步骤

文章目录

(一)win—配置tensorflow-GPU

直接查看这条链接即可:win-配置tf-GPU
本人用的conda和tensorflow-GPU版本下载:提取码:98ot
环境:win10+anaconda
注:anaconda安装步骤略,以下步骤默认anaconda已安装。

(二)安装 pytorch

2.1 创建虚拟环境


python DataFrame数据分组统计groupby()函数


conda create --name pytorch python=3.8.1

注意,这里的 pytorch 是虚拟环境的名称,可随意取。3.8.1是我机器上的python版本,可结合自己安装的python版本灵活变换。


activate pytorch

python DataFrame数据分组统计groupby()函数

2.2正式安装pytorch

****:pytorch 官网链接
python DataFrame数据分组统计groupby()函数
注意:如果笔记本有独立显卡(NVIDIA)的话,可以如上选择对应的CUDA版本,否则选择CPU。

  • 本人采用的方法
    在pytorch虚拟环境下,创建.condarc文件
    python DataFrame数据分组统计groupby()函数
    在虚拟环境中输入如下命令:
conda config --set show_channel_urls yes
  • 之后在自己电脑的用户文件下找到一个.condarc文件
    python DataFrame数据分组统计groupby()函数
    用记事本打开这个文件,然后用如下代码代替其中的内容:
channels:
  - defaults
show_channel_urls: true
channel_alias: https://mirrors.tuna.tsinghua.edu.cn/anaconda
default_channels:
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/pro
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/msys2
custom_channels:
  conda-forge: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  msys2: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  bioconda: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  menpo: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  pytorch: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
  simpleitk: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud

记住.condarc配置好后一定要保存。

  • 或者使用清华镜像源
    在浏览pytorch安装帮助的相关帖子时有人说清华源停止镜像了,但是现在清华源已经恢复提供镜像了,所以还是可以用的。附上清华源Anaconda镜像使用帮助,大家可以读一下这段帮助(不读也没关系下面给出详细步骤)。
conda install pytorch torchvision torchaudio cudatoolkit=10.2 -c pytorch

复制这条命令在 Anaconda Prompt 里输入。

2.3 验证是否安装成功

是否安装成功分两个方面。

  • 一个是在prompt里面

(1)在命令行左边为 pytorch 环境中,输入 python

(2)之后,输入 import torch,如果没有报错,意味着 PyTorch 已经顺利安装了。

  • 一个是在jupyter notebook里面调用
    首先,在菜单中打开Anaconda Prompt,然后安装插件。
    命令行输入:
conda install nb_conda

然后进入创建的pytorch环境,命令行输入:

conda install ipykernel

安装成功的样子如下:
python DataFrame数据分组统计groupby()函数
进入Anaconda中可查看,多了pytorch框架:
python DataFrame数据分组统计groupby()函数

(三)本文参考链接如下:(感谢各位大佬)

WIN10下pytorch环境配置(安装了半天的血泪史)
WIn10+Anaconda环境下安装PyTorch(避坑指南)
win10下使用anaconda安装pytorch(清华镜像)
如何让Jupyter Notebook支持pytorch

Original: https://blog.csdn.net/weixin_54546190/article/details/120754242
Author: ☞源仔
Title: pytorch安装详细步骤

相关文章
Bert预训练 人工智能

Bert预训练

Bert模型的目的: 预训练Transformer的encoder网络,从而大幅提高准确率 主要有两个任务: 1、预测被遮挡单词: 随机遮挡一个词或多个词,让encoder根据上下文来预测被遮挡的单词...
OpenCV基础(3)使用OpenCV调整图像大小 人工智能

OpenCV基础(3)使用OpenCV调整图像大小

让我们学习如何使用OpenCV调整图像大小。要调整图像的大小,请根据指定的比例因素或设置所需的高度和宽度,沿着每个轴(高度和宽度)缩放图像。 当调整图像大小: 如果你想在调整后的图像中保持相同的大小,...
Neo4j CQL基础 人工智能

Neo4j CQL基础

图数据库是基于图论实现的一种NoSQL数据库,其数据存储结构和数据查询方式都是以图论为基础的。 ​ 图数据库擅长处理具有大量连接的数据。 neo4j由节点、属性、关系、标签、数据浏览器组成。 一个节点...