使用pandas的merge()和join()函数进行数据处理

目录

一、引言

二、pandas的merge()函数

基本用法

实战案例

三、pandas的join()函数

基本用法

实战案例

四、merge()与join()的比较与选择

使用场景:

灵活性:

选择建议:

五、进阶案例与代码

六、总结


一、引言

在数据分析和处理中,数据整合是一个至关重要的步骤。Python的pandas库提供了强大的数据处理功能,其中merge()和join()函数是数据整合中常用的方法。本文将详细讲解pandas的merge()和join()函数的用法,并通过实战案例和代码,帮助新手朋友理解和掌握这两个函数。

二、pandas的merge()函数

merge()函数是pandas库中用于数据合并的主要函数,它基于一个或多个键将两个DataFrame对象合并在一起。merge()函数支持多种合并类型,如内连接(inner)、左连接(left)、右连接(right)和外连接(outer)。

基本用法

merge()函数的基本语法如下:

pandas.merge(left, right, how='inner', on=None, left_on=None, right_on=None,  left_index=False, right_index=False, sort=True,  suffixes=('_x', '_y'), copy=True, indicator=False,  validate=None)

其中,left和right参数分别表示要合并的两个DataFrame对象;how参数指定合并类型;on参数指定用于合并的列名;left_on和right_on参数分别指定左侧和右侧DataFrame中用于合并的列名;left_index和right_index参数表示是否将左侧的索引和右侧的索引作为合并的键;suffixes参数用于在合并过程中解决列名冲突;copy参数表示是否返回合并后的新对象;indicator参数用于在合并后的DataFrame中添加一个指示列,标识每行数据的来源;validate参数用于验证合并操作的有效性。

实战案例

假设我们有两个DataFrame对象,分别表示两个班级的学生信息:

import pandas as pd  # 创建第一个DataFrame对象,表示班级A的学生信息  
df1 = pd.DataFrame({  'student_id': [1, 2, 3, 4],  'name': ['Alice', 'Bob', 'Charlie', 'David'],  'class': 'A'  
})  # 创建第二个DataFrame对象,表示班级B的学生信息,并包含学生的分数  
df2 = pd.DataFrame({  'student_id': [2, 3, 5, 6],  'score': [90, 85, 92, 88],  'class': 'B'  
})  # 使用merge()函数进行内连接,基于student_id列合并两个DataFrame  
merged_inner = pd.merge(df1, df2, how='inner', on='student_id')  
print(merged_inner)

执行上述代码后,将输出两个班级共有的学生信息及其分数。

三、pandas的join()函数

join()函数是pandas库中用于数据连接的另一个函数,它基于索引进行连接。与merge()函数不同,join()函数主要用于在Series或DataFrame之间基于索引进行连接操作。

基本用法

join()函数的基本语法如下:

DataFrame.join(other, on=None, how='left', lsuffix='', rsuffix='', sort=False)

其中,other参数表示要连接的另一个Series或DataFrame对象;on参数指定用于连接的列名或索引;how参数指定连接类型(默认为左连接);lsuffix和rsuffix参数用于在连接过程中解决列名冲突;sort参数表示是否对连接后的数据进行排序。

实战案例

假设我们有两个DataFrame对象,其中df1包含学生信息,其索引为学生ID;df2包含学生的分数信息,其索引也为学生ID:

# 使用set_index()方法将student_id列设置为索引  
df1.set_index('student_id', inplace=True)  
df2.set_index('student_id', inplace=True)  # 使用join()函数进行左连接,基于索引连接两个DataFrame  
joined_left = df1.join(df2, how='left')  
print(joined_left)

执行上述代码后,将输出df1中的所有学生信息以及与之匹配的df2中的分数信息。对于df1中存在但在df2中不存在的学生,其分数列将填充为NaN。

四、merge()与join()的比较与选择

merge()和join()函数在pandas中都是用于数据整合的重要工具,但它们在使用场景和特性上存在一些差异。以下是对这两个函数的比较和选择建议:

使用场景:

merge()函数基于列进行合并,适用于两个DataFrame之间基于共同列(键)的数据整合。它支持多种合并类型,包括内连接、左连接、右连接和外连接,并允许指定多个键进行合并。
join()函数基于索引进行连接,适用于DataFrame或Series之间基于索引的数据整合。它主要进行左连接操作,即将一个对象中的行与另一个对象中索引匹配的行连接起来。

灵活性:

merge()函数在合并时提供了更多的选项和灵活性,如可以指定多个键进行合并、处理列名冲突等。它还支持合并后数据的排序和验证。
join()函数相对简单,主要用于基于索引的左连接操作。它不支持多键合并或复杂的合并类型,但在处理基于索引的数据整合时更加直观和高效。

选择建议:

当需要基于共同列(键)进行数据整合时,应首选merge()函数。它提供了更多的选项和灵活性,可以满足各种合并需求。
当数据已经基于索引进行组织,并且需要基于索引进行数据整合时,可以选择join()函数。它在处理基于索引的数据时更加直观和高效。

五、进阶案例与代码

为了更好地说明merge()和join()函数的使用,我们将通过一个进阶案例来展示它们的实际应用。

案例:假设我们有两个DataFrame,df_orders表示订单信息,包含订单ID、客户ID、订单日期和订单金额;df_customers表示客户信息,包含客户ID、客户姓名和客户地址。我们需要将这两个DataFrame合并,以便获取每个订单的客户姓名和地址。

首先,我们创建两个示例DataFrame:

import pandas as pd  # 创建订单信息DataFrame  
df_orders = pd.DataFrame({  'order_id': [1, 2, 3, 4],  'customer_id': [101, 102, 101, 103],  'order_date': ['2023-01-01', '2023-01-02', '2023-01-03', '2023-01-04'],  'order_amount': [100, 200, 150, 300]  
})  # 创建客户信息DataFrame,并设置客户ID为索引  
df_customers = pd.DataFrame({  'customer_id': [101, 102, 103],  'customer_name': ['Alice', 'Bob', 'Charlie'],  'customer_address': ['Address A', 'Address B', 'Address C']  
}).set_index('customer_id')  # 使用merge()函数进行左连接,基于customer_id列合并两个DataFrame  
merged_df = df_orders.merge(df_customers, left_on='customer_id', right_index=True)  
print(merged_df)

在上面的代码中,我们首先创建了两个示例DataFrame,df_orders包含订单信息,df_customers包含客户信息,并将客户ID设置为索引。然后,我们使用merge()函数进行左连接,将df_orders中的订单信息与df_customers中的客户信息合并起来。在merge()函数中,我们指定了left_on='customer_id'表示左侧DataFrame的合并键为customer_id列,right_index=True表示右侧DataFrame的合并键为索引。

执行代码后,将输出合并后的DataFrame,其中包含订单信息、客户姓名和客户地址。注意,由于我们使用了左连接,所以即使某些订单在df_customers中没有对应的客户信息(如客户ID为104的订单),这些订单仍然会出现在合并后的DataFrame中,但客户姓名和客户地址列将填充为NaN。

六、总结

本文详细介绍了pandas库中merge()和join()函数的使用方法和实战案例。merge()函数基于列进行合并,支持多种合并类型和选项,适用于基于共同列(键)的数据整合;而join()函数基于索引进行连接,主要用于基于索引的数据整合。通过比较和选择建议,我们可以根据实际需求选择合适的函数进行数据整合操作。同时,我们还通过进阶案例展示了这两个函数在实际应用中的强大功能。希望本文能够帮助新手朋友更好地理解和掌握pandas的merge()和join()函数。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/321044.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

物联网技术、测试要点和测试标准

物联网定义 物联网:利用嵌入式电子设备、微芯片等连接车辆、家电、医疗设备,以收集和交换不同类型的数据,被称为物联网。借助物联网,用户能够远程控制设备,可以实现不同设备的互联。在现实生活中物联网开始有越来越多…

【消息队列】MQ介绍

MQ MQ(MessageQueue),中文是消息队列,就是存放消息的队列,也是下面提到的事件驱动架构中的Broker 同步调用的优点: 时效性强,可以立即得到结果 同步调用的问题: 耦合度高性能和吞吐…

2022 年全国职业院校技能大赛高职组云计算赛项试卷(容器云)

#需要资源(软件包及镜像)或有问题的,可私聊博主!!! #需要资源(软件包及镜像)或有问题的,可私聊博主!!! #需要资源(软件包…

自然语言(NLP)

It’s time for us to learn how to analyse natural language documents, using Natural Language Processing (NLP). We’ll be focusing on the Hugging Face ecosystem, especially the Transformers library, and the vast collection of pretrained NLP models. Our proj…

蓝牙连接手机播放音乐的同时传输少量数据,那些蓝牙芯片可以实现呢

简介 蓝牙连接手机播放音乐的同时连接另一蓝牙芯片传输少量数据,那些蓝牙芯片可以实现呢? 这个需求,其实就是双模的需求 简单描述就是:播放音乐的同时,还可以连接ble,进行数据的传输。二者同时进行,互不…

TCP的特性(4)

TCP特性 拥塞控制(可靠性机制)延迟应答(效率机制)捎带应答(效率机制)面向字节流(粘包问题)TCP异常机制(心跳包)小结 拥塞控制(可靠性机制) 虽然TCP引入了滑动窗口,能够高效可靠的传输大量数据,但是在开始阶段就发送大量数据,可能引起一系列问题. TCP引入了慢启动机制,先发少量的…

kafka学习笔记(三、生产者Producer使用及配置参数)

1.简介 1.1.producer介绍 生产者就是负责向kafka发送消息的应用程序。消息在通过send()方法发往broker的过程中,有可能需要经过拦截器(Interceptor)、序列化器(Serializer)和分区器(Partitioner)的一系列作用后才能被真正的发往broker。 demo: public class Kafk…

Redis-三主三从高可用集群搭建

正式搭建之前,注意事项(坑)提前放到最开始,也可以出问题回来看, (1)第二步中最好将配置文件中的logfile自定义一个目录,以便于在第五步中启动出错的时候迅速定位错误。 &#xff0…

深度学习之基于Vgg16卷积神经网络书法字体风格识别

欢迎大家点赞、收藏、关注、评论啦 ,由于篇幅有限,只展示了部分核心代码。 文章目录 一项目简介 二、功能三、系统四. 总结 一项目简介 一、项目背景 书法是中国传统文化的重要组成部分,具有深厚的历史底蕴和独特的艺术魅力。在数字化时代&…

Springboot+Vue项目-基于Java+MySQL的入校申报审批系统(附源码+演示视频+LW)

大家好!我是程序猿老A,感谢您阅读本文,欢迎一键三连哦。 💞当前专栏:Java毕业设计 精彩专栏推荐👇🏻👇🏻👇🏻 🎀 Python毕业设计 &…

彻底解决python的pip install xxx报错(文末附所有依赖文件)

今天安装pip install django又报错了: C:\Users\Administrator>pip install django WARNING: Ignoring invalid distribution -ip (d:\soft\python\python38\lib\site-pac kages) Looking in indexes: https://pypi.tuna.tsinghua.edu.cn/simple Collecting djan…

LeetCode 面试经典150题 228.汇总区间

题目: 给定一个 无重复元素 的 有序 整数数组 nums 。 返回 恰好覆盖数组中所有数字 的 最小有序 区间范围列表 。也就是说,nums 的每个元素都恰好被某个区间范围所覆盖,并且不存在属于某个范围但不属于 nums 的数字 x 。 列表中的每个区…

LeetCode:滑动窗口最大值

文章收录于LeetCode专栏 LeetCode地址 滑动窗口最大值 题目 给你一个整数数组 nums,有一个大小为 k 的滑动窗口从数组的最左侧移动到数组的最右侧。你只可以看到在滑动窗口内的 k 个数字。滑动窗口每次只向右移动一位。   返回 滑动窗口中的最大值 。   示例 1…

详解xml-java语言

1.XML在线学习手册 XML 教程 2.XML可以做什么 1.给两个程序之间进行数据通信。现在用的最多的是JSON。 2.给服务器做配置文件。 3.存储复杂的数据关系。 4.还可以充当小型的数据库。 3.书写格式 <?xml version"1.0" encoding"UTF-8" ?> <…

大数据与会计专业主要学什么课程

大数据与会计专业是一个结合了传统会计知识与现代大数据技术的交叉学科&#xff0c;旨在培养既懂会计又熟悉大数据分析的复合型人才。该专业的学生将会学习以下主要课程内容&#xff1a; 会计基础课程&#xff1a;包括基础会计、财务会计、成本会计、管理会计等&#xff0c;这些…

【UE5】数字人基础

这里主要记录一下自己在实现数字人得过程中涉及导XSens惯性动捕&#xff0c;视频动捕&#xff0c;LiveLinkFace表捕&#xff0c;GRoom物理头发等。 一、导入骨骼网格体 骨骼网格体即模型要在模型雕刻阶段就要雕刻好表捕所需的表情体(blendshape)&#xff0c;后面表捕的效果直…

Elasticsearch 索引 blocks:深入探讨数据保护

Elasticsearch 作为搜索和分析数据的首选分布式引擎在技术领域脱颖而出&#xff0c;尤其是在处理日志、事件和综合文本搜索时。 它的与众不同之处在于它如何让你使用各种块选项调整对其索引的访问。 这对于那些负责技术项目的人&#xff08;比如管理员和编码员&#xff09;来说…

LTE的EARFCN和band之间的对应关系

一、通过EARFCN查询对应band 工作中经常遇到只知道EARFCN而需要计算band的情况&#xff0c;因此查了相关协议&#xff0c;找到了他们之间的对应关系&#xff0c;可以直接查表&#xff0c;非常方便。 具体见&#xff1a; 3GPP TS 36.101 5.7.3 Carrier frequency and EAR…

Leetcode—1235. 规划兼职工作【困难】(upper_bound、自定义排序规则)

2024每日刷题&#xff08;125&#xff09; Leetcode—1235. 规划兼职工作 算法思想 实现代码 class Solution { public:int jobScheduling(vector<int>& startTime, vector<int>& endTime, vector<int>& profit) {int n startTime.size();vec…

doris经典bug

在部署完登录web页面查看的时候会发现只有一个节点可以读取信息剩余的节点什么也没读取到 在发现问题后&#xff0c;我们去对应的节点去看log日志&#xff0c;发现它自己绑定到前端的地址上了 现在我们已经发现问题了&#xff0c;以下就开始解决问题 重置doris 首先对be进行操…