pandas中DataFrame数据合并连接（merge、join、concat）

concat）

⽬录

1concat1.1相同字段的表⾸尾相接1.2横向表拼接（⾏对齐）1.2.1axis1.2.2join1.2.3join_axes1.3append1.4⽆视index的concat1.5合并的同时增加区分数据组的键1.5.1可以直接⽤key参数实现1.5.2传⼊字典来增加分组键1.6在dataframe中加⼊新的⾏ 表格列字段不同的表合并merge1.1复合key的合并⽅法 1.1.1通过on指定数据合并对齐的列1.2indicator1.3join⽅法1.3.1how参数1.3.2on参数1.3.3suffix后缀参数1.4组合多个dataframe1.5更新表的nan值1.5.1combine_first1.5.2update1.5.3combine_first和update的区别总结

pandas作者Wes McKinney 在【PYTHON FOR DATA ANALYSIS】中对pandas的⽅⽅⾯⾯都有了⼀个权威简明的⼊门级的介绍，但在实际使⽤过程中，我发现书中的内容还只是冰⼭⼀⾓。谈到pandas数据的⾏更新、表合并等操作，⼀般⽤到的⽅法有concat、join、merge。但这三种⽅法对于很多新⼿来说，都不太好分清使⽤的场合与⽤途。今天就pandas官⽹中关于数据合并和重述的章节做个使⽤⽅法的总结。⽂中代码块主要有pandas官⽹教程提供。

1 concat

concat函数是在pandas底下的⽅法，可以将数据根据不同的轴作简单的融合

pd.concat(objs, axis=0, join='outer', join_axes=None, ignore_index=False, keys=None, levels=None, names=None, verify_integrity=False)

参数说明

objs: series，dataframe或者是panel构成的序列lsit axis： 需要合并链接的轴，0是⾏，1是列 join：连接的⽅式 inner，或者outer

其他⼀些参数不常⽤，⽤的时候再补上说明。

1.1 相同字段的表⾸尾相接

# 现将表构成list，然后在作为concat的输⼊In [4]: frames = [df1, df2, df3]

In [5]: result = pd.concat(frames)

要在相接的时候在加上⼀个层次的key来识别数据源⾃于哪张表，可以增加key参数

In [6]: result = pd.concat(frames, keys=['x', 'y', 'z'])

效果如下

1.2 横向表拼接（⾏对齐）

1.2.1 axis

当axis = 1的时候，concat就是⾏对齐，然后将不同列名称的两张表合并

In [9]: result = pd.concat([df1, df4], axis=1)

1.2.2 join

加上join参数的属性，如果为'inner'得到的是两表的交集，如果是outer，得到的是两表的并集。

In [10]: result = pd.concat([df1, df4], axis=1, join='inner')

1.2.3 join_axes

如果有join_axes的参数传⼊，可以指定根据那个轴来对齐数据

例如根据df1表对齐数据，就会保留指定的df1表的轴，然后将df4的表与之拼接

In [11]: result = pd.concat([df1, df4], axis=1, join_axes=[df1.index])

1.3

1.3 append

append是series和dataframe的⽅法，使⽤它就是默认沿着列进⾏凭借（axis = 0，列对齐）

In [12]: result = df1.append(df2)

1.4 ⽆视index的concat

如果两个表的index都没有实际含义，使⽤ignore_index参数，置true，合并的两个表就睡根据列字段对齐，然后合并。最后再重新整理⼀个新的index。

1.5 合并的同时增加区分数据组的键

前⾯提到的keys参数可以⽤来给合并后的表增加key来区分不同的表数据来源1.5.1 可以直接⽤key参数实现

In [27]: result = pd.concat(frames, keys=['x', 'y', 'z'])

1.5.2 传⼊字典来增加分组键

In [28]: pieces = {'x': df1, 'y': df2, 'z': df3}

In [29]: result = pd.concat(pieces)

1.6 在dataframe中加⼊新的⾏

append⽅法可以将 series 和 字典就够的数据作为dataframe的新⼀⾏插⼊。

In [34]: s2 = pd.Series(['X0', 'X1', 'X2', 'X3'], index=['A', 'B', 'C', 'D'])

In [35]: result = df1.append(s2, ignore_index=True)

表格列字段不同的表合并

如果遇到两张表的列字段本来就不⼀样，但⼜想将两个表合并，其中⽆效的值⽤nan来表⽰。那么可以使⽤ignore_index来实现。1

In [36]: dicts = [{'A': 1, 'B': 2, 'C': 3, 'X': 4}, ....: {'A': 5, 'B': 6, 'C': 7, 'Y': 8}] ....:

In [37]: result = df1.append(dicts, ignore_index=True)

在这⾥，将接着介绍pandas中也常常⽤到的join 和merge⽅法

merge

pandas的merge⽅法提供了⼀种类似于SQL的内存链接操作，官⽹⽂档提到它的性能会⽐其他开源语⾔的数据操作（例如R）要⾼效。

和SQL语句的对⽐可以看merge的参数

on：列名，join⽤来对齐的那⼀列的名字，⽤到这个参数的时候⼀定要保证左表和右表⽤来对齐的那⼀列都有相同的列名。left_on：左表对齐的列，可以是列名，也可以是和dataframe同样长度的arrays。right_on：右表对齐的列，可以是列名，也可以是和dataframe同样长度的arrays。left_index/ right_index: 如果是True的haunted以index作为对齐的keyhow：数据融合的⽅法。

sort：根据dataframe合并的keys按字典顺序排序，默认是，如果置false可以提⾼表现。merge的默认合并⽅法：

merge⽤于表内部基于 index-on-index 和 index-on-column(s) 的合并，但默认是基于index来合并。

1.1 复合key的合并⽅法

使⽤merge的时候可以选择多个key作为复合可以来对齐合并。 1.1.1 通过on指定数据合并对齐的列

In [41]: left = pd.DataFrame({'key1': ['K0', 'K0', 'K1', 'K2'], ....: 'key2': ['K0', 'K1', 'K0', 'K1'], ....: 'A': ['A0', 'A1', 'A2', 'A3'], ....: 'B': ['B0', 'B1', 'B2', 'B3']}) ....:

In [42]: right = pd.DataFrame({'key1': ['K0', 'K1', 'K1', 'K2'], ....: 'key2': ['K0', 'K0', 'K0', 'K0'], ....: 'C': ['C0', 'C1', 'C2', 'C3'], ....: 'D': ['D0', 'D1', 'D2', 'D3']}) ....:

In [43]: result = pd.merge(left, right, on=['key1', 'key2'])

没有指定how的话默认使⽤inner⽅法。how的⽅法有：left

只保留左表的所有数据

In [44]: result = pd.merge(left, right, how='left', on=['key1', 'key2'])

right

只保留右表的所有数据

In [45]: result = pd.merge(left, right, how='right', on=['key1', 'key2'])

outer

保留两个表的所有信息

In [46]: result = pd.merge(left, right, how='outer', on=['key1', 'key2'])

inner

只保留两个表中公共部分的信息

In [47]: result = pd.merge(left, right, how='inner', on=['key1', 'key2'])

1.2 indicator

v0.17.0 版本的pandas开始还⽀持⼀个indicator的参数，如果置True的时候，输出结果会增加⼀列 ' _merge'。_merge列可以取三个值

left_only 只在左表中right_only 只在右表中both 两个表中都有

1.3 join⽅法

dataframe内置的join⽅法是⼀种快速合并的⽅法。它默认以index作为对齐的列。1.3.1 how 参数

join中的how参数和merge中的how参数⼀样，⽤来指定表合并保留数据的规则。具体可见前⾯的 how 说明。1.3.2 on 参数

在实际应⽤中如果右表的索引值正是左表的某⼀列的值，这时可以通过将 右表的索引 和 左表的列 对齐合并这样灵活的⽅式进⾏合并。ex 1

In [59]: left = pd.DataFrame({'A': ['A0', 'A1', 'A2', 'A3'], ....: 'B': ['B0', 'B1', 'B2', 'B3'], ....: 'key': ['K0', 'K1', 'K0', 'K1']}) ....:

In [60]: right = pd.DataFrame({'C': ['C0', 'C1'], ....: 'D': ['D0', 'D1']}, ....: index=['K0', 'K1']) ....:

In [61]: result = left.join(right, on='key')

1.3.3 suffix后缀参数

如果和表合并的过程中遇到有⼀列两个表都同名，但是值不同，合并的时候⼜都想保留下来，就可以⽤suffixes给每个表的重复列名增加后缀。

In [79]: result = pd.merge(left, right, on='k', suffixes=['_l', '_r'])

*　另外还有lsuffix 和 rsuffix分别指定左表的后缀和右表的后缀。

1.4 组合多个dataframe

⼀次组合多个dataframe的时候可以传⼊元素为dataframe的列表或者tuple。⼀次join多个，⼀次解决多次烦恼~

In [83]: right2 = pd.DataFrame({'v': [7, 8, 9]}, index=['K1', 'K1', 'K2'])

In [84]: result = left.join([right, right2])

1.5 更新表的nan值

1.5.1 combine_first

如果⼀个表的nan值，在另⼀个表相同位置（相同索引和相同列）可以找到，则可以通过combine_first来更新数据1.5.2 update

如果要⽤⼀张表中的数据来更新另⼀张表的数据则可以⽤update来实现1.5.3 combine_first 和 update 的区别

使⽤combine_first会只更新左表的nan值。⽽update则会更新左表的所有能在右表中找到的值（两表位置相对应）。

总结

到此这篇关于pandas中DataFrame 数据合并连接（merge、join、concat)的⽂章就介绍到这了,更多相关pandas中DataFrame数据合并内容请搜索以前的⽂章或继续浏览下⾯的相关⽂章希望⼤家以后多多⽀持！