python中duplicated和drop_duplicates()有什么區別及怎么用

這篇文章主要介紹了python中duplicated和drop_duplicates()有什么區別及怎么用的相關知識，內容詳細易懂，操作簡單快捷，具有一定借鑒價值，相信大家閱讀完這篇python中duplicated和drop_duplicates()有什么區別及怎么用文章都會有所收獲，下面我們一起來看看吧。

前言

在算face_track_id map有感：

開始驗證

data={'state':[1,1,2,2,1,2,2,2],'pop':['a','b','c','d','b','c','d','d']}
frame=pd.DataFrame(data)  
frame

frame.shape
$ (8,2)

# 說明duplicated()是對整行進行查重，return 重復了的數據，且只現實n-1條重復的數據（n是重復的次數）
frame[frame.duplicated() == True]

一開始還很疑惑，明明（1，b）只出現了1次，哪里duplicate了。其實，人家return的結果是去掉已經出現過一次的行數據了。所以看起來有點confuse，感覺（1，b）并沒有重復，但其實人家的函數很簡潔呢，返回了重復值而且不冗余。

# 說明drop_duplicates()函數是將所有重復的數據都去掉了，且默認保留重復數據的第一條。
# 比如（2，d）出現了3次，在duplicated（）中顯示了2次，在drop_dupicates（）后保留了一個
frame.drop_duplicates().shape
$ (4,2)

# 留下了完全唯一的數據行
frame.drop_duplicates()

補充：python的pandas重復值處理（duplicated()和drop_duplicates())

一、生成重復記錄數據

import numpy as np
import pandas as pd
 
#生成重復數據
df=pd.DataFrame(np.ones([5,2]),columns=['col1','col2'])
df['col3']=['a','b','a','c','d']
df['col4']=[3,2,3,2,2]
df=df.reindex(columns=['col3','col4','col1','col2'])  #將新增的一列排在第一列
df

二、判斷重復記錄（行）

#判斷重復數據
isDplicated=df.duplicated()   #判斷重復數據記錄
isDplicated

三、刪除重復值

#刪除重復值
new_df1=df.drop_duplicates() #刪除數據記錄中所有列值相同的記錄
new_df2=df.drop_duplicates(['col3']) #刪除數據記錄中col3列值相同的記錄
new_df3=df.drop_duplicates(['col4']) #刪除數據記錄中col4列值相同的記錄
new_df4=df.drop_duplicates(['col3','col4']) #刪除數據記錄中(col3和col4)列值相同的記錄
new_df1
new_df2
new_df3
new_df4

關于“python中duplicated和drop_duplicates()有什么區別及怎么用”這篇文章的內容就介紹到這里，感謝各位的閱讀！相信大家對“python中duplicated和drop_duplicates()有什么區別及怎么用”知識都有一定的了解，大家如果還想學習更多知識，歡迎關注億速云行業資訊頻道。