Pandas数据类型转换
一、Pandas中的数据类型:
不管是 Series
还是 DataFrame
的每一列,都有对应的数据类型。在 Pandas
中存在以下数据类型。
Pandas dtypePython 类型Numpy类型描述objectstr或者mixed(混合类型)string_, unicode_, mixed类型文本或者是混合的数值或非数值类型int64intint_, int8, int16, int32, int64, uint8, uint16, uint32, uint64整数类型float64floatfloat_, float16, float32, float64浮点类型boolboolbool_布尔类型datetime64NAdatetime日期和时间类型timedeltaNANA时间差categoryNANA有限的列表文本值(分类)
案例数据文件:
这里我们以一个 sales_data_types.csv
文件为例。来讲解后面的知识点。读取代码如下:
import pandas as pd
import numpy as np
df = pd.read_csv("data/sales_data_types.csv")
df.head()
输出结果为:
数据类型相关操作:
1. 查看DataFrame所有列的类型:
通过 df.dtypes
或者是 df.info
,即可查看 df
对象的类型。输入 df.dtypes
输出结果如下:
Customer Number float64
Customer Name object
2016 object
2017 object
Percent Growth object
Jan Units object
Month int64
Day int64
Year int64
Active object
dtype: object
输入 df.info()
输出结果如下:
<class 'pandas.core.frame.dataframe'>
RangeIndex: 5 entries, 0 to 4
Data columns (total 10 columns):
# Column Non-Null Count Dtype
[lots more code here]
ValueError: could not convert string to float: '$15,000.00'
</module></ipython-input-45-999869d577b0>
这是因为在 2016
这一列中,有 $
和逗号,直接强制转换会抛出异常。这时候就需要使用自定义转换函数,把 $
去掉,然后再转换。代码如下:
def convert_currency(val):
"""
转换字符串类型为浮点类型
- 移除 $符号
- 移除逗号
- 转换为浮点类型
"""
new_val = val.replace(',','').replace('$', '')
return float(new_val)
df['2016'].apply(convert_currency)
以上代码,也可以将 convert_currency
函数使用 lambda
表达式来替换。示例代码如下:
df['2016'].apply(lambda x: x.replace('$', '').replace(',', '')).astype('float')
4. 使用 np.where
更换数据类型:
比如 df['Active']
这列,我们可以认为只要值是 Y
,那么就设置为 True
,否则就设置为 False
。代码如下:
np.where(df['Active']=='Y', True, False)
5. pandas工具类函数:
pd.to_numeric函数:
pd.to_numeric
函数是用于将数据转换为数值类型,他的功能更加丰富一些,我们先来看下这个函数定义的参数:
pd.to_numeric(data, errors, downcast)
data
:需要进行类型转换的数据。errors
:在发生转换错误时的处理方式。有ignore
、raise
、coerce
可选,默认类型为raise
,其中coerce
代表在发生转换异常的时候,会使用NAN
来代替。downcast
:期望转换的类型。有integer
、signed
、unsigned
、float
可选,默认值为None。如果为None,函数会自动判断需要转换的类型。这个参数设置后,不一定会按照设置的类型来转换,比如在转换的时候出现了NAN值,我们都知道NAN值是float类型,这时候如果你指定为integer
也没有任何效果。
示例代码如下:
pd.to_numeric(df['Jan Units'], errors='coerce', downcast="integer")
输出结果如下:
0 500.0
1 700.0
2 125.0
3 75.0
4 NaN
Name: Jan Units, dtype: float64
可以看到虽然我们设置了类型为 integer
,但最终还是 float64
,原因是在转换 Jan Units
字段的时候,最后一个数据出现了 NAN
。
如果不想让转换失败的值为 NAN
,比如想用 0
来填充。那么可以使用 fillna
来实现。示例代码如下:
pd.to_numeric(df['Jan Units'], errors='coerce').fillna(0)
pd.to_datetime函数:
这个函数功能非常强大,可以将以下类型转换为 datetime
类型:
- int、floats时间戳类型。
- 时间格式的字符串类型。
- np.array一维数组、列表或者元组。
- Series、DataFrame或者字典类型。
下面分别来进行讲解。
- int、floats时间戳类型。
必须指定unit
参数为s
,也就是秒。也可以指定为ms
,代表毫秒,ns
为纳秒(1毫秒=10^6纳秒)。
整形
pd.to_datetime(1642400714, unit="s")
浮点类型
pd.to_datetime(1642400714.3847, unit="s")
毫秒
pd.to_datetime(1642400714111, unit="s")
- 时间格式的字符串类型。时间格式可以参考:https://docs.python.org/3/library/datetime.html#strftime-and-strptime-behavior
将字符串按照指定格式转换为datetime类型
pd.to_datetime('20220101', format='%Y%m%d')
- np.array一维数组、列表或者元组。
根据原始时间转换
pd.to_datetime([1, 2, 3], unit='D',
origin=pd.Timestamp('2022-01-01'))
输出结果为:
DatetimeIndex(['2022-01-02', '2022-01-03', '2022-01-04'], dtype='datetime64[ns]', freq=None)
或者直接将列表中的字符串转换为时间类型:
pd.to_datetime(['2018-10-26 12:00 -0530', '2018-10-26 12:00 -0500'])
输出结果为:
Index([2018-10-26 12:00:00-05:30, 2018-10-26 12:00:00-05:00], dtype='object')
- Series或者DataFrame类型。
s = pd.Series(['3/11/2000', '3/12/2000', '3/13/2000'])
pd.to_datetime(s, infer_datetime_format=True)
其中 infer_datetime_format
代表自动推测时间格式。
输出结果为:
0 2000-03-11
1 2000-03-12
2 2000-03-13
dtype: datetime64[ns]
综合在一起:
我们可以把转换数据类型的工作,在一开始读取文件的时候就指定好。示例代码如下:
def convert_percent(val):
"""
转化%的字符串为浮点类型
- 移除 %
- 除以100
"""
new_val = val.replace('%', '')
return float(new_val) / 100
df_2 = pd.read_csv("data/sales_data_types.csv",
dtype={'Customer Number': 'int'},
converters={'2016': convert_currency,
'2017': convert_currency,
'Percent Growth': convert_percent,
'Jan Units': lambda x: pd.to_numeric(x, errors='coerce'),
'Active': lambda x: np.where(x == "Y", True, False)
})
Original: https://blog.csdn.net/qq_41404557/article/details/125898404
Author: Begin to change
Title: Pandas数据类型转换
原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/672548/
转载文章受原作者版权保护。转载请注明原作者出处!