今日是端午4天假期的最后一天，自己的2台电脑一台在处理数据，另一台电源适配器也坏掉了。感觉闲来无事，在此就简单聊聊numpy和pandas的各种冷知识、小技巧和疑难杂症。个人觉得关于
这里就着重聊聊一些使用过程中常用到但教科书里找不着的问题，省的各位朋友还跑去stackoverflow找答案。
问题一、dataframe里面.values，.iloc，.ix，.loc的区别？
只有values是将原本dataframe数据强制转化为
可以，索引的话如果用loc或ix，则默认是用第一层的index或columns，最简单的方式是类似于这样：
example.loc[index1, columns1].loc[index2, columns2]
问题三、list, dict, numpy.ndarray, dataframe数据格式如何转换？
- list转化为numpy.ndarray：
np.array(example)
- numpy.ndarray转化为list：
list(example)
- dict转化为dataframe:
example[‘a’] = {‘bb’:2, ‘cc’:3}
eee = pd.DataFrame(example)
1
2
3
example[‘a’]={‘bb’:2,’cc’:3}
eee=pd.DataFrame(example)
- numpy.ndarray转化为dataframe:
pd.DataFrame(example)
- dataframe转化为numpy.ndarray：
example.values[:, :]
问题四、numpy.ndarray和dataframe如何填补nan，inf？
- 对于numpy.ndarray来说：
example = np.where(np.isnan(example), 0, example)
example = np.where(np.isnan(example), 0, example)
1
2
3
example=np.where(np.isnan(example),0,example)
example=np.where(np.isnan(example),0,example)
- 对于dataframe来说：
既可以用example.fillna(),还可以用example.replace(a, b)
问题五、各种OI的效率快慢问题？
-
npy读写效率最高，但最费硬盘空间，比如np.load(), np.save();
-
csv其次，比如pd.Dataframe.to_csv()，pd.load_csv()；
-
txt读写，当然也可以很快，但是需要频繁的split，对格式规范的数据比较麻烦；
-
至于简单的excel和word，可以用xlrd,xlwt来操作；
问题六、关于常见的os操作，包括新建文件夹、遍历文件夹的操作问题？
- 新建文件夹：
if not os .path .isdir (path_out ):
os .makedirs (path_out )
1
2
3
ifnotos.path.isdir(path_out):
os.makedirs(path_out)
- 遍历所有文件和子文件夹：
for a , b , filenames in os .walk (path_data ):
for filename in filenames :
1
2
3
fora,b,filenamesinos.walk(path_data):
forfilenameinfilenames:
只遍历当前文件，不包含子文件夹：
for a , b , filenames in os .walk (path_data ):
for filename in filenames :
if a == path_data :
1
2
3
4
fora,b,filenamesinos.walk(path_data):
forfilenameinfilenames:
ifa==path_data:
问题七、numpy.ndarray和dataframe如何选取满足条件的行和列数据？
- 根据新的columns来选取：
frame_[newcolumns]
1
2
frame_[newcolumns]
- 根据新的index来选取：
frame_[frame_.index.isin(newindex)]
1
2
frame_[frame_.index.isin(newindex)]
- 根据某一行或者列的条件来选取：
假如是根据dataframe的第一列，必须大于start_time这个常数，frame_ = frame_.ix[:, frame_.ix[0, :] >= start_date]
或者是根据dataframe的第一行，必须大于start_time这个常数，frame_ = frame_.ix[frame_.ix[:, 0] >= start_date, :]
1
2
3
假如是根据dataframe的第一列，必须大于start_time这个常数，frame_=frame_.ix[:,frame_.ix[0,:]>=start_date]
或者是根据dataframe的第一行，必须大于start_time这个常数，frame_=frame_.ix[frame_.ix[:,0]>=start_date,:]
问题八、如何计算相关性矩阵？
将y和所有x放入到sample = numpy.ndarray下，然后直接np.corrcoef(sample )，默认的是皮尔森相关系数，当然，也可以用ranked correlation，也就是spearman correlation，可以直接用scipy.stats.spearmanr。
问题九、如何取出一串字符串里面的字母或者数字？
- 取出example里面的数字：
int(”.join(x for x in example if x.isdigit()))
- 取出example里面的字母：
(”.join(x for x in example if x.alpha()))
1
2
3
4
5
1.取出example里面的数字：
int(”.join(xforxinexampleifx.isdigit()))
2.取出example里面的字母：
(”.join(xforxinexampleifx.alpha()))
问题十、各种merge操作？
- 纵向merge 格式为numpy.ndarray的数据：
np.hstack((example1, example2))
- 纵向merge 格式为dataframe的数据，并根据dataframe的index来merge，merge后保留原本各自列的所有index，其他没有该index的列则对应数值为nan：
pd.concat([example1, example2], axis=1)
- 纵向merge，但是只保留公共的index行：
example.sort_index(axis=1, inplace=True)
1
2
example.sort_index(axis=1,inplace=True)
- 横向merge格式为numpy.ndarray的数据：
np.vstack((example1, example2))
- 横向merge 格式为dataframe的数据，并根据dataframe的column来merge，merge后保留原本的index和columns，其他没有该index或columns的列则对应数值为np.nan：
pd.concat([example1, example2], axis=0)
- 横向merge，但是只保留公共的columns列：
example.sort_index(axis=0, inplace=True)
1
2
example.sort_index(axis=0,inplace=True)
问题十一、对dataframe数据的index统一加一个后缀
比如对原本dataframe下的index=[‘aa’, ‘cc’, ‘dddddd’]的，统一加上一个_5m的后缀，通常的操作大家一般就是直接example.index = [x + ‘_5m’ for x in example.index]，这个其实会产生些小问题，因为默认的index是pandas.indexes.base.Index，这个格式可能会默认index里面数据的长度是确定的，导致加_5m后缀失败，所以需要先把格式强制转化为list, 像这样：example.index = [x + ‘_5m’ for x in list(example.index)]
先就这些吧，其他的想到再慢慢加。
Original: https://blog.csdn.net/weixin_39608478/article/details/113636415
Author: weixin_39608478
Title: pandas 转化np数据_python，numpy，pandas数据处理之小技巧
原创文章受到原创版权保护。转载请注明出处：https://www.johngo689.com/753245/
转载文章受原作者版权保护。转载请注明原作者出处！