首页 > 编程语言 >Python 数据分析之 3 —— pandas 数据分析

Python 数据分析之 3 —— pandas 数据分析

时间:2024-06-03 20:57:15浏览次数:29  
标签:数据分析 Python DataFrame ############ master user ############# csv pandas

某SDN还要收费呢?

第1关:了解数据集特征

任务描述
本关任务:载入网贷数据集,了解数据概况。
共包含多个子任务:
1.1 读取Training_Master.csv文件,命名为master;
1.2 读取Training_Userupdate.csv文件,命名为user;
1.3 读取Training_LogInfo.csv文件,命名为log;
1.4 分别输出它们的形状;
1.5 输出包含master后7个列名的列表;
1.6 输出user表的前3行。

知识讲解
为了完成本关任务,你需要掌握:

1.pandas模块导入
import pandas as pd
2.pandas模块下的数据文件读取方法
read_csv()

返回DataFrame类型对象

若数据包含中文,需添加参数encoding='gbk'。

3.了解数据集基本特征的方法。
DataFrame.shape #DataFrame形状
DataFrame.head(n) #DataFrame数据的前n行
DataFrame.columns #DataFrame的列索引
编程要求
根据提示,在右侧编辑器补充代码。

点击查看代码
`# -*- coding: utf-8 -*-

'''
第1关:了解数据集特征
'''
import pandas as pd
# 1.1 读取Training_Master.csv文件,命名为master。
############begin############

master = pd.read_csv("Training_Master.csv",encoding = "gbk")

#############end#############

#    1.2 读取Training_Userupdate.csv文件,命名为user。
############begin############

user = pd.read_csv("Training_Userupdate.csv",encoding = "gbk")

#############end#############

# 1.3 读取Training_LogInfo.csv文件,命名为log。
############begin############
log = pd.read_csv("Training_LogInfo.csv",encoding = "gbk")


#############end#############

# 1.4 分别输出它们的形状。
############begin############
print(master.shape)
print(user.shape)
print(log.shape)


#############end#############

# 1.5 输出包含master后7个列名的列表。
############begin############
print(list(master.columns)[-7:])


#############end#############

# 1.6 输出user表的前3行。
############begin############

print(user.head(3))

#############end#############

第2关:DataFrame 的 CRUD

任务描述
本关任务:使用DataFrame结构深入了解数据集细节。
包含4个子任务:
2.1 查询master表的列名前缀;
2.2 删除master表的列;
2.3 在master表中增加列;
2.4 修改master表数据。

知识讲解
为了完成本关任务,你需要掌握:

获取DataFrame列名
DataFrame.columns 返回DataFrame的列名Index对象

例如:

In [1]: log.columns
Out[1]: Index(['Idx', 'Listinginfo1', 'LogInfo1', 'LogInfo2', 'LogInfo3'], dtype='object')
字符串分割
str.split(分隔符) 返回字符串列表

例如:

In [2]:'SocialNetwork_12'.split('_')
Out[2]: ['SocialNetwork', '12']
删除DataFrame的列
根据索引名称(label)删除指定的行(axis = 0)或列(axis = 1),inplace指定是否删除原数据。
label可以是字符串,也可以是字符串列表。
DataFrame.drop(label,axis,inplace)

Series的广播操作
像ndarray结构一样,Series结构也支持广播操作。

根据行列索引名称查询DataFrame
loc方法的参数很灵活,名称、名称列表、条件表达式均可,需根据实际情况灵活使用。条件表达式本质上仍是索引名列表。
DataFrame.loc[行索引名或条件表达式,列索引名或条件表达式]

编程要求
根据提示,在右侧编辑器补充代码。

点击查看代码
`# -*- coding: utf-8 -*-
'''
第2关:DataFrame的CRUD
'''
import pandas as pd

master = pd.read_csv("Training_Master.csv",encoding='gbk')
user = pd.read_csv("Training_Userupdate.csv",encoding='gbk')
log = pd.read_csv("Training_LogInfo.csv",encoding='gbk')

#    2.1 求取master表的列名前缀列表,并按字母升序输出该列表。
#     例如:SocialNetwork_12列的列名前缀为:SocialNetwork
############begin############

master_prefix_list = []
for s in master.columns:
    master_prefix_list.append(s.split("_")[0])
master_prefix_list = list(set(master_prefix_list))
master_prefix_list.sort()
print(master_prefix_list)

#############end#############

#    2.2 删除master中列名前缀为:SocialNetwork的列
#     输出:共**列被删除。
############begin############
cols_drop = [col for col in master.columns if col.startswith("SocialNetwork")]
n = len(cols_drop)
master = master.drop(columns=cols_drop)
print("共%d列被删除。"%n)



#############end#############

#    2.3在master表最右侧增加一列Result,
#    记录UserInfo_1和UserInfo_3的和,
#    并输出这三列的前5行。
############begin############
master["Result"] = master["UserInfo_1"]+master["UserInfo_3"]
print(master[["UserInfo_1","UserInfo_3","Result"]].head(5))

#############end#############

#    2.4将UserInfo_2列中所有的“深圳”替换为“中国深圳”,
#    并计算“中国深圳”的用户数。
############begin############
master["UserInfo_2"] = master["UserInfo_2"].replace("深圳","中国深圳")
n = master["UserInfo_2"].value_counts().get('中国深圳',0)
print(n)

#############end#############`

第3关:利用 pandas 实现数据统计分析

任务描述
本关任务:利用pandas进行数据统计分析。
本关共包含4个子任务:
3.1 用户来源地分析;
3.2 未登录用户分析;
3.3 用户活跃度分析;
3.4 用户活跃期分析。

具体任务内容详见代码注释。

知识讲解
为了完成本关任务,你需要掌握:

数据频数统计
Series.value_counts()

返回Series类型数据,表达Series每个取值的出现次数。

简单数据统计
DataFrame.agg(np中的简单统计方法)

按列统计,直接返回统计结果

时间字符串转换为时间类型数据
pd.to_datetime(Series或DataFrame)
取时间数据的星期名称
Timestamp.day_name()
数据分组
DataFrame.groupby(列索引)

返回DataFrameGroupBy对象,

DataFrameGroupBy.nunique()

分组对象的nunique方法直接返回每个分组中不重复值的个数。

编程要求
根据提示,在右侧编辑器补充代码。

点击查看代码
`# -*- coding: utf-8 -*-

'''
第3关:利用pandas实现数据统计分析
'''
import numpy as np
import pandas as pd

master = pd.read_csv("Training_Master.csv",encoding='gbk')
user = pd.read_csv("Training_Userupdate.csv",encoding='gbk')
log = pd.read_csv("Training_LogInfo.csv",encoding='gbk')

# 3.1用户来源地评价。
#    在master表中用value_counts方法实现按用户所在地(UserInfo_2)统计用户数,
#    并按照如下格式输出统计结果的前5项(其中为英文符号)
#    城市:(用户数)
############begin############
locations_and_counts = master["UserInfo_2"].value_counts()
for location,count in locations_and_counts.head(5).items():
    print(location+":"+"(%d)"%count)



#############end#############

#3.2 未登录用户分析。
#    结合master表和log表的内容,
#    求取从未登录的用户的数量,直接输出
############begin############

logUsers = set(log["Idx"])
allUsers = set(master["Idx"])
notLogUsers = allUsers-logUsers
print(len(notLogUsers))

#############end#############

#3.3 用户活跃度分析。
#    求取信息更新(user表)次数最多的用户的最早登录时间(LogInfo3)
#    输出用户Idx,更新次数,最早登录时间
############begin############
#print(user["ListingInfo1"].head(10))
#print(log.columns)
#print(user[""].value_counts())
#print(user["UserupdateInfo1"].value_counts())
maxLogUser = user.groupby("Idx").size().idxmax()
maxUpdateCounts = user.groupby("Idx").size().max()
earlistLogTime = log.loc[log["Idx"]== maxLogUser]["LogInfo3"].min()
print(str(maxLogUser)+" "+str(maxUpdateCounts)+" "+str(earlistLogTime))

#############end#############

# 3.4 用户活跃期分析。
#     给user表增加新列“weekday”,填入更新日期(UserupdateInfo2)相应的星期名称
#     用groupby和nunique方式实现
#     按星期名称统计用户更新人数(注意,是人数),并输出
############begin############

user["UserupdateInfo2"] = pd.to_datetime(user["UserupdateInfo2"])
#print(user["UserupdateInfo2"])
user["weekday"] = user["UserupdateInfo2"].dt.day_name()

result = user.groupby("weekday")['Idx'].nunique()
print(result)

#############end#############`

标签:数据分析,Python,DataFrame,############,master,user,#############,csv,pandas
From: https://www.cnblogs.com/lici/p/18229618

相关文章

  • 如何用atom开发python
    atom是一款非常好用的编辑器,但是他不能运行终端,所以让我们看看如何在atom上运行python程序吧。步骤如下:1、打开你的atom编辑器。2、按组合键ctrl+shift+p,然后输入setting,按回车键或者点击菜单栏中的“file”,再选择“setting”。3、选择“install”,点击搜索框。4、搜索“......
  • anaconda怎么运行python
    一、在AnacondaNavigator中运行首先点击菜单栏中的“开始”,在搜索栏中输入“Anaconda”,然后选择“AnacondaNavigator”。进入主界面,点击“Spyder”中的“Launch”即可。然后按F5键运行即可。二、在AnacondaPrompt中运行也可以在AnacondaPrompt中运行,点击菜单栏......
  • Excel+Python:飞速搞定数据分析与处理 (费利克斯•朱姆斯坦)阅读与关键技术分享
    书:pan.baidu.com/s/1owku2NBxL7GdW59zEi20AA?pwd=suov​提取码:suov我的阅读笔记:数据导入与导出: 使用Python的pandas库可以轻松地将数据从Excel导入到数据框中,并进行各种数据转换和清理。同样,你也可以将Python中的处理结果导出到Excel文件中。数据清理: 利用Python的pandas......
  • 2021新书Python程序设计 人工智能案例实践 Python编程人工智能基本描述统计集中趋势和
    书:pan.baidu.com/s/1owku2NBxL7GdW59zEi20AA?pwd=suov​提取码:suov我的阅读笔记:图像识别:使用深度学习框架(如TensorFlow、PyTorch)创建图像分类模型。探索迁移学习,使用预训练模型进行定制。自然语言处理(NLP):构建一个情感分析模型,用于分析文本中的情感。实现一个文本生成模型,......
  • 【Azure Developer】Python – Get Access Token by Azure Identity in China Azure E
    问题描述使用AzureIdentity,根据指定的客户端凭据获取AccessToken中,先后遇见了“ValueError:"get_token"requiresatleastonescope”“ClientSecretCredential.get_tokenfailed:Authenticationfailed:sequenceitem0:expectedstrinstance,listfound”最初的......
  • 阈值向量误差修正模型TVECM对汇率金融时间序列数据分析|附数据代码
    全文链接:https://tecdat.cn/?p=36380原文出处:拓端数据部落公众号在全球金融市场中,汇率作为连接不同国家货币价值的桥梁,其动态变化对全球经济活动、贸易和投资具有深远影响。随着金融市场的日益复杂化和全球化,汇率时间序列数据展现出高度的非线性、非对称性和动态性特征,使得传统......
  • Python信贷风控模型:梯度提升Adaboost,XGBoost,SGD, GBOOST, SVC,随机森林, KNN预测金
    原文链接:http://tecdat.cn/?p=26184 原文出处:拓端数据部落公众号最近我们被客户要求撰写关于信贷风控模型的研究报告,包括一些图形和统计输出。在此数据集中,我们必须预测信贷的违约支付,并找出哪些变量是违约支付的最强预测因子?以及不同人口统计学变量的类别,拖欠还款的概率如何......
  • 数据分享|python分类预测职员离职:逻辑回归、梯度提升、随机森林、XGB、CatBoost、LGB
    全文链接:https://tecdat.cn/?p=34434原文出处:拓端数据部落公众号分析师:ShilinChen离职率是企业保留人才能力的体现。分析预测职员是否有离职趋向有利于企业的人才管理,提升组织职员的心理健康,从而更有利于企业未来的发展。解决方案任务/目标采用分类这一方法构建6种模型对职......
  • Python从0到100(三十):requests模块的其他方法
    1requests中cookirJar的处理方法使用request获取的resposne对象,具有cookies属性,能够获取对方服务器设置在本地的cookie,但是如何使用这些cookie呢?1.1方法介绍response.cookies是CookieJar类型使用requests.utils.dict_from_cookiejar,能够实现把cookiejar对象转化为字典......
  • python学习笔记-03
    流程控制1.顺序流程代码自上而下的执行。2.选择流程/分支流程根据在某一步的判断有选择的执行相应的逻辑。2.1单分支if语句if条件表达式: 代码 代码 ...2.2双分支if-else语句if条件表达式: 代码 代码 ...else:代码代码...2.3多分支if......