7-1 数据探索
#对数据进行基本的探索 #返回缺失值个数以及最大、最小值 import pandas as pd datafile='D:/anaconda/python-work/Three/air_data.csv'#航空原始数据,第一行为属性标签 resultfile='D:/anaconda/python-work/Three/explore.csv'#数据探索结果表 #读取原始数据,指定UTF-8编码(需要用文本编辑器将数据转换为UTF-8编码) data=pd.read_csv(datafile,encoding='utf-8') #包括对数据的基本表述,percentiles参数是指定计算多少的分位数表(如1/4分位数、中位数等) explore=data.describe(percentiles=[],include='all').T #describe()函数自动计算非空值数,需要手动计算空值数 explore['null']=len(data)-explore['count'] explore=explore[['null','max','min']] explore.columns=[u'空值数',u'最大值',u'最小值'] ''' 这里只选取部分探索结果 describe()函数自动计算的字段有count(非空值数)、unique(唯一值数)、top(频数最高者)、freq(最高频数)、mean(平均值)、std(方差)、min(最小值)、50%(中位数)、max(最大值) ''' explore.to_csv(resultfile)#导出结果
7-2探索客户的基本信息分布情况
#客户信息类别 #提取会员入会年份 import pandas as pd from datetime import datetime import matplotlib.pyplot as plt data = pd.read_csv('D:/anaconda/python-work/Three/air_data.csv') ffp=data['FFP_DATE'].apply(lambda x:datetime.strptime(x,'%Y/%m/%d')) ffp_year=ffp.map(lambda x:x.year) #绘制各年份会员入会人数直方图 fig=plt.figure(figsize=(8,5))#设置画布大小 plt.rcParams['font.sans-serif']='SimHei'#设置中文显示 plt.rcParams['axes.unicode_minus']=False plt.hist(ffp_year,bins='auto',color='#0504aa') plt.xlabel('年份') plt.ylabel('入会人数') plt.title('各年份会员入会人数3036卢卓雯') plt.show() plt.close #提取会员不同性别人数 male=pd.value_counts(data['GENDER'])['男'] female=pd.value_counts(data['GENDER'])['女'] #绘制会员性别比例饼图 fig=plt.figure(figsize=(7,4))#设置画布大小 plt.pie([male,female],labels=['男','女'],colors=['lightskyblue','lightcoral'],autopct='%1.1f%%') plt.title('会员性别比例3036卢卓雯') plt.show() plt.close #提取不同级别会员的人数 lv_four=pd.value_counts(data['FFP_TIER'])[4] lv_five=pd.value_counts(data['FFP_TIER'])[5] lv_six=pd.value_counts(data['FFP_TIER'])[6] #绘制会员各级别人数条形图 fig=plt.figure(figsize=(8,5))#设置画布大小 plt.bar(x=range(3),height=[lv_four,lv_five,lv_six],width=0.4,alpha=0.8,color='skyblue') plt.xticks([index for index in range(3)],['4','5','6']) plt.xlabel('会员等级') plt.ylabel('会员人数') plt.title('会员各级别人数3036卢卓雯') plt.show() plt.close() #提取会员年龄 age=data['AGE'].dropna() age=age.astype('int64') #绘制会员年龄分布箱型图 fig=plt.figure(figsize=(5,10)) plt.boxplot(age, patch_artist=True, labels=['会员年龄'], #设置x轴标题 boxprops={'facecolor':'lightblue'})#设置填充颜色 plt.title('会员年龄分布箱型图3036卢卓雯') #显示y坐标轴的底线 plt.grid(axis='y') plt.show() plt.close lte=data['LAST_TO_END'] fc=data['FLIGHT_COUNT'] sks=data['SEG_KM_SUM'] #绘制最后乘机至结束时长箱型图 fig=plt.figure(figsize=(5,8)) plt.boxplot(lte, patch_artist=True, labels=['时长'],#设置x轴标题 boxprops={'facecolor':'lightblue'})#设置填充颜色 plt.title('会员最后乘机至结束时长分布箱型图') #显示y坐标轴的底线 plt.grid(axis='y') plt.show() plt.close #绘制客户飞行次数箱型图 fig=plt.figure(figsize=(5,8)) plt.boxplot(fc, patch_artist=True, labels=['飞行次数'],#设置x轴标题 boxprops={'facecolor':'lightblue'})#设置填充颜色 plt.title('会员飞行次数分布箱型图3036卢卓雯') #显示y坐标轴的底线 plt.grid(axis='y') plt.show() plt.close #绘制客户总飞行公里数箱型图 fig=plt.figure(figsize=(5,10)) plt.boxplot(sks, patch_artist=True, labels=['总飞行公里数'],#设置x轴标题 boxprops={'facecolor':'lightblue'})#设置填充颜色 plt.title('客户总飞行公里数箱型图') #显示y坐标轴的底线 plt.grid(axis='y') plt.show() plt.close #积分信息类别 #提取会员积分兑换次数 ec=data['EXCHANGE_COUNT'] #绘制会员兑换积分次数直方图 fig=plt.figure(figsize=(8,5))#设置画布大小 plt.hist(ec,bins=5,color='#0504aa') plt.xlabel('兑换次数') plt.ylabel('会员次数') plt.title('会员兑换积分次数分布直方图3036卢卓雯') plt.show() plt.close #提取会员总累计积分 ps=data['Points_Sum'] #绘制会员总累计积分箱型图 fig=plt.figure(figsize=(5,8)) plt.boxplot(ps, patch_artist=True, labels=['总累计积分'],#设置x轴标题 boxprops={'facecolor':'lightblue'})#设置填充颜色 plt.title('客户总累计积分箱型图3036卢卓雯') #显示y坐标轴的底线 plt.grid(axis='y') plt.show() plt.close #提取属性并合并为新数据集 data_corr=data[['FFP_TIER','FLIGHT_COUNT','LAST_TO_END','SEG_KM_SUM','EXCHANGE_COUNT','Points_Sum']] age1=data['AGE'].fillna(0) data_corr['AGE']=age1.astype('int64') data_corr['ffp_year']=ffp_year #计算相关性矩阵 dt_corr=data_corr.corr(method='pearson') print('相关性矩阵为: \n',dt_corr) #绘制热力图 import seaborn as sns plt.subplots(figsize=(10,10))#设置画面大小 sns.heatmap(dt_corr,annot=True,vmax=1,square=True,cmap='Blues') plt.show() plt.close
7-6清洗空值与异常值
import numpy as np import pandas as pd datafile='D:/anaconda/python-work/Three/air_data.csv'#原始数据路径 cleanedfile='D:/anaconda/python-work/Three/data_cleaned.csv'#数据清洗后保存的文件路径 #读取数据 airline_data=pd.read_csv(datafile,encoding='utf-8') print('原始数据的形状为:',airline_data.shape) #去除票价为空的记录 airline_notnull=airline_data.loc[airline_data['SUM_YR_1'].notnull() & airline_data['SUM_YR_2'].notnull(),:] print('删除缺失记录后数据的形状为:',airline_notnull.shape) #只保留票价非零的,或者平均折扣率不为0且总飞行公里数大于0的记录 index1=airline_notnull['SUM_YR_1']!=0 index2=airline_notnull['SUM_YR_2']!=0 index3=(airline_notnull['SEG_KM_SUM']>=0) &(airline_notnull['avg_discount']!=0) index4=airline_notnull['AGE']>100#去除年龄大于100的记录 airline=airline_notnull[(index1 | index2) &index3 & ~index4] print('数据清洗后数据的形状为:',airline.shape) airline.to_csv(cleanedfile)#保存清洗后的数据
7-7属性选择
import pandas as pd import numpy as np #读取数据清洗后的数据 cleanedfile='D:/anaconda/python-work/Three/data_cleaned.csv'#数据清洗后保存的文件路径 airline=pd.read_csv(cleanedfile,encoding='utf-8') #选取需求属性 airline_selection=airline[['FFP_DATE','LOAD_TIME','LAST_TO_END','FLIGHT_COUNT','SEG_KM_SUM','avg_discount']] print('筛选的属性前5行为: \n',airline_selection.head()) #构造属性L L=pd.to_datetime(airline_selection['LOAD_TIME']) - \ pd.to_datetime(airline_selection['FFP_DATE']) L=L.astype('str').str.split().str[0] L=L.astype('int')/30 #合并属性 airline_features=pd.concat([L,airline_selection.iloc[:,2:]],axis=1) print('构建的LRFMC属性前5行为: \n',airline_features.head()) #数据标准化 from sklearn.preprocessing import StandardScaler data=StandardScaler().fit_transform(airline_features) np.savez('D:/anaconda/python-work/Three/airline_scale.npz',data) print('标准化后LRFMC 5个属性为:\n',data[:5,:])
7-9 K-Meas聚类标准化后的数据
#K-Means聚类标准化后的数据 import pandas as pd import numpy as np from sklearn.cluster import KMeans #读取标准化后的数据 airline_scale=np.load('D:/anaconda/python-work/Three/airline_scale.npz')['arr_0'] k=5 #确定聚类中心 #构建模型,随机种子设为123 kmeans_model=KMeans(n_clusters=k,random_state=123) fit_kmeans=kmeans_model.fit(airline_scale) #模型训练 #查看聚类结果 kmeans_cc=kmeans_model.cluster_centers_#聚类中心 print('各类聚类中心为:\n',kmeans_cc) kmeans_labels=kmeans_model.labels_#样本的类别标签 print('各样本的类别标签为:\n',kmeans_labels) r1=pd.Series(kmeans_model.labels_).value_counts()#统计不同类别样本的数目 print('最终每个类别的数目为:\n',r1) #输出聚类分群的结果 cluster_center=pd.DataFrame(kmeans_model.cluster_centers_,\ columns=['ZL','ZR','ZF','ZM','ZC'])#将聚类中心放在数据框中 cluster_center.index=pd.DataFrame(kmeans_model.labels_ ).\ drop_duplicates().iloc[:,0] print(cluster_center)
7-10绘制客户分群雷达图
%matplotlib inline import matplotlib.pyplot as plt labels=['ZL','ZR','ZF','ZM','ZC'] legen=['客户群'+str(i+1) for i in cluster_center.index]#客户群命名 lstype=['-','--',(0,(3,5,1,5,1,5)),':','-.'] kinds=list(cluster_center.iloc[:,0]) #由于雷达图要保证数据闭合,因此再添加L列,并转换为np.ndarry cluster_center=pd.concat([cluster_center,cluster_center[['ZL']]],axis=1) centers=np.array(cluster_center.iloc[:,0:]) #分割圆周长,并让其闭合 n=len(labels) angle=np.linspace(0,2*np.pi,n,endpoint=False) angle=np.concatenate((angle,[angle[0]])) #绘图 fig=plt.figure(figsize=(8,6)) ax=fig.add_subplot(111,polar=True) plt.rcParams['font.sans-serif']=['SimHei'] plt.rcParams['axes.unicode_minus']=False #画线 for i in range(len(kinds)): ax.plot(angle,centers[i],linestyle=lstype[i],linewidth=2,label=kinds[i]) #添加属性标签 ax.set_thetagrids(angle* 180/np.pi, labels) plt.rcParams['font.sans-serif']='SimHei'#设置中文显示 plt.rcParams['axes.unicode_minus']=False plt.title('客户特征分析雷达图3036',fontsize=15) plt.legend(legen) plt.show() plt.close
电信客户信息流失预测
import pandas as pd data=pd.read_csv('D:/anaconda/python-work/Three/WA_Fn-UseC_-Telco-Customer-Churn.csv')# 加载数据 data.shape # 查看数据大小 data.head()
客户流失数据分析
User_info=data.groupby(by="Churn")["Churn"].count() User_info=pd.DataFrame(User_info) User_info
绘制电信客户性别饼图
plt.rcParams['font.sans-serif']='SimHei' plt.rcParams['axes.unicode_minus']='False' #提取会员不同性别人数 male=pd.value_counts(data['gender'])['Female'] female=pd.value_counts(data['gender'])['Male'] #绘制会员性别比例饼图 fig=plt.figure(figsize=(10,6)) plt.pie([male,female],labels=['男','女'],colors=['lightskyblue','lightcoral'],autopct='%1.1f%%') plt.title('电信用户性别比例3036',fontsize=15) plt.show() plt.close()
#TotalCharges表示总费用,这里为对象类型,需要转换为float类型 ''' convert_numeric=True表示强制转换数字(包括字符串),不可转换为NaN---已被弃用 您可以根据需要替换所有非数字值,以NaN使用with函数中的apply列,然后替换为by 并将所有值最后替换为s by : df to_numeric 0 fillna int astype ''' data['TotalCharges']=data['TotalCharges'].apply(pd.to_numeric, errors='coerce').fillna(0).astype(int) print(data['TotalCharges'].dtypes) # print(pd.isnull(data['TotalCharges']).sum()) #再次查找是否存在缺失值 #处理缺失值 print(data.dropna(inplace=True)) #删除掉缺失值所在的行 print(data.shape) #数据归一化处理 #对Churn列中的YES和No分别用1和0替换,方便后续处理 data['Churn'].replace(to_replace='Yes',value=1,inplace=True) data['Churn'].replace(to_replace='No',value=0,inplace=True) print(data['Churn'].head())
绘制客户流失情况饼图
churnvalue=data[ "Churn" ].value_counts() labels=data["Churn"].value_counts().index rcParams["figure.figsize"]=6,6 plt.pie(churnvalue,labels=labels,colors=["blue","yellow"],explode=(0.1,0),autopct='%1.1f', shadow=True) plt.title( '客户流失情况饼图3036 ',fontsize=15) plt.show()
客户流失影响直方图
plt.figure(figsize=(10,10)) plt.subplot(2,2,1) gender=sns.countplot(x='gender',hue='Churn',data=telcon,palette='Set2') #palette参数表示设置颜色,设置为主颜色paste12 plt.xlabel('性别') plt.title('不同性别客户流失直方图3036 ',fontsize=15) plt.subplot(2,2,2) seniorcitizen=sns.countplot(x='SeniorCitizen',hue='Churn',data=telcon,palette='Set2') plt.xlabel('老年人') plt.title('老年人客户流失直方图3036 ',fontsize=15) plt.subplot(2,2,3) partner=sns.countplot(x='Partner',hue='Churn',data=telcon,palette='Set2') plt.xlabel('配偶') plt.title('是否有配偶客户流失直方图3036 ',fontsize=15) plt.subplot(2,2,4) dependents=sns.countplot(x='Dependents',hue='Churn',data=telcon,palette='Set2') plt.xlabel('亲属') plt.title('亲属客户流失直方图3036 ',fontsize=15) plt.show()
特征值
charges=telcon.iloc[:,1:20] # #对特征进行编码 # #离散特征的编码分为两种情况: # #1.离散特征的取值之间没有太大意义,比如color:[red,blue],那么就使用one-hot编码 # #2.离散特征的取值有大小意义,比如size:[X,XL,XXL],那么就使用数值的映射【X:1,XL:2,XXL:3】 corrdf=charges.apply(lambda x:pd.factorize(x)[0]) print(corrdf.head())
热力图
charges=telcon.iloc[:,1:20] corrdf=charges.apply(lambda x:pd.factorize(x)[0]) corr=corrdf.corr() # ''' # heatmap 使用热力图展示系数矩阵情况 # linewidths 热力图矩阵之间的间隔大小 # annot 设定是否显示每个色块系数值 # ''' plt.figure(figsize=(30,20)) plt.title('相关系数热力图3036 ',fontsize=15) ax=sns.heatmap(corr,xticklabels=corr.columns,yticklabels=corr.columns,linewidths=0.2,cmap='YlGnBu',annot=True) plt.show()
标签:plt,第七章,labels,airline,pd,print,data From: https://www.cnblogs.com/lzw2019114243036/p/17209459.html