信貸評分卡中常用的兩個庫有scorecardpy和Toad。其中scorecardpy是由謝士晨博士開發(fā)，Toad是由厚本金融風(fēng)控團(tuán)隊(duì)內(nèi)部孵化產(chǎn)生的標(biāo)準(zhǔn)評分卡庫。本文以Toad官方指導(dǎo)教程為例，講解如何運(yùn)用Toad庫進(jìn)行傻瓜式的評分卡開發(fā)。

Toad基礎(chǔ)教程

參考自Toad庫中的Basic Tutorial for Toad.

Toad遵循信用風(fēng)險記分卡模型開發(fā)的一般流程: (1)EDA (2)特征的選擇與WOE分箱的結(jié)合 (3)模型選擇 (4)模型驗(yàn)證 (5)評分卡轉(zhuǎn)換

數(shù)據(jù)準(zhǔn)備

本文使用的數(shù)據(jù)是著名的德國信用卡數(shù)據(jù)集。數(shù)據(jù)預(yù)處理包括: (1)將target從'good' / 'bad'替換為0,1; (2)劃分訓(xùn)練集測試集; (3)增加一列表示訓(xùn)練和測試的特征。訓(xùn)練集將用于建模，而測試集將僅用于驗(yàn)證。

import pandas as pd
import numpy as np
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import train_test_split
import toad

data=pd.read_csv('germancredit.csv')
data.replace({'good':0,'bad':1},inplace=True)

print(data.shape) # 1000 data and 20 features 
data.head()

?　劃分訓(xùn)練集和測試集：

Xtr,Xts,Ytr,Yts=train_test_split(data.drop('creditability',axis=1),data['creditability'],test_size=0.25,random_state=450)
data_tr=pd.concat([Xtr,Ytr],axis=1)
#增加一列區(qū)分訓(xùn)練/測試的特征
data_tr['type']='train'
data_ts=pd.concat([Xts,Yts],axis=1)
data_ts['type']='test'

一、EDA數(shù)據(jù)處理

?　Toad支持常用的特征EDA分析，包括檢測缺失值和特征分布。

toad.detector.detect():返回每個特性的EDA報告，包括數(shù)據(jù)類型、分布、缺失率和惟一值。

toad.detector.detect(data_tr).head(10)

二、特征選擇，WOE轉(zhuǎn)換

?　Toad可以用來過濾大量的特征，如高缺失率、低iv和高度相關(guān)的特征。它還可以使用各種分箱技巧進(jìn)行分箱和實(shí)現(xiàn)WOE轉(zhuǎn)化。

toad.selection.select():用于根據(jù)缺失百分比、iv(20箱)和多重共線性(帶有VIF和/或自相關(guān))來過濾特征。

?　下面以缺失率大于0.5.IV值小于0.05或者相關(guān)性大于0.7(保留較高的特征)來進(jìn)行特征篩選。

selected_data, drop_lst=toad.selection.select(data_tr,target='creditability', empty=0.5, iv=0.05, corr=0.7, return_drop=True, exclude=['type'])

selected_test=data_ts[selected_data.columns]

print(selected_data.shape)
drop_lst 

?　可以看到，8個特征由于IV值過低被剔除。

toad.quality(dataframe, target):返回每個特征的質(zhì)量，包括iv、基尼系數(shù)和熵。可以幫助我們發(fā)現(xiàn)更有用的潛在信息。

quality=toad.quality(data,'creditability')
quality.head(6)

分箱

第一步：分箱

toad.transform.Combiner():可以用來對數(shù)值型和類別型變量進(jìn)行分箱，支持決策樹分箱、卡方分箱、最優(yōu)分箱等。該行代碼生成一個Combiner類，這個類有以下方法： combiner().fit(data, y='target', method='chi', min_samples=None, n_bins=None ):分箱，支持卡方、決策樹、等頻和等寬。 combiner().set_rules(dict):設(shè)置箱號。 combiner().transform(data): 將特征的值轉(zhuǎn)化為分箱的箱號。

# 初始化一個combiner類
combiner=toad.transform.Combiner()

# 訓(xùn)練數(shù)據(jù)并指定分箱方法，其它參數(shù)可選
combiner.fit(selected_data,y='creditability',method='chi',min_samples=0.05,exclude='type')

# 以字典形式保存分箱結(jié)果
bins=combiner.export() 

#查看每個特征的分箱結(jié)果
print('status.of.existing.checking.account:',bins['status.of.existing.checking.account'])
print('credit.amount:',bins['credit.amount'])
print('duration.in.month:', bins['duration.in.month'])

第二步:WOE分箱可視化

toad.plot.badrate_plot(data,target='target', x=None, by=None): 畫出不同數(shù)據(jù)集的每一箱的bad_rate圖。這里可以是訓(xùn)練集測試集，也可以不同月份的對比。by后面是縱軸。x是需要對比的維度，比如訓(xùn)練集測試集、不同的月份。 toad.plot.proportion_plot(datacol): 畫出一個特征每一箱的比例。

# 根據(jù)bad_rate圖調(diào)整分箱

# 比如查看duration.in.month這個變量的分箱情況
adj_bin={'duration.in.month': [9, 12, 18, 33]}

c2=toad.transform.Combiner()
c2.set_rules(adj_bin)

data_=pd.concat([data_tr,data_ts],axis=0)
temp_data=c2.transform(data_[['duration.in.month','creditability','type']])

from toad.plot import badrate_plot, proportion_plot
badrate_plot(temp_data, target='creditability', x='type', by='duration.in.month') 
proportion_plot(temp_data['duration.in.month'])

?　第一張圖是訓(xùn)練集和測試集下每一箱對應(yīng)的壞樣本率，第二張圖是每一箱的占比情況。可以看到第一張圖中的第一箱和第二箱的bad_rate存在倒掛，說明bad_rate不單調(diào)，需要進(jìn)行調(diào)整。可以嘗試將第一箱和第二箱進(jìn)行合并。

# 假定將第一箱、第二箱合并
adj_bin={'duration.in.month': [9, 18,33]}
c2.set_rules(adj_bin)

temp_data=c2.transform(data_[['duration.in.month','creditability','type']])
badrate_plot(temp_data, target='creditability', x='type', by='duration.in.month')

adj_bin={'duration.in.month': [9, 18,33],'foreign.worker': [['no'], ['yes']]}

?　調(diào)整之后可以看到分箱的bad_rate大致呈現(xiàn)單調(diào)的趨勢。

第三步：分箱轉(zhuǎn)化

toad.transform.WOETransformer():對分箱后的數(shù)據(jù)進(jìn)行WOE轉(zhuǎn)化 WOETransformer().fit_transform(data, y_true, exclude=None)：

#設(shè)置分箱號 
combiner.set_rules(adj_bin)

#將特征的值轉(zhuǎn)化為分箱的箱號。
binned_data=combiner.transform(selected_data)

#計算WOE
transer=toad.transform.WOETransformer()

#對WOE的值進(jìn)行轉(zhuǎn)化，映射到原數(shù)據(jù)集上。對訓(xùn)練集用fit_transform,測試集用transform.
data_tr_woe=transer.fit_transform(binned_data, binned_data['creditability'], exclude=['creditability','type'])
data_ts_woe=transer.transform(combiner.transform(selected_test))

模型選擇

toad.selection.stepwise():可以通過向前、向后、雙向選擇來進(jìn)行特征選擇，使用AIC/BIC/KS/AUC作為選擇標(biāo)準(zhǔn)。

final_data=toad.selection.stepwise(data_tr_woe.drop('type',axis=1),target='creditability',direction='both', criterion='aic')

final_test=data_ts_woe[final_data.columns]
print(final_data.shape)
print(final_data.columns)

?　可以看到經(jīng)過模型選擇，15個特征減少為8個特征。

建模

Xtr=final_data.drop('creditability',axis=1)
Ytr=final_data['creditability']
Xts=final_test.drop('creditability',axis=1)
Yts=final_test['creditability']

lr=LogisticRegression()
lr.fit(Xtr, Ytr)

模型評估和驗(yàn)證

1. 常用的評估指標(biāo)如KS、F1、AUC

from toad.metrics import KS, F1, AUC

EYtr_proba=lr.predict_proba(Xtr)[:,1]
EYtr=lr.predict(Xtr)

print('Training error')
print('F1:', F1(EYtr_proba,Ytr))
print('KS:', KS(EYtr_proba,Ytr))
print('AUC:', AUC(EYtr_proba,Ytr))

EYts_proba=lr.predict_proba(Xts)[:,1]
EYts=lr.predict(Xts)

print('\nTest error')
print('F1:', F1(EYts_proba,Yts))
print('KS:', KS(EYts_proba,Yts))
print('AUC:', AUC(EYts_proba,Yts))

2. PSI 比較訓(xùn)練集和測試集各變量的穩(wěn)定性。

psi=toad.metrics.PSI(final_data,final_test)
psi.sort_values(0,ascending=False) # Further tune the unstable feature if any 

3. KS

tr_bucket=toad.metrics.KS_bucket(EYtr_proba,Ytr,bucket=10,method='quantile')
tr_bucket

分?jǐn)?shù)轉(zhuǎn)換

card=toad.scorecard.ScoreCard(combiner=combiner, transer=transer , C=0.1) 
card.fit(Xtr, Ytr)
card.export(to_frame=True,).head(10)

?　可以輸出每個變量的得分情況。

A complete tutorial

?　以下參考自A complete tutorial，對基礎(chǔ)版中未提到的部分進(jìn)行補(bǔ)充。

1. 卡方分箱時加上min_samples參數(shù)。
   ?　不設(shè)置min_samples參數(shù)的話，默認(rèn)分為10箱，分箱結(jié)果由于bad_rate不單調(diào)而不能直接使用，不過可以手動對分箱進(jìn)行調(diào)整。

combiner=toad.transform.Combiner()
combiner.fit(data_tr2,y='creditability',method='chi',min_samples=0.05)
combiner.export()

2. 使用bin_plot()畫圖對分箱進(jìn)行調(diào)整
   ?　使用bin_plot對樣本集分箱進(jìn)行調(diào)整，使用bad_rate驗(yàn)證分箱在測試集或者跨時間驗(yàn)證集上的穩(wěn)定性。

from toad.plot import bin_plot

transformed=combiner.transform(data_tr2,labels=True)
#傳給bin_plot的數(shù)據(jù)必須是分箱轉(zhuǎn)化之后的
bin_plot(transformed,x='duration.in.month',target='creditability')

?　柱形圖表示每一箱的占比，折線圖表示每一箱的壞樣本率。一般折線圖要呈現(xiàn)出單調(diào)的趨勢。 ?　再看一個對類別型變量分箱進(jìn)行調(diào)整的例子。對類別型變量進(jìn)行分箱的時候，易出現(xiàn)某個類別只有好樣本/壞樣本，這樣對計算WOE值造成問題，所以需要將只有好/壞樣本的箱進(jìn)行合并。

#分箱合并
c2.set_rules({'purpose': [['domestic appliances','retraining','car (used)'], ['radio/television'], ['furniture/equipment','repairs','business','car (new)'], ['education','others']]})
bin_plot(c2.transform(data_tr2[['purpose','creditability']],labels=True),x='purpose',target='creditability')

總結(jié)：Toad庫的出現(xiàn)使得評分卡建模越來越傻瓜式，技術(shù)是通用的，但是背后的業(yè)務(wù)理解需要在實(shí)踐中不斷加深理解。評分卡建模的代碼基本可以固化成一套，接下來就是根據(jù)業(yè)務(wù)理解去調(diào)整模型。總之，任何脫離業(yè)務(wù)的模型都是空中樓閣，只有帶來實(shí)際價值才是王道。

Toad庫相關(guān)的文檔：

github主頁: https://github.com/amphibian-dev/toad 文檔： https://toad.readthedocs.io 中文文檔： https://toad.readthedocs.io/en/dev/tutorial_chinese.html 演示： https://toad.readthedocs.io/en/latest/tutorial.html whl下載地址： https://pypi.org/simple/toad/

【作者】：Labryant

【原創(chuàng)公眾號】：風(fēng)控獵人

【簡介】：某創(chuàng)業(yè)公司策略分析師，積極上進(jìn)，努力提升。乾坤未定，你我都是黑馬。

【轉(zhuǎn)載說明】：轉(zhuǎn)載請說明出處，謝謝合作！~

述

網(wǎng)上有很多關(guān)于設(shè)置toad命令行補(bǔ)全的文章，發(fā)現(xiàn)根本不好使，下面分享一下可行的設(shè)置方法

一、安裝oracle客戶端

1、到ORACLE 網(wǎng)站下載instantclient客戶端

https://www.oracle.com/database/technologies/instant-client/winx64-64-downloads.html

2、Oracle Instatnt Client解壓至指定目錄（自定義）如本例中放到如下目錄

D:\program\instantclient_18_5

3、配置系統(tǒng)變量

NLS_LANG=AMERICAN_AMERICA.ZHS16GBK
TNS_ADMIN=D:\program\instantclient_18_5\
LD_LIBRARY_PATH=D:\program\instantclient_18_5
SQLPATH=D:\program\instantclient_18_5
ORACLE_HOME=D:\program\instantclient_18_5
Path（在變量中加入） D:\program\instantclient_18_5

5、添加配置文件sqlnet.ora和tnsnames.ora

sqlnet.ora代碼如下：

# sqlnet.ora Network Configuration File: /u01/app/oracle/product/11.2.0/db_1/network/admin/sqlnet.ora
# Generated by Oracle configuration tools.
?
NAMES.DIRECTORY_PATH=(TNSNAMES, EZCONNECT)
?
ADR_BASE=D:\program\instantclient_18_5

tnsnames.ora代碼如下：

ORCL=(DESCRIPTION=   (ADDRESS=(PROTOCOL=TCP)(HOST=xx.xx.xx.xx)(PORT=1521))
    (CONNECT_DATA=     (SERVER=DEDICATED)
      (SERVICE_NAME=orcl)
    )
  )

二、設(shè)置toad

1、設(shè)置方法：

（1）view-->toad options-->editor-->Toad Insight-->Toad Insight(打勾)，Delay pop-ups（值設(shè)置小些如100）

（2）在查查詢的對象前面加模式前綴

（3）體驗(yàn)toad的命令提示的快樂吧~