如何在sklearn中對分類變量進行編碼？

Question

我正在嘗試使用UCI存儲庫中的汽車評估數據集，並且我想知道是否有方便的方式將sklearn中的分類變量二進制化。一種方法是使用LabelBinarizer的DictVectorizer，但在這裏我得到了k個不同的特徵，而您應該只有k-1以避免共線化。 我想我可以編寫自己的函數並刪除一列，但這個簿記是乏味的，是否有一個簡單的方法來執行這種轉換，並得到一個稀疏矩陣？

Answer 1

DictVectorizer是生成分類變量的單熱編碼的推薦方式;您可以使用sparse參數來創建稀疏的CSR矩陣，而不是密集的numpy陣列。我通常不關心多重共線性，我沒有注意到我傾向於使用的方法（即LinearSVC，SGDClassifier，基於樹的方法）的問題。

將DictVectorizer修補爲每個分類特徵刪除一列應該不成問題 - 您只需在fit方法的末尾從DictVectorizer.vocabulary中刪除一個項即可。 （拉請求我們隨時歡迎您！）

Answer 2

的基本方法是

import numpy as np 
import pandas as pd, os 
from sklearn.feature_extraction import DictVectorizer 

def one_hot_dataframe(data, cols, replace=False): 
    vec = DictVectorizer() 
    mkdict = lambda row: dict((col, row[col]) for col in cols) 
    vecData = pd.DataFrame(vec.fit_transform(data[cols].apply(mkdict, axis=1)).toarray()) 
    vecData.columns = vec.get_feature_names() 
    vecData.index = data.index 
    if replace is True: 
     data = data.drop(cols, axis=1) 
     data = data.join(vecData) 
    return (data, vecData, vec) 

data = {'state': ['Ohio', 'Ohio', 'Ohio', 'Nevada', 'Nevada'], 
     'year': [2000, 2001, 2002, 2001, 2002], 
     'pop': [1.5, 1.7, 3.6, 2.4, 2.9]} 

df = pd.DataFrame(data) 

df2, _, _ = one_hot_dataframe(df, ['state'], replace=True) 
print df2 

這裏是如何在稀疏格式

import numpy as np 
import pandas as pd, os 
import scipy.sparse as sps 
import itertools 

def one_hot_column(df, cols, vocabs): 
    mats = []; df2 = df.drop(cols,axis=1) 
    mats.append(sps.lil_matrix(np.array(df2))) 
    for i,col in enumerate(cols): 
     mat = sps.lil_matrix((len(df), len(vocabs[i]))) 
     for j,val in enumerate(np.array(df[col])): 
      mat[j,vocabs[i][val]] = 1. 
     mats.append(mat) 

    res = sps.hstack(mats) 
    return res 

data = {'state': ['Ohio', 'Ohio', 'Ohio', 'Nevada', 'Nevada'], 
     'year': ['2000', '2001', '2002', '2001', '2002'], 
     'pop': [1.5, 1.7, 3.6, 2.4, 2.9]} 

df = pd.DataFrame(data) 
print df 

vocabs = [] 
vals = ['Ohio','Nevada'] 
vocabs.append(dict(itertools.izip(vals,range(len(vals))))) 
vals = ['2000','2001','2002'] 
vocabs.append(dict(itertools.izip(vals,range(len(vals))))) 

print vocabs 

print one_hot_column(df, ['state','year'], vocabs).todense() 

Answer 3

做，如果你的數據是大熊貓數據框，那麼你可以簡單調用get_dummies。 假設您的數據框是df，並且您希望每個級別的變量'key'都有一個二進制變量。您可以簡單地撥打：

pd.get_dummies(df['key']) 

然後刪除其中一個虛擬變量，以避免多重共線性問題。 我希望這可以幫助...