如何使用sklearn獲取無用功能列表？

Question

我有一個數據集建立一個classificator：

dataset = pd.read_csv(sys.argv[1], decimal=",",delimiter=";", encoding='cp1251') 
X=dataset.ix[:, dataset.columns != 'class'] 
Y=dataset['class'] 

我想只選擇重要的功能，所以我做的：

clf=svm.SVC(probability=True, gamma=0.017, C=5, coef0=0.00001, kernel='linear', class_weight='balanced') 
model = SelectFromModel(clf, prefit=True) 
X_train, X_test, Y_train, Y_test = cross_validation.train_test_split(X, Y, test_size=0.5, random_state=5) 
y_pred=clf.fit(X_train, Y_train).predict(X_test) 
X_new = model.transform(X) 

所以X_new的形狀3000x72而X有3000x130。我想獲得X_new中沒有的功能列表。我該怎麼做？

X是一個帶有標題的數據框，但X_new是一個列表，其中包含沒有任何名稱的特徵值的列表，因此我無法像在熊貓中那樣合併它。 謝謝你的幫助！

Answer 1

clf.coef_返回給您一個特徵權重列表（在fit()之後應用）。按重量排序，你會發現哪些不是很有用。

Answer 2

你可能也想看看Feature Selection。它描述了一些更系統的技術和工具。

Answer 3

嘗試運行這段代碼：如果選擇與否的功能

import pandas as pd 
import numpy as np 

dataset = pd.read_csv(sys.argv[1], decimal=",",delimiter=";", encoding='cp1251') 
X=dataset.ix[:, dataset.columns != 'class'].values 
Y=dataset['class'].values 
feature_names = data_churn.columns.tolist() 
feature_names.remove('class') 

from sklearn.feature_selection import SelectFromModel 
from sklearn.svm import SVC 
from sklearn.model_selection import train_test_split 
clf = SVC(probability=True, gamma=0.017, C=5, coef0=0.00001, kernel='linear', class_weight='balanced') 
model = SelectFromModel(clf, prefit=True) 
X_train, X_test, Y_train, Y_test = train_test_split(X, y, test_size=0.5, random_state=5) 
y_pred=clf.fit(X_train, Y_train).predict(X_test) 
X_new = model.transform(X) 
print pd.DataFrame(np.c_[feature_names, model.get_support(0)], 
         columns=[ 'feature_name', 'feature_selected']) 

的「feature_selected」欄顯示。