Что такое feature selection?

Feature selection — выбор наиболее важных признаков. Filter methods: корреляция, chi-squared, mutual information — быстро, без модели. Wrapper methods: RFE (Recursive Feature Elimination) — убираем наименее важные. Embedded methods: Lasso (L1) — зануляет коэффициенты, feature_importances_ у деревьев. SelectKBest(chi2, k=10) — топ-10 по chi-squared. Зачем: убрать шум, ускорить обучение, уменьшить overfitting, интерпретируемость. Variance threshold — убирает константные признаки. Мультиколлинеарность: VIF > 5 — убрать один из коррелированных. Не делай feature selection на всех данных — только на train!