Решите задачу мультиклассовой классификации с помощью логистической регрессии. Решите проблему дисбаланса взвешиванием классов модели. Оцените качество модели метриками F1-мера и ROC-AUC. Постройте матрицу ошибок.
import pandas as pd
import matplotlib.pyplot as plt
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import OneHotEncoder, StandardScaler
# импорт класса для логистической регрессии
from sklearn.linear_model import LogisticRegression
# импорт функций для вычисления ROC-AUC, F1-меры
from sklearn.metrics import ConfusionMatrixDisplay, roc_auc_score, f1_score
# создание константы RANDOM_STATE
RANDOM_STATE = 42
# добавляем данные из CSV-файла в датафрейм pandas, делим датасет на выборки
df = pd.read_csv('music_genre_4_classes_imbalanced.csv')
X = df.drop(columns='music_genre')
y = df.music_genre
X_train, X_test, y_train, y_test = train_test_split(
X,
y,
random_state=RANDOM_STATE, stratify=y
)
# выполняем подготовку данных функцией, все операции в скрытом прекоде
X_train, X_test = prepare_data(X_train, X_test)
# создайте и обучите модель логистической регрессии на тренировочных данных
# выполните предсказание на тестовых данных
# примените взвешивание классов
model = LogisticRegression(random_state=RANDOM_STATE, class_weight='balanced')
model.fit(X_train, y_train)
y_pred = model.predict(X_test)
probas = model.predict_proba(X_test)
# посчитайте и выведите ROC-AUC
roc = roc_auc_score(y_test, probas, multi_class='ovo')
print('ROC-AUC =', round(roc,2))
# посчитайте и выведите F1-меру
f1 = f1_score(y_test, y_pred, average='macro')
print('F1-score =', round(f1,2))
# постройте матрицу ошибок методом from_estimator()
ConfusionMatrixDisplay.from_estimator(model, X_test, y_test)
plt.show()
Результат
ROC-AUC = 0.89
F1-score = 0.65
Модель не сильно выросла в качестве, схожие результаты были и при сэмплировании данных. И всё-таки F1-мера стала выше — не зря перешли на новый метод!