В четвертой части знакомства с автоматизированное машинное обучение будем работать с библиотекой TROT по книге "Radečić Dario. Machine Learning Automation with TPOT: Build, validate, and deploy fully automated machine learning models with Python".
Работаем с тремя наборами данных : рыбный рынок, страхование и транспортные средства.
Загружаем необходимые библиотеки
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
import seaborn as sns
from matplotlib import rcParams
rcParams['axes.spines.top'] = False
rcParams['axes.spines.right'] = False
Первый набор данных - данные рыбного рынка (https://www.kaggle. com/aungpyaeap/fish-market) для исследования и регрессионного моделирования. Цель состоит в том, чтобы предсказать вес рыбы.
Загружаем данные
df = pd.read_csv('data/Fish.csv')
df.head()
| Species | Weight | Length1 | Length2 | Length3 | Height | Width | |
|---|---|---|---|---|---|---|---|
| 0 | Bream | 242.0 | 23.2 | 25.4 | 30.0 | 11.5200 | 4.0200 |
| 1 | Bream | 290.0 | 24.0 | 26.3 | 31.2 | 12.4800 | 4.3056 |
| 2 | Bream | 340.0 | 23.9 | 26.5 | 31.1 | 12.3778 | 4.6961 |
| 3 | Bream | 363.0 | 26.3 | 29.0 | 33.5 | 12.7300 | 4.4555 |
| 4 | Bream | 430.0 | 26.5 | 29.0 | 34.0 | 12.4440 | 5.1340 |
Переходим к исследовательскому анализу данных. Первое, что интересует, недостающие значения. Вот как их проверить:
df.isnull().sum()
Species 0 Weight 0 Length1 0 Length2 0 Length3 0 Height 0 Width 0 dtype: int64
Пропущенных значений нет. Это делает процесс подготовки данных гораздо прощеи короче. Следующим шагом является проверка распределения целевой переменной.Для этого набора данных мы пытаемся предсказать вес. Нарисуем простоюгистограмму для этой переменной
df['Weight'].hist(bins=20, figsize = (12,8))plt.title('Target variable (Weight) distribution', size=20)plt.xlabel('Weight', size=14)plt.ylabel('Count', size=14)
Большая часть рыбы легкая, но есть пара тяжелых. Исследуем виды дальше, чтобы лучше понять. Для этого выведем количество экземпляров определенного вида. (количество и процент от общего числа), а также среднее и стандартное отклонение по каждому признаку. Создадим функцию и затем эта функция вызывается для каждого уникального вида:
def describe_species(species):
subset = df[df['Species'] == species]
print(f'============ {species.upper()} ============')
print(f'Count: {len(subset)}')
print(f'Pct. total: {(len(subset) / len(df) * 100):.2f}%')
for column in df.columns[1:]:
avg = np.round(subset[column].mean(), 2)
sd = np.round(subset[column].std(), 2)
print(f'Avg. {column:>7}: {avg:6} +/- {sd:6}')
for species in df['Species'].unique():
describe_species(species)
print()
============ BREAM ============ Count: 35 Pct. total: 22.01% Avg. Weight: 617.83 +/- 209.21 Avg. Length1: 30.31 +/- 3.59 Avg. Length2: 33.11 +/- 3.91 Avg. Length3: 38.35 +/- 4.16 Avg. Height: 15.18 +/- 1.96 Avg. Width: 5.43 +/- 0.72 ============ ROACH ============ Count: 20 Pct. total: 12.58% Avg. Weight: 152.05 +/- 88.83 Avg. Length1: 20.65 +/- 3.46 Avg. Length2: 22.28 +/- 3.65 Avg. Length3: 24.97 +/- 4.03 Avg. Height: 6.69 +/- 1.26 Avg. Width: 3.66 +/- 0.69 ============ WHITEFISH ============ Count: 6 Pct. total: 3.77% Avg. Weight: 531.0 +/- 309.6 Avg. Length1: 28.8 +/- 5.58 Avg. Length2: 31.32 +/- 5.72 Avg. Length3: 34.32 +/- 6.02 Avg. Height: 10.03 +/- 1.83 Avg. Width: 5.47 +/- 1.19 ============ PARKKI ============ Count: 11 Pct. total: 6.92% Avg. Weight: 154.82 +/- 78.76 Avg. Length1: 18.73 +/- 3.28 Avg. Length2: 20.35 +/- 3.56 Avg. Length3: 22.79 +/- 3.96 Avg. Height: 8.96 +/- 1.62 Avg. Width: 3.22 +/- 0.64 ============ PERCH ============ Count: 56 Pct. total: 35.22% Avg. Weight: 382.24 +/- 347.62 Avg. Length1: 25.74 +/- 8.56 Avg. Length2: 27.89 +/- 9.02 Avg. Length3: 29.57 +/- 9.53 Avg. Height: 7.86 +/- 2.88 Avg. Width: 4.75 +/- 1.77 ============ PIKE ============ Count: 17 Pct. total: 10.69% Avg. Weight: 718.71 +/- 494.14 Avg. Length1: 42.48 +/- 9.03 Avg. Length2: 45.48 +/- 9.71 Avg. Length3: 48.72 +/- 10.17 Avg. Height: 7.71 +/- 1.66 Avg. Width: 5.09 +/- 1.14 ============ SMELT ============ Count: 14 Pct. total: 8.81% Avg. Weight: 11.18 +/- 4.13 Avg. Length1: 11.26 +/- 1.22 Avg. Length2: 11.92 +/- 1.43 Avg. Length3: 13.04 +/- 1.43 Avg. Height: 2.21 +/- 0.35 Avg. Width: 1.34 +/- 0.29
Проверим корреляцию между атрибутами. Корреляцию можно рассчитать только для числовых атрибутов. Визуализируем матрица корреляции с библиотекой seaborn.
sns.heatmap(df.corr(),vmin=0.6,vmax=1.0,annot=True,fmt='.2f',
mask=~np.tri(df.corr().shape[1], k=-1, dtype=bool),
linewidth=2,cbar=True,cmap='Blues')
Перед моделированием остался один шаг — подготовка данных. Мы не можем передавать нечисловые атрибуты оптимизатору конвейера. Мы преобразуем их в фиктивные переменные и объединим их с исходными данными.
Для кодирования используем функцию get_dummies. Параметр набор дамми-переменных drop_first задает тип дамми-кодирования. По умолчанию для этого параметра задано значение False и выполняется дамми-кодирование по методу неполного ранга, в противном случае будет выполнено дамми-кодирование по методу полного ранга. В нашем случае функция pd.get_dummies() автоматически преобразует заданную категориальную переменную методом полного ранга в набор из (n-1) дамми-переменных.
species_dummies = pd.get_dummies(df['Species'], drop_first=True, prefix='Is')
df = pd.concat([species_dummies, df], axis=1)
df.drop('Species', axis=1, inplace=True)
df.head()
| Is_Parkki | Is_Perch | Is_Pike | Is_Roach | Is_Smelt | Is_Whitefish | Weight | Length1 | Length2 | Length3 | Height | Width | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 0 | 0 | 0 | 0 | 0 | 0 | 242.0 | 23.2 | 25.4 | 30.0 | 11.5200 | 4.0200 |
| 1 | 0 | 0 | 0 | 0 | 0 | 0 | 290.0 | 24.0 | 26.3 | 31.2 | 12.4800 | 4.3056 |
| 2 | 0 | 0 | 0 | 0 | 0 | 0 | 340.0 | 23.9 | 26.5 | 31.1 | 12.3778 | 4.6961 |
| 3 | 0 | 0 | 0 | 0 | 0 | 0 | 363.0 | 26.3 | 29.0 | 33.5 | 12.7300 | 4.4555 |
| 4 | 0 | 0 | 0 | 0 | 0 | 0 | 430.0 | 26.5 | 29.0 | 34.0 | 12.4440 | 5.1340 |
Удаляем столбец Species, потому что он больше не нужен. Необходимо выбрать оценочный показатель. TPOT поставляется с парой показателей оценки регрессии. По умолчанию neg_mean_squared_error. Для оценки качества регрессии мы используем показатель RMSE (корень из среднеквадратичной ошибки)
Определим его с помощью лямбда-функций:
from tpot import TPOTRegressor
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_squared_error, make_scorer
rmse = lambda y, y_hat: np.sqrt(mean_squared_error(y, y_hat))
Разделим входной набор на обучающую и тестовую части. Будем хранить 75% данных для обучение и 25% на тест :
X = df.drop('Weight', axis=1)
y = df['Weight']
X_train, X_test, y_train, y_test = train_test_split(
X, y, test_size=0.25, random_state=42
)
y_train.shape, y_test.shape
((119,), (40,))
Далее создадим модель с алгоритмом линейной регрессии. Эта модель задаст базовый уровень, который должен превзойти TPOTfrom sklearn.linear_model import LinearRegression
lm = LinearRegression()
lm.fit(X_train, y_train)
lm_preds = lm.predict(X_test)
rmse(y_test, lm_preds)
82.10709519987505
Базовая модель ошибается в среднем на 82 единицы веса. Неплохо, учитывая у нас вес до 1500. Далее подгоним модель оптимизации конвейера TPOT. Будемиспользовать показатель RMSE и ограничим время оптимизации 10 минутами.
rmse_scorer = make_scorer(rmse, greater_is_better=False)pipeline_optimizer = TPOTRegressor(scoring=rmse_scorer,max_time_mins=10,random_state=42)pipeline_optimizer.fit(X_train, y_train)TPOTRegressor(max_time_mins=10, random_state=42, scoring=make_scorer(<lambda>, greater_is_better=False))После завершения оптимизации вот вывод RMSE, который отображается в консоли:pipeline_optimizer.score(X_test, y_test)Не беспокойтесь о знаке минус перед числом. Фактическое среднеквадратичноеотклонение равно 73,35 единицы веса. Модель TPOT превзошла базовую. В качествепоследнего шага мы можем экспортировать конвейер в файл Python :pipeline_optimizer.fitted_pipeline_Pipeline(steps=[('polynomialfeatures', PolynomialFeatures(include_bias=False)), ('robustscaler', RobustScaler()), ('maxabsscaler', MaxAbsScaler()), ('stackingestimator-1', StackingEstimator(estimator=ExtraTreesRegressor(bootstrap=True, max_features=0.9000000000000001, min_samples_leaf=17, random_state=42))), ('stackingestimator-2', StackingEstimator(estimator=DecisionTreeRegressor(max_depth=10, min_samples_leaf=10, min_samples_split=9, random_state=42))), ('adaboostregressor', AdaBoostRegressor(learning_rate=0.5, loss='square', n_estimators=100, random_state=42))])pipeline_optimizer.export('fish_pipeline.py')Далее используем решение для автоматизированного машинного обучения к немного
более сложному набор данных. Это набор данных о стоимости медицинского
страхования (https://www.kaggle.com/mirichoi0218/insurance), чтобы предсказать, сколько страховка будет стоить на основе нескольких переменных-предикторов.
df = pd.read_csv('data/insurance.csv')
df.head()
| age | sex | bmi | children | smoker | region | charges | |
|---|---|---|---|---|---|---|---|
| 0 | 19 | female | 27.900 | 0 | yes | southwest | 16884.92400 |
| 1 | 18 | male | 33.770 | 1 | no | southeast | 1725.55230 |
| 2 | 28 | male | 33.000 | 3 | no | southeast | 4449.46200 |
| 3 | 33 | male | 22.705 | 0 | no | northwest | 21984.47061 |
| 4 | 32 | male | 28.880 | 0 | no | northwest | 3866.85520 |
Проверяем количество пропущенных значений
df.isnull().sum()
age 0 sex 0 bmi 0 children 0 smoker 0 region 0 charges 0 dtype: int64
С помощью этого набора данных будем предсказывать столбец расходов. Выведем гистограмму этого показателя :
df['charges'].hist(bins=20, figsize = (12,8))
plt.title('Target variable (charges) distribution', size=20)
plt.xlabel('Charge', size=14)
plt.ylabel('Count', size=14)
Как видим, распределение сильно скошенное, так что будет интересно увидеть, как модель справится с этим. Рассмотрим и другие переменные, цель состоит в том, чтобы увидеть средние затраты на страхование для каждой категориальной переменной сегмента. Будем использовать медиану как среднее значение, поскольку оно менее подвержено выбросам.
Для визуализации нашего анализа используем функцию, которая делает столбчатую диаграмму для выбранного показателя. Она вычисляет медиану из сгруппированного набор данных и визуализирует гистограмму с заголовком, метками, легендой и текстом поверх столбца.
def make_bar_chart(x,y,title, ylabel, xlabel,y_offset=0.12, x_offset=700):
ax = df.groupby(x).median()[[y]].plot(kind='bar',
figsize=(10, 6), fontsize=13)
ax.set_title(title, size=20, pad=30)
ax.set_ylabel(ylabel, fontsize=14)
ax.set_xlabel(xlabel, fontsize=14)
#Удаляем легенду с диаграммы
ax.get_legend().remove()
#Цикл по элементам формы - добавляем значения
for i in ax.patches:
ax.text(i.get_x() + x_offset, i.get_height() + y_offset,
f'${str(round(i.get_height(), 2))}', fontsize=15)
return ax
Воспользуемся этой функцией, чтобы визуализировать медианную стоимость страховки для курильщиков и некурящих.
make_bar_chart(
x='smoker',
y='charges',
title='Median insurance charges for smokers and non-smokers',
ylabel='Insurance charge ($)',
xlabel='Do they smoke?',
y_offset=700,
x_offset=0.12
)
Как видите, курильщики платят страховой взнос в несколько раз выше, чем некурящие. Сделаем похожую визуализацию для сравнения медианных затрат на страхование. между полами:
make_bar_chart(
x='sex',
y='charges',
title='Median insurance charges between genders',
ylabel='Insurance charge ($)',
xlabel='Gender',
y_offset=200,
x_offset=0.15
)
Тут не большая разница. Сравниваем медианные затраты на страхование по количеству детей.
make_bar_chart(
x='children',
y='charges',
title='Median insurance charges between genders',
ylabel='Insurance charge ($)',
xlabel='Gender',
y_offset=200,
x_offset=0.15
)
Расходы на страхование, кажется, растут до пятого ребенка. А может там не так много семей с пятью детьми. Вот код для визуализации медианных затрат на страхование по регионам:
make_bar_chart(
x='region',
y='charges',
title='Median insurance charges between genders',
ylabel='Insurance charge ($)',
xlabel='Gender',
y_offset=200,
x_offset=0.15
)
Значения не сильно отличаются. Для того, чтобы этот набор данных можно было использовать для машинного обучения, необходимо сделать некоторые преобразования. Во-первых, необходимо преобразовать строковые значения в целые числа для столбцов пола и курильщик. Затем нам нужно создать фиктивные переменные для столбца региона. Этот шаг необходим, потому что TPOT не может понимать необработанные текстовые данные
df['sex'] = [1 if x == 'female' else 0 for x in df['sex']]
df.rename(columns={'sex': 'is_female'}, inplace=True)
df['smoker'] = [1 if x == 'yes' else 0 for x in df['smoker']]
region_dummies = pd.get_dummies(df['region'], drop_first=True, prefix='region')
df = pd.concat([region_dummies, df], axis=1)
df.drop('region', axis=1, inplace=True)
df.head()
| region_northwest | region_southeast | region_southwest | age | is_female | bmi | children | smoker | charges | |
|---|---|---|---|---|---|---|---|---|---|
| 0 | 0 | 0 | 1 | 19 | 1 | 27.900 | 0 | 1 | 16884.92400 |
| 1 | 0 | 1 | 0 | 18 | 0 | 33.770 | 1 | 0 | 1725.55230 |
| 2 | 0 | 1 | 0 | 28 | 0 | 33.000 | 3 | 0 | 4449.46200 |
| 3 | 1 | 0 | 0 | 33 | 0 | 22.705 | 0 | 0 | 21984.47061 |
| 4 | 1 | 0 | 0 | 32 | 0 | 28.880 | 0 | 0 | 3866.85520 |
Теперь набор данных готов для прогнозного моделирования. Прежде чем мы это сделаем, давайте проверим корреляции переменных с целевой переменной.
sns.heatmap(df.corr(),annot=True,fmt='.2f',
mask=~np.tri(df.corr().shape[1], k=-1, dtype=bool),
linewidth=2,cbar=True,cmap='Blues')
Делим данные на обучающую и тестовую части
X = df.drop('charges', axis=1)
y = df['charges']
X_train, X_test, y_train, y_test = train_test_split(
X, y, test_size=0.25, random_state=42)
y_train.shape, y_test.shape
((1003,), (335,))
Создадим базовую модель с алгоритмом линейной регрессии. Её показатели TPOT должен превзойти.
from sklearn.linear_model import LinearRegressionfrom sklearn.metrics import r2_score, mean_squared_errorrmse = lambda y, y_hat: np.sqrt(mean_squared_error(y, y_hat))lm = LinearRegression()lm.fit(X_train, y_train)lm_preds = lm.predict(X_test)print(f'R2 = {r2_score(y_test, lm_preds):.2f}')print(f'RMSE = {rmse(y_test, lm_preds):.2f}')В среднем простая модель линейной регрессии ошибается на 5 926,02 доллара. Этамодель фиксирует 77% дисперсии в наборе данных. Следующий фрагмент кодавыводит имя переменной и соответствующий ему коэффициенты:for i, column in enumerate(df.columns[:-1]):coef = np.round(lm.coef_[i], 2)print(f'{column:17}: {coef:8}')Как видите, колонка с наибольшим коэффициентом — курильщик. Что подтверждаетнашу визуализацию, сделанную на этапе исследовательского анализа данных. Далеебудем использовать библиотеку TPOT для создания автоматизированного конвейерамашинного обучения. Следующий фрагмент кода импортирует библиотеку TPOT,создает ее экземпляр и конвейер оптимизации.from tpot import TPOTRegressorpipeline_optimizer = TPOTRegressor(scoring='r2',max_time_mins=10,random_state=42,verbosity=2)pipeline_optimizer.fit(X_train, y_train)Можете получить значения R2 и RMSE для тестового :tpot_preds = pipeline_optimizer.predict(X_test)print(f'R2 = {r2_score(y_test, tpot_preds):.2f}')print(f'RMSE = {rmse(y_test, tpot_preds):.2f}')В качестве последнего шага мы экспортируем оптимизированный конвейер в файлPython.Следующее фрагмент кода делает это:pipeline_optimizer.export('insurance_pipeline.py')
Следующий пример - применение автоматизированного регрессионного моделирования к набор данных транспортного средства (https://www.kaggle. com/nehalbirla/vehicle-dataset-from-cardekho).
Загружаем набор
df = pd.read_csv('data/Car.csv')
df.head().T
| 0 | 1 | 2 | 3 | 4 | |
|---|---|---|---|---|---|
| name | Maruti Swift Dzire VDI | Skoda Rapid 1.5 TDI Ambition | Honda City 2017-2020 EXi | Hyundai i20 Sportz Diesel | Maruti Swift VXI BSIII |
| year | 2014 | 2014 | 2006 | 2010 | 2007 |
| selling_price | 450000 | 370000 | 158000 | 225000 | 130000 |
| km_driven | 145500 | 120000 | 140000 | 127000 | 120000 |
| fuel | Diesel | Diesel | Petrol | Diesel | Petrol |
| seller_type | Individual | Individual | Individual | Individual | Individual |
| transmission | Manual | Manual | Manual | Manual | Manual |
| owner | First Owner | Second Owner | Third Owner | First Owner | First Owner |
| mileage | 23.4 kmpl | 21.14 kmpl | 17.7 kmpl | 23.0 kmpl | 16.1 kmpl |
| engine | 1248 CC | 1498 CC | 1497 CC | 1396 CC | 1298 CC |
| max_power | 74 bhp | 103.52 bhp | 78 bhp | 90 bhp | 88.2 bhp |
| torque | 190Nm@ 2000rpm | 250Nm@ 1500-2500rpm | 12.7@ 2,700(kgm@ rpm) | 22.4 kgm at 1750-2750rpm | 11.5@ 4,500(kgm@ rpm) |
| seats | 5.0 | 5.0 | 5.0 | 5.0 | 5.0 |
Проверка пропущенных значений
df.isnull().sum()
name 0 year 0 selling_price 0 km_driven 0 fuel 0 seller_type 0 transmission 0 owner 0 mileage 221 engine 221 max_power 215 torque 222 seats 221 dtype: int64
Некоторые значения отсутствуют, и мы решим эту проблему с помощью самого простого подход – путем их удаления.
df.dropna(inplace=True)df.isnull().sum()Список шагов, необходимых для того, чтобы сделать этот набор данных подходящимдля машинное обучение:• Преобразование transmission в целое число – 1, механическая, 0 в противномслучае. Переименуйте столбец в is_manual.• Переназначить столбец owner на целые числа.• Извлечь марку автомобиля, пробег, двигатель и максимальную мощность изсоответствующих атрибутов• Создать фиктивные переменные из имени атрибута, топлива и типа продавца.• Объединить исходный набор данных с фиктивными переменными и удалитьненужные атрибуты.Вот код функции remap_owner():
def remap_owner(owner):
if owner == 'First Owner': return 1
elif owner == 'Second Owner': return 2
elif owner == 'Third Owner': return 3
elif owner == 'Fourth & Above Owner': return 4
else: return 0
Код для выполнения всех упомянутых преобразований:
df['transmission'] = [1 if x == 'Manual' else 0 for x in df['transmission']]
df.rename(columns={'transmission': 'is_manual'},inplace=True)
df['owner'] = df['owner'].apply(remap_owner)
df['name'] = df['name'].apply(lambda x: x.split()[0])
df['mileage'] = df['mileage'].apply(lambda x: x.split()[0]).astype(float)
df['engine'] = df['engine'].apply(lambda x: x.split()[0]).astype(int)
df['max_power'] = df['max_power'].apply(lambda x:x.split()[0]).astype(float)
brand_dummies = pd.get_dummies(df['name'], drop_first=True, prefix='brand')
fuel_dummies = pd.get_dummies(df['fuel'], drop_first=True, prefix='fuel')
seller_dummies = pd.get_dummies(df['seller_type'], drop_first=True, prefix='seller')
df.drop(['name', 'fuel', 'seller_type', 'torque'],axis=1, inplace=True)
df = pd.concat([df, brand_dummies, fuel_dummies, seller_dummies], axis=1)
После применения преобразований набор данных выглядит так:
df.head().T
| 0 | 1 | 2 | 3 | 4 | |
|---|---|---|---|---|---|
| year | 2014.0 | 2014.00 | 2006.0 | 2010.0 | 2007.0 |
| selling_price | 450000.0 | 370000.00 | 158000.0 | 225000.0 | 130000.0 |
| km_driven | 145500.0 | 120000.00 | 140000.0 | 127000.0 | 120000.0 |
| is_manual | 1.0 | 1.00 | 1.0 | 1.0 | 1.0 |
| owner | 1.0 | 2.00 | 3.0 | 1.0 | 1.0 |
| mileage | 23.4 | 21.14 | 17.7 | 23.0 | 16.1 |
| engine | 1248.0 | 1498.00 | 1497.0 | 1396.0 | 1298.0 |
| max_power | 74.0 | 103.52 | 78.0 | 90.0 | 88.2 |
| seats | 5.0 | 5.00 | 5.0 | 5.0 | 5.0 |
| brand_Ashok | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Audi | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_BMW | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Chevrolet | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Daewoo | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Datsun | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Fiat | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Force | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Ford | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Honda | 0.0 | 0.00 | 1.0 | 0.0 | 0.0 |
| brand_Hyundai | 0.0 | 0.00 | 0.0 | 1.0 | 0.0 |
| brand_Isuzu | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Jaguar | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Jeep | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Kia | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Land | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Lexus | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_MG | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Mahindra | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Maruti | 1.0 | 0.00 | 0.0 | 0.0 | 1.0 |
| brand_Mercedes-Benz | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Mitsubishi | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Nissan | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Opel | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Renault | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Skoda | 0.0 | 1.00 | 0.0 | 0.0 | 0.0 |
| brand_Tata | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Toyota | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Volkswagen | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| brand_Volvo | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| fuel_Diesel | 1.0 | 1.00 | 0.0 | 1.0 | 0.0 |
| fuel_LPG | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
| fuel_Petrol | 0.0 | 0.00 | 1.0 | 0.0 | 1.0 |
| seller_Individual | 1.0 | 1.00 | 1.0 | 1.0 | 1.0 |
| seller_Trustmark Dealer | 0.0 | 0.00 | 0.0 | 0.0 | 0.0 |
Данные в этом формате можно передавать алгоритму машинного обучения. Делим на обучающую и тестовую части
X = df.drop('selling_price', axis=1)
y = df['selling_price']
X_train, X_test, y_train, y_test = train_test_split(
X, y, test_size=0.25, random_state=42)
y_train.shape, y_test.shape
((5929,), (1977,))
Для оценки точности модели используем среднюю абсолютную процентную ошибку(MAPE).Эта метрика не встроена в scikit-learn. библиотеку, поэтому нам придется реализоватьее вручную.
def mape(y, y_hat):y, y_hat = np.array(y), np.array(y_hat)return np.mean(np.abs((y - y_hat) / y)) * 100Делаем базовую модель - линейная регрессия с показателями R2 и MAPE
from sklearn.linear_model import LinearRegression
from sklearn.metrics import r2_score
lm = LinearRegression()
lm.fit(X_train, y_train)
lm_preds = lm.predict(X_test)
print(f'R2 = {r2_score(y_test, lm_preds):.2f}')
print(f'MAPE = {mape(y_test, lm_preds):.2f}')
R2 = 0.87
MAPE = 42.87
В среднем базовая модель ошибочна на 43%. Это много. Посмотрим на коэффициентмодели линейной регрессии, чтобы определить, их важность
for i, column in enumerate(df.columns[:-1]):coef = np.round(lm.coef_[i], 2)print(f'{column:20}: {coef:12}')Чем хороша линейная регрессия, так это понятной интерпретируемостьюкоэффициентов.Чем выше год, тем новее автомобиль, тем более высокая цена. Чем больше километров автомобиль проехал, тем больше снижается цена. Автомобили с автоматическойпередачей стоят дороже. Нот точность недостаточна. Ее должен улучшить TROT.Подгоним модель TPOT и оптимизируем ее для оценки MAPE. Обучим модель в течение 10 минут на каждом доступном ядре ЦП (обозначается n_jobs=-1):from tpot import TPOTRegressorfrom sklearn.metrics import make_scorermape_scorer = make_scorer(mape, greater_is_better=False)pipeline_optimizer = TPOTRegressor(scoring=mape_scorer,max_time_mins=10,random_state=42,verbosity=2,n_jobs=-1)pipeline_optimizer.fit(X_train, y_train)На выходе получаем :Оптимизация через 10 минут была прервана, посмотрим что получается при этом натестовой выборкеtpot_preds = pipeline_optimizer.predict(X_test)print(f'R2 = {r2_score(y_test, tpot_preds):.2f}')print(f'MAPE = {mape(y_test, tpot_preds):.2f}')Как видно, TROT значительно улучшил показатели точности.
Комментариев нет:
Отправить комментарий