2.4 Прогнозирование задержки рейсов авиакомпании. Прогнозирование задержки рейсов авиакомпании
 Скачать 0.98 Mb.
|
|
Прогнозирование задержки рейсов авиакомпании В этом уроке вы создадите записную книжку (блокнот), импортируете набор данных, содержащий сведения о своевременном прибытии рейсов крупной авиакомпании США, и загрузите набор данных в записную книжку. Затем вы очистите набор данных с помощью Pandas, создадите модель машинного обучения с помощью scikit-learn и визуализируете ее выходные данные с помощью Matplotlib. После регистрации необходимо загрузить данные flightdata.csv и перетащить их в рабочую область  и создать датасет   Или загрузить данные можно по-другому: обратите внимание в правом верхнем углу:      Созданный DataFrame содержит сведения о своевременном прибытии рейсов крупной авиакомпании США. В нем более 11 000 строк и 26 столбцов. (В выходных данных сказано "5 строк", так как функция кадра данных head возвращает только первые пять строк.) Каждая строка представляет один рейс и содержит такие сведения, как аэропорт отправления и прибытия, запланированное время отправления и указание на своевременность прибытия. Мы рассмотрим данные подробнее чуть позже в этом модуле. Очистка и подготовка данных Прежде чем подготовить набор данных, необходимо понять их содержимое и структуру. DataFrame — это двумерная структура данных с метками. Столбцы в кадре данных могут относиться к разным типам, так же, как и столбцы в электронной таблице или таблице в базе данных. Это наиболее часто используемый объект в Pandas. В этом уроке вы подробно исследуете DataFrame и данные внутри них. Код, который вы добавили в записную книжку, создает DataFrame из файла flightdata.csv и вызывает DataFrame.head, чтобы отобразить первые пять строк. Как правило, первым делом нужно узнать, сколько строк содержит набор данных. Чтобы узнать число, введите следующую инструкцию в пустую ячейку в конце записной книжки и запустите ее:  Теперь изучите 26 столбцов в наборе данных. Они содержат важную информацию, например дату рейса (YEAR, MONTH и DAY_OF_MONTH), место вылета и назначения (ORIGIN и DEST), запланированное время вылета и прибытия (CRS_DEP_TIME и CRS_ARR_TIME), разницу между запланированным и фактическим временем прибытия в минутах (ARR_DELAY) и указание, если рейс опоздал не менее чем на 15 минут (ARR_DEL15). Ниже приведен полный список столбцов в наборе данных. Значения времени выражаются в 24-часовом военном формате. Например, 1130 означает 11:30, а 1500 - 15:00.
Набор данных включает примерно равномерное распределение дат на протяжении года, что важно, поскольку рейс из Миннеаполиса с большей вероятностью задержат из-за снегопада в январе, чем в июле. Но этот набор данных не очищен и совершенно не готов к использованию. Напишем код Pandas для очистки. Одним из самых важных аспектов подготовки набора данных для использования в машинном обучении является выбор столбцов признаков, имеющих отношение к результату, который вы пытаетесь спрогнозировать, и отсеивание столбцов, которые не влияют на результат, могут исказить его или привести к мультиколлинеарности. Еще одна важная задача — исключить отсутствующие значения, удалив строки или столбцы, содержащие их, или заменив их действующими значениями. В этом упражнении вы удалите лишние столбцы и замените недостающие значения в остальных столбцах. Сначала специалисты по обработке и анализу данных обычно ищут в наборе данных отсутствующие значения. Есть простой способ проверить наличие недостающих значений в Pandas. Выполните следующий код в ячейке в конце записной книжки:  Проверка отсутствующих значений Далее необходимо выяснить, где находятся отсутствующие значения. Для этого выполните следующий код:  Убедитесь, что в выходных данных отображается количество отсутствующих значений в каждом столбце:  Количество отсутствующих значений в каждом столбце Любопытно, что 26-й столбец ("Unnamed: 25") содержит 11 231 отсутствующее значение, что равно количеству строк в наборе данных. Данный столбец создан по ошибке, так как импортированный CSV-файл содержит запятую в конце каждой строки. Чтобы исключить этот столбец, добавьте следующий код в записную книжку и выполните его:   DataFrame с удаленным 26-м столбцом (Если нужно удалить строки данных (например, 1 и 2) используйте следующий код: df.drop([1,2], axis=0).head(3)) DataFrame по-прежнему содержит большое количество отсутствующих значений, но некоторые из них не нужны, так как содержащие их столбцы не важны для создаваемой вами модели данных. Цель этой модели заключается в прогнозировании того, прибудет ли рейс, на который вы хотите купить билеты, вовремя. Если вы знаете, что рейс может опоздать, вы можете выбрать другой рейс. Затем необходимо отфильтровать набор данных, чтобы исключить столбцы, которые не относятся к модели прогнозирования. Например, хвостовой номер самолета вряд ли влияет на прибытия, и на момент бронирования билетов у вас нет возможности узнать, будет ли рейс отменен, перенаправлен или отложен. А вот запланированное время отправления значительно влияет на своевременность прибытия. Поскольку большинство авиакомпаний используют звездообразную сеть, утренние рейсы отбывают вовремя чаще, чем дневные и вечерние. В некоторых крупных аэропортах трафик накапливается в течение дня, и вероятность задержки более поздних рейсов возрастает. Pandas предоставляет простой способ фильтровать ненужные столбцы. Выполните следующий код в новой ячейке в конце записной книжки:  Выходные данные показывают, что DataFrame теперь включает только столбцы, имеющие отношение к модели, и недостающих значений теперь гораздо меньше. Единственным столбцом, который теперь содержит отсутствующие значения, является столбец ARR_DEL15, где 0 означает рейсы, прибывшие вовремя, а 1 — рейсы с задержкой. Чтобы отобразить первые пять строк с недостающими значениями, используйте следующий код:  Строки с отсутствующими значениями Pandas представляет отсутствующие значения с помощью NaN, что означает Not a Number (не является числом). Выходные данные показывают, что эти строки действительно не имеют значений в столбце ARR_DEL15. Эти строки не содержат значений ARR_DEL15, потому что соответствуют отмененным или перенаправленным рейсам. Можно вызвать dropna в кадре данных, чтобы удалить эти строки. Но поскольку рейс, который был отменен или перенаправлен в другой аэропорт, может считаться опоздавшим, давайте используем метод fillna, чтобы заменить отсутствующие значения значением 1. Используйте следующий код, чтобы заменить недостающие значения в столбце ARR_DEL15 на 1 и отобразить строки с 177 по 184:  Убедитесь, что NaN в строках 177, 179 и 184 были заменены значением 1, указывающим на задержку прибытия:  NaN заменены на 1 Теперь набор данных очищен: все отсутствующие значения заменены, лишние столбцы удалены. Но работа еще не закончена. Нужно выполнить еще несколько задач, чтобы подготовить набор данных для использования в машинном обучении. Столбец CRS_DEP_TIME в наборе данных представляет время запланированного отправления. Подробные числа в этом столбце — он содержит более 500 уникальных значений — могут отрицательно повлиять на точность модели машинного обучения. Чтобы исправить эту проблему, можно использовать прием под названием группирование или квантование. Что если разделить каждое число в этом столбце на 100 и округлить результат до ближайшего целого числа? 1030 превратилось бы в 10, 1925 — в 19 и т. д., и осталось бы максимум 24 отдельных значения. Интуитивно это кажется логичным, потому что неважно, отправляется рейс в 10:30 или в 10:40. Но важна разница между 10:30 и 5:30. Кроме того, столбцы ORIGIN и DEST содержат коды аэропортов, которые представляют категориальные значения в машинном обучении. Эти столбцы должны быть преобразованы в дискретные столбцы, содержащие переменные индикатора, которые иногда называют формальными. Другими словами, столбец ORIGIN, который содержит пять кодов аэропортов, должен быть преобразован в пять столбцов, по одному на каждый аэропорт, и каждый столбец должен содержать значение 1 и 0, указывающее, отбыл ли рейс из аэропорта, который представляет этот столбец. Столбец DEST должен обрабатываться точно так же. В этом упражнении вы сгруппируете время отправления в столбце CRS_DEP_TIME и используете метод Pandas get_dummies, чтобы создать столбцы индикатора из столбцов ORIGIN и DEST. Чтобы отобразить первые пять строк из кадра данных, используйте следующую команду:  DataFrame без группирования времени отправления Используйте следующие инструкции для группирования времени отправления:  Убедитесь, что числа в столбце CRS_DEP_TIME теперь попадают в диапазон от 0 до 23:  Теперь используйте следующие инструкции, чтобы создать столбцы индикатора из столбцов ORIGIN и DEST и удалить сами столбцы ORIGIN и DEST:  Изучите итоговый DataFrame и обратите внимание, что столбцы ORIGIN и DEST заменены на столбцы, соответствующие кодам аэропортов из исходных столбцов. Новые столбцы имеют значения 1 и 0, обозначающие аэропорт прибытия или отправления рейса.  DataFrame со столбцами индикатора Набор данных теперь существенно отличается от исходного, но он оптимизирован для использования в машинном обучении. Создание модели машинного обучения Чтобы создать модель машинного обучения, вам потребуется два набора данных: один для обучения и один — для тестирования. На практике у вас бывает только один набор данных, поэтому его можно разделить на две части. В этом упражнении вы разделите подготовленный ранее DataFrame в соотношении 80 к 20, чтобы его можно было использовать для обучения модели машинного обучения. Вы также разделите DataFrame на столбцы признаков и столбцы меток. Столбцы признаков используются в качестве входных данных для модели (например, аэропорт отправления и прибытия и запланированное время отправления), а столбцы меток содержат значения, которые модель попытается предсказать, — в данном случае это столбец ARR_DEL15, который указывает, прибудет ли рейс вовремя.  Первая инструкция импортирует вспомогательную функцию scikit-learn train_test_split. Во второй строке указана функция для разделения кадра данных на обучающий набор, содержащий 80 % исходных данных, и набор тестирования, содержащий оставшиеся 20 %. Параметр random_state заполняет генератор случайных чисел, используемый для разделения, а первый и второй параметры — это кадры данных, содержащие столбцы признаков и столбцы меток. train_test_split возвращает четыре кадра данных. Используйте следующую команду для отображения числа строк и столбцов в кадре данных, содержащем столбцы признаков, используемые для обучения:  Теперь используйте следующую команду для отображения числа строк и столбцов в кадре данных, содержащем столбцы признаков, используемые для тестирования:  Чем отличаются два результата и почему? Можно ли предсказать, что вы увидите, если вызовете shape в других двух кадрах данных, train_y и test_y? Если вы не знаете точно, попробуйте и узнаете. Существует много типов моделей машинного обучения. Одним из наиболее распространенных является модель регрессии, которая использует один из алгоритмов регрессии для получения числового значения, например возраст человека или вероятность того, что операция по кредитной карте является мошеннической. Вы будете обучать модель классификации, которая пытается разрешить набор входных данных в один из наборов известных выходных данных. Классический пример модели классификации — это модель, которая проверяет сообщения электронной почты и классифицирует их как "спам" или "не спам". У вас будет модель двоичной классификации, прогнозирующая, прибудет ли рейс вовремя или с опозданием ("двоичная", поскольку здесь возможно только два результата). Одним из преимуществ использования библиотеки scikit-learn является то, что вам не нужно создавать эти модели или реализовать используемые в них алгоритмы вручную. Библиотека scikit-learn включает различные классы для реализации распространенных моделей машинного обучения. Один из них — RandomForestClassifier, который сопоставляет множество деревьев принятия решений с данными и вычисляет средние значения, чтобы повысить общую точность и ограничить переобучение. Выполните следующий код в новой ячейке, чтобы создать объект RandomForestClassifier и обучить его с помощью метода fit.  Выходные данные показывают параметры, используемые в классификаторе, включая n_estimators, который указывает число деревьев в каждом лесу деревьев принятия решений, и max_depth, который указывает максимальную глубину дерева принятия решений. Указанные значения используются по умолчанию, но их можно переопределить при создании объекта RandomForestClassifier.  Обучение модели Теперь вызовите метод predict для тестирования модели, используя значения в test_x, а затем метод score, чтобы определить среднюю точность модели:  Вы увидите такой результат:  Средняя точность составляет 86 %, что, на первый взгляд, кажется хорошим результатом. Но средняя точность не всегда является надежным показателем точности модели классификации. Давайте копнем глубже и посмотрим, насколько точна модель на самом деле, то есть как хорошо она определяет своевременность прибытия рейсов. Существует несколько способов для измерения точности модели классификации. Одним из лучших показателей модели двоичной классификации является площадь под ROC-кривой (иногда называется ROC AUC), которая, по сути, предназначена для количественной оценки того, как часто модель делает правильный прогноз независимо от результата. В этом модуле вы вычислите показатель ROC AUC для модели, созданной ранее, и узнаете, почему этот показатель меньше, чем средняя точность результатов по методу score. Вы также узнаете о других способах оценить точность модели. Прежде чем вычислить ROC AUC, необходимо создать вероятности прогноза для тестового набора. Эти вероятности являются приблизительными для каждого из классов, или ответов, которые может предсказать модель. Например, [0.88199435, 0.11800565] означает, что существует 89 % вероятности того, что рейс прибудет вовремя (ARR_DEL15 = 0) и 12 % вероятности того, что он опоздает (ARR_DEL15 = 1). Сумма двух вероятностей составляет 100 %. Выполните следующий код, чтобы создать набор вероятностей прогнозирования на основе тестовых данных:  Теперь выполните следующую инструкцию для создания оценки ROC AUC по вероятностям с помощью метода scikit-learn roc_auc_score:  Убедитесь, что в выходных данных отображается оценка 67%:  Создание оценки AUC Почему показатель AUC ниже, чем средняя точность, вычисленная в предыдущем упражнении? В выходных данных метода score отражается, сколько элементов тестового набора модель предсказала правильно. Эта оценка искажена потому, что набор данных, на котором модель обучалась и тестировалась, содержит гораздо больше строк с прибытием вовремя, чем с опозданием. Из-за этого дисбаланса в данных у вас больше шансов, когда вы предсказываете своевременное прибытие, а не опоздание. ROC AUC учитывает это и предоставляет более точное обозначение вероятности того, насколько прогноз прибытия вовремя или с опозданием будет правильным. Чтобы узнать больше о поведении модели, создайте матрицу неточностей, также известную как матрица ошибок. Матрица неточностей считает количество раз, когда каждый ответ был классифицирован как правильный или неправильный. В частности, она предназначена для оценки количества ложных положительных, ложных отрицательных, истинных отрицательных и истинных положительных результатов. Это важно, ведь если модель двоичной классификации, обученная для различения кошек и собак, тестируется с набором данных, на 95 % состоящим из собак, она может получить оценку 95 %, просто если будет каждый раз отвечать "собака". Но если она не распознает ни одной кошки, она будет бесполезна. Чтобы создать матрицу неточностей для модели, используйте следующий код:  Первая строка в выходных данных представляет рейсы, которые прибыли вовремя. Первый столбец в этой строке показывает, сколько рейсов правильно предсказаны как прибывшие вовремя, а второй — сколько рейсов предсказаны как опоздавшие, но на самом деле не опоздали. По этим данным кажется, что модель справляется с прогнозированием своевременного прибытия.  Создание матрицы неточностей Но посмотрите на вторую строку, где показаны опоздавшие рейсы. В первом столбце показано, сколько опоздавших рейсов были неправильно предсказаны как своевременные. Во втором столбце показано, сколько опоздавших рейсов было предсказано правильно. Очевидно, модель предсказывает задержки гораздо хуже, чем своевременное прибытие. В идеале в матрице неточностей должны быть большие числа в левом верхнем и правом нижнем углах и маленькие (желательно 0) в правом верхнем и левом нижнем углах. Отличным дополнением к последней версии sklearn является новая функция plot_confusion_matrix. Это создает чрезвычайно интуитивно понятную и настраиваемую матрицу путаницы для вашего классификатора.  Другие меры правильности для модели классификации — точность и отзыв. Предположим, модели предоставлено три своевременных и три задержанных рейса, и она правильно спрогнозировала два своевременных, но не угадала с двумя задержанными. В этом случае точность модели будет равна 50 % (два из четырех рейсов были классифицированы как своевременные, и действительно прибыли вовремя), тогда как отзыв будет составлять 67 % (правильно определила два из трех своевременных рейса). Дополнительные сведения о точности и полноте можно получить здесь: https://en.wikipedia.org/wiki/Precision_and_recall. Библиотека scikit-learn содержит удобный метод precision_score для вычисления точности. Чтобы измерить точность модели, выполните следующие инструкции:   Измерение точности Библиотека scikit-learn также содержит метод recall_score для вычисления полноты. Чтобы измерить полноту модели, запустите следующие инструкции:  В реальном мире специалист по обработке обучающих данных будет искать способы повысить точность модели. Например, можно попробовать разные алгоритмы и настроить выбранный алгоритм, чтобы найти оптимальное сочетание параметров. Кроме того, можно расширить набор данных до миллионов, а не нескольких тысяч строк, и попытаться сократить дисбаланс между своевременными и опоздавшими рейсами. Но для наших целей модель подходит без изменений. В этом модуле вы импортируете библиотеку Matplotlib в записную книжку, с которой вы работали, и настроите записную книжку для поддержки встроенных выходных данных Matplotlib. В новой ячейке в конце записной книжки выполните следующие инструкции. Игнорируйте все предупреждающие сообщения, относящиеся к кэшированию шрифта:  Первая инструкция является одной из нескольких магических команд, поддерживаемых ядром Python, которое вы выбрали при создании записной книжки. Она позволяет Jupyter подготовить выходные данные Matplotlib к просмотру в записной книжке без повторных вызовов команды show. И она должна находиться перед всеми ссылками на саму библиотеку Matplotlib. Последняя инструкция настраивает Seaborn для улучшения выходных данных Matplotlib. Чтобы посмотреть на Matplotlib в действии, выполните следующий код в новой ячейке, чтобы построить ROC-кривую для модели машинного обучения, созданной в предыдущем задании:  ROC-кривая, созданная с помощью Matplotlib Пунктирная линия в середине диаграммы представляет вероятность получения правильного ответа 50 на 50. Синяя кривая представляет точность вашей модели. Что еще важнее, сам факт существования этой диаграммы доказывает, что вы можете использовать Matplotlib в записной книжке Jupyter. Вы создали эту модель машинного обучения, чтобы предсказывать, прибудет рейс вовремя или опоздает. В этом упражнении вы напишете функцию Python, которая вызывает модель машинного обучения, созданную в предыдущем задании, для вычисления вероятности того, что рейс прибудет вовремя. Затем вы используете эту функцию для анализа нескольких рейсов. Введите следующее определение функции в новую ячейку, а затем выполните ячейку. def predict_delay(departure_date_time, origin, destination): from datetime import datetime try: departure_date_time_parsed = datetime.strptime(departure_date_time, '%d/%m/%Y %H:%M:%S') except ValueError as e: return 'Error parsing date/time - {}'.format(e) month = departure_date_time_parsed.month day = departure_date_time_parsed.day day_of_week = departure_date_time_parsed.isoweekday() hour = departure_date_time_parsed.hour origin = origin.upper() destination = destination.upper() input = [{'MONTH': month, 'DAY': day, 'DAY_OF_WEEK': day_of_week, 'CRS_DEP_TIME': hour, 'ORIGIN_ATL': 1 if origin == 'ATL' else 0, 'ORIGIN_DTW': 1 if origin == 'DTW' else 0, 'ORIGIN_JFK': 1 if origin == 'JFK' else 0, 'ORIGIN_MSP': 1 if origin == 'MSP' else 0, 'ORIGIN_SEA': 1 if origin == 'SEA' else 0, 'DEST_ATL': 1 if destination == 'ATL' else 0, 'DEST_DTW': 1 if destination == 'DTW' else 0, 'DEST_JFK': 1 if destination == 'JFK' else 0, 'DEST_MSP': 1 if destination == 'MSP' else 0, 'DEST_SEA': 1 if destination == 'SEA' else 0 }] return model.predict_proba(pd.DataFrame(input))[0][0] Эта функция принимает в качестве входных данных дату и время, коды аэропортов отправления и прибытия и возвращает значение от 0,0 до 1,0, определяющее вероятность того, что рейс прибудет вовремя. Она использует модель машинного обучения, которую вы создали в предыдущем задании, для вычисления вероятности. И для вызова модели она передает DataFrame, содержащий входные значения, в predict_proba. Структура этого кадра данных точно соответствует структуре кадра данных, который мы использовали ранее. Входные данные даты для функции predict_delay представлены в международном формате dd/mm/year. Используйте приведенный ниже код для вычисления вероятности того, что рейс из Нью-Йорка в Атланту вечером 1 октября прибудет вовремя. Год не имеет значения, так как он не используется в модели.  Измените код, чтобы вычислить вероятность того, что тот же рейс, но на следующий день, прибудет вовремя:  Теперь измените код, чтобы вычислить вероятность того, что утренний рейс из Атланты в Сиэтл в тот же день прибудет вовремя: Этот рейс прибудет вовремя? Теперь у вас есть простой способ прогнозирования своевременности прибытия с помощью одной строки кода. Вы можете поэкспериментировать с другими датами, временем, городами отправления и прибытия. Но имейте в виду, что результаты имеют смысл только для аэропортов с кодами ATL, DTW, JFK, MSP и SEA, так как модель обучалась только на этих кодах. Выполните следующий код, чтобы вычислить вероятность своевременного прибытия вечернего рейса из JFK в ATL в диапазоне дней: import numpy as np labels = ('Oct 1', 'Oct 2', 'Oct 3', 'Oct 4', 'Oct 5', 'Oct 6', 'Oct 7') values = (predict_delay('1/10/2018 21:45:00', 'JFK', 'ATL'), predict_delay('2/10/2018 21:45:00', 'JFK', 'ATL'), predict_delay('3/10/2018 21:45:00', 'JFK', 'ATL'), predict_delay('4/10/2018 21:45:00', 'JFK', 'ATL'), predict_delay('5/10/2018 21:45:00', 'JFK', 'ATL'), predict_delay('6/10/2018 21:45:00', 'JFK', 'ATL'), predict_delay('7/10/2018 21:45:00', 'JFK', 'ATL')) alabels = np.arange(len(labels)) plt.bar(alabels, values, align='center', alpha=0.5) plt.xticks(alabels, labels) plt.ylabel('Probability of On-Time Arrival') plt.ylim((0.0, 1.0)) Убедитесь, что выходные данные выглядят следующим образом:  Вероятность своевременного прибытия для диапазона дат Измените код, чтобы создать аналогичную диаграмму для рейсов из JFK в MSP в 13:00 с 10 по 16 апреля. Как эти выходные данные соотносятся с выходными данными из предыдущего шага? Самостоятельно напишите код, чтобы рассчитать вероятность того, что рейсы из SEA в ATL с отправлением в 9:00, в 12:00, в 15:00, в 18:00 и в 21:00 30 января прибудут вовремя. Убедитесь, что выходные данные выглядят следующим образом:  Вероятность своевременного прибытия для диапазона времени Если вы не знакомы с библиотекой Matplotlib и хотите узнать о ней больше, ознакомьтесь с интересным учебником на странице https://www.labri.fr/perso/nrougier/teaching/matplotlib/. Библиотека Matplotlib умеет гораздо больше, чем мы здесь увидели, поэтому она так популярна в сообществе Python. Итоги Pandas, scikit-learn и Matplotlib являются одними из самых популярных библиотек Python в мире. С их помощью можно подготовить данные для использования в машинном обучении, создать сложную модель машинного обучения на основе данных и вывести выходные данные. |