Отчёт о результатах тестирования (test result report, trr)
 Скачать 3.57 Mb.
|
|
Анализ результатов тестирования проводится с некоторой периодичностью в процессе работы с проектом, а также в конце работы с проектом. Его основная задача – оценить текущее или финальное качество проекта и принять (если необходимо) – соответствующие решения и меры. Отчёт о результатах тестирования (test result report, TRR) – часть тестовой документации, включающая в себя описание процесса тестирования, суммарную информацию о протестированных за подотчётный период билдах, информацию о деятельности тестировщиков, а также некоторые статистические данные. Цель написания TRR – предоставление лицам, заинтересованным в проекте, полной и объективной информации о текущем состоянии качества проекта. Эта информация выражается в конкретных фактах и цифрах. Обычно, TRR предоставляется для ознакомления всей проектной команде и заказчику. Опытный менеджер проектов всегда собирает максимально полную информацию о состоянии дел, прежде чем сделать те или иные выводы. Он не станет опираться только на информацию, предоставленную отделом разработчиков, т.к. разработчики часто склонны давать более оптимистичную оценку проекта, чем есть на самом деле. В то же время тестировщики, во-первых, не заинтересованы в приукрашивании отчётов, а во-вторых – обладают более полной информацией о текущем состоянии качества продукта, чем какая бы то ни было другая часть проектной команды. TRR создаётся, как правило, по некоторому расписанию. Например – раз в неделю. Однако, частота выпуска отчётов может быть иной, если того требует специфика проекта (например, раз в две недели, или дважды в неделю и т.п.) Вместо календарного графика выпуск отчётов может быть привязан к завершению тестирования очередного билда приложения. За выпуск TRR отвечает лидер команды тестировщиков. TRR, как правило, обсуждается на еженедельных собраниях команды тестировщиков. Иногда на такие собрания приглашаются также представители других проектных команд, руководство, представители заказчика. Такие расширенные собрания особенно нужны, если на проекте возникают проблемы, требующие пересмотра стратегии разработки и тестирования проекта, сроков, финансовых вопросов и т.п. TRR создаётся на основе принятого в компании или предоставленного заказчиком шаблона. Команда тестировщиковКоманда тестировщиков Описание процесса тестирования (testing process description) Краткое описание (summary) Расписание (testing timetable) Рекомендации (recomendations) Статистика по ошибкам (bugs statistics) Список новых ошибок (new bugs found) Статистика по всем ошибкам (all bugs statistics) В этой части TRR перечисляются все задействованные в процессе тестирования сотрудники с указанием занимаемой должности и роли на проекте в подотчётный период.
В этой части TRR даётся краткое описание того, как происходило тестирование: какие использовались методы, техники, инструментальные средства и т.п. Пример: Приложение было протестировано под ОС Windows XP sp2.en с использованием браузера FireFox 3.0. Смоук-тест был выполнен с использованием средства автоматизации JUnit 4.0. Тест критического пути и расширенный тест были выполнены вручную согласно документу «Тесты для ручного тестирования VWS версия 3.4.76.doc». Подробная информация о стратегии тестирования представлена в документе «Стратегия тестирования VWS версия 5.78.23.doc». В этой части TRR даётся краткое описание того, какие билды были протестированы, есть ли в качестве приложения прогресс или регресс, есть ли какие-либо проблемы, требующие внимания руководства. Краткое описание – важная часть отчёта, т.к. менеджеру проекта приходится просматривать огромное количество документации, и он часто принимает решение о необходимости более детального изучения отчёта как раз на основе краткого описания. Билд 1.0.78 был успешно инсталирован под обеими платформами (Windows XP sp2.en, FedoraCore 6.0). Смоук-тест пройден успешно. Приложение работает стабильно, основная функциональность работоспособна. Существующие проблемы в основном связаны с функциональностью, реализованной с момента выпуска последнего билда. Большинство найденных ранее ошибок успешно устранено и верифицировано. Наблюдается значительный прогресс в качестве приложения. На текущий момент выполнено более 80% запланированных тестов (остальные планируется выполнить до конца следующей недели). Было обнаружено всего четыре новых ошибки с важностью «высокая». В данном разделе отчёта приводится детализированное описание того, какая работа и на протяжении какого времени выполнялась каждым тестировщиком.
В этой части TRR следует подчеркнуть те важные моменты, на которые следует обратить внимание руководству или лидерам проектных команд. Здесь также, возможно, будет дана рекомендация на передачу проекта заказчику («передачу в продакшн»). Билд 3.45 рекомендован в продакшн. Билд работает стабильно. Все найденные баги закрыты. Рекомендуется уделить особое внимание регрессионному тестированию в связи с резким возрастанием количества багов, найденных в ранее реализованной и протестированной функциональности. В связи с возникшими сложностями по тестированию приложения под FreeBSD рекомендуется рассмотреть возможность подключения к проекту специалистов по тестированию под данной платформой. Здесь приводится сводная таблица, содержащая информацию об ошибках, с которыми команде тестировщиков приходилось иметь дело в подотчётный период.
Здесь приводится список ошибок, обнаруженных командой тестировщиков за подотчётный период. Список ошибок легко извлечь из баг-трекинговой системы.
Здесь приводится сводная таблица, содержащая информацию об ошибках, с которыми команде тестировщиков приходилось иметь дело за всё время работы с проектом.
Статистика по всем ошибкам также отражается в виде графика: Отчёт о результатах тестирования в основном нужен:
Лидеру команды разработчиков Лидеру команды тестировщиков Заказчику Обычно, TRR предоставляется для ознакомления всей проектной команде и заказчику На основе краткого описания и статистики найденных багов он делает выводы о производительности работы проектной команды и текущем состоянии качества проекта. Расписание позволяет ему определить загруженность отдельных сотрудников в проектной команде. Список новых ошибок позволяет ему быстро оценить необходимость принятия мер по корректировке развития проекта. Рекомендации позволяют ему увидеть ещё одну точку зрения на происходящее в проекте. Т.о. информация из отчёта о результатах тестирования позволяет менеджеру проектов:
перераспределить ресурсы проекта; сформировать собственный отчёт для руководства и заказчика. Несмотря на то, что разработчики не очень любят следовать рекомендациям тестировщиков, содержащаяся в отчёте о результатах тестирования информация помогает лидеру команды разработчиков пересмотреть некоторые вопросы повышения качества создаваемого кода и принять решение о возможном перераспределении обязанностей внутри его команды. В процессе сбора информации и составления отчёта о результатах тестирования лидер команды тестировщиков полнее и глубже вникает в происходящее на проекте и внутри его команды, что позволяет ему увидеть текущую картину одновременно и более детально, и более широко. Такой взгляд позволяет обнаружить упущенные моменты и принять соответствующие решения, направленные на повышение качества проекта. Заказчика всегда интересует ответ на вопрос о том, куда идут его деньги. Подробный отчёт о результатах тестирования позволяет ему оценить, насколько его вложения оказались оправданными. В случае, если непосредственный заказчик выступает как чей-то подрядчик, отчёт о результатах тестирования позволяет ему отчитаться перед его заказчиком. В случае, если проект планируется принимать и внедрять по частям, заказчик может понять из отчёта, какие части проекта уже готовы к приёмке и внедрению. В конце работы с проектом формируется ещё один отчёт о результатах тестирования – финальный. В дополнение к уже рассмотренным разделам такой отчёт включает описание и анализ существовавших на проекте проблем и найденных эффективных решений. Такой отчёт обсуждается на общем собрании проектной команды, где по результатам обсуждения формируются и документируются выводы, направленные на избежание в будущем проблем, возникших на данном проекте, а также направленные на накопление позитивного опыта с целью применения его в будущих или выполняемых параллельно проектах. |