Лекція 6. Системное тестирование
 Скачать 40.25 Kb.
|
|
Системное тестирование Системное тестирование качественно отличается от интеграционного и модульного уровней. Системное тестирование рассматривает тестируемую систему в целом и оперирует на уровне пользовательских интерфейсов, в отличие от последних фаз интеграционного тестирования, которое оперирует на уровне интерфейсов модулей. Различны и цели этих уровней тестирования. На уровне системы часто сложно и малоэффективно анализировать прохождение тестовых траекторий внутри программы или отслеживать правильность работы конкретных функций. Основная задача системного тестирования - в выявлении дефектов, связанных с работой системы в целом, таких как неверное использование ресурсов системы, непредусмотренные комбинации данных пользовательского уровня, несовместимость с окружением, непредусмотренные сценарии использования, отсутствующая или неверная функциональность, неудобство в применении и тому подобное. Системное тестирование производится над проектом в целом с помощью метода "черного ящика". Структура программы не имеет никакого значения, для проверки доступны только входы и выходы, видимые пользователю. Тестированию подлежат коды и пользовательская документация. Категории тестов системного тестирования: Полнота решения функциональных задач. Стрессовое тестирование - на предельных объемах нагрузки входного потока. Корректность использования ресурсов (утечка памяти, возврат ресурсов). Оценка производительности. Эффективность защиты от искажения данных и некорректных действий. Проверка инсталляции и конфигурации на разных платформах. Корректность документации Поскольку системное тестирование проводится на пользовательских интерфейсах, создается иллюзия того, что построение специальной системы автоматизации тестирования не всегда необходимо. Однако объемы данных на этом уровне таковы, что обычно более эффективным подходом является полная или частичная автоматизация тестирования, что приводит к созданию тестовой системы гораздо более сложной, чем система тестирования, применяемая на уровне тестирования модулей или их комбинаций. Пример системного тестирования приложения "Поступление подшипника на склад" В спецификации тестового случая задано состояние окружения (входные данные) и ожидаемая последовательность событий в системе (ожидаемый результат). После прогона тестового случая мы получаем реальную последовательность событий в системе ( пример 7.1, пример 7.3) при заданном состоянии окружения. Сравнивая фактический результат с ожидаемым, можно сделать вывод о том, прошла или не прошла тестируемая система испытание на заданном тестовом случае. В качестве ожидаемого результата будем использовать спецификацию тестового случая, поскольку она определяет, как, для заданного состояния окружения, система должна функционировать.  Рис. 4-15. Краткое описание тестируемой системы 'Поступление подшипника на склад' Спецификация тестового случая №1: Состояние окружения (входные данные - X ): Статус склада - 32. Пришел подшипник. Статус обмена с терминалом подшипника (0 - есть подшипник) и его параметры - "Статус=0 Диаметр=12". Статус обмена с терминалом оси (1 - нет оси) и ее параметры - "Статус=1 Диаметр=12". "Статус=1 Диаметр=12". Статус команды - 0. Команда успешно принята. Сообщение от склада - 1. Команда успешно выполнена. Ожидаемая последовательность событий (выходные данные – Y): Система запрашивает статус склада (вызов функции GetStoreStat ) и получает 32 Система запрашивает параметры подшипника (вызов функции GetRollerPar ) и получает Статус = 0 Диаметр=12 Система запрашивает параметры оси (вызов функции GetAxlePar ) и получает Статус = 1 Диаметр=0 Система добавляет в очередь команд склада на последнее место команду SendR (получить из приемника в ячейку) (вызов функции SendStoreCom ) и получает сообщение о том, что команда успешно принята – статус = 0 Система запрашивает склад о результатах выполнения команды (вызов функции GetStoreMessage ) и получает сообщение о том, что команда успешно выполнена - статус = 1 Выходные данные (результаты выполнения Yв) – зафиксированы в журнале теста ( пример 7.1) ВЫЗОВ: GetStoreStat РЕЗУЛЬТАТ: 32 ВЫЗОВ: GetRollerPar РЕЗУЛЬТАТ: Статус = 0 Диаметр = 12 ВЫЗОВ: GetAxlePar РЕЗУЛЬТАТ: Статус = 1 Диаметр = 0 ВЫЗОВ: SendStoreCom РЕЗУЛЬТАТ: 0 ВЫЗОВ: GetStoreMessage РЕЗУЛЬТАТ: 1 7.1. Журнал теста Приведенный на примере 7.2 тест был разработан в соответствии со спецификацией тестового случая №1. Детальная спецификация приведена в FS (Практикум, Приложение 1), результаты прогона показаны на примере 7.3. class Test1:Test { override public void start() { // Задаем состояние окружения // (входные данные) StoreStat="32"; //Поступил подшипник RollerPar="0 NewUser Depot1 123456 1 12 1 1"; // статус обмена с терминалом подшипника // (0 - есть подшипник) и его параметры AxlePar="1 NewUser Depot1 123456 1 0 12 12"; // статус обмена с терминалом оси // (1 - нет оси) и ее параметры CommandStatus="0"; // команда успешно принята StoreMessage="1"; // успешно выполнена // Получаем информацию о функционировании // системы wait("GetStoreStat"); //опрос статуса склада wait("GetRollerPar"); // Получение информации о подшипнике // с терминала подшипника wait("GetAxlePar"); // Получение информации об оси // с терминала оси wait("SendStoreCom"); // добавление в очередь команд склада // на первое место команды GetR // (получить из приемника в ячейку) wait("GetStoreMessage"); // Получение сообщения от склада о // результатах выполнения команды // В результате первый подшипник // должен быть принят } } 7.2. Тест для системного тестирования class Test1 : public Test { public: void start() { // Задаем состояние окружения // (входные данные) // Поступил подшипник strcpy(StoreStat,"32"); // статус обмена с терминалом подшипника // (0 - есть подшипник) и его параметры strcpy(RollerPar, "0 NewUser Depot1 123456 1 12 1 1"); // статус обмена с терминалом оси // (1 - нет оси) и ее параметры strcpy(AxlePar, "1 NewUser Depot1 123456 1 0 12 12"); strcpy(CommandStatus,"0"); //команда успешно принята strcpy(StoreMessage,"1"); //успешно выполнена // Получаем информацию о // функционировании системы wait("GetStoreStat"); //опрос статуса склада wait("GetRollerPar"); // Получение информации о подшипнике // с терминала подшипника wait("GetAxlePar"); // Получение информации об оси // с терминала оси wait("SendStoreCom"); // добавление в очередь команд склада // на первое место команды GetR // (получить из приемника в ячейку) wait("GetStoreMessage"); // Получение сообщения от склада о // результатах выполнения команды // В результате первый подшипник // должен быть принят } } 7.2.1. Тест для системного тестирования (C++) После завершения теста следует просмотреть текстовый журнал теста, чтобы выяснить, какая последовательность событий в системе была реально зафиксирована (выходные данные) и сравнить их с ожидаемыми результатами, заданными в спецификации тестового случая1. Пример журнала теста ( пример 7.1): Test started CALL:GetStoreStat 0 RETURN:32 CALL:GetRollerPar RETURN:0 NewUser Depot1 123456 1 12 1 1 CALL:GetAxlePar RETURN:1 NewUser Depot1 123456 1 0 12 12 CALL:SendStoreCom 1 0 0 1 0 0 0 RETURN:0 CALL:GetStoreMessage RETURN:1 7.3. Тестовый журнал для случая прогона системного теста Регрессионное тестирование Регрессионное тестирование - цикл тестирования, который производится при внесении изменений на фазе системного тестирования или сопровождения продукта. Главная проблема регрессионного тестирования - выбор между полным и частичным перетестированием и пополнением тестовых наборов. При частичном перетестированииконтролируются только те части проекта, которые связаны с измененными компонентами. На ГМП это пути, содержащие измененные узлы, и, как правило, это методы и классы, лежащие выше модифицированных по уровню, но содержащие их в своем контексте Пропуск огромного объема тестов, характерного для этапа системного тестирования, удается осуществить без потери качественных показателей продукта только с помощью регрессионного подхода. Пример регрессионного тестирования Получив отчет об ошибке, программист анализирует исходный код, находит ошибку, исправляет ее и модульно или интеграционно тестирует результат. В свою очередь тестировщик, проверяя внесенные программистом изменения, должен: Проверить и утвердить исправление ошибки. Для этого необходимо выполнить указанный в отчете тест, с помощью которого была найдена ошибка. Попробовать воспроизвести ошибку каким-нибудь другим способом. Протестировать последствия исправлений. Возможно, что внесенные исправления привнесли ошибку (наведенную ошибку) в код, который до этого исправно работал. Например, при тестировании класса TСommandQueue запускаем тесты ( пример 7.2): // Тест проверяет, создается ли объект // типа TCommand и добавляется ли он // в конец очереди. private void TCommandQueueTest1() // Тест проверяет добавление команд // в очередь на указанную позицию. // Также проверяется правильность // удаления команд из очереди. private void TCommandQueueTest2() 7.4. Набор тестов класса TСommandQueue // Тест проверяет, создается ли объект // типа TCommand и добавляется ли он // в конец очереди. void TCommandQueueTest1() // Тест проверяет добавление команд // в очередь на указанную позицию. // Также проверяется правильность // удаления команд из очереди. void TCommandQueueTest2() 7.4.1. Набор тестов класса TСommandQueue (C++) При этом первый тест выполняется успешно, а второй нет, т.е. команда добавляется в конец очереди команд успешно, а на указанную позицию - нет. Разработчик анализирует код, который реализует тестируемую функциональность: ... if ((Position<-1)&& (Position<=this.Items.Count)) { this.Items.Insert(Position, Command); } else { if (Position==-1) { this.Items.Add(Command); } } 7.5. Фрагмент кода с зафиксированным при тестировании дефектом if ((Position <-1)&&(Position<=this.Items.Count)) { this.Items.Insert(Position, Command); } else { if (Position==-1) { this.Items.Add(Command); } } 7.5.1. Фрагмент кода с зафиксированным при тестировании дефектом Анализ показывает, что ошибка заключается в использовании неверного знака сравнения в первой строке фрагмента. Далее программист исправляет ошибку, например следующим образом: ... if ((Position>=-1)&& (Position<=this.Items.Count)) { this.Items.Insert(Position, Command); } else { if (Position==-1) { this.Items.Add(Command); } } ... 7.6. Исправленный фрагмент кода if ((Position>=-1)&& (Position<=this.Items.Count)) { this.Items.Insert(Position, Command); } else { if (Position==-1) { this.Items.Add(Command); } } 7.6.1. Исправленный фрагмент кода Для проверки скорректированного кода хочется пропустить только тест TCommandQueueTest2. Можно убедиться, что тест TCommandQueueTest2 будет выполняться успешно. Однако одной этой проверки недостаточно. Если мы повторим пропуск двух тестов, то при запуске первого теста, TCommandQueueTest1, будет обнаружен новый дефект. Повторный анализ кода показывает, что ветка else не выполняется. Таким образом, исправление в одном месте привело к ошибке в другом, что демонстрирует необходимость проведения полного перетестирования. Однако повторное перетестирование требует значительных усилий и времени. Возникает задача – отобрать сокращенный набор тестов из исходного набора (может быть, пополнив его рядом дополнительных - вновь разработанных - тестов), которого, тем не менее, будет достаточно для исчерпывающей проверки функциональности в соответствии с выбранным критерием. Организация повторного тестирования в условиях сокращения ресурсов, необходимых для обеспечения заданного уровня качества продукта, обеспечивается регрессионным тестированием. Комбинирование уровней тестирования В каждом конкретном проекте должны быть определены задачи, ресурсы и технологии для каждого уровня тестирования таким образом, чтобы каждый из типов дефектов, ожидаемых в системе, был "адресован", то есть в общем наборе тестов должны иметься тесты, направленные на выявление дефектов подобного типа. Табл. 4.3 суммирует характеристики свойств модульного, интеграционного и системного уровней тестирования. Задача, которая стоит перед тестировщиками и менеджерами, заключается в оптимальном распределении ресурсов между всеми тремя типами тестирования. Например, перенесение усилий на поиск фиксированного типа дефектов из области системного в область модульного тестирования может существенно снизить сложность и стоимость всего процесса тестирования.
(*) прямой необходимости в системе тестирования нет, но цена процесса системного тестирования часто настолько высока, что требует использования систем автоматизации, несмотря на возможно высокую их стоимость. | ||||||||||||||||||||||||