МЕТОДЫ ПЛАНИРОВАНИЯ. Металлургия Екатеринбург 2015
 Скачать 7.01 Mb.
|
|
СТЬЮДЕНТ.ОБР.2Х (0,05;15) = 2,13145). Поскольку t>t ;n-2 , то коэффициент корреляции существенен. Определение доверительного интервала По формулами) определим величину Z*: 738 , 1 94 , 0 1 94 , 0 1 ln 2 и ее среднеквадратичное отклонение 267 , 0 3 17 Зададимся вероятностью того, что истинное значение Z отличается от вычисленного на основании оценки коэффициента корреляции не более чем на Z . Учитывая нормальный закон распределения, имеем при вероятности 90%: Z =1,64 S Z =1,67 0,267=0,438; 95%: Z =1,96 0,267=0,523; 99,7%: Z =3,00 0,267=0,801. Таким образом, истинное значение Z лежит в пределах Z 1 Z Z 2 , где с вероятностью, например, 90%: Z 1 = -1,738-0,438= -2,176 и Z 2 = -1,738+0,438= -1,300. Для заданных значений вероятностей значения Z 1 и Z 2 составят 90%: Z 1 = – 2,176, Z 2 = –1,300; 95%: Z 1 = – 2,261, Z 2 = –1,215; 99,7%: Z 1 = – 2,539, Z 2 = –0,937. Этим значениями соответствуют коэффициенты корреляции, полученные из формулы (4.22). Чтобы определить численные Глава 4. АНАЛИЗ РЕЗУЛЬТАТОВ ПАССИВНОГО ЭКСПЕРИМЕНТА 146 значения коэффициентов корреляции из формулы (4.22), можно воспользоваться инструментом Подбор параметра из электронных таблиц Microsoft Excel (меню «Сервис/Подбор параметра. В результате получим следующее решение 90%: r 1 = -0,97, r 2 = -0,86, тете, те. -0,99 r xy -0,73. Следовательно, доверительные интервалы подтверждают достаточно сильную причинную связь между анализируемыми параметрами. Таким образом, корреляционный анализ устанавливает связь между исследуемыми случайными переменными и оценивает тесноту этой связи. 4.5. Регрессионный анализ Ниже излагаются основные положения регрессионного анализа, применение которого для обработки результатов наблюдений связано с меньшим числом ограничений, чем при корреляционном анализе. Как и корреляционный анализ, регрессионный анализ включает в себя построение уравнения регрессии, например, методом наименьших квадратов и статистическую оценку результатов. Если в регрессионном анализе расчет коэффициентов ведется теми же методами, например наименьших квадратов, то его теоретические предпосылки требуют других способов статистической оценки результатов. При проведении регрессионного анализа примем следующие допущения входной параметр x измеряется с пренебрежимо малой ошибкой. Появление ошибки в определении y объясняется наличием в процессе не выявленных переменных и случайных воздействий, не вошедших в уравнение регрессии результаты наблюдений y 1 , y 2 ,..., y i ,..., y n над выходной величиной представляют собой независимые нормально распределенные случайные величины при проведении эксперимента с объемом выборки n при условии, что каждый опыт повторен m* раз, выборочные Глава 4. АНАЛИЗ РЕЗУЛЬТАТОВ ПАССИВНОГО ЭКСПЕРИМЕНТА 147 дисперсии S 1 2 ,..., S i 2 ,..., S n 2 должны быть однородны. При выполнении измерений в различных условиях возникает задача сравнения точности измерений. При этом следует подчеркнуть, что экспериментальные данные можно сравнивать только тогда, когда их дисперсии однородны. Это означает, как уже отмечалось (см. пи п. 3.5.2), принадлежность экспериментальных данных к одной и той же генеральной совокупности. Напомним однородность дисперсий свидетельствует о том, что среди сравниваемых дисперсий нет таких, которые с заданной надежностью превышали бы все остальные, те. была бы большая ошибка. При одинаковом числе параллельных опытов однородность дисперсии, как мы уже показали, можно оценить по критерию Кохрена, а для сравнения двух дисперсий целесообразно воспользоваться критерием Фишера (см. примеры 3.4–3.5). После того как уравнение регрессии найдено, необходимо провести статистический анализ результатов. Этот анализ состоит в следующем проверяется значимость всех коэффициентов и устанавливается адекватность уравнения. 4.5.1. Проверка адекватности модели При моделировании приходится формализовать связи исследуемого явления (процесса, из-за чего возможна потеря некоторой информации об объекте. Иногда некоторые связи не учитываются. В тоже время основное требование к математической модели заключается в ее пригодности для решения поставленной задачи и адекватности процессу. Регрессионную модель называют адекватной, если предсказанные по ней значения у согласуются с результатами наблюдений. Так, построив модель в виде линейного уравнения регрессии, мы хотим, в частности, убедиться, что никакие другие модели не дадут значительного улучшения в описании предсказания значений у. В основе процедуры проверки адекватности модели лежат предположения, что случайные ошибки наблюдений являются независимыми, нормально распределенными случайными величинами с нулевыми средними значениями и одинаковыми дисперсиями. Глава 4. АНАЛИЗ РЕЗУЛЬТАТОВ ПАССИВНОГО ЭКСПЕРИМЕНТА 148 Сформулируем нуль-гипотезу Н Уравнение регрессии адекватно. Альтернативная гипотеза Н Уравнение регрессии неадекватно. Для проверки этих гипотез принято использовать критерий Фишера. При этом общую дисперсию (дисперсию выходного параметра) S y 2 сравнивают с остаточной дисперсией S y ост 2 Напомним, что , ] [ ; 1 ] [ 1 ост 2 2 l n y y S n y y S n i i i y n i i y (4.24) где l = k + 1 — число членов аппроксимирующего полинома, а k — число факторов. Так, например, для линейной зависимости (4.5) k = 1, l = 2. В дальнейшем определяется экспериментальное значение критерия ост (4.25) который в данном случае показывает, во сколько раз уравнение регрессии предсказывает результаты опытов лучше, чем среднее 1 Если F > F ;m1;m2 , то уравнение регрессии адекватно. Чем больше значение F превышает F ;m1;m2 для выбранного и числа степеней свободы m 1 = n – 1, m 2 = n – l, тем эффективнее уравнение регрессии. Рассмотрим также случай, когда в каждой й точке x i для повышения надежности и достоверности осуществляется не одно, а m* параллельных измерений (примем для простоты, что m* одинаково для Глава 4. АНАЛИЗ РЕЗУЛЬТАТОВ ПАССИВНОГО ЭКСПЕРИМЕНТА 149 каждого фактора. Тогда число экспериментальных значений величины у составит n = n m*. В этом случае оценка адекватности модели производится следующим образом 1) определяется * * 1 m y y m j ij i — среднее из серии параллельных опытов при x = x i , где y ij — значение параметра у при x = x i в м случае 2) рассчитываются значения параметра i y по уравнению регрессии при x = x i ; 3) рассчитывается дисперсия адекватности , ] [ 1 2 2 l n y y S n i i i ад где n — число значений x i ; l — число членов аппроксимирующего полинома (коэффициентов b i ), для линейной зависимости l = 2; 4) определяется выборочная дисперсия Y при x = x i : ; 1 * ] [ * 1 2 2 m y y S m j i ij i 5) определяется дисперсия воспроизводимости n S S n 1 i 2 i 2 восп Число степеней свободы этой дисперсии равно m = n(m*–1); 6) определяется экспериментальное значение критерия Фишера Глава 4. АНАЛИЗ РЕЗУЛЬТАТОВ ПАССИВНОГО ЭКСПЕРИМЕНТА 150 S S F 2 восп 2 ад 7) определяется теоретическое значение этого же критерия F ;m1;m2 , где m 1 = n – l; m 2 = n (m*–1); 8) если F F ;m1;m2 , то уравнение регрессии адекватно, в противном случае — нет. 4.5.2. Проверка значимости коэффициентов уравнения регрессии Надежность оценок b i уравнения регрессии можно охарактеризовать их доверительными интервалами b i , в которых с заданной вероятностью находится истинное значение этого параметра. Наиболее просто построить доверительные интервалы для параметров линейного уравнения регрессии, те. коэффициентов b 0 и При этом предполагается, что для каждого значения случайной величины имеется распределение со средним значением i x 1 b 0 b i y и дисперсией 2 восп S 2 y S i Иными словами, делается допущение, что случайная величина Y распределена нормально при каждом значении x i , а дисперсия 2 y S i во всем интервале изменения x постоянна const 2 y S i (см. рис. 4.9). Для линейного уравнения среднеквадратичное отклонение го коэффициента уравнения регрессии i b S можно определить по закону накопления ошибок n 1 j 2 j S 2 i y j b b S i (4.26) При условии, что 2 восп S 2 yn S 2 yi S 2 2 y S 2 1 y S , получим Глава 4. АНАЛИЗ РЕЗУЛЬТАТОВ ПАССИВНОГО ЭКСПЕРИМЕНТА i x n 1 i 2 i x n n 1 i 2 i x 2 восп S b S 0 (4.27) 2 n 1 i i x n 1 i 2 i x n n 2 восп S b S 1 (4.27а) 0 b S и 1 b S называются соответственно стандартной ошибкой свободного члена и стандартной ошибкой коэффициента регрессии. Проверка значимости коэффициентов выполняется по критерию Стьюдента. При этом проверяется нуль-гипотеза Н b i = 0, те. й коэффициент генеральной совокупности при заданном уровне значимости отличен от нуля. Построим доверительный интервал для коэффициентов уравнения регрессии , S t b i b l n ; i (4.28) где число степеней свободы в критерии Стьюдента определяется по соотношению n-l. Потеря l=k+1 степеней свободы обусловлена тем, что все коэффициенты b i рассчитываются зависимо друг от друга, что следует из уравнений (4.16) и (4.16 а. Тогда доверительный интервал для b i коэффициента уравнения регрессии составит (b i - b i ; b i + b i ). Чем уже доверительный интервал, тем с большей уверенностью можно говорить о значимости этого коэффициента. Необходимо всегда помнить рабочее правило Если абсолютная величина коэффициента регрессии больше, чем его доверительный интервал, то этот коэффициент значим. Таким образом, если b i > b i , то b i коэффициент значим, в противном случае — нет. Глава 4. АНАЛИЗ РЕЗУЛЬТАТОВ ПАССИВНОГО ЭКСПЕРИМЕНТА 152 Незначимые коэффициенты исключаются из уравнения регрессии, а оставшиеся коэффициенты пересчитываются заново, так как они зависимы ив формулы для их расчета (4.16) и (а) входят разноименные переменные Пример. Проведено измерение теплоемкости оксида углерода) от температуры (см. табл. 4.1). Таблица Экспериментальные данные зависимости теплоемкости от температуры № опыта Температура, С Теплоемкость, кДж/(м 3 *К) 1 0 1,298 2 100 1,302 3 200 1,306 4 300 1,315 5 400 1,327 6 500 1,344 7 600 1,357 8 700 1,373 9 800 1,384 10 900 1,398 11 1000 1,411 12 1100 1,424 13 1200 1,436 Получено n = 13 значений при разных температурах. Необходимо получить аналитическую зависимость теплоемкости газа от температуры, используя исходные табличные данные. Провести статистическую оценку полученного регрессионного уравнения получить коэффициент корреляции, определить адекватность модели, проверить значимость коэффициентов уравнения регрессии. 1. Для начала получим уравнение регрессии. Для этого построим в пакете Excel точечную диаграмму и добавим к ней линию тренда линейного вида (рис. 4.10). Пакет Excel строит линию регрессии с помощью метода наименьших квадратов. В результате построена линия тренда и получен коэффициент детерминации R 2 : Глава 4. АНАЛИЗ РЕЗУЛЬТАТОВ ПАССИВНОГО ЭКСПЕРИМЕНТА = 0,0001*x + 1,2854 R 2 = 0,9877 Рис. 4.10. Точечная диаграмма с линией тренда в пакете Excel 2. Далее построим статистику для линейного уравнения регрессии с помощью функции пакета Excel «ЛИНЕЙН». Необходимо отметить, что данная функция предоставляет коэффициенты уравнения регрессии со значительно большей точностью, чем уравнение, представленное на диаграмме. В результате получены следующие данные b 0 = 1,28543956 b 1 = 0,000123626 S b0 = 0,00294447 S b1 = 0,000004164 R 2 = 0,987673831 ∆y = 0,00561769 F = 881,4102564 m = 11 S 2 y ост = 0,000347143 S 2* y = 0,027815934 В правильности полученных данных легко убедиться, подсчитав значения дисперсий (остаточную и квадрат отклонения линии регрессии от среднего значения, используя полученные коэффи- Глава 4. АНАЛИЗ РЕЗУЛЬТАТОВ ПАССИВНОГО ЭКСПЕРИМЕНТА 154 циенты уравнения регрессии. Для расчета коэффициента корреляции используем следующую формулу 2 ост = S 2* y / (S 2* y + S 2 y ост) R 2 = 0,027815934 / (0,027815934 + 0,000347143) = 0,987673831 3. Рассчитаем доверительный интервал для коэффициентов уравнения регрессии, для этого необходимо получить теоретическое значение Стьюдента (СТЬЮДЕНТ.ОБР.2Х(0,05;11)): t 0,005;11 = 2,20098516 Тогда ∆b 0 = 2,20098516 * 0,00294447 = 0,006480734 ∆b 1 = 2,20098516* 0,000004164 = 0,000009165 Поскольку абсолютные значения коэффициентов уравнения регрессии и b 1 = 0,000123626) существенно превышают соответствующие им доверительные интервалы (∆b 0 = 0,006480734 и ∆b 1 = 0,000009165), то можно сделать вывод, что коэффициенты уравнения регрессии значимы. 4. Для оценки адекватности модели воспользуемся критерием Фи- шера. Необходимо получить теоретическое значение (F.ОБР.ПХ(0,05;12;11)): F 0,05;12;11 = 2,787569326 Поскольку экспериментальное значение критерия Фишера значительно превышает теоретическое (881,4102564 > 2,787569326), то уравнение модели можно считать адекватным. 5. Построим уравнение регрессии, используя пакет Statistica: Красным выделены коэффициенты уравнения регрессии, для которых величина ошибки ∆b значительно меньше абсолютного значения, те. значимые коэффициенты, которые нельзя исключать. Получены следующие значения b 0 = 1,285440 b 1 = 0,000124 F = 881,41 Глава 4. АНАЛИЗ РЕЗУЛЬТАТОВ ПАССИВНОГО ЭКСПЕРИМЕНТА = 0,98767383 S b0 = 0,002944 S b1 = 0,000004 Полученные результаты в большой степени совпадают с рассчитанными ранее, однако в пакете Excel значения коэффициентов уравнения регрессии получены с большей точностью. Рис. 4.11. Результаты расчета линии регрессии в пакете Statistica 4.6. Линейная множественная регрессия При изучении множественной регрессии не существует графической интерпретации многофакторного пространства. При проведении экспериментов в такой ситуации исследователь записывает показания приборов о состоянии функции отклика y и всех факторов x i , от которых она зависит. Результат исследований — это матрица наблюдений Глава 4. АНАЛИЗ РЕЗУЛЬТАТОВ ПАССИВНОГО ЭКСПЕРИМЕНТА 156 Здесь n — число опытов k — число факторов x ij — значение го фактора в м опыте y i — значение выходного параметра для го опыта. Задача линейной множественной регрессии состоит в построении гиперплоскости в (мерном пространстве, отклонения результатов наблюдений y i от которой были бы минимальными при использовании метода наименьших квадратов. Или, другими словами, следует определить значения коэффициентов b 0 , ..., b j , ..., b k в линейном полиноме , k 1 j j x j b 0 b минимизирующие выражение Ф 1 1 Процедура определения коэффициентов b 0 , ..., b j , ..., b k в принципе не отличается от одномерного случая, рассмотренного ранее, и поэтому здесь не приводится. Для оценки тесноты связи между функцией отклика y и несколькими факторами x 1 , x 2 , ..., x j , ..., x k используют коэффициент множественной корреляции R, который всегда положителен и изменяется в пределах от 0 до 1. Чем больше R, тем качественнее предсказания данной моделью опытных данных сточки зрения близости ее к функциональной. При функциональной линейной зависимости R = 1. Расчеты обычно начинают с вычисления парных коэффициентов корреляции, при этом вычисляются два типа парных коэффициентов корреляции 1) j yx r — коэффициенты, определяющие тесноту связи между функцией отклика y и одним из факторов x j ; 2) u j x x r — коэффициенты, показывающие тесноту связи между одним из факторов x j и фактором x u (j, u =1 k). Если один из коэффициентов u j x x r окажется равным 1, то это означает, что факторы x j и x u функционально связаны между собой. Глава 4. АНАЛИЗ РЕЗУЛЬТАТОВ ПАССИВНОГО ЭКСПЕРИМЕНТА 157 Тогда целесообразно один из них исключить из рассмотрения, причем оставляют тот фактору которого коэффициент j yx больше. После вычисления всех парных коэффициентов корреляции можно построить матрицу коэффициентов корреляции следующего вида 1 r r r r r 1 r r r r r 1 r r r r r 1 r r r r r 1 j 2 k 1 k k j 2 j 1 j j 2 2 1 2 2 1 1 2 1 1 k j 2 1 x x x x x x x x x x x x x x x x yx yx yx yx k k k k x x x y x x x y x xj x y x xj x y (4.31) Однако парные коэффициенты корреляции не характеризуют тесноту связи, так как они вычисляются при случайно изменяющихся значениях других факторов. Действительно, при рассмотрении трех и более случайных величин коэффициенты корреляции любой пары из этих случайных величин могут не дать правильного представления о степени связи между всеми случайными величинами. Это объясняется тем, что на закон распределения вероятностей исследуемой пары случайных величин могут оказывать влияние и другие рассматриваемые случайные величины. Это обстоятельство делает необходимым введение показателей стохастической связи между парой случайных величин при условии, что значения других случайных величин зафиксированы. В этом случае говорят о статистическом анализе частных связей. Используя матрицу (4.31), можно вычислить частные коэффициенты корреляции, которые показывают степень влияния одного из факторов x j на функцию отклика y при условии, что остальные факторы остаются на постоянном уровне. Формула для вычисления частных коэффициентов корреляции имеет вид , jj D 11 D j 1 D x ,..., x ,..., x , yx r k j 2 1 (4.32) где D 1j — определитель матрицы, образованной из матрицы (4.31) Глава 4. АНАЛИЗ РЕЗУЛЬТАТОВ ПАССИВНОГО ЭКСПЕРИМЕНТА 158 вычеркиванием й строки иго столбца. Определители D 11 и D jj вычисляют аналогично. Как и парные коэффициенты, частные коэффициенты корреляции изменяются от -1 до +1. Значимость и доверительный интервал для коэффициентов частной корреляции определяются также, как для коэффициентов парной корреляции, только число степеней свободы вычисляют по формуле m = n -k*-2, (4.33) где k* = k – 1 — порядок частного коэффициента парной корреляции. Для вычисления коэффициента множественной корреляции k j 2 1 x ,..., x ,..., x , yx R используют матрицу (4.31): , 11 D / D 1 x ,..., x ,..., x , yx R k j 2 1 (4.34) где D — определитель матрицы (4.31). Множественный коэффициент корреляции дает оценку тесноты связи между у и совокупностью всех переменных x 1 , x 2 , ..., x j , ..., x k Если число опытов n сравнимо с числом коэффициентов l = k + 1, связи оказываются преувеличенными. Поэтому следует исключить систематическую погрешность, физический смысл которой состоит в следующем. Если разность n и l будет уменьшаться, то коэффициент множественной корреляции R будет возрастать и при n – l = 0 окажется равным R = +1, а уравнение регрессии превратится в функциональное уравнение гиперплоскости, которая пройдет через все n экспериментальных точек. Однако ясно, что случайный характер переменных процесса при этом не может измениться. В связи с этим требуется оценка значимости коэффициента множественной корреляции. Значимость коэффициента множественной корреляции проверяется по критерию Стьюдента: 1, - k - n = m ; t S R t где R S — среднеквадратичная погрешность коэффициента множественной корреляции, рассчитываемая по выражению Глава 4. АНАЛИЗ РЕЗУЛЬТАТОВ ПАССИВНОГО ЭКСПЕРИМЕНТА 1 k n ) 2 R 1 ( R S (4.35) Значимость R можно проверить также по критерию Фишера k ) R 1 ( ) 1 k n ( R F 2 2 (4.36) Если расчетное значение F превышает теоретическое F ;m1;m2 , то гипотезу о равенстве коэффициента множественной корреляции нулю отвергают и связь считают статистически значимой. Теоретическое табличное) значение критерия Фишера определяется для выбранного уровня значимости и числа степеней свободы m 1 = n-k-1 и m 2 = k . Если коэффициент множественной корреляции оказался неожиданно малым, хотя априорно известно, что между выходом y и входами должна существовать достаточно тесная корреляционная связь, то возможными причинами такого явления могут быть следующие а) ряд существенных факторов не учтен, и следует включить в рассмотрение дополнительно эти существенные входные параметры б) линейное уравнение плохо аппроксимирует в действительности нелинейную зависимость ) ,..., ( 1 k x x f y , и следует определить коэффициенты уже нелинейного уравнения регрессии методами регрессионного анализа в) рабочий диапазон рассматриваемых факторов находится в районе экстремума функции отклика — в этом случае следует расширить диапазон изменения входных переменных, а также перейти к нелинейной математической модели объекта. 4.7. Нелинейная регрессия Используя подходы, изложенные ранее, можно построить практически любые формы нелинейной связи. С этой целью в инженерной практике очень часто используют линеаризующие преобразования. В табл. 4.2 приведены часто встречающиеся парные зависимости и линеаризующие преобразования переменных. Качество преобразования результатов проверяют с помощью уравнения '. x ' 1 b ' 0 b y Глава 4. АНАЛИЗ РЕЗУЛЬТАТОВ ПАССИВНОГО ЭКСПЕРИМЕНТА 160 Т а блица Функции и линеаризующие преобразования № п/п Функция Линеаризующие преобразования Преобразование переменных Выражения для величин b 0 и b 1 y x b 0 b 1 1 x / 1 b 0 b y y 1/x b 0 b 1 2 ) x 1 b 0 b /( 1 y 1/y x b 0 b 1 3 ) x 1 b 0 b /( x y x/y x b 0 b 1 4 x 1 b 0 b y lg(y) x lg(b 0 ) lg(b 1 ) 5 x b e 0 b y 1 ln(y) x ln(b 0 ) b 1 6 ) x e 1 b 0 b /( 1 y 1/y e -x b 0 b 1 7 1 b x 0 b y lg(y) lg(x) lg(b 0 ) b 1 8 ) x lg( 1 b 0 b y y lg(x) b 0 b 1 9 ) x 1 b /( 0 b y 1/y x b 1 /b 0 1/b 0 10 ) x 1 b /( x 0 b y 1/y 1/x b 1 /b 0 1/b 0 11 x / b e 0 b y 1 ln(y) 1/x ln(b 0 ) b 1 12 n x 1 b 0 b y y x n После вычисления коэффициентов b 0 итак же как в случае линейной зависимости от одного фактора, выполняют обратные преобразования, те. пои определяют b 0 и b 1 . Аналогичный подход обычно используют и при множественном нелинейном регрессионном анализе. 4.8. Контрольные вопросы 1. В чем заключаются сущность и основные задачи корреляционного, регрессионного и дисперсионного анализа 2. Какие подходы используют при нахождении коэффициентов уравнения регрессии Глава 4. АНАЛИЗ РЕЗУЛЬТАТОВ ПАССИВНОГО ЭКСПЕРИМЕНТА 3. Сформулируйте исходные положения метода наименьших квадратов. 4. С помощью какого параметра оценивается теснота связи между случайными величинами Поясните физическую суть этого параметра. 5. Как оценивается адекватность статистической модели 6. Что называется частным коэффициентом корреляции 7. Что называется множественным коэффициентом корреляции 8. Какими свойствами обладают коэффициенты корреляции 9. Каким образом производится проверка значимости коэффициентов уравнения регрессии 10. В чем заключается постановка задачи линейной множественной регрессии |