Лекции по теории вероятности. Лекции Тер. Вер.. Лекция 1 Случайные события

• Название: Лекция 1 Случайные события
• Анкор: Лекции по теории вероятности
• Дата: 13.04.2022
• Размер: 1.66 Mb.
• Имя файла: Лекции Тер. Вер..pdf
• Тип: Лекция; #470380
• страница: 19 из 21

H
1
— ошибка второго рода.
Вероятности совершения ошибок первого и второго рода обозначают α и β:
α = P
©

X
n
∈ W | H
0
ª
,
β = P
©

X
n
∈ W | H
1
ª
.
Здесь P
©
A | H
j
ª
— вероятность события A при условии, что справедлива гипотеза H
j
, j = 0, 1.
Указанные вероятности вычисляют с использованием функции плотности p
¡
t; θ
¢
распределения случайной выборки
X
n
:
α =
Z
. . .
Z
W
n
Y
k=1
p
¡
t
k
; θ
0
¢
dt
1
. . . dt
n
,
β =
Z
. . .
Z
W
n
Y
k=1
p
¡
t
k
; θ
1
¢
dt
1
. . . dt
n
.
Вероятность совершения ошибки первого рода α называют также уровнем значимости крите-
рия.
Величину 1 − β, равную вероятности отвергнуть основную гипотезу H
0
, когда она неверна, на- зывают мощностью критерия.
Критерий Неймана — Пирсона
При построении критерия для проверки статистических гипотез, как правило, исходят из необхо- димости максимизации его мощности 1 − β (минимизации вероятности совершения ошибки второго
рода) при фиксированном уровне значимости α критерия (вероятности совершения ошибки пер-
вого рода). Для упрощения дальнейших рассуждений будем считать, что
X
n
— случайная выборка
объема n из генеральной совокупности непрерывной случайной величины X, плотность распреде- ления вероятностей которой p
¡
t; θ
¢
зависит от неизвестного параметра θ, и рассмотрим две простые
гипотезы H
0
: θ = θ
0
и H
1
: θ = θ
1
Введем функцию случайной выборки
X
n
:
ϕ(
X
n
) =
L
¡

X
n
; θ
1
¢
L
¡

X
n
; θ
0
¢ ,
L
¡

X
n
; θ
¢
=
n
Y
i=1
p
¡
X
i
; θ
¢
.
Статистика ϕ(
X
n
) представляет собой отношение функций правдоподобия при истинности аль-
тернативной и основной гипотез соответственно. Ее называют отношением правдоподобия.
Для построения оптимального (наиболее мощного) при заданном уровне значимости α крите-
рия Неймана — Пирсона в критическое множество W включают те элементы x
n
выборочного
пространства X
n
случайной выборки
X
n
, для которых выполняется неравенство
ϕ(x
n
) > C
ϕ
,
где константу C
ϕ
выбирают из условия
P
©
ϕ(
X
n
) > C
ϕ
| H
0
ª
= α,
которое обеспечивает заданное значение уровня значимости α и может быть записано в виде
Z
. . .
Z
ϕ(t
1
,...,t
n
)>C
ϕ
L
¡
t
1
, . . . , t
n
; θ
0
¢
dt
1
. . . dt
n
= α.
При этом вероятность ошибки второго рода не может быть уменьшена при данном значении веро- ятности ошибки первого рода α.
Рассмотрим примеры построения оптимального критерия Неймана — Пирсона при проверке простых гипотез относительно параметров основных, наиболее часто используемых распределений.
80

Пример 17.3 Построение оптимального критерия Неймана — Пирсона для параметра µ нормаль- ного закона распределения с известной дисперсией σ
2
проведем для случая двух простых гипотез
H
0
: µ = µ
0
,
H
1
: µ = µ
1
,
где µ
0
и µ
1
— некоторые заданные значения, связанные неравенством µ
0
< µ
1
В рассматриваемом случае функция правдоподобия имеет вид
LX
1
, . . . , X
n
µ =
µ
1
σ
√
2π
¶
n
exp
µ
−
1 2σ
2
n
X
i=1
(X
i
− µ)
2
¶
,
а отношение правдоподобия —
ϕ(
X
n
) =
L
¡
X
1
, . . . , X
n
; µ
1
¢
L
¡
X
1
, . . . , X
n
; µ
0
¢ = exp
µ
µ
1
− µ
0
σ
2
n
X
i=1
X
i
¶
exp
µ
−
n(µ
2 1
− µ
2 0
)
2σ
2
¶
.
В данном случае неравенство
ϕ(x
n
) = exp
µ
µ
1
− µ
0
σ
2
n
X
i=1
x
i
¶
exp
µ
−
n(µ
2 1
− µ
2 0
)
2σ
2
¶
> C
ϕ
равносильно неравенству
n
X
i=1
x
i
> C,
(17.1)
где константу C выбирают из условия обеспечения заданного уровня значимости α:
P
n
n
X
i=1
X
i
> C
¯
¯ µ = µ
0
o
= α.
(17.2)
Действительно,
ln
Ã
exp
µ
µ
1
− µ
0
σ
2
n
X
i=1
x
i
¶
exp
µ
−
n(µ
2 1
− µ
2 0
)
2σ
2
¶!
=
µ
1
− µ
0
σ
2
n
X
i=1
x
i
−
n(µ
1
− µ
0
)
2 2σ
2
> ln C
ϕ
,
откуда следует, что
n
X
i=1
x
i
>
σ
2
µ
1
− µ
0
µ
ln C
ϕ
−
n(µ
2 1
− µ
2 0
)
2σ
2
¶
= C.
Случайная величина X
1
+ · · · + X
n
имеет нормальное распределение с математическим ожида- нием nµ и дисперсией nσ
2
. Поэтому условие (17.2) можно записать в виде
1 − Φ
µ
C − nµ
0
σ
√
n
¶
= α,
(17.3)
или
C − nµ
0
σ
√
n
= u
1−α
.
Таким образом, константа C, задающая критическую область в (17.1), определяется равенством
C = nµ
0
+ u
1−α
σ
√
n.
(17.4)
При этом вероятность совершения ошибки второго рода
β = P
n
n
X
i=1
X
i
< C
¯
¯ µ = µ
1
o
= Φ
µ
C − nµ
1
σ
√
n
¶
(17.5)
является минимально возможной при данном значении α.
Пример 17.4 Если в условиях примера 17.3 неравенство µ
0
< µ
1
заменить неравенством µ
1
< µ
0
,
то в этом случае критическое множество W задается неравенством
n
X
i=1
x
i
6 C,
81

где константу C выбирают из условия
P
n
n
X
i=1
X
i
6 C
¯
¯ µ = µ
0
o
= α.
Таким образом,
Φ
µ
C − nµ
0
σ
√
n
¶
= α
или, что то же самое,
C − nµ
0
σ
√
n
= u
α
= −u
1−α
.
Из последнего равенства находим C = nµ
0
− u
1−α
σ
√
n.
Сложные параметрические гипотезы
Предположим, что требуется проверить две сложные гипотезы
H
0
: θ ∈ Θ
0
,
H
1
: θ ∈ Θ
1
,
(17.6)
где Θ
0
, Θ
1
— некоторые непересекающиеся области значений параметра θ. Например, области Θ
0
,
Θ
1
могут быть заданы неравенствами θ 6 θ
0
и θ > θ
1
, где θ
0
и θ
1
— некоторые фиксированные значения параметра, удовлетворяющие неравенству θ
0
< θ
1
Критерий проверки сложных гипотез (17.6) по-прежнему задается с помощью критического
множества W реализаций случайной выборки
X
n
, на основе которого решение принимают следу- ющим образом:
• если реализация x
n
случайной выборки
X
n
принадлежит критическому множеству W , тогда
основную гипотезу H
0
отвергают и принимают альтернативную гипотезу H
1
;
• если реализация x
n
случайной выборки
X
n
не принадлежит критическому множеству W ,
тогда отвергают альтернативную гипотезу H
1
и принимают основную гипотезу H
0
Вероятности совершения ошибок первого и второго рода в случае сложных гипотез имеют преж- ний смысл и определяются выражениями
α(θ) = P
©
(X
1
; . . . ; X
n
) ∈ W | θ
ª
,
θ ∈ Θ
0
;
β(θ) = P
©
(X
1
; . . . ; X
n
) ∈ W | θ
ª
,
θ ∈ Θ
1
.
В отличие от случая простых гипотез, величины α(θ), β(θ) являются некоторыми функциями от параметра θ.
Максимально возможное значение вероятности совершения ошибки первого рода
α = max
θ∈Θ
0
α(θ)
называют размером критерия.
Функцию
M (θ) = P
©
(X
1
; . . . ; X
n
) ∈ W | θ
ª
,
определяющую значение вероятности отклонения основной гипотезы H
0
в зависимости от истинного значения параметра θ, называют функцией мощности критерия. Если существует критерий,
который при данном фиксированном размере α максимизирует функцию мощности M (θ) по всем возможным критериям одновременно при всех θ из множества Θ
1
, то такой критерий называют
равномерно наиболее мощным. Равномерно наиболее мощные критерии существуют лишь в некоторых частных случаях при проверке гипотез относительно одномерных параметров (см. при- меры 17.5–17.7).
Вероятности совершения ошибок первого и второго рода связаны с функцией мощности следу- ющими соотношениями:
α(θ) = M (θ),
θ ∈ Θ
0
;
(17.7)
β(θ) = 1 − M (θ),
θ ∈ Θ
1
.
(17.8)
Тем самым равномерно наиболее мощный критерий, если он существует, минимизирует веро- ятность совершения ошибки второго рода β(θ) (при фиксированном размере α) одновременно при всех θ ∈ Θ
1
Построение критериев для проверки сложных параметрических гипотез проиллюстрируем далее для случая нормальной модели.
82

Пример 17.5 Рассмотрим проверку простой гипотезы H
0
: µ = µ
0
против сложной гипотезы H
1
: µ >
µ
0
относительно параметра — среднего µ нормального распределения при известной дисперсии σ
2
При любом µ
1
> µ
0
критическая область оптимального наиболее мощного критерия Неймана —
Пирсона размера α для простых гипотез µ = µ
0
против µ = µ
1
имеет вид (17.1), где константу C
выбирают из условия (17.2) или (17.3). Поэтому она не зависит от µ
1
. Это означает, что построен- ный уже выше для указанных простых гипотез критерий с критическим множеством, задаваемым неравенством (17.1)
n
X
i=1
x
i
> C = nµ
0
+ u
1−α
σ
√
n,
(17.9)
является равномерно наиболее мощным критерием размера α для данной задачи со сложной аль- тернативной гипотезой H
1
: µ > µ
0
Пример 17.6 В условиях предыдущего примера рассмотрим проверку простой гипотезы H
0
: µ = µ
0
против сложной гипотезы H
1
: µ < µ
0
В этом случае, используя результаты, полученные при рассмотрении примера 17.4, приходим к выводу, что равномерно наиболее мощный критерий размера α для данной задачи задается крити- ческим множеством, определяемым неравенством
n
X
i=1
x
i
6 C = nµ
0
− u
1−α
σ
√
n.
Пример 17.7 В условиях примера 17.5 рассмотрим проверку двух сложных гипотез вида
H
0
: µ 6 µ
0
,
H
1
: µ > µ
1
,
(17.10)
где µ
0
< µ
1
Заметим, что для критерия с критическим множеством (17.9) вероятность совершения ошибки первого рода
α(µ) = P
n
n
X
i=1
X
i
> C
¯
¯ µ
o
= 1 − Φ
³
u
1−α
+ (µ
0
− µ)
√
n
σ
´
есть возрастающая функция переменного µ. Тем самым максимальное значение вероятности совер- шения ошибки первого рода, определяемое как
α = max
µ6µ
0
α(µ),
достигается в точке µ = µ
0
, откуда следует, что данный критерий, применяемый к сложным гипо- тезам (17.10), имеет размер α = α(µ
0
).
Рассуждая далее так же, как в примере 17.5, получаем, что указанный критерий с критической областью (17.9) является равномерно наиболее мощным критерием для данной задачи со сложными гипотезами.
Пример 17.8 Рассмотрим проверку гипотез относительно параметра нормального распределения
µ следующего вида:
H
0
: µ = µ
0
,
H
1
: µ 6= µ
0
(по-прежнему предполагаем, что дисперсия σ
2
известна).
В этом случае основная гипотеза H
0
является простой, а альтернативная гипотеза H
1
является сложной. При µ = µ
0
рассмотрим статистику
X − µ
0
σ
√
n,
которая имеет стандартное нормальное распределение. Критическое множество для проверки ука- занных гипотез H
0
, H
1
определим следующим образом:
|x − µ
0
|
σ
√
n > u
1−α/2
.
Соответствующий критерий по построению имеет вероятность совершения ошибки первого рода α.
Пример 17.9 Рассмотрим проверку двух сложных гипотез
H
0
: µ = µ
0
,
H
1
: µ > µ
0
(17.11)
83

относительно параметра µ нормального закона распределения в случае, когда дисперсия σ
2
неиз- вестна.
В отличие от примера 17.5 гипотеза H
0
также является сложной. При µ = µ
0
статистика
X − µ
0
S(
X
n
)
√
n
(17.12)
имеет распределение Стьюдента с n − 1 степенями свободы. Исходя из этого получаем, что крите- рий с уровнем значимости α для гипотез (17.11) задается критическим множеством
x − µ
0
S(x
n
)
√
n > t
1−α
(n − 1),
где t
1−α
(n − 1) — квантиль уровня 1 − α распределения Стьюдента с n − 1 степенями свободы.
Аналогично на основе статистики (17.12) строят критерий для проверки сложных гипотез
H
0
: µ = µ
0
,
H
1
: µ < µ
0
(17.13)
или
H
0
: µ = µ
0
,
H
1
: µ 6= µ
0
.
(17.14)
Для гипотез (17.13) критерий размера α задается критическим множеством, определяемым нера- венством
x − µ
0
S(x
n
)
√
n 6 −t
1−α
(n − 1).
Для гипотез вида (17.14) критерий размера α задают критическим множеством, определяемым неравенством
|x − µ
0
|
S(x
n
)
√
n > t
1−α/2
(n − 1).
Пример 17.10 Рассмотрим проверку гипотез о равенстве математических ожиданий для двух раз- личных нормальных распределений.
Пусть определены две случайные выборки (X
1
; . . . ; X