книга по линейной алгебре. книга по АИГУ. Линейные пространства
 Скачать 1.91 Mb.
|
|
Def. Скалярным произведением называется функция ν : L × L −→ R (то есть функция, сопоставляющая паре векторов пространства веще- ственное число ), такая что ∀ a, b, c ∈ L, ∀ α, β ∈ R выполнены свойства: 1. Линейность: ν(αa + βb, c) = αν(a, c) + βν(b, c). Это свойство можно разбить на два, рассматривая их отдельно: • ν(a + b, c) = ν(a, c) + ν(b, c) • ν(αa, b) = αν(a, b) 2. Симметричность: ν(a, b) = ν(b, a). 3. Положительная определённость: ν(a, a) > 0 при a ̸= 0. Обозначение: ν(a, b) = (a, b). Замечание. Скалярным произведение называется и функция из второго определения, и чис- ло (a, b), т.е. результат применения этой функции к паре векторов. Примеры 1. Известное пространство геометрических векторов V 3 с привычным скалярным произведе- нием (a, b) = |a| · |b| · cos( ˆ a, b) Свойства из определения скалярного произведения были доказаны в лекциях предыдуще- го семестра. Собственно говоря, как произвольное линейное пространство можно рассмат- ривать как обобщение пространства V 3 , так и приведённое в начале лекции определение скалярного произведения является обобщением скалярного произведения в V 3 2. R n , a = (a 1 , a 2 , ..., a n ) T , b = (b 1 , b 2 , ..., b n ) T , (a, b) = a 1 b 1 + a 2 b 2 + ... + a n b n Такое скалярное произведение в R n считается стандартным. 3. В пространстве F функций, непрерывных на отрезке [a, b], можно задать скалярное произ- ведение следующим образом: (f, g) = b R a f (x) · g(x)dx (выполнение свойств скалярного произведения проверьте самостоятельно) Теорема 1 (Неравенство Коши-Буняковского) . ∀ x, y ∈ V (x, y) 2 ≤ (x, x)(y, y) Доказательство. Рассмотрим скалярный квадрат вектора x + αy, α ∈ R: 1 (x + αy, x + αy) = (x, x) + 2α(x, y) + α 2 (y, y) ≥ 0 (по свойству 3). =⇒ дискриминант уравнения относительно α: D = (x, y) 2 − (x, x)(y, y) ≤ 0 =⇒ (x, y) 2 ≤ (x, x)(y, y) Def. Нормой вектора x называется величина ∥x∥ = p(x, x). Норма обобщает понятие длины вектора. В новых обозначениях неравенство Коши-Буняковского будет выглядеть так: (x, y) 2 ≤ ∥x∥ 2 ∥y∥ 2 Замечание. Поскольку (x, y) 2 ≤ ∥x∥ 2 ∥y∥ 2 ⇐⇒ |(x, y)| ≤ ∥x∥∥y∥ ⇐⇒ |(x,y)| ∥x∥∥y∥ ≤ 1 ⇐⇒ ⇐⇒ −1 ≤ (x,y) ∥x∥∥y∥ ≤ 1 , дробь (x,y) ∥x∥∥y∥ можно назвать ”косинусом угла” между векторами x и y. В таком случае (x, y) = ∥x∥∥y∥cos( ˆ x, y) Def. Векторы x, y ∈ L называются ортогональными, если (x, y) = 0. Обозначение: x ⊥ y. Def. Базис g 1 , g 2 , ...g n евклидова пространства L называется ортогональным, если g i ⊥ g j при i ̸= j Def. Ортогональный базис g называется ортонормированным, если ∥g i ∥ = 1 ∀ i = 1...n Свойства 1. Вектор θ ортогонален всем векторам линейного пространства. 2. Если (x, x) = 0, то x = θ Докажите самостоятельно. Замечание. Из определений нормы и ортогональности следует теорема Пифагора: (x, y) = 0 =⇒ ∥x + y∥ 2 = ∥x∥ 2 + ∥y∥ 2 Теорема 2 (неравенство Минковского) . При любых x, y из евклидова пространства L верно: ∥x + y∥ ≤ ∥x∥ + ∥y∥ Данное утверждение это аналог неравенства треугольника для евклидова пространства. Доказательство. ∥x + y∥ 2 = (x + y, x + y) = (x, x) + 2(x, y) + (y, y) Далее, согласно неравенству Коши-Буняковского для (x, y): ∥x + y∥ 2 ≤ (x, x) + 2∥x∥∥y∥ + (y, y) = ∥x∥ 2 + 2∥x∥∥y∥ + ∥y∥ 2 = (∥x∥ + ∥y∥) 2 Следовательно, ∥x + y∥ ≤ ∥x∥ + ∥y∥. Примеры 2 1. V 3 . Неравенство треугольника в ”чистом виде” 2. R n ∥x + y∥ = p(x 1 + y 1 ) 2 + ... + (x n + y n ) 2 ≤ px 2 1 + ... + x 2 n + py 2 1 + ... + y 2 n = ∥x∥ + ∥y∥ 3. F , (f, g) = b R a f (x) · g(x)dx s b R a (f (x) + g(x)) 2 dx ≤ s b R a f 2 (x)dx + s b R a g 2 (x)dx Расстояние между векторами Def. Пусть x, y ∈ L. Расстоянием между векторами x и y будем называть величину ρ(x, y) = ∥y − x∥ Свойства. 1. ρ(x, y) = ρ(y, x) 2. ρ(x, y) ≥ 0 Первые два свойства следуют из определения нормы и скалярного произведения. 3. Расстояние удовлетворяет неравенству треугольника: ∀ x, y, z ∈ L ρ(x, y) ≤ ρ(x, z) + ρ(z, y) Следует из неравенства Минковского. Перпендикуляр из вектора на подпространство. Расстояние от вектора до подпространства Def. Пусть U ≤ V . Будем говорить, что вектор x ∈ V ортогонален подпространству U (x ⊥ U), если для любого элемента y ∈ U верно, что (x, y) = 0. Заметим, что, если u 1 , u 2 , ..., u m − базис U, то (x, y) = (x, y 1 u 1 + y 2 u 2 + ... + y m u m ) = y 1 (x, u 1 ) + y 2 (x, u 2 ) + ... + y m (x, u m ) , т.е. для того чтобы вектор был ортогонален подпространству достаточно, чтобы он был ор- тогонален базису этого подпространства. Теперь пусть x /∈ U, x 0 ∈ U, x−x 0 = h ⊥ U . Тогда вектор x 0 называется проекцией вектора x на подпространство U 3 h x 0 x Теорема 3. Если x 0 − проекция x на подпространство U, x 1 ∈ U, x 1 ̸= x 0 , то ∥x − x 0 ∥ ≤ ∥x − x 1 ∥ Доказательство. По теореме Пифагора (так как (x − x 0 ) ⊥ (x 0 − x 1 ) ∈ U ): ∥x − x 1 ∥ 2 = ∥x − x 0 + x 0 − x 1 ∥ 2 = ∥x − x 0 ∥ 2 + ∥x 0 − x 1 ∥ 2 , т.е. ∥x − x 0 ∥ ≤ ∥x − x 1 ∥. Теорема 4. Пусть U ≤ V , x /∈ U. Тогда существует единственный вектор x 0 ∈ U : (x−x 0 ) ⊥ U. Доказательство. Пусть g 1 , g 2 , ..., g m − базис U, x 0 ∈ U. Тогда x 0 = α 1 e 1 + α 2 e 2 + ... + α m e m Если (x − x 0 ) ⊥ U , то в частности: (x − x 0 , e 1 ) = 0, (x − x 0 , e 2 ) = 0, ..., (x − x 0 , e m ) = 0 , т.е. мы получаем систему из m уравнений с m неизвестными: (α 1 e 1 + α 2 e 2 + ... + α m e m , e 1 ) = (x, e 1 ), (α 1 e 1 + α 2 e 2 + ... + α m e m , e 2 ) = (x, e 2 ), (α 1 e 1 + α 2 e 2 + ... + α m e m , e m ) = (x, e m ). Разложим левые части уравнений в сумму m скалярных произведений по свойству линейно- сти и запишем матрицу коэффициентов этой системы уравнений: (e 1 , e 1 ) (e 2 , e 1 ) (e m , e 1 ) (e 1 , e 2 ) (e 2 , e 2 ) (e m , e 2 ) (e 1 , e m ) (e 2 , e m ) (e m , e m ) = A Её определитель не может быть равен нулю. В противном случае нашлась бы строка, выра- жающаяся через другие с коэффициентами λ 1 , ..., λ m , например, первая. Вычтем из неё соответ- ствующую линейную комбинацию, получим строку: (e 1 , e 1 − λ 2 e 2 − ... − λ m e m ) (e 2 , e 1 − λ 2 e 2 − ... − λ m e m ) (e m , e 1 − λ 2 e 2 − ... − λ m e m ) , 4 где все элементы – нули. Таким образом, нашёлся вектор e 1 − λ 2 e 2 − ... − λ m e m ∈ U , ортогональный всем элементам базиса и, следовательно, всем векторам подпространства. Этим вектором может быть только θ, т.е. e 1 − λ 2 e 2 − ... − λ m e m = θ и элементы линейно зависимы, что невозможно, так как это базис Следовательно, решение единственно, а, значит, у каждого вектора существует единственная ортогональная проекция на подпространство. Def. Матрица A из доказательства теоремы 4 называется матрицей Грама векторов e 1 , e 2 , ..., e n В процессе доказательства теоремы было получено важное свойство: определитель матрицы Грама равен нулю, тогда и только тогда, когда векторы e 1 , e 2 , ..., e n линейно зависимы. Поясните самостоятельно. Def. Вектор h = x − x 0 , , где x 0 − проекция вектора x на подпространство U, называется пер- пендикуляром из вектора x на подпространство U. Расстоянием от вектора до подпространства называется длина такого перпендикуляра. 5 По итогам лекции нужно знать: 1. Понятия: • Евклидово пространство • Скалярное произведение • Норма ветора • Ортогональность • Ортогональный и ортонормированный базисы • Расстояние между векторами • Проекция вектора на подпространство • Перпендикуляр из вектора на подпространство • Расстояние от вектора до подпространства • Матрица Грама 2. Неравенство Коши-Буняковского 3. Неравенство Минковского 4. Условие равенства нулю матрицы Грама 5. Примеры скалярного произведения 6 Ортогонализация Напомним, что базис называется ортонормированным, если все его векторы единичной длины и попарно ортогональны, т.е. (e i , e j = 0) при i ̸= j. Теорема 1. Если ненулевые векторы e 1 , e 2 , ..., e n попарно ортогональны, то они линейно неза- висимы. Доказательство. Составим линейную комбинацию данных векторов: λ 1 e 1 + λ 2 e 2 + ... + λ n e n = θ Умножим скалярно обе части равенства на e 1 , получим: λ 1 (e 1 , e 1 ) = 0 Поскольку e 1 ̸= θ , получаем, что λ 1 = 0. Умножая скалярно линейную комбинацию на λ 2 , ...λ n , получим, что и оставшиеся коэффици- енты равны 0. Следовательно, векторы линейно независимы. Теорема доказана. Теорема 2. В ортонормированном базисе скалярное произведение двух векторов равно сумме произведений их одноимённых координат. Доказательство. Действительно, пусть e 1 , e 2 , ..., e n − ортонормированный базис евклидова пространства L. Возь- мём два вектора этого пространства x = x 1 e 1 + x 2 e 2 + ... + x n e n , y = y 1 e 1 + y 2 e 2 + ... + y n e n и запишем их скалярное произведение: (x, y) = (x 1 e 1 + x 2 e 2 + ... + x n e n , y 1 e 1 + y 2 e 2 + ... + y n e n ) Разобьём это скалярное произведение на составляющие по свойству линейности и, учитывая попарную ортогональность векторов и их нормированность, получим: x 1 y 1 (e 1 , e 1 ) + x 2 y 2 (e 2 , e 2 ) + ... + x n y n (e n , e n ) = x 1 y 1 + x 2 y 2 + ... + x n y n , что и требовалось получить. Если есть два линейно независимых вектора f 1 , f 2 , то с их помощью всегда можно получить пару ортогональных векторов. В качестве первого вектора выбираем любой вектор из данных двух, например, f 1 , т.е. e 1 = f 1 Затем строим второй вектор e 2 = f 2 + α 1 e 1 , причем α 1 выбираем так, чтобы выполнялось требуемое условие: (e 1 , e 2 ) = 0 ⇐⇒ (e 1 , f 2 +α 1 e 1 ) = 0 ⇐⇒ α 1 (e 1 , e 1 )+(e 1 , f 2 ) = 0 , т.е. α 1 = − (e 1 ,f 2 ) (e 1 ,e 1 ) Аналогично можно поступить с тремя линейно независиммыми веторами и так далее. Этот приём лежит в основе метода ортогонализации Грама-Шмидта. Теорема 3. В любом конечномерном евклидовом пространстве существует ортонормирован- ный базис. Доказательство. 1 На основе исходного базиса f 1 , f 2 , ..., f n (то, что такой базис существует, было доказано ранее) построим ортогональный базис e, используя следующие равенства: e 1 = f 1 , e 2 = f 2 − (e 1 ,f 2 ) (e 1 ,e 1 ) e 1 , e n = f n − n−1 P i=1 (f n ,e i ) (e i ,e i ) · e i Необходимо показать, что ни один из последовательно вычисляемых векторов не является нулевым и что все векторы e i (i = 1, 2, ..., n) попарно ортогональны. Воспользуемся методом математической индукции для k = 1, ..., n. При k = 1 имеем один ненулевой вектор. Далее, пусть e 1 , e 2 , ..., e k − ненулевые векторы, образующие ортогональную систему (т.е. по- парно ортогональные). Построим (k + 1)−й вектор: e k+1 = f k+1 − k+1 P i=1 (f k+1 ,e i ) (e i ,e i ) · e i Если e k+1 = 0, то f k+1 является линейной комбинацией векторов e 1 , ..., e k , которые по заданию алгоритма выражаются через векторы f 1 , ..., f k . Получается, что векторы f 1 , ..., f k , f k+1 линейно зависимы, что невозможно, так как они являются частью базиса. Теперь покажем, что e k+1 ⊥ e j для j = 1, 2, ..., k. Для этого последовательно скалярно умно- жим e k+1 на e j при j = 1, 2, ..., k: (e k+1 , e j ) = (f k+1 − k P i=1 (f k+1 ,e i ) (e i ,e i ) · e i , e j ) = (f k+1 , e j ) − (f k+1 ,e j ) (e j ,e j ) (e j , e j ) = 0 (поясните, почему из всей суммы осталось только одно слагаемое) Мы построили ортогональный базис. Чтобы построить ортонормированный, разделим каж- дый вектор нового базиса на его норму: e i ∥e i ∥ Теорема доказана. Теорема 4. Если e i .e 2 , ..., e n − ортогональный базис и a = α 1 e 1 + α 2 e 2 + ...α n e n , то α i = (a, e i ) (e 1 , e i ) , i = 1, 2, ..., n. Доказательство. (a, e i ) = (α 1 e 1 + α 2 e 2 + ...α n e n , e i ) = α i (e i , e i ) , откуда получаем необходимое равенство при i = 1, 2, ..., n. Def. Вектор (a,b) (b,b) b называется проекцией вектора a на вектор b. 2 Исходя из этого определения и теоремы 4, заключаем, что любой вектор равен сумме своих проекций на векторы базиса. Примеры 1. Ортонормируем многочлены f 1 = x − 1 и f 2 = x 2 + 1 в евклидовом пространстве R n [x] со скалярным произведением (f, g) = 1 R −1 f (x) · g(x)dx g 1 = f 1 g 2 = f 2 − (f 2 ,g 1 ) (g 1 ,g 1 ) g 1 (f 2 , g 1 ) = 1 R −1 (x 3 − x 2 + x − 1)dx = x 4 4 − x 3 3 + x 2 2 − 1| 1 −1 = − 2 3 − 2 = − 8 3 (g 1 , g 1 ) = 1 R −1 (x − 1) 2 dx = 1 3 (x − 1) 3 | 1 −1 = 8 3 Таким образом, g 2 = x 2 + 1 + x − 1 = x 2 + x Для нормирования нужно определить векторы g 1 ∥g 1 ∥ и g 2 ∥g 2 ∥ 2. В пространстве M x×2 (R) зададим скалярное произведение как сумму произведений одно- имённых элементов матриц. Ортогонализируем матрицы A 1 = 1 1 1 1 и A 2 = 1 0 0 1 (A 1 , A 2 ) = 2, (A 1 , A 1 ) = 4 , B 1 = A 1 B 2 = A 2 − (A 2 ,B 1 ) (B 1 ,B 1 ) B 1 = A 2 − 1 2 B 1 = 1 2 − 1 2 − 1 2 1 2 Псевдорешение Пусть система линейных уравнений a 11 a 12 a 1m b 1 a 21 a 22 a 2m b 2 a n1 a n2 a nm b n ∼ несовместна. Перепишем её в виде линейной комбинации столбцов (т.е. векторов пространства R n ) : x 1 a 11 a 21 a n1 + x 2 a 12 a 22 a n2 + ... + x m a 1m a 2m a nm = b 1 b 2 b n 3 Будем считать, что столбцы в левой части линейно независимы. Тогда они образуют базис ли- нейного пространства размерности m (по числу векторов), обозначим его как L m , а сами столбцы как ϕ 1 , ϕ 2 , ..., ϕ m Тогда получается, что вектор b = (b 1 , b 2 , ..., b n ) T не является линейной комбинацией векторов ϕ 1 , ϕ 2 , ..., ϕ m , т.е. не принадлежит пространству L m Пусть b 0 − проекция b на L m . Будем решать систему a 11 a 12 a 1m b 01 a 21 a 22 a 2m b 02 a n1 a n2 a nm b 0n , т.е. с вектором b 0 в правой части. Эта система будет иметь решение, так как b 0 выражается через базис L m Решение x ∗ новой системы называется псевдорешением исходной системы уравнений. Та- ким образом, задача сводится к нахождению проекции вектора на подпространство. Пусть b 0 = β 1 ϕ 1 + β 2 ϕ 2 + ... + β m ϕ m Так как (b−b 0 ) ⊥ ϕ i (как перпендикуляр к подпространству), то получим систему уравнений: (b − b 0 , ϕ i ) = 0 ⇐⇒ (b, ϕ i ) = (b 0 , ϕ i ), i = 1, 2, ..., m Запишем эту систему: (β 1 ϕ 1 + β 2 ϕ 2 + ... + β m ϕ m , ϕ 1 ) = (b, ϕ 1 ), (β 1 ϕ 1 + β 2 ϕ 2 + ... + β m ϕ m , ϕ 2 ) = (b, ϕ 2 ), (β 1 ϕ 1 + β 2 ϕ 2 + ... + β m ϕ m , ϕ m ) = (b, ϕ m ). Если базис ϕ 1 , ϕ 2 , ..., ϕ m ортонормировать, то в новом ортонормированном базисе e 1 , e 2 , ..., e m вектор b 0 можно найти по формуле b 0 = m P i=1 (b 0 , e i )e i = m P i=1 (b, e i )e i = (b 01 , b 02 , ..., b 0m ) T Пример Найдём псевдорешение системы |