Собственный вектор квадратной матрицы - это такой вектор, который при умножении на заданную матрицу дает в результате коллинеарный вектор. Простыми словами, при умножении матрицы на собственный вектор последний остается тем же самым, но умноженным на некоторое число.

Определение

Собственный вектор - это ненулевой вектор V, который при умножении на квадратную матрицу Mпревращается в самого себя, увеличенного на некоторое число λ. В алгебраической записи это выглядит как:

M × V = λ × V,

где λ - собственное число матрицы M.

Рассмотрим числовой пример. Для удобства записи числа в матрице будет отделять точкой с запятой. Пусть у нас есть матрица:

• M = 0; 4;
• 6; 10.

Умножим ее на вектор-столбец:

• V = -2;

При умножении матрицы на вектор-столбец мы получаем также вектор-столбец. Строгим математическим языком формула умножения матрицы 2 × 2 на вектор-столбец будет выглядеть так:

• M × V = M11 × V11 + M12 × V21;
• M21 × V11 + M22 × V21.

М11 означает элемент матрицы M, стоящий в первой строке и первом столбце, а M22 - элемент, расположенные во второй строке и втором столбце. Для нашей матрицы эти элементы равны M11 = 0, М12 = 4, М21 = 6, М22 10. Для вектора-столбца эти значения равны V11 = –2, V21 = 1. Согласно этой формуле мы получим следующий результат произведения квадратной матрицы на вектор:

• M × V = 0 × (-2) + (4) × (1) = 4;
• 6 × (-2) + 10 × (1) = -2.

Для удобства запишем вектор столбец в строку. Итак, мы умножили квадратную матрицу на вектор (-2; 1), в результате чего получили вектор (4; -2). Очевидно, что это тот же вектор, умноженный на λ = -2. Лямбда в данном случае обозначает собственное число матрицы.

Собственный вектор матрицы - это коллинеарный вектор, то есть объект, который не изменяет своего положения в пространстве при умножении его на матрицу. Понятие коллинеарности в векторной алгебре сходно с термином параллельности в геометрии. В геометрической интерпретации коллинеарные вектора - это параллельные направленные отрезки разной длины. Еще со времен Евклида мы знаем, что у одной прямой существует бесконечное количество параллельных ей прямых, поэтому логично предположить, что каждая матрица обладает бесконечным количеством собственных векторов.

Из предыдущего примера видно, что собственными векторами могут быть и (-8; 4), и (16; -8), и (32, -16). Все это коллинеарные вектора, соответствующие собственному числу λ = -2. При умножении исходной матрицы на эти вектора мы все так же будет получать в результате вектор, который отличается от исходного в 2 раза. Именно поэтому при решении задач на поиск собственного вектора требуется найти только линейно независимые векторные объекты. Чаще всего для матрицы размером n × n существует n-ное количество собственных векторов. Наш калькулятор заточен под анализ квадратных матриц второго порядка, поэтому практически всегда в результате будут найдены два собственных вектора, за исключением случаев, когда они совпадают.

В примере выше мы заранее знали собственный вектор исходной матрицы и наглядно определили число лямбда. Однако на практике все происходит наоборот: в начале находится собственные числа и только затем собственные вектора.

Алгоритм решения

Давайте вновь рассмотрим исходную матрицу M и попробуем найти оба ее собственных вектора. Итак, матрица выглядит как:

• M = 0; 4;
• 6; 10.

Для начала нам необходимо определить собственное число λ, для чего требуется вычислить детерминант следующей матрицы:

• (0 − λ); 4;
• 6; (10 − λ).

Данная матрица получена путем вычитания неизвестной λ из элементов на главной диагонали. Детерминант определяется по стандартной формуле:

• detA = M11 × M21 − M12 × M22
• detA = (0 − λ) × (10 − λ) − 24

Так как наш вектор должен быть не нулевым, полученное уравнение принимаем как линейно зависимое и приравниваем наш детерминант detA к нулю.

(0 − λ) × (10 − λ) − 24 = 0

Раскроем скобки и получим характеристическое уравнение матрицы:

λ 2 − 10λ ­− 24 = 0

Это стандартное квадратное уравнение, которое требуется решить через дискриминант.

D = b 2 − 4ac = (-10) × 2 − 4 × (-1) × 24 = 100 + 96 = 196

Корень из дискриминанта равен sqrt(D) = 14, следовательно, λ1 = -2, λ2 = 12. Теперь для каждого значения лямбда требуется найти собственный вектор. Выразим коэффициенты системы для λ = -2.

• М − λ × E = 2; 4;
• 6; 12.

В данной формуле E - это единичная матрица. На основании полученной матрицы составим систему линейных уравнений:

2x + 4y = 6x + 12y,

где x и y - элементы собственного вектора.

Соберем все иксы слева, а все игреки справа. Очевидно, что - 4x = 8y. Разделим выражение на - 4 и получим x = –2y. Теперь мы можем определить первый собственный вектор матрицы, приняв любые значения неизвестных (вспоминаем про бесконечность линейно зависимых собственных векторов). Примем y = 1, тогда x = –2. Следовательно, первый собственный вектор выглядит как V1 = (–2; 1). Вернитесь в начало статьи. Именно на этот векторный объект мы умножали матрицу для демонстрации понятия собственного вектора.

Теперь отыщем собственный вектор для λ = 12.

• М - λ × E = -12; 4
• 6; -2.

Составим такую же систему линейных уравнений;

• -12x + 4y = 6x − 2y
• -18x = -6y
• 3x = y.

Теперь примем x = 1, следовательно, y = 3. Таким образом, второй собственный вектор выглядит как V2 = (1; 3). При умножении исходной матрицы на данный вектор, в результате всегда будет такой же вектор, умноженный на 12. На этом алгоритм решения заканчивается. Теперь вы знаете, как вручную определить собственный вектор матрицы.

• определитель;
• след, то есть сумму элементов на главной диагонали;
• ранг, то есть максимальное количество линейно независимых строк/столбцов.

Программа действует по выше приведенному алгоритму, максимально сокращая процесс решения. Важно указать, что в программе лямбда обозначена литерой «c». Давайте рассмотрим численный пример.

Пример работы программы

Попробуем определить собственные вектора для следующей матрицы:

• M = 5; 13;
• 4; 14.

Введем эти значения в ячейки калькулятора и получим ответ в следующем виде:

• Ранг матрицы: 2;
• Детерминант матрицы: 18;
• След матрицы: 19;
• Расчет собственного вектора: c 2 − 19,00c + 18,00 (характеристическое уравнение);
• Расчет собственного вектора: 18 (первое значение лямбда);
• Расчет собственного вектора: 1 (второе значение лямбда);
• Система уравнений вектора 1: -13x1 + 13y1 = 4x1 − 4y1;
• Система уравнений вектора 2: 4x1 + 13y1 = 4x1 + 13y1;
• Собственный вектор 1: (1; 1);
• Собственный вектор 2: (-3,25; 1).

Таким образом, мы получили два линейно независимых собственных вектора.

Заключение

Линейная алгебра и аналитическая геометрия - стандартные предметы для любого первокурсника технической специальности. Большое количество векторов и матриц приводит в ужас, а в столь громоздких вычислениях легко сделать ошибку. Наша программа позволит студентам проверить свои выкладки или автоматически решит задачу на поиск собственного вектора. В нашем каталоге есть и другие калькуляторы по линейной алгебре, используйте их в своей учебе или работе.

www.сайт позволяет найти . Сайт производит вычисление . За неколько секунд сервер выдаст правильное решение. Характеристическим уравнение для матрицы будет являться алгебраическое выражение, найденное по правилу вычисления определителя матрицы матрицы , при этом по главной диагонали будут стоять разницы значений диагональных элементов и переменной. При вычислении характеристического уравнения для матрицы онлайн , каждый элемент матрицы будет перемножаться с соответствующими другими элементами матрицы . Найти в режиме онлайн можно только для квадратной матрицы . Операция нахождения характеристического уравнения для матрицы онлайн сводится к вычислению алгебраической суммы произведения элементов матрицы как результат от нахождения определителя матрицы , только с целью определения характеристического уравнения для матрицы онлайн . Данная операция занимает особое место в теории матриц , позволяет найти собственные числа и векторы, используя корни . Задача по нахождению характеристического уравнения для матрицы онлайн заключается в перемножении элементов матрицы с последующим суммированием этих произведений по определенному правилу. www.сайт находит характеристическое уравнение для матрицы заданной размерности в режиме онлайн . Вычисление характеристического уравнения для матрицы онлайн при заданной её размерности - это нахождение многочлена с числовыми или символьными коэффициентами, найденного по правилу вычисления определителя матрицы - как сумма произведений соответствующих элементов матрицы , только с целью определения характеристического уравнения для матрицы онлайн . Нахождение полинома относительно переменной для квадратной матрицы , как определение характеристического уравнения для матрицы , распространено в теории матриц . Значение корней многочлена характеристического уравнения для матрицы онлайн используется для определения собственных векторов и собственных чисел для матрицы . При этом, если определитель матрицы будет равен нулю, то характеристическое уравнение матрицы все равно будет существовать, в отличии от обратной матрицы . Для того, чтобы вычислить характеристическое уравнение для матрицы или найти сразу для нескольких матриц характеристические уравнения , необходимо затратить не мало времени и усилий, в то время как наш сервер в считанные секунды найдет характеристическое уравнение для матрицы онлайн . При этом ответ по нахождению характеристического уравнения для матрицы онлайн будет правильным и с достаточной точностью, даже если числа при нахождении характеристического уравнения для матрицы онлайн будут иррациональными. На сайте www.сайт допускаются символьные записи в элементах матриц , то есть характеристическое уравнение для матрицы онлайн может быть представлено в общем символьном виде при вычислении характеристического уравнения матрицы онлайн . Полезно проверить ответ, полученный при решении задачи по нахождению характеристического уравнения для матрицы онлайн , используя сайт www.сайт . При совершении операции вычисления полинома - характеристического уравнения матрицы , необходимо быть внимательным и предельно сосредоточенным при решении данной задачи. В свою очередь наш сайт поможет Вам проверить своё решение на тему характеристическое уравнение матрицы онлайн . Если у Вас нет времени на долгие проверки решенных задач, то www.сайт безусловно будет являться удобным инструментом для проверки при нахождении и вычислении характеристического уравнения для матрицы онлайн .

". В первой части изложены положения, минимально необходимые для понимания хемометрики, а во второй части - факты, которые необходимо знать для более глубокого постижения методов многомерного анализа. Изложение иллюстрируется примерами, выполненными в рабочей книге Excel Matrix.xls , которая сопровождает этот документ.

Ссылки на примеры помещены в текст как объекты Excel. Эти примеры имеют абстрактный характер, они никак не привязаны к задачам аналитической химии. Реальные примеры использования матричной алгебры в хемометрике рассмотрены в других текстах, посвященных разнообразным хемометрическим приложениям.

Большинство измерений, проводимых в аналитической химии, являются не прямыми, а косвенными . Это означает, что в эксперименте вместо значения искомого аналита C (концентрации) получается другая величина x (сигнал), связанная, но не равная C, т.е. x (C) ≠ С. Как правило, вид зависимости x (C) не известен, однако, к счастью, в аналитической химии большинство измерений пропорциональны. Это означает, что при увеличении концентрации С в a раз, сигнал X увеличится на столько же., т.е. x (a C) = a x (C). Кроме того, сигналы еще и аддитивны, так что сигнал от пробы, в которой присутствуют два вещества с концентрациями C 1 и C 2 , будет равен сумме сигналов от каждого компонента, т.е. x (C 1 + C 2) = x (C 1)+ x (C 2). Пропорциональность и аддитивность вместе дают линейность . Можно привести много примеров, иллюстрирующих принцип линейности, но достаточно упомянуть два самых ярких примера - хроматографию и спектроскопию. Вторая особенность, присущая эксперименту в аналитической химии - это многоканальность . Современное аналитическое оборудование одновременно измеряет сигналы для многих каналов. Например, измеряется интенсивность пропускания света сразу для нескольких длин волн, т.е. спектр. Поэтому в эксперименте мы имеем дело со множеством сигналов x 1 , x 2 ,...., x n , характеризующих набор концентраций C 1 ,C 2 , ..., C m веществ, присутствующих в изучаемой системе.

Рис. 1 Спектры

Итак, аналитический эксперимент характеризуется линейностью и многомерностью. Поэтому удобно рассматривать экспериментальные данные как векторы и матрицы и манипулировать с ними, используя аппарат матричной алгебры. Плодотворность такого подхода иллюстрирует пример, показанный на , где представлены три спектра, снятые для 200 длин волн от 4000 до 4796 cm −1 . Первый (x 1) и второй (x 2) спектры получены для стандартных образцов, в которых концентрация двух веществ A и B, известны: в первом образце [A] = 0.5, [B] = 0.1, а во втором образце [A] = 0.2, [B] = 0.6. Что можно сказать о новом, неизвестном образце, спектр которого обозначен x 3 ?

Рассмотрим три экспериментальных спектра x 1 , x 2 и x 3 как три вектора размерности 200. Средствами линейной алгебры можно легко показать, что x 3 = 0.1 x 1 +0.3 x 2 , поэтому в третьем образце очевидно присутствуют только вещества A и B в концентрациях [A] = 0.5×0.1 + 0.2×0.3 = 0.11 и [B] = 0.1×0.1 + 0.6×0.3 = 0.19.

1. Базовые сведения

1.1 Матрицы

Матрицей называется прямоугольная таблица чисел, например

Рис. 2 Матрица

Матрицы обозначаются заглавными полужирными буквами (A ), а их элементы - соответствующими строчными буквами с индексами, т.е. a ij . Первый индекс нумерует строки, а второй - столбцы. В хемометрике принято обозначать максимальное значение индекса той же буквой, что и сам индекс, но заглавной. Поэтому матрицу A можно также записать как { a ij , i = 1,..., I ; j = 1,..., J }. Для приведенной в примере матрицы I = 4, J = 3 и a 23 = −7.5.

Пара чисел I и J называется размерностью матрицы и обознается как I ×J . Примером матрицы в хемометрике может служить набор спектров, полученный для I образцов на J длинах волн.

1.2. Простейшие операции с матрицами

Матрицы можно умножать на числа . При этом каждый элемент умножается на это число. Например -

Рис. 3 Умножение матрицы на число

Две матрицы одинаковой размерности можно поэлементно складывать и вычитать . Например,

Рис. 4 Сложение матриц

В результате умножения на число и сложения получается матрица той же размерности.

Нулевой матрицей называется матрица, состоящая из нулей. Она обозначается O . Очевидно, что A +O = A , A −A = O и 0A = O .

Матрицу можно транспонировать . При этой операции матрица переворачивается, т.е. строки и столбцы меняются местами. Транспонирование обозначается штрихом, A " или индексом A t . Таким образом, если A = {a ij , i = 1,..., I ; j = 1,...,J }, то A t = {a ji , j = 1,...,J ; i = 1,..., I }. Например

Рис. 5 Транспонирование матрицы

Очевидно, что (A t) t = A , (A +B ) t = A t +B t .

1.3. Умножение матриц

Матрицы можно перемножать , но только в том случае, когда они имеют соответствующие размерности. Почему это так, будет ясно из определения. Произведением матрицы A , размерностью I ×K , и матрицы B , размерностью K ×J , называется матрица C , размерностью I ×J , элементами которой являются числа

Таким образом для произведения AB необходимо, чтобы число столбцов в левой матрице A было равно числу строк в правой матрице B . Пример произведения матриц -

Рис.6 Произведение матриц

Правило перемножения матриц можно сформулировать так. Для того, чтобы найти элемент матрицы C , стоящий на пересечении i -ой строки и j -ого столбца (c ij ) надо поэлементно перемножить i -ую строку первой матрицы A на j -ый столбец второй матрицы B и сложить все результаты. Так в показанном примере, элемент из третьей строки и второго столбца, получается как сумма поэлементных произведений третьей строки A и второго столбца B

Рис.7 Элемент произведения матриц

Произведение матриц зависит от порядка, т.е. AB ≠ BA , хотя бы по соображениям размерности. Говорят, что оно некоммутативно. Однако произведение матриц ассоциативно. Это означает, что ABC = (AB )C = A (BC ). Кроме того, оно еще и дистрибутивно, т.е. A (B +C ) = AB +AC . Очевидно, что AO = O .

1.4. Квадратные матрицы

Если число столбцов матрицы равно числу ее строк (I = J = N ), то такая матрица называется квадратной. В этом разделе мы будем рассматривать только такие матрицы. Среди этих матриц можно выделить матрицы, обладающие особыми свойствами.

Единичной матрицей (обозначается I, а иногда E ) называется матрица, у которой все элементы равны нулю, за исключением диагональных, которые равны 1, т.е.

Очевидно AI = IA = A .

Матрица называется диагональной , если все ее элементы, кроме диагональных (a ii ) равны нулю. Например

Рис. 8 Диагональная матрица

Матрица A называется верхней треугольной , если все ее элементы, лежащие ниже диагонали, равны нулю, т.е. a ij = 0, при i >j . Например

Рис. 9 Верхняя треугольная матрица

Аналогично определяется и нижняя треугольная матрица.

Матрица A называется симметричной , если A t = A . Иными словами a ij = a ji . Например

Рис. 10 Симметричная матрица

Матрица A называется ортогональной , если

A t A = AA t = I .

Матрица называется нормальной если

1.5. След и определитель

Следом квадратной матрицы A (обозначается Tr(A ) или Sp(A )) называется сумма ее диагональных элементов,

Например,

Рис. 11 След матрицы

Очевидно, что

Sp(α A ) = α Sp(A ) и

Sp(A +B ) = Sp(A )+ Sp(B ).

Можно показать, что

Sp(A ) = Sp(A t), Sp(I ) = N ,

а также, что

Sp(AB ) = Sp(BA ).

Другой важной характеристикой квадратной матрицы является ее определитель (обозначается det(A )). Определение определителя в общем случае довольно сложно, поэтому мы начнем с простейшего варианта - матрицы A размерностью (2×2). Тогда

Для матрицы (3×3) определитель будет равен

В случае матрицы (N ×N ) определитель вычисляется как сумма 1·2·3· ... ·N = N ! слагаемых, каждый из которых равен

Индексы k 1 , k 2 ,..., k N определяются как всевозможные упорядоченные перестановки r чисел в наборе (1, 2, ... , N ). Вычисление определителя матрицы - это сложная процедура, которую на практике осуществляется с помощью специальных программ. Например,

Рис. 12 Определитель матрицы

Отметим только очевидные свойства:

det(I ) = 1, det(A ) = det(A t),

det(AB ) = det(A )det(B ).

1.6. Векторы

Если матрица состоит только из одного столбца (J = 1), то такой объект называется вектором . Точнее говоря, вектором-столбцом. Например

Можно рассматривать и матрицы, состоящие из одной строки, например

Этот объект также является вектором, но вектором-строкой . При анализе данных важно понимать, с какими векторами мы имеем дело - со столбцами или строками. Так спектр, снятый для одного образца можно рассматривать как вектор-строку. Тогда набор спектральных интенсивностей на какой-то длине волны для всех образцов нужно трактовать как вектор-столбец.

Размерностью вектора называется число его элементов.

Ясно, что всякий вектор-столбец можно превратить в вектор-строку транспонированием, т.е.

В тех случаях, когда форма вектора специально не оговаривается, а просто говорится вектор, то имеют в виду вектор-столбец. Мы тоже будем придерживаться этого правила. Вектор обозначается строчной прямой полужирной буквой. Нулевым вектором называется вектор, все элементы которого раны нулю. Он обозначается 0 .

1.7. Простейшие операции с векторами

Векторы можно складывать и умножать на числа так же, как это делается с матрицами. Например,

Рис. 13 Операции с векторами

Два вектора x и y называются колинеарными , если существует такое число α, что

1.8. Произведения векторов

Два вектора одинаковой размерности N можно перемножить. Пусть имеются два вектора x = (x 1 , x 2 ,...,x N) t и y = (y 1 , y 2 ,..., y N) t . Руководствуясь правилом перемножения "строка на столбец", мы можем составить из них два произведения: x t y и xy t . Первое произведение

называется скалярным или внутренним . Его результат - это число. Для него также используется обозначение (x ,y )= x t y . Например,

Рис. 14 Внутреннее (скалярное) произведение

Второе произведение

называется внешним . Его результат - это матрица размерности (N ×N ). Например,

Рис. 15 Внешнее произведение

Векторы, скалярное произведение которых равно нулю, называются ортогональными .

1.9. Норма вектора

Скалярное произведение вектора самого на себя называется скалярным квадратом. Эта величина

определяет квадрат длины вектора x . Для обозначения длины (называемой также нормой вектора) используется обозначение

Например,

Рис. 16 Норма вектора

Вектор единичной длины (||x || = 1) называется нормированным. Ненулевой вектор (x ≠ 0 ) можно нормировать, разделив его на длину, т.е. x = ||x || (x/ ||x ||) = ||x || e . Здесь e = x/ ||x || - нормированный вектор.

Векторы называются ортонормированными, если все они нормированы и попарно ортогональны.

1.10. Угол между векторами

Скалярное произведение определяет и угол φ между двумя векторами x и y

Если вектора ортогональны, то cosφ = 0 и φ = π/2, а если они колинеарны, то cosφ = 1 и φ = 0.

1.11. Векторное представление матрицы

Каждую матрицу A размера I ×J можно представить как набор векторов

Здесь каждый вектор a j является j -ым столбцом, а вектор-строка b i является i -ой строкой матрицы A

1.12. Линейно зависимые векторы

Векторы одинаковой размерности (N ) можно складывать и умножать на число, также как матрицы. В результате получится вектор той же размерности. Пусть имеется несколько векторов одной размерности x 1 , x 2 ,...,x K и столько же чисел α α 1 , α 2 ,...,α K . Вектор

y = α 1 x 1 + α 2 x 2 +...+ α K x K

называется линейной комбинацией векторов x k .

Если существуют такие ненулевые числа α k ≠ 0, k = 1,..., K , что y = 0 , то такой набор векторов x k называется линейно зависимым . В противном случае векторы называются линейно независимыми. Например, векторы x 1 = (2, 2) t и x 2 = (−1, −1) t линейно зависимы, т.к. x 1 +2x 2 = 0

1.13. Ранг матрицы

Рассмотрим набор из K векторов x 1 , x 2 ,...,x K размерности N . Рангом этой системы векторов называется максимальное число линейно-независимых векторов. Например в наборе

имеются только два линейно независимых вектора, например x 1 и x 2 , поэтому ее ранг равен 2.

Очевидно, что если векторов в наборе больше, чем их размерность (K >N ), то они обязательно линейно зависимы.

Рангом матрицы (обозначается rank(A )) называется ранг системы векторов, из которых она состоит. Хотя любую матрицу можно представить двумя способами (векторы столбцы или строки), это не влияет на величину ранга, т.к.

1.14. Обратная матрица

Квадратная матрица A называется невырожденной, если она имеет единственную обратную матрицу A -1 , определяемую условиями

AA −1 = A −1 A = I .

Обратная матрица существует не для всех матриц. Необходимым и достаточным условием невырожденности является

det(A ) ≠ 0 или rank(A ) = N .

Обращение матрицы - это сложная процедура, для выполнения которой существуют специальные программы. Например,

Рис. 17 Обращение матрицы

Приведем формулы для простейшего случая - матрицы 2×2

Если матрицы A и B невырождены, то

(AB ) −1 = B −1 A −1 .

1.15. Псевдообратная матрица

Если матрица A вырождена и обратная матрица не существует, то в некоторых случаях можно использовать псевдообратную матрицу, которая определяется как такая матрица A + , что

AA + A = A .

Псевдобратная матрица - не единственная и ее вид зависит от способа построения. Например для прямоугольной матрицы можно использовать метод Мура-Пенроуза .

Если число столбцов меньше числа строк, то

A + =(A t A ) −1 A t

Например,

Рис. 17a Псевдообращение матрицы

Если же число столбцов больше числа строк, то

A + =A t (AA t) −1

1.16. Умножение вектора на матрицу

Вектор x можно умножать на матрицу A подходящей размерности. При этом вектор-столбец умножается справа Ax , а вектор строка - слева x t A . Если размерность вектора J , а размерность матрицы I ×J то в результате получится вектор размерности I . Например,

Рис. 18 Умножение вектора на матрицу

Если матрица A - квадратная (I ×I ), то вектор y = Ax имеет ту же размерность, что и x . Очевидно, что

A (α 1 x 1 + α 2 x 2) = α 1 Ax 1 + α 2 Ax 2 .

Поэтому матрицы можно рассматривать как линейные преобразования векторов. В частности Ix = x , Ox = 0 .

2. Дополнительная информация

2.1. Системы линейных уравнений

Пусть A - матрица размером I ×J , а b - вектор размерности J . Рассмотрим уравнение

Ax = b

относительно вектора x , размерности I . По сути - это система из I линейных уравнений с J неизвестными x 1 ,...,x J . Решение существует в том, и только в том случае, когда

rank(A ) = rank(B ) = R ,

где B - это расширенная матрица размерности I ×(J+1 ), состоящая из матрицы A , дополненной столбцом b , B = (A b ). В противном случае уравнения несовместны.

Если R = I = J , то решение единственно

x = A −1 b .

Если R < I , то существует множество различных решений, которые можно выразить через линейную комбинацию J −R векторов. Система однородных уравнений Ax = 0 с квадратной матрицей A (N ×N ) имеет нетривиальное решение (x ≠ 0 ) тогда и только тогда, когда det(A ) = 0. Если R = rank(A )<N , то существуют N −R линейно независимых решений.

2.2. Билинейные и квадратичные формы

Если A - это квадратная матрица, а x и y - вектора соответствующей размерности, то скалярное произведение вида x t Ay называется билинейной формой, определяемой матрицей A . При x = y выражение x t Ax называется квадратичной формой.

2.3. Положительно определенные матрицы

Квадратная матрица A называется положительно определенной , если для любого ненулевого вектора x ≠ 0 ,

x t Ax > 0.

Аналогично определяются отрицательно (x t Ax < 0), неотрицательно (x t Ax ≥ 0) и неположительно (x t Ax ≤ 0) определенные матрицы.

2.4. Разложение Холецкого

Если симметричная матрица A положительно определена, то существует единственная треугольная матрица U с положительными элементами, для которой

A = U t U .

Например,

Рис. 19 Разложение Холецкого

2.5. Полярное разложение

Пусть A - это невырожденная квадратная матрица размерности N ×N . Тогда существует однозначное полярное представление

A = SR,

где S - это неотрицательная симметричная матрица, а R - это ортогональная матрица. Матрицы S и R могут быть определены явно:

S 2 = AA t или S = (AA t) ½ и R = S −1 A = (AA t) −½ A .

Например,

Рис. 20 Полярное разложение

Если матрица A вырождена, то разложение не единственно - а именно: S по-прежнему одна, а вот R может быть много. Полярное разложение представляет матрицу A как комбинацию сжатия/растяжения S и поворота R .

2.6. Собственные векторы и собственные значения

Пусть A - это квадратная матрица. Вектор v называется собственным вектором матрицы A , если

Av = λv ,

где число λ называется собственным значением матрицы A . Таким образом преобразование, которое выполняет матрица A над вектором v , сводится к простому растяжению или сжатию с коэффициентом λ. Собственный вектор определяется с точностью до умножения на константу α ≠ 0, т.е. если v - собственный вектор, то и αv - тоже собственный вектор.

2.7. Собственные значения

У матрицы A , размерностью (N ×N ) не может быть больше чем N собственных значений. Они удовлетворяют характеристическому уравнению

det(A − λI ) = 0,

являющемуся алгебраическим уравнением N -го порядка. В частности, для матрицы 2×2 характеристическое уравнение имеет вид

Например,

Рис. 21 Собственные значения

Набор собственных значений λ 1 ,..., λ N матрицы A называется спектром A .

Спектр обладает разнообразными свойствами. В частности

det(A ) = λ 1 ×...×λ N , Sp(A ) = λ 1 +...+λ N .

Собственные значения произвольной матрицы могут быть комплексными числами, однако если матрица симметричная (A t = A ), то ее собственные значения вещественны.

2.8. Собственные векторы

У матрицы A , размерностью (N ×N ) не может быть больше чем N собственных векторов, каждый из которых соответствует своему собственному значению. Для определения собственного вектора v n нужно решить систему однородных уравнений

(A − λ n I ) v n = 0 .

Она имеет нетривиальное решение, поскольку det(A − λ n I ) = 0.

Например,

Рис. 22 Собственные вектора

Собственные вектора симметричной матрицы ортогональны.

С матрицей А, если найдется такое число l, что АХ = lХ.

При этом число l называют собственным значением оператора (матрицы А), соответствующим вектору Х.

Иными словами, собственный вектор - это такой вектор, который под действием линейного оператора переходит в коллинеарный вектор, т.е. просто умножается на некоторое число. В отличие от него, несобственные векторы преобразуются более сложно.

Запишем определение собственного вектора в виде системы уравнений:

Перенесем все слагаемые в левую часть:

Последнюю систему можно записать в матричной форме следующим образом:

(А - lЕ)Х = О

Полученная система всегда имеет нулевое решение Х = О. Такие системы, в которых все свободные члены равны нулю, называют однородными . Если матрица такой системы - квадратная, и ее определитель не равен нулю, то по формулам Крамера мы всегда получим единственное решение - нулевое. Можно доказать, что система имеет ненулевые решения тогда и только тогда, когда определитель этой матрицы равен нулю, т.е.

|А - lЕ| = = 0

Это уравнение с неизвестным l называют характеристическим уравнением (характеристическим многочленом ) матрицы А (линейного оператора).

Можно доказать, что характеристический многочлен линейного оператора не зависит от выбора базиса.

Например, найдем собственные значения и собственные векторы линейного оператора, заданного матрицей А = .

Для этого составим характеристическое уравнение |А - lЕ| = = (1 - l) 2 - 36 = 1 - 2l + l 2 - 36 = l 2 - 2l - 35 = 0; Д = 4 + 140 = 144; собственные значения l 1 = (2 - 12)/2 = -5; l 2 = (2 + 12)/2 = 7.

Чтобы найти собственные векторы, решаем две системы уравнений

(А + 5Е)Х = О

(А - 7Е)Х = О

Для первой из них расширенная матрица примет вид

,

откуда х 2 = с, х 1 + (2/3)с = 0; х 1 = -(2/3)с, т.е. Х (1) = (-(2/3)с; с).

Для второй из них расширенная матрица примет вид

,

откуда х 2 = с 1 , х 1 - (2/3)с 1 = 0; х 1 = (2/3)с 1 , т.е. Х (2) = ((2/3)с 1 ; с 1).

Таким образом, собственными векторами этого линейного оператора являются все вектора вида (-(2/3)с; с) с собственным значением (-5) и все вектора вида ((2/3)с 1 ; с 1) с собственным значением 7.

Можно доказать, что матрица оператора А в базисе, состоящем из его собственных векторов, является диагональной и имеет вид:

,

где l i - собственные значения этой матрицы.

Верно и обратное: если матрица А в некотором базисе является диагональной, то все векторы этого базиса будут собственными векторами этой матрицы.

Также можно доказать, что если линейный оператор имеет n попарно различных собственных значений, то соответствующие им собственные векторы линейно независимы, а матрица этого оператора в соответствующем базисе имеет диагональный вид.

Поясним это на предыдущем примере. Возьмем произвольные ненулевые значения с и с 1 , но такие, чтобы векторы Х (1) и Х (2) были линейно независимыми, т.е. образовали бы базис. Например, пусть с = с 1 = 3, тогда Х (1) = (-2; 3), Х (2) = (2; 3).

Убедимся в линейной независимости этих векторов:

12 ≠ 0. В этом новом базисе матрица А примет вид А * = .

Чтобы убедиться в этом, воспользуемся формулой А * = С -1 АС. Вначале найдем С -1 .

С -1 = ;

Квадратичные формы

Квадратичной формой f(х 1 , х 2 , х n) от n переменных называют сумму, каждый член которой является либо квадратом одной из переменных, либо произведением двух разных переменных, взятым с некоторым коэффициентом: f(х 1 , х 2 , х n) = (a ij = a ji).

Матрицу А, составленную из этих коэффициентов, называют матрицей квадратичной формы . Это всегда симметрическая матрица (т.е. матрица, симметричная относительно главной диагонали, a ij = a ji).

В матричной записи квадратичная форма имеет вид f(Х) = Х Т AX, где

В самом деле

Например, запишем в матричном виде квадратичную форму .

Для этого найдем матрицу квадратичной формы. Ее диагональные элементы равны коэффициентам при квадратах переменных, а остальные элементы - половинам соответствующих коэффициентов квадратичной формы. Поэтому

Пусть матрица-столбец переменных X получена невырожденным линейным преобразованием матрицы-столбца Y, т.е. X = CY, где С - невырожденная матрица n-го порядка. Тогда квадратичная форма f(X) = Х T АХ = (CY) T A(CY) = (Y T C T)A(CY) = Y T (C T AC)Y.

Таким образом, при невырожденном линейном преобразовании С матрица квадратичной формы принимает вид: А * = C T AC.

Например, найдем квадратичную форму f(y 1 , y 2), полученную из квадратичной формы f(х 1 , х 2) = 2x 1 2 + 4х 1 х 2 - 3х 2 2 линейным преобразованием .

Квадратичная форма называется канонической (имеет канонический вид ), если все ее коэффициенты a ij = 0 при i ≠ j, т.е.
f(х 1 , х 2 , х n) = a 11 x 1 2 + a 22 x 2 2 + a nn x n 2 = .

Ее матрица является диагональной.

Теорема (доказательство здесь не приводится). Любая квадратичная форма может быть приведена к каноническому виду с помощью невырожденного линейного преобразования.

Например, приведем к каноническому виду квадратичную форму
f(х 1 , х 2 , х 3) = 2x 1 2 + 4х 1 х 2 - 3х 2 2 - х 2 х 3 .

Для этого вначале выделим полный квадрат при переменной х 1:

f(х 1 , х 2 , х 3) = 2(x 1 2 + 2х 1 х 2 + х 2 2) - 2х 2 2 - 3х 2 2 - х 2 х 3 = 2(x 1 + х 2) 2 - 5х 2 2 - х 2 х 3 .

Теперь выделяем полный квадрат при переменной х 2:

f(х 1 , х 2 , х 3) = 2(x 1 + х 2) 2 - 5(х 2 2 + 2* х 2 *(1/10)х 3 + (1/100)х 3 2) + (5/100)х 3 2 =
= 2(x 1 + х 2) 2 - 5(х 2 - (1/10)х 3) 2 + (1/20)х 3 2 .

Тогда невырожденное линейное преобразование y 1 = x 1 + х 2 , y 2 = х 2 + (1/10)х 3 и y 3 = x 3 приводит данную квадратичную форму к каноническому виду f(y 1 , y 2 , y 3) = 2y 1 2 - 5y 2 2 + (1/20)y 3 2 .

Отметим, что канонический вид квадратичной формы определяется неоднозначно (одна и та же квадратичная форма может быть приведена к каноническому виду разными способами). Однако полученные различными способами канонические формы обладают рядом общих свойств. В частности, число слагаемых с положительными (отрицательными) коэффициентами квадратичной формы не зависит от способа приведения формы к этому виду (например, в рассмотренном примере всегда будет два отрицательных и один положительный коэффициент). Это свойство называют законом инерции квадратичных форм.

Убедимся в этом, по-другому приведя ту же квадратичную форму к каноническому виду. Начнем преобразование с переменной х 2:

f(х 1 , х 2 , х 3) = 2x 1 2 + 4х 1 х 2 - 3х 2 2 - х 2 х 3 = -3х 2 2 - х 2 х 3 + 4х 1 х 2 + 2x 1 2 = -3(х 2 2 +
+ 2* х 2 ((1/6) х 3 - (2/3)х 1) + ((1/6) х 3 - (2/3)х 1) 2) + 3((1/6) х 3 - (2/3)х 1) 2 + 2x 1 2 =
= -3(х 2 + (1/6) х 3 - (2/3)х 1) 2 + 3((1/6) х 3 + (2/3)х 1) 2 + 2x 1 2 = f(y 1 , y 2 , y 3) = -3y 1 2 -
+3y 2 2 + 2y 3 2 , где y 1 = - (2/3)х 1 + х 2 + (1/6) х 3 , y 2 = (2/3)х 1 + (1/6) х 3 и y 3 = x 1 . Здесь отрицательный коэффициент -3 при y 1 и два положительных коэффициента 3 и 2 при y 2 и y 3 (а при использовании другого способа мы получили отрицательный коэффициент (-5) при y 2 и два положительных: 2 при y 1 и 1/20 при y 3).

Также следует отметить, что ранг матрицы квадратичной формы, называемый рангом квадратичной формы , равен числу отличных от нуля коэффициентов канонической формы и не меняется при линейных преобразованиях.

Квадратичную форму f(X) называют положительно (отрицательно ) определенной , если при всех значениях переменных, не равных одновременно нулю, она положительна, т.е. f(X) > 0 (отрицательна, т.е.
f(X) < 0).

Например, квадратичная форма f 1 (X) = x 1 2 + х 2 2 - положительно определенная, т.к. представляет собой сумму квадратов, а квадратичная форма f 2 (X) = -x 1 2 + 2x 1 х 2 - х 2 2 - отрицательно определенная, т.к. представляет ее можно представить в виде f 2 (X) = -(x 1 - х 2) 2 .

В большинстве практических ситуации установить знакоопределенность квадратичной формы несколько сложнее, поэтому для этого используют одну из следующих теорем (сформулируем их без доказательств).

Теорема . Квадратичная форма является положительно (отрицательно) определенной тогда и только тогда, когда все собственные значения ее матрицы положительны (отрицательны).

Теорема (критерий Сильвестра). Квадратичная форма является положительно определенной тогда и только тогда, когда все главные миноры матрицы этой формы положительны.

Главным (угловым) минором k-го порядка матрицы А n-го порядка называют определитель матрицы, составленный из первых k строк и столбцов матрицы А ().

Отметим, что для отрицательно определенных квадратичных форм знаки главных миноров чередуются, причем минор первого порядка должен быть отрицательным.

Например, исследуем на знакоопределенность квадратичную форму f(х 1 , х 2) = 2x 1 2 + 4х 1 х 2 + 3х 2 2 .

= (2 - l)*
*(3 - l) - 4 = (6 - 2l - 3l + l 2) - 4 = l 2 - 5l + 2 = 0; D = 25 - 8 = 17;
. Следовательно, квадратичная форма - положительно определенная.

Способ 2. Главный минор первого порядка матрицы А D 1 = a 11 = 2 > 0. Главный минор второго порядка D 2 = = 6 - 4 = 2 > 0. Следовательно, по критерию Сильвестра квадратичная форма - положительно определенная.

Исследуем на знакоопределенность другую квадратичную форму, f(х 1 , х 2) = -2x 1 2 + 4х 1 х 2 - 3х 2 2 .

Способ 1. Построим матрицу квадратичной формы А = . Характеристическое уравнение будет иметь вид = (-2 - l)*
*(-3 - l) - 4 = (6 + 2l + 3l + l 2) - 4 = l 2 + 5l + 2 = 0; D = 25 - 8 = 17;
. Следовательно, квадратичная форма - отрицательно определенная.

Способ 2. Главный минор первого порядка матрицы А D 1 = a 11 =
= -2 < 0. Главный минор второго порядка D 2 = = 6 - 4 = 2 > 0. Следовательно, по критерию Сильвестра квадратичная форма - отрицательно определенная (знаки главных миноров чередуются, начиная с минуса).

И в качестве еще одного примера исследуем на знакоопределенность квадратичную форму f(х 1 , х 2) = 2x 1 2 + 4х 1 х 2 - 3х 2 2 .

Способ 1. Построим матрицу квадратичной формы А = . Характеристическое уравнение будет иметь вид = (2 - l)*
*(-3 - l) - 4 = (-6 - 2l + 3l + l 2) - 4 = l 2 + l - 10 = 0; D = 1 + 40 = 41;
.

Одно из этих чисел отрицательно, а другое - положительно. Знаки собственных значений разные. Следовательно, квадратичная форма не может быть ни отрицательно, ни положительно определенной, т.е. эта квадратичная форма не является знакоопределенной (может принимать значения любого знака).

Способ 2. Главный минор первого порядка матрицы А D 1 = a 11 = 2 > 0. Главный минор второго порядка D 2 = = -6 - 4 = -10 < 0. Следовательно, по критерию Сильвестра квадратичная форма не является знакоопределенной (знаки главных миноров разные, при этом первый из них - положителен).

Наиболее просто устроены матрицы диагонального вида . Возникает вопрос, нельзя ли найти базис, в котором матрица линейного оператора имела бы диагональный вид. Такой базис существует.
Пусть дано линейное пространство R n и действующий в нем линейный оператор A; в этом случае оператор A переводит R n в себя, то есть A:R n → R n .

Определение. Ненулевой вектор называется собственным вектором оператора A , если оператор A переводит в коллинеарный ему вектор, то есть . Число λ называется собственным значением или собственным числом оператора A, соответствующим собственному вектору .
Отметим некоторые свойства собственных чисел и собственных векторов.
1. Любая линейная комбинация собственных векторов оператора A, отвечающих одному и тому же собственному числу λ, является собственным вектором с тем же собственным числом.
2. Собственные векторы оператора A с попарно различными собственными числами λ 1 , λ 2 , …, λ m линейно независимы.
3. Если собственные числа λ 1 =λ 2 = λ m = λ, то собственному числу λ соответствует не более m линейно независимых собственных векторов.

Итак, если имеется n линейно независимых собственных векторов , соответствующих различным собственным числам λ 1 , λ 2 , …, λ n , то они линейно независимы, следовательно, их можно принять за базис пространства R n . Найдем вид матрицы линейного оператора A в базисе из его собственных векторов, для чего подействуем оператором A на базисные векторы: тогда .
Таким образом, матрица линейного оператора A в базисе из его собственных векторов имеет диагональный вид, причем по диагонали стоят собственные числа оператора A.
Существует ли другой базис, в котором матрица имеет диагональный вид? Ответ на поставленный вопрос дает следующая теорема.

Теорема. Матрица линейного оператора A в базисе (i = 1..n) имеет диагональный вид тогда и только тогда, когда все векторы базиса - собственные векторы оператора A.

Правило отыскания собственных чисел и собственных векторов

Пусть дан вектор , где x 1 , x 2 , …, x n - координаты вектора относительно базиса и - собственный вектор линейного оператора A, соответствующий собственному числу λ , то есть . Это соотношение можно записать в матричной форме

. (*)

Уравнение (*) можно рассматривать как уравнение для отыскания , причем , то есть нас интересуют нетривиальные решения, поскольку собственный вектор не может быть нулевым. Известно, что нетривиальные решения однородной системы линейных уравнений существуют тогда и только тогда, когда det(A - λE) = 0. Таким образом, для того, чтобы λ было собственным числом оператора A необходимо и достаточно, чтобы det(A - λE) = 0.
Если уравнение (*) расписать подробно в координатной форме, то получим систему линейных однородных уравнений:

(1)
где - матрица линейного оператора.

Система (1) имеет ненулевое решение, если ее определитель D равен нулю

Получили уравнение для нахождения собственных чисел.
Это уравнение называется характеристическим уравнением, а его левая часть - характеристическим многочленом матрицы (оператора) A. Если характеристический многочлен не имеет вещественных корней, то матрица A не имеет собственных векторов и ее нельзя привести к диагональному виду.
Пусть λ 1 , λ 2 , …, λ n - вещественные корни характеристического уравнения, причем среди них могут быть и кратные. Подставляя по очереди эти значения в систему (1), находим собственные векторы.

Пример 12. Линейный оператор A действует в R 3 по закону , где x 1 , x 2 , .., x n - координаты вектора в базисе , , . Найти собственные числа и собственные векторы этого оператора.
Решение. Строим матрицу этого оператора:
.
Составляем систему для определения координат собственных векторов:

Составляем характеристическое уравнение и решаем его:

.
λ 1,2 = -1, λ 3 = 3.
Подставляя λ = -1 в систему, имеем:
или
Так как , то зависимых переменных два, а свободное одно.
Пусть x 1 - свободное неизвестное, тогда Решаем эту систему любым способом и находим общее решение этой системы: Фундаментальная система решений состоит из одного решения, так как n - r = 3 - 2 = 1.
Множество собственных векторов, отвечающих собственному числу λ = -1, имеет вид: , где x 1 - любое число, отличное от нуля. Выберем из этого множества один вектор, например, положив x 1 = 1: .
Рассуждая аналогично, находим собственный вектор, отвечающий собственному числу λ = 3: .
В пространстве R 3 базис состоит из трех линейно независимых векторов, мы же получили только два линейно независимых собственных вектора, из которых базис в R 3 составить нельзя. Следовательно, матрицу A линейного оператора привести к диагональному виду не можем.

Пример 13. Дана матрица .
1. Доказать, что вектор является собственным вектором матрицы A. Найти собственное число, соответствующее этому собственному вектору.
2. Найти базис, в котором матрица A имеет диагональный вид.
Решение.
1. Если , то - собственный вектор

.
Вектор (1, 8, -1) - собственный вектор. Собственное число λ = -1.
Диагональный вид матрица имеет в базисе, состоящем из собственных векторов. Один из них известен. Найдем остальные.
Собственные векторы ищем из системы:

Характеристическое уравнение: ;
(3 + λ)[-2(2-λ)(2+λ)+3] = 0; (3+λ)(λ 2 - 1) = 0
λ 1 = -3, λ 2 = 1, λ 3 = -1.
Найдем собственный вектор, отвечающий собственному числу λ = -3:

Ранг матрицы этой системы равен двум и равен числу неизвестных, поэтому эта система имеет только нулевое решение x 1 = x 3 = 0. x 2 здесь может быть любым, отличным от нуля, например, x 2 = 1. Таким образом, вектор (0,1,0) является собственным вектором, отвечающим λ = -3. Проверим:
.
Если λ = 1, то получаем систему
Ранг матрицы равен двум. Последнее уравнение вычеркиваем.
Пусть x 3 - свободное неизвестное. Тогда x 1 = -3x 3 , 4x 2 = 10x 1 - 6x 3 = -30x 3 - 6x 3 , x 2 = -9x 3 .
Полагая x 3 = 1, имеем (-3,-9,1) - собственный вектор, отвечающий собственному числу λ = 1. Проверка:

.
Так как собственные числа действительные и различны, то векторы, им отвечающие, линейно независимы, поэтому их можно принять за базис в R 3 . Таким образом, в базисе , , матрица A имеет вид:
.
Не всякую матрицу линейного оператора A:R n → R n можно привести к диагональному виду, поскольку для некоторых линейных операторов линейно независимых собственных векторов может быть меньше n. Однако, если матрица симметрическая, то корню характеристического уравнения кратности m соответствует ровно m линейно независимых векторов.

Определение. Симметрической матрицей называется квадратная матрица, в которой элементы, симметричные относительно главной диагонали, равны, то есть в которой .
Замечания. 1. Все собственные числа симметрической матрицы вещественны.
2. Собственные векторы симметрической матрицы, соответствующие попарно различным собственным числам, ортогональны.
В качестве одного из многочисленных приложений изученного аппарата, рассмотрим задачу об определении вида кривой второго порядка.