Книга посвящена изложению теории матриц и её приложениям к теории дифференциальных уравнений, математической экономике, теории вероятностей. Монография написана так, что её может читать студент, не изучавший ранее линейную алгебру. В книге имеется более 600 задач; многие из них подводят читателя к самостоятельной научной деятельности в области теории матриц. Ценность книги увеличивают приводимые в конце каждой главы обзоры последних оригинальных работ в соответствующей области.

Книга рассчитана на студентов университетов и втузов, на инженеров, физиков, механиков, использующих матричный аппарат. Много привлекательного найдёт в ней и математик, интересующийся собственно теорией матриц.

Предлагаемый читателю перевод книги известного американского математика Р. Беллмана «Введение в теорию матриц» вызовет безусловный интерес не только у физиков, механиков и инженеров, использующих матричный аппарат, но и у специалистов‑математиков, интересующихся математическими аспектами теории.

В книге излагается собственно теория матриц и её приложения к теории дифференциальных уравнений, теории вероятностей, математической экономике, проблеме отыскания экстремума в случае большого числа переменных и другим вопросам.

Помимо основного текста, в котором, как правило, приводятся доказательства сравнительно несложных утверждений, автор в конце каждой главы помещает значительное число задач, углубляющих и развивающих затрагиваемые вопросы. Часть задач уводит читателя далеко за рамки основного текста.

Как отмечает автор книги, задачи не расположены в тексте в порядке возрастающей трудности. Мы сохранили тот же порядок задач, хотя это, на наш взгляд, и вызовет у читателя известные трудности.

Несмотря на то, что на русском языке имеется прекрасная монография Ф.Р. Гантмахера по теории матриц, перевод книги Р. Беллмана следует признать целесообразным. Уступая книге Ф.Р. Гантмахера в систематичности, стройности и последовательности изложения, книга Р. Беллмана отличается широким охватом новых проблем теории матриц и её приложений.

Ценность книги повышают приводимые автором в конце каждой главы обзоры, в которых названы и прокомментированы оригинальные статьи и новые результаты в соответствующем направлении.

При переводе книги были устранены опечатки и прочие погрешности, которых в оригинале обнаружилось значительное количество. Некоторые доказательства, оказавшиеся неудачными, были заменены.

При редактировании были сделаны примечания и составлен дополнительный список литературы.

Число работ по теории матриц непрерывно растёт. Мы указали лишь те из них, которые имеют непосредственное отношение к вопросам, обсуждаемым в книге.

В проверке задач (их в книге более шестисот) мне помог А.Я. Белянков. Пользуясь случаем, приношу ему свою признательность.

В.Б. Лидский

Перевод этой книги на русский язык — для меня честь и большая радость. Различие в языках ставит преграды между народами, и переводы служат благородной цели осуществления свободного обмена, который иначе был бы невозможен. Они позволяют узнать всё то прекрасное и доброе, что создано другими культурами.

Поскольку теория матриц — одна из самых изящных частей математического анализа, естественно, чтобы русские работы в этой области переводились на английский язык и наоборот. Я хотел бы надеяться, что эту книгу прочтут с тем же удовольствием, с которым я её писал.

Ещё одно замечание. Сейчас трудное время для всех, кто заинтересован в мире и процветании народов. Будем надеяться, что тот факт, что в США и в СССР так много поборников правды и красоты, послужит делу объединения наших народов и что дружба между нашими народами приведёт к счастливой жизни, к которой все стремятся.

Ричард Беллман
Лос Анджелес, Калифорния
Университет Южной Калифорнии

Цель настоящего тома — ввести читателя в круг идей и методов теории матриц, которую можно справедливо считать арифметикой высшей математики.

Постараемся оправдать наше решение отвести теории матриц столь важную роль. Рассматривая в целом любую из классических областей математики, нетрудно заметить, что наиболее интересные и важные её разделы связаны с анализом взаимодействия различных факторов. Одним из примеров описания этого взаимодействия служат функции от нескольких переменных. Анализ таких функций приводит к преобразованиям многомерного типа.

Довольно быстро становится ясным, что само описание возникающих при этом задач сопряжено со значительными трудностями. Достаточно обратиться к работам, написанным сто лет назад, чтобы убедиться в том, как велика опасность в начале любого исследования потонуть в море арифметических и алгебраических деталей. И это помимо многочисленных понятий и аналитических трудностей.

Таким образом, решительные усилия должны быть направлены прежде всего на создание удобных, гибких и восприимчивых обозначений. Хотя какая‑либо количественная оценка зависимости успеха исследования от хорошо придуманных обозначений вряд ли будет иметь смысл, нетрудно привести огромное число примеров, когда решения становились очевидными благодаря удачной формулировке задачи. Напротив, там, где используются неуклюжие и туманные обозначения, для решения потребуются неизмеримо большие усилия. Представьте себе, например, как сложно было бы производить арифметические и алгебраические операции с римскими цифрами.

Хорошо построенными обозначениями нужно стремиться выразить математическую суть задачи, и ни в коем случае не затемнять её и не отвлекать от неё.

Сделав такое вступление, мы теперь выскажем очень простой силлогизм: матрицы являются наиболее важными преобразованиями — линейными преобразованиями: преобразования образуют сердцевину математики. В этом суть нашего первого утверждения.

Этот том, первый из планируемой к выпуску серии, посвящённой результатам и методам современной теории матриц, должен познакомить читателя с основными понятиями теории матриц. Особое внимание в нём будет уделено анализу и приложениям к задачам математической физики, техники и математической экономики.

Теория матриц на том уровне, на котором мы собираемся её здесь излагать, довольно чётко распадается на три части: теория симметрических матриц, которая проникает во все области; матрицы и дифференциальные уравнения — раздел, представляющий интерес в первую очередь для инженера и физика; положительные матрицы, играющие особо важную роль в теории вероятностей и математической экономике.

Хотя мы не пытались связать изложение материала с какими‑либо реальными прикладными задачами, мы всегда старались указать на происхождение основных проблем, рассматриваемых в книге.

Изложение начинается с задачи нахождения максимума или минимума функции нескольких переменных. Используя методы дифференциального исчисления, мы показываем, что определение локального максимума или минимума при обычных предположениях о существовании достаточного числа частных производных приводит к соответствующей задаче для функций, значительно более простых, а именно к квадратичным функциям. Таким образом, мы приходим к рассмотрению квадратичных форм, а следовательно, и симметрических матриц.

Сначала рассматривается случай функции двух переменных, где обычных обозначений вполне достаточно для описания всех интересующих нас результатов. Обратившись к случаю более высокого числа измерений, мы убедимся в необходимости новых обозначений. Тем не менее глубокое понимание двумерного случая очень важно, поскольку все важные черты многомерного случая содержатся уже здесь.

Оставив задачу многомерной максимизации, мы обращаемся к введению матричных обозначений. При этом на каждом этапе мы стараемся вводить только те новые символы и понятия, в которых возникает необходимость. Читателя, возможно, удивит, насколько далеко можно продвинуться в изучении теории симметрических матриц, не вводя понятия обратной матрицы.

Следуя этой идее, мы отказались от обычного подхода, при котором новое понятие обратной матрицы заливают потоком результатов, связанных с решением линейных систем уравнений. Никоим образом не желая умалить важность такого подхода, отметим всё же, что, отказавшись от этого длинного и несколько утомительного пути, можно всё же изложить целый ряд важных и интересных результатов. Понятие линейной независимости вводится в связи с процессом ортогонализации, где оно играет первостепенную роль. В приложении приводится доказательство основного результата, касающегося решений линейных систем, а также обсуждаются некоторые теоремы о ранге матрицы.

Это понятие, очень важное для многих разделов теории матриц, не имеет большого значения в тех разделах, которые мы здесь изучаем.

Очень часто во многих разделах математики от читателя требуют большого количества подготовительного материала, на первый взгляд не имеющего прямого отношения к основным результатам. Мы старались избегать такого положения. Основанием для введения нового понятия для нас служило возникновение конкретной задачи. Это в какой‑то мере отражает действительное положение вещей, с которым сталкивается математик в своих исследованиях.

Хотя мы и старались сделать логичным наше наложение, это не было самоцелью. Логика в конце концов является одним из приёмов, изобретённых человеческим умом для решения определённых задач. Но математика — это больше, чем логика, это — логика плюс процесс созидания. То, каким образом законы и понятия логики, составляющие орудие математики, используются для получения результатов, вряд ли является логическим процессом, во всяком случае, не более логическим, чем создание симфонии или картины.

Введя квадратные матрицы, центральный объект нашего исследования, мы займёмся каноническим представлением действительных квадратичных форм или, что то же, действительных симметрических матриц. Здесь будет установлен очень важный результат теории симметрических матриц, состоящий в том, что всякая действительная симметрическая матрица в определённом смысле эквивалентна диагональной матрице.

Другими словами, многомерные преобразования этого типа можно рассматривать как совокупность одновременно выполняемых одномерных преобразований.

Результаты этих вступительных глав поучительны по ряду причин. Прежде всего они показывают, как существенно упрощаются доказательства, если предположить, что характеристические числа матрицы простые. Во‑вторых, на их примере можно убедиться, что трудности, возникающие из‑за кратности характеристических чисел, могут быть преодолены при помощи двух мощных методов: индукции и предельного перехода по непрерывности.

Второй из этих методов требует очень осторожного обращения. Без преувеличения можно сказать, что те моменты доказательств, где мы пользуемся им, являются самыми трудными во всей книге. Именно поэтому мы не везде, где это возможно, пользовались этим приёмом и часто лишь ограничивались указанием на его применимость. Читатели могут воспринимать это как вызов или, скорее, призыв провести доказательство этим методом во всех деталях.

Получив диагональное представление, мы приступим к выводу минимаксных свойств характеристических чисел, открытых Курантом и Фишером. Обобщение этих свойств на случай операторов с частными производными, проведённое Курантом, является одним из выдающихся достижений математики.

После этого вполне уместно заняться некоторыми дальнейшими свойствами матриц. В частности, мы изучим некоторые частные функции матриц. Вопрос об общем определении функции от матриц довольно сложен, и мы лишь слегка затронем его.

Далее, мы вернёмся к нашей исходной задаче — исследованию области значений квадратичной формы. На этот раз, правда, мы усложним задачу введением линейных ограничений. Это усложнение не только интересно само по себе, но и даёт нам прекрасный повод для введения прямоугольных матриц. На этой стадии разумно рассмотреть матрицы, элементы которых сами являются матрицами. Такое обобщение матричных обозначений часто оказывается чрезвычайно полезным.

После этого мы рассмотрим ряд очень интересных матричных неравенств, характеризующих собственные значения, а также различные функции собственных значений. Глава, посвящённая неравенствам, является наиболее специальной из всех глав этой книги; она скорее отражает вкусы автора, нежели отвечает потребностям читателя.

В последней из глав, посвящённых симметрическим матрицам, рассматривается метод функциональных уравнений динамического программирования. Ряд задач максимизации и минимизации квадратичных форм, а также решение линейных систем изучаются с помощью этого метода. Интересной чертой получаемых аналитических результатов является их явная зависимость от параметров, которые при решении обычно считают постоянными. Вместе с тем рекуррентные соотношения, которые лежат в основе метода динамического программирования, приводят к алгоритмам, нередко оказывающимся удобными с вычислительной точки зрения.

Вторая треть этого тома посвящена приложению теории матриц к решению линейных систем дифференциальных уравнений. У читателя не предполагается предварительного знакомства с дифференциальными уравнениями. Требующиеся теоремы существования и единственности для линейных систем будут доказаны в ходе изложения.

Важную роль в исследовании линейных систем с постоянными коэффициентами играет понятие матричного экспоненциала. Через эту функцию от матрицы выражается решение линейной системы. Случай переменных коэффициентов более сложен. Для того чтобы получить аналогичное выражение для решения в этом случае, нужно ввести понятие матрицанта. Однако рассмотрение этого понятия выходит за рамки этой книги. Заметим, что матрицант играет важную роль в современной квантовой механике.

Хотя экспоненциал и очень удобен для представления решения линейной системы с постоянными коэффициентами, он не даёт выражений для отдельных компонент решения. Для этой цели мы пользуемся методом Эйлера нахождения частных решений экспоненциального вида. При этом мы опять приходим к задаче определения характеристических чисел и собственных векторов матрицы. Поскольку здесь матрица уже не является, вообще говоря, симметрической, эта задача много сложнее той, которой мы занимались в предыдущих главах. Хотя и здесь имеется несколько канонических форм, ни одна из них уже не является такой удобной, как диагональная форма, полученная в случае симметрических и эрмитовых матриц.

Представление решения в виде суммы экспонент, а также предельные случаи позволяют нам сформулировать необходимые и достаточные условия того, что все решения однородной системы стремятся к нулевому вектору при стремлении к бесконечности временного параметра. Так мы приходим к задаче устойчивости и формулируем несколько критериев устойчивости. В общем виде эта задача чрезвычайно сложна.

Получив ряд результатов для общего случая не обязательно симметрических матриц, мы обращаемся к задачам, представляющим более специфический интерес. Дана матрица A. Как определить матрицу, собственные значения которой являются определёнными функциями от собственных значений A? Если мы разыскиваем эти функции как некоторые симметрические функции от собственных значений A, то весьма естественным образом мы приходим к одной из важнейших концепций алгебры матриц — к понятию кронекеровского произведения двух матриц. Как мы увидим в заключительной части книги, эта функция от двух матриц появляется также при изучении случайных матриц.

Заключительная часть этого тома посвящена изучению матриц, все элементы которых неотрицательны. Матрицы этого явно специального вида появляются двумя возможными путями: во‑первых, при изучении марковских процессов, и, во‑вторых, при решении различных экономических задач.

Рассмотрение физических истоков этих матриц делает интуитивно ясным большое число важных и интересных предельных теорем, связанных с именами Маркова, Перрона и Фробениуса. Фундаментальную роль в теории положительных матриц играет, в частности, ряд преобразований, выполненных Виландом.

Небольшая глава посвящена теории случайных матриц. В этой области мы имеем дело скорее с мультипликативными и, следовательно, некоммутативными операциями, чем с аддитивными и коммутативными. Эти аспекты теории стохастических процессов почти не исследованы. Результаты, которые мы приводим, являются вводными и достаточно элементарными.

Наконец, в серии приложений изложены некоторые дополнительные сведения, которые либо имеют косвенное отношение к основным проблемам книги, либо представляют весьма специальный интерес. Результаты, полученные в теории симметрических матриц Селбергом, Эрмитом и Фишером, являются столь элегантными, что остаётся только сожалеть, что не было абсолютно никакой возможности включить их в книгу.

Несколько слов к читателю, впервые обращающемуся к этой пленительной области. Как указывалось выше, этот том написан как введение в теорию матриц. Хотя все главы являются вводными в этом смысле, однако, перефразируя слова Оруэла, можно сказать, что некоторые из них являются более вводными, чем другие.

Следовательно, не обязательно читать главы одну за другой. Начинающему настоятельно советуем прочесть главы 1–5 в качестве общего введения в теорию матричных операций и как зачатки теории симметрических матриц. После этого целесообразно перейти к общему изучению квадратных матриц, используя для этой цели гл. 10 и 11. Наконец, для понимания общих основ марковских и неотрицательных матриц могут быть изучены гл. 14 и 16. Совместно с решением ряда упражнений этот материал составит содержание семестрового курса лекций.

Читатель, изучающий теорию матриц самостоятельно, может следовать своей собственной программе.

Поднявшись на этот уровень, можно перейти к следующей важной области — минимаксным свойствам собственных значений матриц. В этой связи предлагается изучить кронекеровское произведение. Здесь кажется подходящей гл. 6. Оставшиеся главы могут читаться после этого в любой последовательности.

Несколько замечаний относительно упражнений. Поскольку цель математиков состоит в том, чтобы решать задачи, то очевидно, что невозможно оценить свой собственный прогресс, не пробуя свои силы на некоторых задачах. Что мы пытались сделать — это предусмотреть задачи разной степени сложности, начиная от чисто иллюстративных и кончая задачами достаточной степени трудности. Эти последние могут быть обычно опущены при беглом ознакомлении с книгой. Задачи, непосредственно следующие за каждым параграфом, являются, вообще говоря, обычными и включены для целей тренировки. Лишь небольшая часть из них — задачи повышенной трудности. Они содержат результаты, которые используются в последующем тексте. Поскольку соответствующие результаты могут быть установлены без больших усилий, мы считаем, что было бы лучше включить их в виде упражнений, нежели чрезмерно увеличивать основной текст, приводя все доказательства. Во всяком случае, при серьёзном чтении тренировка необходима. Задачи в конце каждой главы обладают, напротив, обычно повышенной трудностью. Хотя имеется соблазн как‑то выделить эти задачи (например, отметив их звёздочкой), как обладающие повышенной трудностью, небольшое раздумье показывает, что педагогически это было бы очень плохо. Целью такой книги, как эта, является, кроме всего прочего, подготовить студента к самостоятельному решению задач в том виде, как они появляются в исследованиях в области анализа, математической физики, в технике, экономике и т.д. Очень редко встречается случай, когда задача, появившаяся таким образом, чётко поставлена так, что её можно считать отмеченной звёздочкой. Более того, для студента важно сделать вывод, что сложность задачи практически никогда не оценивается её формулировкой. Очень быстро можно убедиться, что некоторые весьма простые утверждения могут скрывать значительные трудности. Приняв во внимание эти соображения, мы перемешали задачи всех уровней трудности совершенно случайным образом, без указаний на сложность их решения. Отсюда следует, что, штурмуя эти задачи, читатель должен сделать всё, что может, проявляя иногда упорство и, быть может, возвращаясь назад снова и снова по мере роста аналитического умения и зрелости.

Несколько замечаний относительно общего плана книги. Мы хотели не только изложить ряд основополагающих результатов, но и указать на разнообразие фундаментальных методов. Чтобы это сделать, мы в различных местах представляли разные доказательства теорем или указывали на другие возможные подходы в упражнениях. Существенно отдавать себе отчёт в том, что, как и во всех частях математики, в теории матриц имеется много разных подходов. Важность владения многими методами вытекает из того факта, что для получения различных обобщений теории требуются различные подходы. На самом деле, некоторые результаты могут быть почти очевидными при использовании одного метода доказательства и в то же время быть трудно достижимыми или вообще недостижимыми, если избрать другой путь рассуждений. Хотя многие результаты теории матриц могут быть успешно и весьма элегантно выведены из общей теории операторов, важно также выделить особые методы и приёмы, относящиеся к специальной области, имеющей дело с преобразованиями в конечномерных пространствах. Это и явилось причиной того, что мы попытались вытащить из забвения ряд простых и эффективных подходов, которые использовались в «старые добрые времена», 50—75 лет назад.

Свойством человеческого мышления объясняется то, что повторение и перекрёстные точки зрения являются мощным педагогическим приёмом. В этой связи уместно привести слова из «Охоты на Снарка» Льюиса Кэррола: «Я сказал это трижды: то, что я говорю три раза,— правда».

Перечислим теперь кратко некоторые из многих фундаментальных аспектов теории матриц, которые по необходимости не были включены в книгу.

Во‑первых, мы исключили обсуждение всех вычислительных аспектов матричной теории. Вычислительные методы получили широкое развитие в последние годы, что стимулировалось необычайными возможностями современных цифровых машин и их планируемым развитием в будущем и, кроме того, необычайно возросшими потребностями физики и экономики.

Необходимость развития новых методов чисто вычислительной природы вытекает из того факта, что задача решения системы линейных уравнений с очень большим числом переменных или задача нахождения собственных значений и собственных векторов матриц большой размерности не может быть решена классическим способом. Любое подходящее решение этой задачи требует использования новых и тонких методов. В этой области проделана чрезвычайно большая работа, и мы подумали, что мудрым решением будет выделить отдельный том этой серии для изложения соответствующих результатов. Этот том будет написан Дж. Форсайтом.

Другим направлением является комбинаторная теория матриц, которая в последние годы растёт как снежный ком. Математическая теория игр Бореля и фон Неймана, теория линейного программирования, математическая теория расписаний — все эти области объединяются, что, возможно, приведёт к новому разделу теории матриц. На этом пути не только появляются новые и значительные алгебраические и аналитические проблемы, но и как результат этих методов и концепций оказывается определённое давление на способы получения вычислительных процедур. Том, касающийся этой области, будет написан А. Хофманом.

Топологические аспекты входят классически в теорию матриц при изучении электрических цепей. Здесь мы встречаемся с прекрасным сочетанием аналитической, алгебраической и геометрической теорий. Том, посвящённый этой важной области, должен быть написан Л. Вейнбергом.

В предшествующем перечислении мы, естественно, едва лишь затронули область, называемую теорией матриц. На отдалённом горизонте мы видим монографию, посвящённую курсу теории матриц повышенного типа. Среди других результатов она должна содержать различные аспекты теории функций от матриц, теории Левнара, зигелевской теории модулярных функций от матриц и теории R‑матриц Вигнера. В более общей теории функционалов от матриц теория Бекера, Кемпбелла и Хаусдорфа приводит к изучению мультипликативных интегралов. Эти аспекты теории взяли на себя главную роль во многих областях современной математической физики.

Другая обширная часть матричного анализа развита в связи с изучением многомерного анализа в математической статистике. Снова мы чувствуем, что результаты в этой области могут быть наилучшим образом изложены совместно с основными концепциями статистики.

На общей базе анализа и алгебры мы встречаем теорию представления групп со многими её прекрасными приложениями к алгебре, анализу и математической физике. Эта область также требует отдельного тома.

В чисто алгебраической области имеется теория идеалов, рассматриваемая с помощью матриц, введённых Пуанкаре. Мы не упоминали об этом, поскольку использование таких матриц требует введения чисто формальных концепций. Однако в упражнениях постоянно встречаются упоминания о связи между комплексными числами, кватернионами и матрицами наряду с намёками на более общие взаимосвязи.

Изучение матриц с целочисленными элементами тесно связано с числовой теорией матриц. Несмотря на привлекательность этой области, мы чувствовали, что было бы лучше детально обсудить эти вопросы в отдельном томе.

Важно отметить, что даже приведённый выше перечень не отражает той большой роли, которую играют матрицы в современной математике и её приложениях.

В конец каждой главы и иногда в упражнения мы включили большое количество ссылок на оригинальные статьи, монографии и различные книги по теории матриц. Читатель, интересующийся деталями, может основательно с ними познакомиться, воспользовавшись этими ссылками. Мы ни в коем случае не претендуем на исчерпывающую библиографию. Многие из значительных работ не были упомянуты.

В заключение мне хотелось бы выразить сердечную благодарность моим друзьям, скрупулёзно просмотревшим несколько набросков рукописи. Благодаря их замечаниям и критике были сделаны существенные улучшения в содержании, стиле изложения и форме многих интересных упражнений.

Благодарю Поля Брока, Фан Цзы и Ольгу Таусски.

Искренне благодарю также А. Маданского и И. Олькина, прочитавших некоторые главы и сделавших замечания по улучшению некоторых интересных задач.

Я особенно рад выразить благодарность RAND Corporation за её политику в области исследований, которая привела к существенной поддержке моей работы по теории матриц. Это только один из аспектов свободы действий, предоставляемых RAND Corporation с тем, чтобы одновременно развивать научные исследования и служить интересу нации.

Наконец, благодарю моего секретаря Жанетт Гиберт, которая безропотно печатала сотни страниц уравнений, без всяких жалоб делала правку за правкой и преданно помогала мне в вычитке текста.

Ричард Беллман