Якщо виходить система із трапецеїдальною матрицею коефіцієнтів і при цьому вільний член рівняння теж дорівнює нулю, то система сумісна й невизначена. Розглянемо наведену систему із трьох рівнянь:
auXl І a^ X2
| І
| al3 X3
| — bl
| a11
| al2
| al3
| bl
|
0^22 X2
| І
| a23 X3
| — b2 ^
| О
| a22
| a23
| b2
|
|
| О
| —О
| О
| О
| О
| О
|
Останнє рівняння системи обернулося на нуль, і система стала недовизначеною - два рівняння із трьома невідомими. Запишемо розв'язки системи в такий спосіб:
Х3 -;
(Ь2 a23 X3 ) — (Ь2 a23 ' C);
C) —-
Задаючи різні значення параметра С, ми одержимо різні розв'язки системи. Отже, розв'язків безліч. Оскільки розв'язок залежить від одного параметра, то розмірність розв'язку дорівнює 1. Розглянемо ранги основної матриці системи й розширеної матриці, вони, напевно, збігаються (рівні 2), але менш за розмірність системи (кількість невідомих), тобто rang A = rang A* < n.
У загальному випадку, коли кількість змінних складає n, послідовність дій аналогічна. У лівій частині залишаємо невідомі з номерами, що відповіда-
ють першим ненульовим елементам у кожному рядку, тобто X},Xj,...,Хр. Визначимо, що р=гап§ А. Інші невідомі переносимо в праву частину. Уважаючи невідомі в правій частині деякими фіксованими величинами, нескладно виразити через них невідомі лівої частини.
Тепер, даємо невідомим у правій частині довільні значення й обчислюємо значення змінних лівої частини, тобто знаходимо різні розв'язки первинної системи А ■ X = В. Щоб записати загальний розв'язок, потрібно невідомі в правій частині позначити в будь-якому порядку буквами С\, Сі,---, Сп - р, включаючи і ті невідомі, які явно не виписані у правій частині через нульові коефіцієнти. Тоді невідомі можна записати у вигляді стовпця, де кожен елемент буде лінійною комбінацією довільних величин Сі,Сі,.,Сп-р (зокрема, просто довільною величиною С^). Цей запис і буде загальним розв'язком системи.
Якщо система була однорідною, то одержимо загальний розв'язок однорідної системи. Коефіцієнти при С1, узяті в кожнім елементі стовпця загального
розв'язку, складуть перший розв'язок фундаментальної системи розв'язків, коефіцієнти при С2 - другий розв'язок і т.д.
Фундаментальну систему розв'язків однорідної системи можна одержати й іншим способом. Для цього одній змінній, перенесеній у праву частину, потрібно дати значення 1, а іншим - нулі. Обчисливши значення змінних у лівій частині, одержимо один розв'язок фундаментальної системи. Надавши іншій змінній у правій частині значення 1, а іншим - нулі, одержимо другий розв'язок фундаментальної системи і т.д.
Може виникнути питання: «Навіщо розглядати випадок, коли деякі стовпці матриці А* нульові? Адже в цьому випадку відповідні ним змінні в системі рівнянь у явному вигляді відсутні». Справа в тому, що в деяких задачах, наприклад, при знаходженні власних чисел матриці, такі системи виникають, але ігнорувати відсутні змінні не можна, тому що при цьому відбувається втрата важливих для задачі розв'язків.