Метод динамического программирования

Динамическое программирование решает задачу, объединяя решение подзадач и выбирая лучший вариант из альтернативных. Метод применим, если: количество допустимых подзадач полиноминально зависит от размера входа (возможность такого разбиения определяется свойствами задачи);

для каждой подзадачи существует оценка, позволяющая выбирать из альтернативных решений то, которое оптимизирует целевую функцию, отсекая другие, - свойство оптимальности (например, любая часть кратчайшего пути сама есть кратчайший путь).

Идея метода: решение идет от малых подзадач к большим, т. е. снизу вверх; возможные (допустимые) решения получаются объединением решений предыдущих шагов, которые могут входить в разные варианты допустимых; оценки рассчитываются для всех допустимых решений (подзадач) один раз и запоминаются в специальным образом организованных таблицах для выбранных на данном шаге вариантов; способ организации определяется правилом вычисления оценок последующих решений по оценкам предыдущих, их составляющих.

Метод обеспечивает получение точного решения.

Рассмотрим вычисление произведения n матриц

M = М 1 ´ М 2 ´ … ´ Мn,

где Мi – матрица с p строками и q столбцами. Порядок, в котором эти матрицы перемножаются, может существенно сказаться на общем количестве операций, требуемых для вычисления M, независимо от алгоритма, применяемого для умножения матриц.

Требуется определить порядок перемножения матриц, при котором количество операций будет минимальным.

В данной задаче допустимые решения определяются возможным порядком умножения матриц.

Ограничимся n = 4 и рассмотрим произведение:

M = М 1[10,20] ´ М 2[20,50] ´ М 3[50,1] ´ М 4[1,100].

Умножение матриц M i[ p, q ] на Mj [ q, r ] требует m i ,j = pqr операций.

Если вычислять M в порядке

М 1 ´ (М 2 ´ (М 3 ´ М 4)), то потребуется 125000 операций,

тогда как вычисление M в порядке

(М 1 ´ (М 2 ´ М 3)) ´ М 4 осуществляется за 2200 операций.

Процесс перебора всех порядков, в которых можно вычислить произведения всех матриц с целью минимизировать число операций, имеет экспоненциальную сложность.

Построим дерево получения решений, руководствуясь изложенной выше идеей метода динамического программирования.

Исходными подзадачами будем считать «умножение» каждой матрицы M i на саму себя. Примем, что количество операций, необходимых для этого m i = 0.

Возможные порядки умножения двух матриц с учетом их размеров: M 1´ M 2 (m 1,2= 10·20·50), M 2´ M 3 (m 2,3= 20·50·1), M 3´ M 4 (m 2,3= 50·1·100).

Возможны следующие порядки умножения трех матриц:

1) M 1, M 2, M 3:

M 1´(M 2 ´ M 3) = M 1[10,20] ´ M 2,3[20,1], m 1,2,3 = m 2,3+10·20·1 =1200;

(M 1´ M 2) ´ M 3 = M 1,2[10,50] ´ M 3[50,1], m 1,2,3 = m 1,2+10·50·1 =10500.

2) M 2, M 3, M 4:

(M 2´ M 3) ´ M 4 с оценкой m 2,3,4 = 3000;

M 2´ (M 3 ´ M 4) с оценкой m 2,3,4 = 105000.