- •6.1. Принципы распараллеливания
- •6.2. Постановка задачи
- •6.3. Последовательный алгоритм
- •6.4. Разделение данных
- •6.5. Умножение матрицы на вектор при разделении данных по строкам
- •6.5.1. Выделение информационных зависимостей
- •6.5.2. Масштабирование и распределение подзадач по процессорам
- •6.5.3. Анализ эффективности
- •6.5.4. Программная реализация
- •6.5.5. Результаты вычислительных экспериментов
- •6.6. Умножение матрицы на вектор при разделении данных по столбцам
- •6.6.1. Определение подзадач и выделение информационных зависимостей
- •6.6.2. Масштабирование и распределение подзадач по процессорам
- •6.6.3. Анализ эффективности
- •6.6.4. Результаты вычислительных экспериментов
- •6.7. Умножение матрицы на вектор при блочном разделении данных
- •6.7.1. Определение подзадач
- •6.7.2. Выделение информационных зависимостей
- •6.7.3. Масштабирование и распределение подзадач по процессорам
- •6.7.4. Анализ эффективности
- •6.7.5. Результаты вычислительных экспериментов
- •6.8. Краткий обзор лекции
- •6.9. Обзор литературы
- •6.10. Контрольные вопросы
- •6.11. Задачи и упражнения
6.9. Обзор литературы
Задача умножения матрицы на вектор часто используется как демонстрационный пример параллельного программирования и, как результат, широко рассматривается в литературе. В качестве дополнительного учебного материала могут быть рекомендованы работы [[2],[51],[63]]. Широкое обсуждение вопросов параллельного выполнения матричных вычислений выполнено в работе [[30]].
При рассмотрении вопросов программной реализациипараллельных методов может быть рекомендована работа [[23]]. В ней рассматривается хорошо известная и широко применяемая в практике параллельных вычислений программная библиотека численных методов ScaLAPACK.
6.10. Контрольные вопросы
Назовите основные способы распределения элементов матрицы между процессорами вычислительной системы.
В чем состоит постановка задачи умножения матрицы на вектор?
Какова вычислительная сложность последовательного алгоритма умножения матрицы на вектор?
Почему при разработке параллельных алгоритмов умножения матрицы на вектор допустимо дублировать вектор-операнд на все процессоры?
Какие подходы могут быть предложены для разработки параллельных алгоритмов умножения матрицы на вектор?
Представьте общие схемы рассмотренных параллельных алгоритмов умножения матрицы на вектор.
Проведите анализ и получите показатели эффективности для одного из рассмотренных алгоритмов.
Какой из представленных алгоритмов умножения матрицы на вектор обладает лучшими показателями ускорения и эффективности?
Может ли использование циклической схемы разделения данных повлиять на время работы каждого из представленных алгоритмов?
Какие информационные взаимодействия выполняются для алгоритмов при ленточной схеме разделения данных? В чем различие необходимых операций передачи данных при разделении матрицы по строкам и столбцам?
Какие информационные взаимодействия выполняются для блочного алгоритма умножения матрицы на вектор?
Какая топология коммуникационной сети является целесообразной для каждого из рассмотренных алгоритмов?
Дайте общую характеристику программной реализации алгоритма умножения матрицы на вектор при разделении данных по строкам. В чем могут состоять различия в программной реализации других рассмотренных алгоритмов?
Какие функции библиотеки MPI оказались необходимыми при программной реализации алгоритмов?
6.11. Задачи и упражнения
Выполните реализацию параллельного алгоритма, основанного на ленточном разбиении матрицы на вертикальные полосы. Постройте ие оценки времени работы этого алгоритма с учетом параметров используемой вычислительной системы. Проведите вычислительные эксперименты. Сравните результаты реальных экспериментов с ранее подготовленными теоретическими оценками.
Выполните реализацию параллельного алгоритма, основанного на разбиении матрицы на блоки. Постройте теоретические оценки времени работы этого алгоритма с учетом параметров используемой вычислительной системы. Проведите вычислительные эксперименты. Сравните результаты реальных экспериментов с ранее подготовленными теоретическими оценками.