Программирование для многопроцессорных систем в стандарте MPI - Шпаковский Г.И., Серикова Н.В
..pdfвиртуальной топологии на физическую систему). Если полная размерность декартовой решетки меньше, чем размер группы коммуникаторов, то некоторые процессы возвращаются с результатом
MPI_COMM_NULL по аналогии с MPI_COMM_SPLIT. Вызов бу-
дет неверным, если он задает решетку большего размера, чем размер группы.
MPI_CART_CREATE(comm_old, ndims, dims, periods, reorder, comm_cart)
IN |
comm_old |
исходный коммуникатор (дескриптор) |
|
IN |
ndims |
размерность создаваемой декартовой решетки (целое) |
|
IN |
dims |
целочисленный массив размера ndims, хранящий количест- |
|
во процессов по каждой координате |
|||
|
|
||
IN |
periods |
массив логических элементов размера ndims, определяю- |
|
щий, периодична (true) или нет (false) решетка в каждой |
|||
|
|
размерности |
|
IN |
reorder |
нумерация может быть сохранена (false) или переупорядо- |
|
чена (true) (логическое значение) |
|||
OUT |
comm_cart |
||
коммуникатор новой декартовой топологии (дескриптор) |
int MPI_Cart_create(MPI_Comm comm_old, int ndims, int *dims, int *periods, int reorder, MPI_Comm *comm_cart)
MPI_CART_CREATE(COMM_OLD, NDIMS, DIMS, PERIODS, REORDER, COMM_CART, IERROR)
INTEGER COMM_OLD, NDIMS, DIMS(*), COMM_CART, IERROR LOGICAL PERIODS(*), REORDER
MPI::Cartcomm MPI::Intracomm::Create_cart(int ndims, const int dims[],
const bool periods[], bool reorder) const
6.2.2.Декартова функция MPI_DIMS_CREATE
Вдекартовой топологии функция MPI_DIMS_CREATE помогает пользователю выбрать выгодное распределение процессов по каждой координате в зависимости от числа процессов в группе и некоторых ограничений, определенных пользователем. Эта функция используется, чтобы распределить все процессы группы в n-мерную топологическую среду (размер группы MPI_COMM_WORLD).
MPI_DIMS_CREATE(nnodes, ndims, dims)
IN |
nnodes |
количество узлов решетки (целое) |
|
IN |
ndims |
число размерностей декартовой решетки(целое) |
|
INOUT |
dims |
целочисленный массив размера ndims, указывающий коли- |
|
чество вершин в каждой размерности. |
|||
|
|
||
|
|
161 |
int MPI_Dims_create(int nnodes, int ndims, int *dims)
MPI_DIMS_CREATE(NNODES, NDIMS, DIMS, IERROR) INTEGER NNODES, NDIMS, DIMS(*), IERROR
void MPI::Compute_dims(int nnodes, int ndims, int dims[])
Элементы массива dims описывают декартову решетку координат с числом размерностей ndims и общим количеством узлов nnodes. Количество узлов по размерностям нужно сделать, насколько возможно, близкими друг другу, используя соответствующий алгоритм делимости. Вызывающая подпрограмма может дальше ограничить выполнение этой функции, задавая количество элементов массива dims. Если размерность dims[i] есть положительное число, функция не будет изменять число узлов в направлении i; будут изменены только те элементы, для которых dims[i] = 0.Отрицательные значения dims[i] неверны. Также будет неверно, если значение nnodes не кратно произведению dims[i]. Аргумент dims[i], установленный вызывающей программой, будет упорядочен по убыванию. Массив dims удобен для использования в функции MPI_CART_CREATE в качестве входного. Функция является локальной.
Пример 6.1
dims перед вызовом
(0,0)
(0,0)
(0,3,0)
(0,3,0)
вызов функции
MPI_DIMS_CREATE(6, 2, dims) MPI_DIMS_CREATE(7, 2, dims) MPI_DIMS_CREATE(6, 3, dims) MPI_DIMS_CREATE(7, 3, dims)
dims после возврата управления
(3,2)
(7,1)
(2,3,1)
Ошибка
6.2.3. Конструктор универсальной (графовой) топологии
Функция MPI_GRAPH_CREATE передает дескриптор новому коммуникатору, к которому присоединяется информация о графовой топологии. Если reorder = false, то номер каждого процесса в новой группе идентичен его номеру в старой группе. В противном случае функция может переупорядочивать процессы. Если количество узлов графа nnodes меньше, чем размер группы коммуникатора, то некоторые процессы возвращают значение MPI_COMM_NULL по аналогии с MPI_CART_SPLIT и MPI_COMM_SPLIT. Вызов будет неверным,
если он определяет граф большего размера, чем размер группы исходного коммуникатора.
162
MPI_GRAPH_CREATE(comm_old, nnodes, index, edges, reorder, comm_graph)
IN comm_old IN nnodes
IN index
IN edges IN reorder
OUT comm_graph
входной коммуникатор (дескриптор) количество узлов графа (целое)
массив целочисленных значений, описывающий степени вершин массив целочисленных значений, описывающий ребра графа
номера могут быть переупорядочены ( true) или нет ( false) построенный коммуникатор с графовой топологией (дескриптор)
int MPI_Graph_create(MPI_Comm comm_old, int nnodes, int *index, int *edges, int reorder, MPI_Comm *comm_graph)
MPI_GRAPH_CREATE(COMM_OLD, NNODES, INDEX, EDGES, REORDER, COMM_GRAPH, IERROR)
INTEGER COMM_OLD, NNODES, INDEX(*), EDGES(*), COMM_GRAPH, IERROR
LOGICAL REORDER
int MPI::Cartcomm::Get_dim() const.
Структуру графа определяют три параметра: nnodes, index и edges. Nnodes – число узлов графа от 0 до nnodes-1. i-ый элемент массива index хранит общее число соседей первых i вершин графа. Списки соседей вершин 0, 1, ..., nnodes-1 хранятся в последовательности ячеек массива edges. Общее число элементов в index есть nnodes, а общее число элементов в edges равно числу ребер графа.
6.2.4. Топологические функции запроса
Если топология была определена одной из вышеупомянутых функций, то информация об этой топологии может быть получена с помощью функций запроса. Все они являются локальными вызовами.
MPI_TOPO_TEST(comm, status)
IN |
comm |
коммуникатор (дескриптор) |
OUT |
status |
тип топологии коммуникатора comm (альтернатива) |
int MPI_Topo_test(MPI_Comm comm, int *status)
MPI_TOPO_TEST(COMM, STATUS, IERROR) INTEGER COMM, STATUS, IERROR
int MPI::Comm::Get_topology() const
Функция MPI_TOPO_TEST возвращает тип топологии, переданной коммуникатору.
163
Выходное значение status имеет одно из следующих значений:
MPI_GRAPH |
топология графа |
MPI_CART |
декартова топология |
MPI_UNDEFINED |
топология не определена |
Функции MPI_GRAPHDIMS_GET и MPI_GRAPH_GET воз-
вращают графо-топологическую информацию, которая была связана с коммуникатором с помощью функции MPI_GRAPH_CREATE.
MPI_GRAPHDIMS_GET(comm, nnodes, nedges)
IN |
comm |
коммуникатор группы с графовой топологией (дескриптор) |
OUT |
nnodes |
число вершин графа (целое, равно числу процессов в группе) |
OUT |
nedges |
число ребер графа (целое) |
int MPI_Graphdims_get(MPI_Comm comm, int *nnodes, int *nedges)
MPI_GRAPHDIMS_GET(COMM, NNODES, NEDGES, IERROR)
INTEGER COMM, NNODES, NEDGES, IERROR
void MPI::Graphcomm::Get_dims(int nnodes[], int nedges[]) const
Информация, представляемая MPI_GRAPHDIMS_GET, может быть использована для корректного определения размера векторов index и edges для последующего вызова функции MPI_GRAPH_GET.
MPI_GRAPH_GET(comm, maxindex, maxedges, index, edges)
IN |
comm |
коммуникатор с графовой топологией (дескриптор) |
|
IN |
maxindex |
длина вектора index (целое) |
|
IN |
maxedges |
длина вектора edges (целое) |
|
OUT index |
целочисленный массив, содержащий структуру графа (под- |
||
робнее в описании функции MPI_GRAPH_CREATE) |
|||
OUT edges |
|||
целочисленный массив, содержащий структуру графа |
|||
int MPI_Graph_get(MPI_Comm comm, int maxindex, int maxedges, int *index, int *edges)
MPI_GRAPH_GET(COMM, MAXINDEX, MAXEDGES, INDEX, EDGES, IERROR)
INTEGER COMM, MAXINDEX, MAXEDGES, INDEX(*), EDGES(*), IERROR
void MPI::Graphcomm::Get_topo (int maxindex, int maxedges, int index[], int edges[]) const
Функции MPI_CARTDIM_GET и MPI_CART_GET возвращают информацию о декартовой топологии, которая была связана с функ-
цией MPI_CART_CREATE.
164
MPI_CARTDIM_GET(comm, ndims)
IN comm коммуникатор с декартовой топологией (дескриптор)
OUT ndims число размерностей в декартовой топологии системы (целое) int MPI_Cartdim_get(MPI_Comm comm, int *ndims)
MPI_CARTDIM_GET(COMM, NDIMS, IERROR) INTEGER COMM, NDIMS, IERROR
int MPI::Cartcomm::Get_dim() const
MPI_CART_GET(comm, maxdims, dims, periods, coords)
IN |
comm |
коммуникатор с декартовой топологией (дескриптор) |
|
IN |
maxdims |
длина векторов dims, periods и coords (целое) |
|
OUT |
dims |
число процессов по каждой декартовой размерности (це- |
|
лочисленный массив) |
|||
|
|
||
OUT |
periods |
периодичность ( true/ false) для каждой декартовой раз- |
|
мерности (массив логических элементов) |
|||
|
|
||
OUT |
coords |
координаты вызываемых процессов в декартовой системе |
|
координат (целочисленный массив) |
|||
|
|
int MPI_Cart_get(MPI_Comm comm, int maxdims, int *dims, int *periods, int *coords)
MPI_CART_GET(COMM, MAXDIMS, DIMS, PERIODS, COORDS, IERROR) INTEGER COMM, MAXDIMS, DIMS(*), COORDS(*), IERROR
LOGICAL PERIODS(*)
Void MPI::Cartcomm::Get_topo(int maxdims, int dims[], bool periods[], int coords[]) const
Для группы процессов с декартовой структурой функция MPI_CART_RANK переводит логические координаты процессов в номера, которые используются в процедурах парного обмена.
MPI_CART_RANK(comm, coords, rank)
IN |
comm |
коммуникатор с декартовой топологией (дескриптор) |
IN |
coords |
целочисленный массив (размера ndims), описывающий декарто- |
OUT rank |
вы координаты процесса |
|
номер указанного процесса (целое) |
||
int MPI_Cart_rank(MPI_Comm comm, int *coords, int *rank)
MPI_CART_RANK(COMM, COORDS, RANK, IERROR)
INTEGER COMM, COORDS(*), RANK, IERROR
165
Int MPI::Cartcomm::Get_cart_rank(const int coords[]) const.
Для размерности i с periods(i) = true, если координата cords(i) выходит за границу диапазона – coords(i)<0 или coords(i)≥dims(i), она автоматически сдвигается назад к интервалу 0≤coords(i)<dims(i). Выход координат за пределы диапазона неверен для непериодических размерностей.
Функция MPI_CART_COORDS используется для перевода номера в координату.
MPI_CART_COORDS(comm, rank, maxdims, coords)
IN |
comm |
коммуникатор с декартовой топологией (дескриптор) |
|
N |
rank |
номер процесса внутри группы comm (целое) |
|
IN |
maxdims |
длина вектора coord (целое) |
|
OUT |
coords |
целочисленный массив (размера ndims), содержащий декар- |
|
товы координаты указанного процесса (целое) |
|||
|
|
int MPI_Cart_coords(MPI_Comm comm, int rank, int maxdims, int *coords)
MPI_CART_COORDS(COMM, RANK, MAXDIMS, COORDS, IERROR) INTEGER COMM, RANK, MAXDIMS, COORDS(*), IERROR
Void MPI::Cartcomm_Get_coords (int rank, int maxdims, int coords[] ) const
MPI_GRAPH_NEIGHBORS_COUNT и MPI_GRAPH_NEIGHBORS
предоставляют похожую информацию для графической топологии.
MPI_GRAPH_NEIGHBORS_COUNT(comm, rank, nneighbors)
IN |
comm |
коммуникатор с графовой топологией (дескриптор) |
|
IN |
rank |
номер процесса в группе comm (целое) |
|
OUT |
nneighbors |
номера процессов, являющихся соседними указанному |
|
процессу (целочисленный массив) |
|||
|
|
int MPI_Graph_neighbors_count(MPI_Comm comm, int rank, int *nneighbors)
MPI_GRAPH_NEIGHBORS_COUNT(COMM, RANK, NNEIGHBORS, IERROR) INTEGER COMM, RANK, NNEIGHBORS, IERROR
int MPI::Graphcomm::Get_neighbors_count (int rank) const
MPI_GRAPH_NEIGHBORS(comm, rank, maxneighbors, neighbors)
IN |
comm |
коммуникатор с графовой топологией (дескриптор) |
|
IN |
rank |
номер процесса в группе comm (целое) |
|
IN |
maxneighbors |
размер массива neighbors (целое) |
|
OUT |
neighbors |
номера процессов, соседних данному (целочисленный |
|
массив) |
|||
|
|
int MPI_Graph_neighbors(MPI_Comm comm, int rank, int maxneighbors, int *neighbors)
166
MPI_GRAPH_NEIGHBORS(COMM, RANK, MAXNEIGHBORS, NEIGHBORS, IERROR)
INTEGER COMM, RANK, MAXNEIGHBORS, NEIGHBORS(*), IERROR
void MPI::Graphcomm::Get_neighbors (int rank, int maxneighbors, int neighbors[] ) const
Пример 6.2. Предположим, что comm является коммуникатором с топологией типа “тасовка”.
Пусть группа содержит 2n процессов. Каждый процесс задан двоичным n – разрядным кодом а1 , а2 , …, аn, где аi {0,1} и имеет трех соседей:
exchange (а1 , …, аn) = а1 , …, аn-1 , ân (â = 1-а); shuffle (а1 , …, аn) = а2 , …, аn , а1; unshuffle(а1 , …, аn) = аn , а1 , …, аn-1.
Таблица связей каждого процесса с соседями для n=3
|
узлы |
exchange |
shuffle |
unshuffle |
|
соседи(1) |
соседи(2) |
соседи(3) |
|
|
|
|||
0 |
(000) |
1 |
0 |
0 |
1 |
(001) |
0 |
2 |
4 |
2 |
(010) |
3 |
4 |
1 |
3 |
(011) |
2 |
6 |
5 |
4 |
(100) |
5 |
1 |
2 |
5 |
(101) |
4 |
3 |
6 |
6 |
(110) |
7 |
5 |
3 |
7 |
(111) |
6 |
7 |
7 |
Предположим, что коммуникатор comm имеет эту топологию. Представленный ниже фрагмент программы в цикле обходит трех соседей и делает соответствующую перестановку для каждого.
!пусть каждый процесс хранит действительное число А
!получение информации о соседях
CALL MPI_COMM_RANK(comm, myrank, ierr)
CALL MPI_GRAPH_NEIGHBORS(comm, myrank, 3, neighbors, ierr) ! выполнение перестановки для exchange
CALL MPI_SENDRECV_REPLACE(A, 1, MPI_REAL, neighbors(1), 0, neighbors(1), 0, comm, status, ierr)
! выполнение перестановки для shuffle
CALL MPI_SENDRECV_REPLACE(A, 1, MPI_REAL, neighbors(2), 0, neighbors(3), 0, comm, status, ierr)
! выполнение перестановки для unshuffle 167
CALL MPI_SENDRECV_REPLACE(A, 1, MPI_REAL, neighbors(3), 0, neighbors(2), 0, comm, status, ierr)
6.2.5. Сдвиг в декартовых координатах
Если используется декартова топология, то операцию MPI_SENDRECV можно выполнить путем сдвига данных вдоль направления координаты. В качестве входного параметра MPI_SENDRECV использует номер процесса-отправителя для приема и номер процесса-получателя – для передачи. Если функция MPI_CART_SHIFT выполняется для декартовой группы процессов, то она передает вызывающему процессу эти номера, которые затем могут быть использованы для MPI_SENDRECV. Пользователь определяет направление координаты и величину шага (положительный или отрицательный). Эта функция является локальной.
MPI_CART_SHIFT(comm, direction, disp, rank_source, rank_dest)
IN |
comm |
коммуникатор с декартовой топологией (дескриптор) |
|
IN |
direction |
координата сдвига ( целое) |
|
IN |
disp |
направление смещения (> 0: смещение вверх, < 0: |
|
смещение вниз) ( целое) |
|||
OUT |
rank_source |
||
номер процесса-отправителя (целое) |
|||
OUT |
rank_dest |
номер процесса-получателя (целое) |
int MPI_Cart_shift(MPI_Comm comm, int direction, int disp, int *rank_source, int *rank_dest)
MPI_CART_SHIFT(COMM, DIRECTION, DISP, RANK_SOURCE, RANK_DEST, IERROR)
INTEGER COMM, DIRECTION, DISP, RANK_SOURCE, RANK_DEST, IERROR
Void MPI::Cartcomm::Shift(int direction, int disp, int& rank_source, int& rank_dest) const
Аргумент direction указывает размерность (координату) по которой сдвигаются данные. Координаты маркируются от 0 до ndims-1, где ndims – число размерностей. В зависимости от периодичности декартовой группы в указанном направлении координаты MPI_CART_SHIFT указывает признаки для кольцевого сдвига или для сдвига без переноса. В случае сдвига без переноса в rank_source или rank_dest может быть возвращено значение MPI_PROC_NULL для указания, что процесс-отправитель или процесс-получатель при сдвиге вышли из диапазона.
168
Пример 6.3. Коммуникатор comm имеет двумерную периодическую декартову топологию. Двумерная матрица элементов типа REAL хранит один элемент на процесс в переменной A. Нужно выполнить скошенное преобразование матрицы путем сдвига столбца i (вертикально, то есть вдоль столбца) i раз.
! определяется номер процесса
CALL MPI_COMM_RANK(comm, rank, ierr) ! определяются декартовы координаты
CALL MPI_CART_COORDS(comm, rank, maxdims, coords, ierr)
!вычисляются номера процесса-отправителя и процесса-получателя при сдвиге
CALL MPI_CART_SHIFT(comm, 0, coords(2), source, dest, ierr)
!«скошенный» массив
CALL MPI_SENDRECV_REPLACE(A, 1, MPI_REAL, dest, 0, source, 0, comm, status, ierr)
|
|
6.2.6. Декомпозиция декартовых структур |
MPI_CART_SUB(comm, remain_dims, newcomm) |
||
IN |
comm |
коммуникатор с декартовой топологией (дескриптор) |
|
|
i-й элемент в remain_dims показывает, содержится ли i-я |
IN |
remain_dims размерность в подрешетке (true) или нет (false) (вектор ло- |
|
|
|
гических элементов) |
OUT newcomm |
коммуникатор, содержащий подрешетку, которая включает |
|
вызываемый процесс (дескриптор) |
||
|
int MPI_Cart_sub(MPI_Comm comm, int *remain_dims, MPI_Comm *newcomm)
MPI_CART_SUB(COMM, REMAIN_DIMS, NEWCOMM, IERROR) INTEGER COMM, NEWCOMM, IERROR
LOGICAL REMAIN_DIMS(*)
MPI::Cartcomm MPI::Cartcomm::Sub(const bool remain_dims[]) comst
Если декартова топология была создана с помощью функции
MPI_CART_CREATE, то функция MPI_CART_SUB может исполь-
зоваться для декомпозиции группы в подгруппы, которые являются декартовыми подрешетками, и построения для каждой подгруппы коммуникаторов с подрешеткой с декартовой топологией.
Пример 6.4
Допустим, что MPI_CART_CREATE создала решетку размером
(2 × 3 × 4). Пусть remain_dims = (true, false, true). Тогда обращение к MPI_CART_SUB (comm, remain_dims, comm_new) создаст три ком-
муникатора, каждый с восьмью процессами размерности 2×4 в декар-
169
товой топологии. Если remain_dims = (false, false, true), то обращение к функции MPI_CART_SUB (comm, remain_dims, comm_new) соз-
дает шесть непересекающихся коммуникаторов, каждый с четырьмя процессами в одномерной декартовой топологии.
Пример 6.5
Дифференциальные уравнения в частных производных, например уравнение Пуассона, могут быть решены на прямоугольной решетке. Пусть процессы располагаются в двумерной структуре. Каждый процесс запрашивает номера соседей в четырех направлениях (вверх, вниз, вправо, влево). Числовая задача решается итерационным методом, детали которого скрыты в подпрограмме. На каждой итерации каждый процесс вычисляет новые значения для функции в области решетки, за которую он ответственен. Затем процесс на своих границах должен обменяться значениями функции с соседними процессами. Например, подпрограмма обмена может содержать вызов функции
MPI_SEND (..., neigh_rank (1), ...) , чтобы затем послать модифициро-
ванные значения функции левому соседу (i-1, j).
integer ndims, num_neihg logical reorder
parameter (ndims=2,num_neigh=4,reorder=.true.)
integer comm, comm_cart, dims (ndims), neigh_def (ndims), ierr integer neigh_rank (num_neigh), own_position (ndims), i,j logical periods (ndims)
real*8 u(0:101,0:101), f(0:101,0:101) data dims /ndims*0/
comm = MPI_COMM_WORLD
!устанавливает размер решетки и периодичность call MPI_DIMS_CREATE (comm, ndims, dims, ierr) periods (1) = .TRUE.
periods (2) = .TRUE.
!создает структуру в группе WORLD и запрашивает собственную позицию call MPI_CART_CREATE (comm, ndims, dims, periods, reorder, comm_cart, ierr) call MPI_CART_GET (comm_cart, ndims, dims, periods, own_position, ierr)
!просматривает номера соседей, собственные координаты есть (i,j).
!cоседи – процессы с номерами (i-1,j), (i+1,j), (i,j-1), (i,j+1)
i= own_position(1)
j= own_position(2)
neigh_def(1)= i-1 neigh_def(2)= j
call MPI_CART_RANK (comm_cart, neigh_def, neigh_rank(1), ierr)
170