Konspekt_po_algebre

преобраз

åå

( x = b

алгоритмомЕсливисходнойбудетсистеме (9.3) было b 6= 0

xí = 0

òî è

вания

приведенным.

,

b 6= 0. Если жрешенийбыло

исВхчастднаяу даментости,истемануëьнуюевоеднородная,.сстемуторешенийеечастноеФоднорорешениеднойестьсистемыодно.изНезавиви-

bсимыеднородной= II0., Находимпеременныет. . .

бегает значенияxотполагаем1до единичным столбцом lj , ò.å. (xi

= 0, i = j

. Здесь j

xj

= 1

6

авляетиндекс

sj =

s[j+1 , à

d

-

индексу

í ñî-

ответству

x

ïослеПолагобр ботким егоsd

трапецев

днойвышем трице

соответствующей.

массиву

(

расст

x = −Asd

sd

xj

As

, ãäå

эле енты столбца

= T −lj j

T

âà, ïàðà

льного многообразию-й столбецрешенийА). Такимсостоитобразом,столбцовбазислинейного подпространс-

всехтрактовать динакуìножение на

ами столбцаматрицу из единичных. (Операциюстрокможно.Для

некоторуюlj между элементквадратную

−Asj

T

Общееj она орешение:ова.)

+ −l1 s . . .

−ld sd cd .

y = T 0

b

A 1 . . .

A

c1

íятияопринадлежитговоритькчестваоего.решение,качестве.существуетСуществуютмедверикасущественно

различныхЕслиКогда§9етственно.3. Псевдорешениетрактовкиространневе,точносамкготморомупож

îíîâ ñòè

ïогрешность

µрешение,томож-

со тВтораялучшеâчтоьсжение,лишьдаютрешением.трактовкпромежуточное.попадПолагается,узнаваниеданнойидетв угловзадачинепосредственночто,десяткудействиеназываетсчем. дъемаТак,,меньше.В,наибприжногденевязкойповоротпогрешностькстрельбелепониманиюблизкоеполучениеприближенноестволаприближкобъектутого,углов,десоруязыкткедия,чегоцельюнаиболеенногоипадениеобеспечивающихòсобственноочноерешения,являетсяблизкихснаряданадотемегк.

тем,это,уничдоби

ρ(xe) := µ(x,e x¯)

x,e x¯

ê ÷ òâà

êîãî òèïà

ÿ

. И строгим

îì.

авненияметрическое пространство

M

метрикой

µ

è ñòî-

ОпределениеКритерийзадача поиска9.3.решенияПустьимеетсяур

41 f (x) =12b.06, .2012ãäå b M ,

f : V → M .

Невязкой

x V

f (x) − b

µ(f (x), b)

f : V → R1

e

x V

e

стемыОналичествоможет(9.5)бытьуравненийсуькоэсовместнабольшеициенты.кЭтоличествалинейнойастопроисхперемекомбинациидит,ныхсовместностикогда.Еслилбцовосознматрицыть,переопределена,чторешение(9си.т5).-

Ax = b.

îторой есть столбец

A çíà÷

решение,

ченнесовмесымкрасширенноеоторой меет толкованиенаи еньшее уклоне-

êак коэотст лбцаициент в линейнойb, то становитскомбинации,яестествензна

шегозадачиНаиболеескнужноалярногочевидно,уещебнойпроизведениякое.совпадает.-считаетсяминимизируетчто.Авещественнименно,обычнымественаяневязкуонкретизация.Приметрика.

естественной. длясистемып лнотынормырасширенноепостановкипростей-

b

Ïðè

длярики

щественногок да они комплексны. Для

Rm,

îãдаслучаяоэ ициенты (9.5) вещественны, и в m,

x · y =

xiyi дляомплекомплексного

x · y =

назначаетс

,

E.

Таким образом, для ве-

случаяx¯iyi. Далее,метрикkîéxkE :=

√x

· x

µ(x, y) := kx − ykP

2, дляладк

сного

µ(x, y) :=

(xi yi)

псевдорешениемплекеньшнимИтак,Псномлавноейхскчастиквадратоввместоона

минимизациипри каклюбомметрикислучаеункцзаданииквадратичнойименую ееотметрикиетсягдействительнойметодомостьункци,именуется.Вкомнаияви---

мидостоинствоаргуммайзераж(9...5)гладкая,Антоврассматриваетссамневязки.акойминеслиметрикиприеейзеррассматриватьяаком.задачаневязкивещественномзадании

−

P

P

µ(x, y) :=

P

(xi − yi)(xi − yi) ≡ |xi − yi|2

ляющейся квадратом модуля невязки,

T(Ax

(9.6)

γ(x) := Ax

b

b

min

отиву,случайпредписаниезаписи нелин(нагрåйнойческомпрограммыпрограмму)общего.Таквидакквадратичной.левСтрелочкаячасть

(9здесьпрограмЭт.6) естьзначаетрмулаполиномдирекчастный

−

−

−→

x

Èùåìыминимайзер. x ункциистепени не более 2, то (9.6)

есть разновидность

Теорема 9.3. Конечное псевдорешγ (точкуние системыминимума).

кетсянормальномунечногоПриведемДкнечнымкз инимайзерат квадратичнуюминимайзеромл ь с т в .. По еделению,(9конечное.6). Будемпсевдорешение,доказыватьвсегда существуетсуществованиесистемы. (9.5)такогоявля-

ïðормуограммы

(9.5)

виду. Тогда

xTATAx

неособым преобразованием x = Sy к

ãäå γ(x) = (xTATAx − xTATb − bTAx + bTb = y1 + y2 + ... + yr2 + c1y1 + ... + cnyn + b2,

r ðàíã îðìû.

42

12.06.2012

ci 6= 0

r − 1 ≤ i ≤ n

r < n

cr+1 = ... = cn = 0

+∞

zi,

yj = 0 j 6= i

yj

астности,

ci < 0

z1 = ... = zr

= 0

i = r + 1, n,

соответствуютмож−∞, ледовательно,ci > 0

γ(Sy) −→ −∞

Совершим ещеормудно неособое преобразование:.

cr+1

= .. = cn = 0

y = T (z) := z −(c1 .. cn)T/2,

которому

ëû

равенсолбцов,вытекаетAчислуполноготоизлибоее

теоремыстолбцыеестрок,àíãà, то9.линейн3псевдо. Осталибо

перменных квадратичная ункция при бретает простойЯсно,вид

. В новых

z1

= y1 + c1/2, . . . , zr = yr + cr /2 zi = yi i = r + 1 n

γ(x) = z2

+ ... + z2 + d, ãäå

1

r

d Вспоминаемконстант. минимизацию. Производим ее по

z.

то минимум достижим при

А связь

прочие

какие угодно. онечностиÂ

конечные.

ленапсевдорешениячностьее матрицапри к

z.

Теорема 9.4x. =ÅñëèST (систеz) обеспечиваетма переопредекон

x

срешениеòолбцовсязависимыПоДвыяснитькопределениюа.существуетзПоэта. Поскединстму,ьолькуеслиматрицыâенность.оноэтоонаСуществоединстотноситсяимеет.полногоâбольшеаíноиекранг.матрицестрок,еерангчем

-

íåвырождена. Но

A, ìàòðèöà ðàìà G для ее столбцов

Но можноВспоминаемИскатьЕслииспользоватьпсевдорешенункциянеобхдиприможноеренцирумысловиеспецирешаяэкическиестремумазадачуединствендля(9..6)решенияакимминимайзерлибосистемметодомлинейныминимизацуравнен. й.

äèìî

x

x = ST (z)

íóëþ:

f

ма в точк экстремума x¯, то ее градиентпрограммыравен

решенийоз ачает,следующейчтовсемножествосистемы минимайзеров

(9.6)

содержитсяДлянашегоf (¯xâ) =множестве0случая. это

Найдем частные производные по

∂γ(x)

= ... =

∂γ(x)

= 0.

(9.7)

x1

∂xn

xi,

i = 1 n :

∂γ(x)

=

∂(Ax − b)T

(Ax

−

b) + (Ax

−

b)T

∂(Ax − b)

=

∂xi

∂xi

∂xi

T

a1i

стемуПодставляялинейныхэтиуравнений:пр дставления в

выпишемэквивалентнаматричном виде полученную

ñè-

= (a1i a2i ... ami)(Ax

−

(9b).+7),(Ax

−

b)

. . .

= 2(a11 a21 ... am1)(Ax

−

b).

ami

AT(Ax − b) = 0. Åé

система

Когда столбцы матрицы

ATAx = ATb.

(9.8)

рожденность матрицы

A линейно незави имы, критерий рама гарантируетрешениявы-

системы (9.8).

ATA, что обеспечивает43

ñ12уществование.06.2012

и единственность

базиср жениемПусть

родабраж.)ение в векторное

размерноститоназываетсяn, тогдалинейнымсущестотобует-

ΦV1-гоотконечномерное

Φ

E = (b1

, ..., bn)

,

ãäå

bi

базисные векторы.

И пусть

Пусть

υ =

.υ.1.

,

~υ = Eυ.

(10.1)

Φ заданная на V

υn

линейная орма. Тогда

и если ввести обозначе (èå~υ V ) Φ(~υ)) = Φ

1

υibi

=

1

υiΦ(bi);

(10.2)

n

n

X

X

динатныйой отормелюбогосопоставляетсявектора, то справедливонекотором

базисе стрразным.квекторов,

стрвекторовакая,Т. .чтокаждойзначениелинейормы ϕ = (Φ(b1)...Φ(bn)

Φ(~υ) = ϕυ

ки справ

íà êîîð

ñ

ëáåö ýò

го~υвектораможет.бытьОче полученоидно,чтоумножениемормамэтой

наоборот.

Φ Натветствуютборот. Каждразныестрокестрокивекϕòîè ðîâ

n

n {a1, ..., an} соо ветству

линейное отображение

. . ункции F сопоставлена

P

орма. Пусть иìеется иной набор

{a1′ , ..., an′

},

åòñÿ

F : V

→ P

âèäà

F (υ) :=

1 υiai

наборуåò аксиомамвекторовI и II и явля-

ýòî

поэтому линейной ормой. В некотором. Онобазисеудовлетворя

линейная

Значит существует

ai′

{a1, ..., ak}. Тогда F ′(bi) = ai

6= F (bi) = ai.

{a1, ..., ak }.

квадратичнаятрим ункцию отормыдвух векторных аргументов

Определение§10.2. Билинейная10.1билинейн.мерноеасс

B (x, y)

,

линейностьюормой.оеЕсПримерпространство,.аргументы. относительновназываемоебилинейной1-го вещественнымиорме2-го аргументасовпадаютпо-

даеткторорма

T

атичной

òîмэтаона.Еслиназывается. ункцияVэтаконечноункцияквадроб

x, y

V

n

a11

. . . a1n

x1

45

(10.3)

Q(x) := B(x, x) =

aij xixj

= (x1...xn)

. . .

. . .

. . . . . .

= x Ax

X

an1

. . . ann

xn

i,j=1

T

T

T

T

0 1

x2

0 1/2

x2

/2

атьичнойс по ощьюорме использоватьсимметрич

симметричнуюеоремаЧтобыматрицы10избавится.1.маЛюбуюрицуот.квадратичную ормупринятоможнов квадраз пис

x1

/2 = x1x2.

íîéÒ

x

0

0 x = x

0 = x1x2

;

x

1/2

0

x = x

1

T

T

1

T

T T

1

T

1

T

Ä

ê

ç

îðìû).

å(которл ь с аяв о.иПустьназываетсяимеетсяматрицейквадратичнаяàтичнойорма

öó

T

T

2T T

T

T T T

T

xTAx. ассмотрим матри-

1

1

2

2

1

T

T

2

(A + A ) =: B. Нетрудно показать, что B симметричная.

(сложениеНайдемматрицзначениякоммуB квадратичной= òативно)(A + (A.

) )îðì= û(Aс матрицей+ A) =

B(A. + A ) = B

СледовательноУраx Bxнение= , (квадратичнаяx Ax + x A x) =îðì(àxравнаAx +описывает(xõAäíîéx) ) =îðìå,(x àAxB +симметричнаяx Ax) = x Ax.

2

2

2

2

2

нствеянекоторуюповерхностьгиперплоскость.Вмногомерном. про-

ïространоверхноñòьве. Вэтодвумерномобычная двумернпрстр

странствеВ трехмерномгиперQ(x) = q1x1

+ .. + qnxn

= c

оорчногодинат:иеанаэëлипсаизауравненилигèперболыяобычно. пр изводи

2

2

ся преобразование перемен-,

ныхкакДляизвестно,заменаболее куравнет

a11x1 + a12x1x2

+ a22x2 = c

преобразования упрощениеy =âèäàSx,

|Sîðìû| 6= 0,. S íåîñ áàÿ ìàòрица преобразования. Цель

предназна. Методсуммы10.чен2квадратовЛагранж.Квадратичндля приведенияс(МЛ)как миормаквадратичной-либоимееткоэ каноническициентамормы кèкй.аноническвид,лиомуона видупредстав. ас-

смотримленаОпределение§ÌË10â âèäå.3

2

2

орму можно записать в матричном виде:

Эту квадратичнуюQ(x) = a11x1 + 2a12x1x2 + ... + 2a1nx1xn

+ a12x2

+ 2a23x2x3 + ...

a.11

. . . a1n

x1

регулярный

.

...

.

В МЛ существуютQ(x) = (x1, ..., xn)

·. ·. .·

an1

ann

xn

лярного

(a11 6= 0) и особый (a11 = 0) случаи. Начнем с регу-

46 a11 6= 012..06.2012

x1

a12

a13

a1n

2

(2) 2

(2)

Выражение в скобках нàçíà÷èì ïåременной

Q (x) = a11 x1

+ a11 x2

+ a11 x3

+ .. + a11 xn + a22 x2 + a23 x2x3 + ...

матричном вмде

y1, и переобозначим: yi = xi,

i =

. Â

2, n

Надо чтобы преобразование0

áûëî1 неособым,0

òî åñòü

x. 1

(10.4)

y =

· · ·

.

a1n/a11

xn

1 a12/a11

0

0

1

матрица. Проверим, будет ли|

{z

}

y = S1X,

ãäå S1

неособая

S1

S1 неособой. Вычисля

определитель матрицы S1 â (10.4):

Выделяемпер енныхквадрат с

2

(2) 2

.

S1 =Продолжаем1, значит S1делатьнеособаяаналогичныематрица.шагиВновых.

Q(x) = a11y1 + a22 y2

+ ...

y2 (регулярный случай

a22(2) 6= 0):

a23(2)

a2(2)n

!

2

Замена:

Q (x) = a11y2

+ a(2)

y2 +

y3 + ... +

+ a(3)y2

+ ...

1

22

a22(2)

a22(2)

33

3

z1 = 1

zi =

i

= 3

|

{z

}

2

z2

y ,

y ,

i

, n. Выписываем матрицу S

преобразования переменных:

Н трудно заметить,z =÷òî

1

0

0

...

0

.

0

0

1

...

0

0

1

a23(2)/a22(2) ...

a23(2)/a22(2)

y. 1

0

0

· · ·

1

yn

0

âñå

|

S2

= 1

{z

}

z = S2y = S2S1x.

|

|

S2

етпрменяем.образованиехватить,Есливстретимноэтоосонеáыйеда)случай. Если

Процессслучаипродолжаетсрегулярные,дальшеполучаем. . . то,(букв,. Имеемправда,намнеособоенеобхмождимо

aii = 0

но найдетс

jполучитьс> i, àêîé÷òî

ajj

6= 0,

òî

индексацию переменных

ä ëüøå,. Ìîæ

однако,

k

я,. П лучимвседиагональнрегулярэлементыйэлементыслучай

è

двигаемся

yi = xj

yj = xi

yk = xk

6= i, j

aii 6= 0

ðàâíû íóëþ,

ajj (при квадратах)

Пусть это j = i, n

но существуют ненулевые