Умножение на матрици

Шаблон:Обработка Шаблон:Експерт В математиката, умножение на матрици е бинарна операция, при която от две матрици се изчислява нова матрица. Число от реалните или комплексни числа може да бъде умножено според елементарната аритметика. От друга страна, матриците са масиви от числа, така че не съществува един-единствен начин да се дефинира „умножението“ на матрици. Затова терминът „умножение на матрици“ се отнася до различни начини за умножение на матрици. Основните особености на което и да е умножение на матрици включва: броят на редовете и колоните на изходните матрици (наричат се „размер“, „ред“ или „измерение“), и упоменават как клетките на матрицата генерират новата матрица.

Както векторите, матрици с какъвто и да е размер могат да бъдат умножени по скалари, което се свежда до умножаване на всяка една от клетките по едно и също число. Подобно на определението за добавяне или изваждане на матрици, се прави и умножението на две матрици с еднакъв размер на съответните клетки и резултатът се нарича произведение на Адамар. Другият начин е да се получи произведение на Крокенер от две матрици, за да се получи матрица с блочна форма.

Могат да бъдат изведени още много определения. Най-полезната дефиниция може да бъде продиктувана от линейно уравнение и линейна трансформация на вектори, които имат приложение в математиката, физиката, и инженерството. Това определение често се нарича матрично произведение. С други думи, ако Шаблон:Math е Шаблон:Math матрица и Шаблон:Math е Шаблон:Math матрица, тяхното матрично произведение Шаблон:Math еШаблон:Math матрица, в която Шаблон:Math клетките по редовете Шаблон:Math се умножават с Шаблон:Math клетките по колоните Шаблон:Math.

Тази дефиниция не е комутативна, въпреки че запазва своята асоциативност и дистрибутивност при събирането на матричните клетки. Единичният елемент на матричното произведение (аналогично на умножаване на числа по едно), и квадратна матрица могат да имат обратима матрица (аналогично на реципрочна стойност на число). Последствие от матричното произведение е детерминантна мултипликативност. Получаването на матрично произведение е важна операция в линейните трансформации, матрична група и теорията за групова репрезентация и редуцибилната репрезентация.

Изчисляването на матрични произведения е основна операция в много числови алгоритмии има вероятност да е времеотнемаща, което я прави един от най-изучаваните проблеми в цифровите изчисления. Измислени са различни алгоритми за изчисляване на Шаблон:Math, особено за големи матрици.

Тази статия спазва следните конвенции: матриците са представени от главни букви с удебелен шрифт, например Шаблон:Math, вектори с малки букви с удебелен шрифт, например Шаблон:Math, а клетките на векторите и матриците са с наклонен шрифт (тъй като са скалари), например Шаблон:Math и Шаблон:Math. Индексната нотация често е най-ясният начин да се изразят определенията, и е приета като стандарт в литературата. Клетката Шаблон:Math на матрица Шаблон:Math се обозначава отШаблон:Math или Шаблон:Math, докато a цифрово обозначение (не матрична клетка) в колекция от матрици само е подчертано, например: Шаблон:Math, и т.н.

Скаларно умножение

Най-простата форма на умножение на матрици е скаларното умножение, което е частен случай на произведението на Кронекер.

Лявото скаларно умножение на матрица Шаблон:Math със скаларен множител Шаблон:Math дава друга матрица Шаблон:Math със същия размер като Шаблон:Math. се определя с уравнението Шаблон:Math:

$(\lambda 𝐀{)}_{ij}=\lambda {\left(𝐀\right)}_{ij},$

подробно:

$\lambda 𝐀=\lambda \left(\begin{array}{cccc}{A}_{11}& A_{12}& \cdots & A_{1m}\\ A_{21}& A_{22}& \cdots & A_{2m}\\ ⋮& ⋮& \ddots & ⋮\\ A_{n1}& A_{n2}& \cdots & A_{nm}\end{array}\right)=\left(\begin{array}{cccc}\lambda A_{11}& \lambda A_{12}& \cdots & \lambda A_{1m}\\ \lambda A_{21}& \lambda A_{22}& \cdots & \lambda A_{2m}\\ ⋮& ⋮& \ddots & ⋮\\ \lambda A_{n1}& \lambda A_{n2}& \cdots & \lambda A_{nm}\end{array}\right).$

По подобен начин, дясното скаларно умножение на матрица Шаблон:Math със скаларен множител Шаблон:Math е

$(𝐀\lambda {)}_{ij}={\left(𝐀\right)}_{ij}\lambda ,$

подробно:

$𝐀\lambda =\left(\begin{array}{cccc}{A}_{11}& A_{12}& \cdots & A_{1m}\\ A_{21}& A_{22}& \cdots & A_{2m}\\ ⋮& ⋮& \ddots & ⋮\\ A_{n1}& A_{n2}& \cdots & A_{nm}\end{array}\right)\lambda =\left(\begin{array}{cccc}{A}_{11}\lambda & A_{12}\lambda & \cdots & A_{1m}\lambda \\ A_{21}\lambda & A_{22}\lambda & \cdots & A_{2m}\lambda \\ ⋮& ⋮& \ddots & ⋮\\ A_{n1}\lambda & A_{n2}\lambda & \cdots & A_{nm}\lambda \end{array}\right).$

Когато подстоящият пръстен е комутативен, например, реално или комплексното число поле, тези две умножения са еквивалентни, и се наричат скаларно умножение. За матрици в по-общ пръстен които не са комутативни, каквито са кватернионите, те може да не са равни.

При реален скаларен множител и матрица:

$\lambda =2,𝐀=\left(\begin{array}{cc}a& b\\ c& d\end{array}\right)$

$2𝐀=2\left(\begin{array}{cc}a& b\\ c& d\end{array}\right)=\left(\begin{array}{cc}2\cdot a& 2\cdot b\\ 2\cdot c& 2\cdot d\end{array}\right)=\left(\begin{array}{cc}a\cdot 2& b\cdot 2\\ c\cdot 2& d\cdot 2\end{array}\right)=\left(\begin{array}{cc}a& b\\ c& d\end{array}\right)2=𝐀2.$

При скаларен множител кватернион и матрици:

$\lambda =i,𝐀=\left(\begin{array}{cc}i& 0\\ 0& j\end{array}\right)$

$i\left(\begin{array}{cc}i& 0\\ 0& j\end{array}\right)=\left(\begin{array}{cc}{i}^2& 0\\ 0& ij\end{array}\right)=\left(\begin{array}{cc}-1& 0\\ 0& k\end{array}\right)\ne \left(\begin{array}{cc}-1& 0\\ 0& -k\end{array}\right)=\left(\begin{array}{cc}{i}^2& 0\\ 0& ji\end{array}\right)=\left(\begin{array}{cc}i& 0\\ 0& j\end{array}\right)i,$

където Шаблон:Math са кватернионите. Некомутативността на умножението на кватерниони не позволява прехода на Шаблон:Math към Шаблон:Math.

Произведение на матрици (две матрици)

Да допуснем че две матрици ще бъдат умножени (по-долу се разглежда случай, сведен до каквото и да е число).

Обща дефиниция на матрично произведение

Arithmetic process of multiplying numbers (solid lines) in row Шаблон:Math in matrix Шаблон:Math and column Шаблон:Math in matrix Шаблон:Math, then adding the terms (dashed lines) to obtain entry Шаблон:Math in the final matrix.

Ако Шаблон:Math е Шаблон:Math матрица и Шаблон:Math е Шаблон:Math матрица,

$𝐀=\left(\begin{array}{cccc}{A}_{11}& A_{12}& \cdots & A_{1m}\\ A_{21}& A_{22}& \cdots & A_{2m}\\ ⋮& ⋮& \ddots & ⋮\\ A_{n1}& A_{n2}& \cdots & A_{nm}\end{array}\right),𝐁=\left(\begin{array}{cccc}{B}_{11}& B_{12}& \cdots & B_{1p}\\ B_{21}& B_{22}& \cdots & B_{2p}\\ ⋮& ⋮& \ddots & ⋮\\ B_{m1}& B_{m2}& \cdots & B_{mp}\end{array}\right)$

матричното произведение Шаблон:Math (обозначено без знаци за умножение или точки) представлява Шаблон:Math матрица

$𝐀𝐁=\left(\begin{array}{cccc}{\left(𝐀𝐁\right)}_{11}& {\left(𝐀𝐁\right)}_{12}& \cdots & {\left(𝐀𝐁\right)}_{1p}\\ {\left(𝐀𝐁\right)}_{21}& {\left(𝐀𝐁\right)}_{22}& \cdots & {\left(𝐀𝐁\right)}_{2p}\\ ⋮& ⋮& \ddots & ⋮\\ {\left(𝐀𝐁\right)}_{n1}& {\left(𝐀𝐁\right)}_{n2}& \cdots & {\left(𝐀𝐁\right)}_{np}\end{array}\right)$

където всяка Шаблон:Math клетка се получава при умножаването на клетките Шаблон:Math (хоризонтален ред Шаблон:Math на Шаблон:Math) по клетките Шаблон:Math (вертикална колона Шаблон:Math на Шаблон:Math), за Шаблон:Math, и сумирането на резултатите в Шаблон:Math:

$(𝐀𝐁{)}_{ij}=\sum _{k=1}^m{A}_{ik}{B}_{kj}.$

По този начин произведението Шаблон:Math се определя само ако броят на колоните в Шаблон:Math е равен на броя на редовете в Шаблон:Math, в този случай Шаблон:Math. Клетките могат да бъдат изчислявани една по една. Понякога, конвенцията за сумиране на Айнщайн се използва, за да се разбере сумата на повтарящия се индекс Шаблон:Math. За да се избегне двусмислие, конвенцията няма да бъде засегната в тази статия.

Обикновено клетките са цифри или изрази, но могат самите те да бъдат матрици (виж блок матрици). И в този случай матричното произведение пак се изчислява по същия начин. Може да се види подробно по-долу как матричното произведение може да бъде изчислено на базата на блокове, които приемат формата на редове и колони.

Илюстриране

Фигурата отдясно илюстрира чрез диаграма произведението на две матрици Шаблон:Math and Шаблон:Math, и показва как всеки отрязък в матричното произведение отговаря на ред от Шаблон:Math и колона от Шаблон:Math.

$\stackrel{4\times 2\text{ matrix}}{\left[\begin{array}{cc}{a}_{11}& a_{12}\\ \cdot & \cdot \\ a_{31}& a_{32}\\ \cdot & \cdot \end{array}\right]}\stackrel{2\times 3\text{ matrix}}{\left[\begin{array}{ccc}\cdot & b_{12}& b_{13}\\ \cdot & b_{22}& b_{23}\end{array}\right]}=\stackrel{4\times 3\text{ matrix}}{\left[\begin{array}{ccc}\cdot & x_{12}& x_{13}\\ \cdot & \cdot & \cdot \\ \cdot & x_{32}& x_{33}\\ \cdot & \cdot & \cdot \end{array}\right]}$

Стойностите на отрязъците обозначени с кръгове са:

$\begin{array}{cc}{x}_{12}& =a_{11}{b}_{12}+a_{12}{b}_{22}\\ x_{13}& =a_{11}{b}_{13}+a_{12}{b}_{23}\\ x_{32}& =a_{31}{b}_{12}+a_{32}{b}_{22}\\ x_{33}& =a_{31}{b}_{13}+a_{32}{b}_{23}\end{array}$

Примери за произведение на матрици

Вектор ред и вектор колона

Ако

$𝐀=\left(\begin{array}{ccc}a& b& c\end{array}\right),𝐁=\left(\begin{array}{c}x\\ y\\ z\end{array}\right),$

техните матрични произведения са:

$𝐀𝐁=\left(\begin{array}{ccc}a& b& c\end{array}\right)\left(\begin{array}{c}x\\ y\\ z\end{array}\right)=ax+by+cz,$

и

$𝐁𝐀=\left(\begin{array}{c}x\\ y\\ z\end{array}\right)\left(\begin{array}{ccc}a& b& c\end{array}\right)=\left(\begin{array}{ccc}xa& xb& xc\\ ya& yb& yc\\ za& zb& zc\end{array}\right).$

Обърнете внимание, че Шаблон:Math и Шаблон:Math са две различни матрици: първата е Шаблон:Math матрица докато втората е Шаблон:Math матрица. Такива изрази се срещат при реални стойности в Евклидови вектори в Декартова координатна системаи, представени като матрици с редове и колони, при което Шаблон:Math е матричната форма на тяхното скаларно произведение, докато Шаблон:Math е матричната форма на тяхното диадно или тензорно произведение.

Квадратна матрица и вектор колона

Ако

$𝐀=\left(\begin{array}{ccc}a& b& c\\ p& q& r\\ u& v& w\end{array}\right),𝐁=\left(\begin{array}{c}x\\ y\\ z\end{array}\right),$

матричното произведение е:

$𝐀𝐁=\left(\begin{array}{ccc}a& b& c\\ p& q& r\\ u& v& w\end{array}\right)\left(\begin{array}{c}x\\ y\\ z\end{array}\right)=\left(\begin{array}{c}ax+by+cz\\ px+qy+rz\\ ux+vy+wz\end{array}\right),$

при което Шаблон:Math не е определено.

До произведението на квадратна матрица умножена по матрица от колона се достига естествено в линейната алгебра; за решаване на линейни уравнения и представянето им като линейни трансформации.

Квадратни матрици

Ако

$𝐀=\left(\begin{array}{ccc}a& b& c\\ p& q& r\\ u& v& w\end{array}\right),𝐁=\left(\begin{array}{ccc}\alpha & \beta & \gamma \\ \lambda & \mu & \nu \\ \rho & \sigma & \tau \end{array}\right),$

техните матрични произведения са:

$𝐀𝐁=\left(\begin{array}{ccc}a& b& c\\ p& q& r\\ u& v& w\end{array}\right)\left(\begin{array}{ccc}\alpha & \beta & \gamma \\ \lambda & \mu & \nu \\ \rho & \sigma & \tau \end{array}\right)=\left(\begin{array}{ccc}a\alpha +b\lambda +c\rho & a\beta +b\mu +c\sigma & a\gamma +b\nu +c\tau \\ p\alpha +q\lambda +r\rho & p\beta +q\mu +r\sigma & p\gamma +q\nu +r\tau \\ u\alpha +v\lambda +w\rho & u\beta +v\mu +w\sigma & u\gamma +v\nu +w\tau \end{array}\right),$

и

$𝐁𝐀=\left(\begin{array}{ccc}\alpha & \beta & \gamma \\ \lambda & \mu & \nu \\ \rho & \sigma & \tau \end{array}\right)\left(\begin{array}{ccc}a& b& c\\ p& q& r\\ u& v& w\end{array}\right)=\left(\begin{array}{ccc}\alpha a+\beta p+\gamma u& \alpha b+\beta q+\gamma v& \alpha c+\beta r+\gamma w\\ \lambda a+\mu p+\nu u& \lambda b+\mu q+\nu v& \lambda c+\mu r+\nu w\\ \rho a+\sigma p+\tau u& \rho b+\sigma q+\tau v& \rho c+\sigma r+\tau w\end{array}\right).$

В този случай, и двете произведения Шаблон:Math and Шаблон:Math са дефинирани, и клетките показват, че Шаблон:Math и Шаблон:Math по принцип не са равни.

Умножението на квадратни матрици, които представят линейни transformations отговаря на composite transformation (за детайли виж по-долу).

Вектор ред, квадратна матрица, и вектор колона

Ако

$𝐀=\left(\begin{array}{ccc}a& b& c\end{array}\right),𝐁=\left(\begin{array}{ccc}\alpha & \beta & \gamma \\ \lambda & \mu & \nu \\ \rho & \sigma & \tau \end{array}\right),𝐂=\left(\begin{array}{c}x\\ y\\ z\end{array}\right),$

тяхното матрично произведение е:

$\begin{array}{cc}𝐀𝐁𝐂& =\left(\begin{array}{ccc}a& b& c\end{array}\right)\left[\left(\begin{array}{ccc}\alpha & \beta & \gamma \\ \lambda & \mu & \nu \\ \rho & \sigma & \tau \end{array}\right)\left(\begin{array}{c}x\\ y\\ z\end{array}\right)\right]=\left[\left(\begin{array}{ccc}a& b& c\end{array}\right)\left(\begin{array}{ccc}\alpha & \beta & \gamma \\ \lambda & \mu & \nu \\ \rho & \sigma & \tau \end{array}\right)\right]\left(\begin{array}{c}x\\ y\\ z\end{array}\right)\\ & =\left(\begin{array}{ccc}a& b& c\end{array}\right)\left(\begin{array}{c}\alpha x+\beta y+\gamma z\\ \lambda x+\mu y+\nu z\\ \rho x+\sigma y+\tau z\end{array}\right)=\left(\begin{array}{ccc}a\alpha +b\lambda +c\rho & a\beta +b\mu +c\sigma & a\gamma +b\nu +c\tau \end{array}\right)\left(\begin{array}{c}x\\ y\\ z\end{array}\right)\\ & =a\alpha x+b\lambda x+c\rho x+a\beta y+b\mu y+c\sigma y+a\gamma z+b\nu z+c\tau z,\end{array}$

Шаблон:Math не е дефинирано. Обърнете внимание, че Шаблон:Math, това е едно от мнгото общи свойства, които са описани по-долу. Изрази като Шаблон:Math се срещат когато се изчислява вътрешното произведение на два вектора, представени като вектор ред и вектор колона в произволна координатна система, и метричен тензор в тези координати обозначени като квадратна матрица.

Четириъгълни матрици

Ако

$𝐀=\left(\begin{array}{ccc}a& b& c\\ x& y& z\end{array}\right),𝐁=\left(\begin{array}{cc}\alpha & \rho \\ \beta & \sigma \\ \gamma & \tau \end{array}\right),$

техните матрични произведения са:

$𝐀𝐁=\left(\begin{array}{ccc}a& b& c\\ x& y& z\end{array}\right)\left(\begin{array}{cc}\alpha & \rho \\ \beta & \sigma \\ \gamma & \tau \end{array}\right)=\left(\begin{array}{cc}a\alpha +b\beta +c\gamma & a\rho +b\sigma +c\tau \\ x\alpha +y\beta +z\gamma & x\rho +y\sigma +z\tau \end{array}\right),$

и

$𝐁𝐀=\left(\begin{array}{cc}\alpha & \rho \\ \beta & \sigma \\ \gamma & \tau \end{array}\right)\left(\begin{array}{ccc}a& b& c\\ x& y& z\end{array}\right)=\left(\begin{array}{ccc}\alpha a+\rho x& \alpha b+\rho y& \alpha c+\rho z\\ \beta a+\sigma x& \beta b+\sigma y& \beta c+\sigma z\\ \gamma a+\tau x& \gamma b+\tau y& \gamma c+\tau z\end{array}\right).$

Свойства на матричното произведение (две матрици)

Подобно на числоа (елементи на поле), матриците отговарят на следните общи свойства general properties, въпреки че съществува една особеност, която се дължи на природата на умножението на матрици.

Произведение на матрици (произволен брой)

Умножението на матрици може да бъде разширено до случая, в който участват повече от две матрици, като всяка една двойка матрици трябва да удовлетворява предварителното условие за размерността.

Произведението на Шаблон:Math матрици Шаблон:Math с резмерности Шаблон:Math (където Шаблон:Math са положителни числа, като индексите съответстват на тези на матриците), матрицата с размерност Шаблон:Math :

$\prod _{i=1}^n{𝐀}_i={𝐀}_1{𝐀}_2\cdots {𝐀}_n$

Разписано с индекси:

${({𝐀}_1{𝐀}_2\cdots {𝐀}_n)}_{i_0{i}_n}=\sum _{i_1=1}^{s_1}\sum _{i_2=1}^{s_2}\cdots \sum _{i_{n-1}=1}^{s_{n-1}}{\left({𝐀}_1\right)}_{i_0{i}_1}{\left({𝐀}_2\right)}_{i_1{i}_2}{\left({𝐀}_3\right)}_{i_2{i}_3}\cdots {\left({𝐀}_{n-1}\right)}_{i_{n-2}{i}_{n-1}}{\left({𝐀}_n\right)}_{i_{n-1}{i}_n}$

Свойства на матричното произведение (произволен брой)

Свойствата са в сила, докато редът на матриците не е променен. Някои от предишните свойства, валидни за две матрици, могат да бъдат обобщени както следва.

Операции, произлизащи от умножението на матрици

Повечето операции върху квадратни матрици могат да бъдат дефинирани посредством умножението на матрици. Например степенуването и коренуването на матрица могат да бъдат представени чрез многократно прилагане на умножението на матрици, матричната експонента може да бъде дефинирана чрез степенни редове, матричния логаритъм е обратната операция на матричната експоненто и т.н.

Степенуване на матрица

Квадратните матрици могат да бъдат умножени една с друга многократно по подобие на числата, защото те винаги запазват своя брой на редове и колони. Това многократно умножение може да се представи като степенуване на матрица, специален случай на умножението на матрици. От друга страна, правоъгълните матрици нямат същия брой на редове и колони и поради тази причина те никога не могат да бъдат повдигнати на степен. Матрица Шаблон:Math с размерност Шаблон:Math, повдигната на степен Шаблон:Math цяло число, се дефинира по следния начин

${𝐀}^k=\underset{k\mathrm{t}\mathrm{i}\mathrm{m}\mathrm{e}\mathrm{s}}{𝐀𝐀\cdots 𝐀}$

и следните свойства са в сила, където Шаблон:Math е скалар:

1. Нулева степен:

${𝐀}^0=𝐈$

където I е единичната матрица. Това е съпоставимо с повдигането на степен нула на кое и да е число, което е равно на единица.

2. Умножение със скалар:

$(\lambda 𝐀{)}^k={\lambda }^k{𝐀}^k$

3. Детерминанта:

$\det ({𝐀}^k)=\det (𝐀{)}^k$

Наивният подход при степенуване на матрица е матрицата Шаблон:Math да се умножи Шаблон:Math пъти. Този метод б могъл да бъде оптимизиран чрез използване на алгоритъм за бързо пресмятане на степен – метод предимно използван за скалари. За матрици, които са подобни на диагоналните, още по-добър вариант е да се използва спектралната декомпозиция на Шаблон:Math. Друг метод, базиран на теоремата на Хамилтон-Кейли намира по-ефективно уравнение за Шаблон:Math, в което даден скалар се повдига на нужната степен отколкото цялата матрица.

Специален случай е степенуването на диагонална матрица. Понеже умножаването на диагонални матрици се състои просто в умножение на съответните диагонални елементи, диагоналната матрица Шаблон:Math на степен Шаблон:Math ще се състои от елементи, повдигнати на степента. По-подробно;

${𝐀}^k={\left(\begin{array}{cccc}{A}_{11}& 0& \cdots & 0\\ 0& A_{22}& \cdots & 0\\ ⋮& ⋮& \ddots & ⋮\\ 0& 0& \cdots & A_{nn}\end{array}\right)}^k=\left(\begin{array}{cccc}{A}_{11}^k& 0& \cdots & 0\\ 0& A_{22}^k& \cdots & 0\\ ⋮& ⋮& \ddots & ⋮\\ 0& 0& \cdots & A_{nn}^k\end{array}\right)$

което означава, че степенуването на диагонална матрица е лесна операция. При степенуване на произволна матрица (не е нужно да бъде диагонална), в много случаи е полезно да се използва това свойство.

Приложения на умножението на матрици

Линейни трансформации

Матриците предоставят сбит начин на представяне на линейни изображения между векторни пространства и умножението на матрици съответства на композицията на линейни изображения. Произведението на две матрици може да бъде дефинирано, когато елементите им принадлежат на същия пръстен пръстен и следователно може да бъде добавян и умножаван.

Нека Шаблон:Math, и Шаблон:Math са линейни пространства над едно и също поле с дадени базиси, Шаблон:Math и Шаблон:Math са линейни изображения и Шаблон:Math е тяхната композиция.

Да предположим, че Шаблон:Math, и Шаблон:Math са матриците, представящи изображенията Шаблон:Math, и Шаблон:Math спрямо дадените базиси.

Тогава матрицата Шаблон:Math, композицията (или произведението) на линейни изображения е произведението на техните матрици спрямо дадените базиси.

Система линейни уравнения

Система линейни уравнения с еднакъв брой уравнения и неизвестни може да бъде решена чрез съставянето на матрица от коефициентите на уравненията.

Сходна процедура може да бъде използвана при решаването на линейни диференциални уравнения.

Векторно и диадно произведение

При дадени два вектор стълба Шаблон:Math и Шаблон:Math, скаларното произведение и диадното произведение са най-простите случаи на матрично произведение.

Скаларно произведение

Скаларното произведение на два вектора в матричен вид е еквивалентно на вектор стълб, умножен от лявата си страна с вектор ред:

$\begin{array}{cc}𝐚\cdot 𝐛& ={𝐚}^{\mathrm{T}}𝐛\\ & =\left(\begin{array}{cccc}{a}_1& a_2& \cdots & a_n\end{array}\right)\left(\begin{array}{c}{b}_1\\ b_2\\ ⋮\\ b_n\end{array}\right)\\ & =a_1{b}_1+a_2{b}_2+\cdots +a_n{b}_n\\ & =\sum _{i=1}^n{a}_i{b}_i,\end{array}$

където Шаблон:Math е транспонираната матрица на a.

Матричното произведение може да се представи под форма на скаларно произведение. Да предположим, че матрицата A с размерност Шаблон:Math е представена чрез вектор редовете Шаблон:Math, а матрицата Шаблон:Math с размерност Шаблон:Math е представена чрез вектор стълбовете Шаблон:Math:

$𝐀=\left(\begin{array}{cccc}{A}_{11}& A_{12}& \cdots & A_{1m}\\ A_{21}& A_{22}& \cdots & A_{2m}\\ ⋮& ⋮& \ddots & ⋮\\ A_{n1}& A_{n2}& \cdots & A_{nm}\end{array}\right)=\left(\begin{array}{c}{𝐚}_1\\ {𝐚}_2\\ ⋮\\ {𝐚}_n\end{array}\right),$

$𝐁=\left(\begin{array}{cccc}{B}_{11}& B_{12}& \cdots & B_{1p}\\ B_{21}& B_{22}& \cdots & B_{2p}\\ ⋮& ⋮& \ddots & ⋮\\ B_{m1}& B_{m2}& \cdots & B_{mp}\end{array}\right)=\left(\begin{array}{cccc}{𝐛}_1& {𝐛}_2& \cdots & {𝐛}_p\end{array}\right)$

където

${𝐚}_i=\left(\begin{array}{cccc}{A}_{i1}& A_{i2}& \cdots & A_{im}\end{array}\right),{𝐛}_i=\left(\begin{array}{c}{B}_{1i}\\ B_{2i}\\ ⋮\\ B_{mi}\end{array}\right)$

Тогава:

$𝐀𝐁=\left(\begin{array}{c}{𝐚}_1\\ {𝐚}_2\\ ⋮\\ {𝐚}_n\end{array}\right)\left(\begin{array}{cccc}{𝐛}_1& {𝐛}_2& \dots & {𝐛}_p\end{array}\right)=\left(\begin{array}{cccc}({𝐚}_1\cdot {𝐛}_1)& ({𝐚}_1\cdot {𝐛}_2)& \dots & ({𝐚}_1\cdot {𝐛}_p)\\ ({𝐚}_2\cdot {𝐛}_1)& ({𝐚}_2\cdot {𝐛}_2)& \dots & ({𝐚}_2\cdot {𝐛}_p)\\ ⋮& ⋮& \ddots & ⋮\\ ({𝐚}_n\cdot {𝐛}_1)& ({𝐚}_n\cdot {𝐛}_2)& \dots & ({𝐚}_n\cdot {𝐛}_p)\end{array}\right)$

Също така е възможно дадено матрично произведение да се изрази под формата на произведение на матрици и вектор ред или стълб.:

$𝐀𝐁=\left(\begin{array}{cccc}𝐀{𝐛}_1& 𝐀{𝐛}_2& \dots & 𝐀{𝐛}_p\end{array}\right)=\left(\begin{array}{c}{𝐚}_1𝐁\\ {𝐚}_2𝐁\\ ⋮\\ {𝐚}_n𝐁\end{array}\right)$

Тези преобразувания са особено полезни за матрици, които са представени като конкатенации на различни типове вектор редове или вектор колони. Например ортогоналните матрици (чиито редове са ортогонални един на друг) и матриците на Марков (при които сумата от редовете или колоните е равна на единица).

Диадно произведение

Диадното произведение (също познато като тензорно произведение) на два вектора в матричен вид е еквивалентно на вектор ред, умножен от ляво с вектор стълб:

$\begin{array}{cc}𝐚\otimes 𝐛& =𝐚{𝐛}^{\mathrm{T}}\\ & =\left(\begin{array}{c}{a}_1\\ a_2\\ ⋮\\ a_n\end{array}\right)\left(\begin{array}{cccc}{b}_1& b_2& \cdots & b_n\end{array}\right)\\ & =\left(\begin{array}{cccc}{a}_1{b}_1& a_1{b}_2& \cdots & a_1{b}_n\\ a_2{b}_1& a_2{b}_2& \cdots & a_2{b}_n\\ ⋮& ⋮& \ddots & ⋮\\ a_n{b}_1& a_n{b}_2& \cdots & a_n{b}_n\end{array}\right).\end{array}$

Умножението на матрици може да се представи под форма на диадно произведение. Матрицата Шаблон:Math е представена чрез вектор стълбовете Шаблон:Math, а матрицата Шаблон:Math – чрез вектор редовете Шаблон:Math:

$\begin{array}{cc}𝐀𝐁& =\left(\begin{array}{cccc}{\overline{𝐚}}_1& {\overline{𝐚}}_2& \cdots & {\overline{𝐚}}_m\end{array}\right)\left(\begin{array}{c}{\overline{𝐛}}_1\\ {\overline{𝐛}}_2\\ ⋮\\ {\overline{𝐛}}_m\end{array}\right)\\ & ={\overline{𝐚}}_1\otimes {\overline{𝐛}}_1+{\overline{𝐚}}_2\otimes {\overline{𝐛}}_2+\cdots +{\overline{𝐚}}_m\otimes {\overline{𝐛}}_m\\ & =\sum _{i=1}^m{\overline{𝐚}}_i\otimes {\overline{𝐛}}_i\end{array}$

където този път

${\overline{𝐚}}_i=\left(\begin{array}{c}{A}_{1i}\\ A_{2i}\\ ⋮\\ A_{ni}\end{array}\right),{\overline{𝐛}}_i=\left(\begin{array}{cccc}{B}_{i1}& B_{i2}& \cdots & B_{ip}\end{array}\right).$

Този метод подчертава ефекта от отделните стълб/ред двойки в резултата.

$\begin{array}{cc}\left(\begin{array}{ccc}1& 2& 3\\ 4& 5& 6\\ 7& 8& 9\end{array}\right)\left(\begin{array}{cc}a& d\\ b& e\\ c& f\end{array}\right)& =\left(\begin{array}{c}1\\ 4\\ 7\end{array}\right)\left(\begin{array}{cc}a& d\end{array}\right)+\left(\begin{array}{c}2\\ 5\\ 8\end{array}\right)\left(\begin{array}{cc}b& e\end{array}\right)+\left(\begin{array}{c}3\\ 6\\ 9\end{array}\right)\left(\begin{array}{cc}c& f\end{array}\right)\\ & =\left(\begin{array}{cc}1a& 1d\\ 4a& 4d\\ 7a& 7d\end{array}\right)+\left(\begin{array}{cc}2b& 2e\\ 5b& 5e\\ 8b& 8e\end{array}\right)+\left(\begin{array}{cc}3c& 3f\\ 6c& 6f\\ 9c& 9f\end{array}\right)\\ & =\left(\begin{array}{cc}1a+2b+3c& 1d+2e+3f\\ 4a+5b+6c& 4d+5e+6f\\ 7a+8b+9c& 7d+8e+9f\end{array}\right).\end{array}$

Алгоритми за ефективно умножение на матрици

Граници на Шаблон:Math във времето.

Времето за умножение на квадратни матрици с наивен алгоритъм е Шаблон:Math. Времето за умножение на правоъгълни матрици (една Шаблон:Math-матрица с една Шаблон:Math-матрица) е Шаблон:Math, Все пак съществуват и по-ефективни алгоритми за целта, например алгоритъм на Страсен, разработен през 1969 г. от Volker Strassen и често срещан под името „бързо умножение на матрици“. Той се базира на определен начин на умножение на две Шаблон:Math-матрици, изискващ само 7 умножения (вместо обичайните 8) за сметка на няколко допълнителни операции по събиране и изваждане. Използването на това чрез рекурсия дава като резултат сложност $O(n^{{\log }_{2}7})\approx O(n^{2.807})$. Алгоритъмът на Страсен е по-сложен, а неговата числена стабилност е по-ниска в сравнение с тази на наивния алгоритъм. Въпреки това, последния е включен в няколко библиотеки като BLAS, където той е чувствително по-ефективен за матрици с размери над 100, и освен това е много полезен за големи матрици над точните области като крайни полета, където числената стабилност не е проблем.

Настоящият Шаблон:Math алгоритъм с възможно най-ниската експонента Шаблон:Math е обобщение на алгоритъм на Копърсмит-Виноград с асимптотична сложност Шаблон:Math, създаден от Франсоа Ле Гал. Този алгоритъм, заедно с алгоритъм на Копърсмит-Виноград на който е базиран, са близки до алгоритъма на Страсен: намерен е начин за умножение на две Шаблон:Math-матрици с по-малко от Шаблон:Math умножения, и след това тази техника е приложена рекурсивно. Въпреки това, константния коефициент, скрит зад голямата О нотация, е толкова голям, че тези алгоритми си струва да бъдат прилагани само за матрици, които са твърде големи за обработка със съвременната изчислителна техника.

Тъй като всеки алгоритъм за умножение на две Шаблон:Math-матрици трябва да обработи Шаблон:Math-елемента, има асимптотична долна граница от Шаблон:Math операции. През 2002 г. Раз доказва че стойността на долната граница за аритметични вериги със свързани коефициенти е по-ниска Шаблон:Math от тази при реални или сложни числа.

През 2003 – 2005 г. Коун и други слагат методиките на алгоритмите на Страсен и Копърсмит-Виноград в напълно различен, групово-теоретичен контекст. Това става чрез употребата на тройки от подмножества на крайни групи, които нямат общи елементи, наречено още свойство на тройното произведение (TPP). Те показват, че ако семействата на кръглите произведения на Абелови групи със симетрични групи дава семейства от тройки подмножества с еднаква версия на тяхното TPP, това значи че има алгоритми за умножение на матрици с приблизително квадратична сложност. Повечето изследователи вярват в че това е вярно. Въпреки това, Алон, Шпилка и Крис Уманс доказват, че при някои от тези предположения бързото умножението на матрици е несъвместимо с друго предположение – това на слънчогледа.

Алгоритъмът на Фрайвалдс е обикновен Монте Карло алгоритъм, който, при дадени матрици Шаблон:Math се изпълнява за Шаблон:Math време, ако Шаблон:Math.

Умножение на блокове матрици. При 2D алгоритъмът всеки процесор отговаря за една подматрица Шаблон:Math. При 3D алгоритъмът, умножението на всеки чифт подматрици от Шаблон:Math и Шаблон:Math се подава на един процесор..

Паралелно умножение на матрици

Поради природата на операциите с матрици и разположението на матриците в паметта, обикновено е възможно постигането на чувствително подобрение на производителността с помощта на паралелизация и векторизация. Съществуват няколко приложими алгоритми, сред които са и разделяй и владей алгоритмите, базирани на разлагането на матриците на блокове.

$𝐂=\left(\begin{array}{cc}{𝐂}_{11}& {𝐂}_{12}\\ {𝐂}_{21}& {𝐂}_{22}\end{array}\right)=\left(\begin{array}{cc}{𝐀}_{11}& {𝐀}_{12}\\ {𝐀}_{21}& {𝐀}_{22}\end{array}\right)\left(\begin{array}{cc}{𝐁}_{11}& {𝐁}_{12}\\ {𝐁}_{21}& {𝐁}_{22}\end{array}\right)=𝐀𝐁$

които лежат и в основата на алгоритъма на Страсен. Тук Шаблон:Math, Шаблон:Math и Шаблон:Math вземат за квадратни Шаблон:Mvar by Шаблон:Mvar матрици, а Шаблон:Math и т.н. са Шаблон:Math by Шаблон:Math подматрици. От това разлагане се получава

$\left(\begin{array}{cc}{𝐀}_{11}& {𝐀}_{12}\\ {𝐀}_{21}& {𝐀}_{22}\end{array}\right)\left(\begin{array}{cc}{𝐁}_{11}& {𝐁}_{12}\\ {𝐁}_{21}& {𝐁}_{22}\end{array}\right)=\left(\begin{array}{cc}{𝐀}_{11}{𝐁}_{11}+{𝐀}_{12}{𝐁}_{21}& {𝐀}_{11}{𝐁}_{12}+{𝐀}_{12}{𝐁}_{22}\\ {𝐀}_{21}{𝐁}_{11}+{𝐀}_{22}{𝐁}_{21}& {𝐀}_{21}{𝐁}_{12}+{𝐀}_{22}{𝐁}_{22}\end{array}\right)$

което се състои от осем умножения на деойки подматрици, всички от които могат да бъдат изпълнявани паралелно, последвани от допълнителна стъпка. Ако това се приложи рекурсивно и събиранията се изпълнят отново паралелно, получения алгоритъм отнема Шаблон:Math време на идеална машина с безкраен брой процесори, и има максимална възможна скорост Шаблон:Math на всички реални компютри (въпреки че алгоритъма не е практичен, негов по-практичен вариант постига Шаблон:Math скорост).

Трябва да бъде отбелязано това, че някои алгоритми с по-ниска времева сложност на хартия, може да имат индиректно добавена допълнителна сложност по време при работа на реални машини.

Разпределени алгоритми и алгоритми избягващи комуникация

При модерните архитектури с йерархична памет, цената на зареджане и съхранение на данните от матричните елементи е по=висока от тази на изчисленията. За една машина това е количеството данни, пренасяно между RAM паметта и кеша, докато при многовъзловите машини с разпределена памет това е количеството данни, премасяно междъ отделните възли. И в двата случая това се нарича ширина на потока за комуникация. Наивните алгоритми, ползващи три вложени цикъла използват Шаблон:Math широчина на комуникационния поток.

Алгоритъма на Канон, познат още като 2D алгоритъм, разделя всяка входна матрица на блокове чиито елементи са подматрици с големина Шаблон:Math by Шаблон:Math, където Шаблон:Math е размера на бързата памет. След това за блоковете от матрици се прилага наивния алгоритъм, който изчислява произведенията на подматриците изцяло в бързата памет. Това намалява широчината на комуникационния канал до Шаблон:Math, което е асимптотично оптимално (за алгоритми с изчислителна производителност Шаблон:Math).

В разпределена среда с Шаблон:Math процесора подредени в Шаблон:Math на Шаблон:Math 2D мрежа, към всеки процесор може да бъде зачислена една подматрица, а произведението – да бъде изчислено с всеки процесор, предавайки Шаблон:Math думи. Това е асимптотично оптимално, ако се предположи че всеки изчислителен възел съхранява минимум Шаблон:Math елементи. Това може да бъде подобрено от 3D алгоритъм, който подрежда процесорите в 3D мрежа с форма на куб, давайки всяко произведение на две подматрици на един процесор. Получените в резултат подматрици след това се генерират посредством изваждане на всеки ред. Този алгоритъм предава Шаблон:Math думи на процесор, което е асимптотично оптимално. Все пак, това изисква репликиране на всеки елемент от входящите матрици Шаблон:Math пъти, и следователно изисква фактор от Шаблон:Math пъти повече памет, в сравнение с нужната за съхранението на входните данни. Този алгоритъм може да се комбинира с алгоритъма на Страсен с цел да се намали още повече времето за изпълнение. „2.5D“ алгоритмите предоставят баланс между ползването на памет и широчината на комуникационния канал. За съвременните разпределени компютърни среди като MapReduce са създадени специализирани алгоритми за умножение.

Други форми на умножение

По-долу са представени няколко други начина за умножение на матрици. Всъщност, някои от тях са по-прости от дефиницията по-горе.

Произведение на Адамар

Произведението на Адамар е предназначено за две матрици с еднакви размерности. За две матрици Шаблон:Math и Шаблон:Math с еднакви размерности произведението на Адамар Шаблон:Math е матрица от същата размерност, като Шаблон:Math-тия елемент на Шаблон:Math е умножен с Шаблон:Math-тия елемент на Шаблон:Math, което изглежда по следния начин:

${(𝐀\circ 𝐁)}_{ij}=A_{ij}{B}_{ij},$

разписано пълно:

$𝐀\circ 𝐁=\left(\begin{array}{cccc}{A}_{11}& A_{12}& \cdots & A_{1m}\\ A_{21}& A_{22}& \cdots & A_{2m}\\ ⋮& ⋮& \ddots & ⋮\\ A_{n1}& A_{n2}& \cdots & A_{nm}\end{array}\right)\circ \left(\begin{array}{cccc}{B}_{11}& B_{12}& \cdots & B_{1m}\\ B_{21}& B_{22}& \cdots & B_{2m}\\ ⋮& ⋮& \ddots & ⋮\\ B_{n1}& B_{n2}& \cdots & B_{nm}\end{array}\right)=\left(\begin{array}{cccc}{A}_{11}{B}_{11}& A_{12}{B}_{12}& \cdots & A_{1m}{B}_{1m}\\ A_{21}{B}_{21}& A_{22}{B}_{22}& \cdots & A_{2m}{B}_{2m}\\ ⋮& ⋮& \ddots & ⋮\\ A_{n1}{B}_{n1}& A_{n2}{B}_{n2}& \cdots & A_{nm}{B}_{nm}\end{array}\right)$

Тази операция е идентична с това да се умножат много числа едновременно. Следователно произведението Адамар e комутативно, асоциативно и дистрибутивно. Също така е основна подматрица от произведението на Крьонекер. Съдържа се в алгоритми за компресия като JPEG.

Произведение на Фробениус

Произведението на Фробениус, понякога отбелязвано като Шаблон:Math, е произведение на две матрици. То също така представлява сумата от елементите от произведението на Адамар. Подробно,

$𝐀:𝐁=\sum _{i,j}{A}_{ij}{B}_{ij}=\mathrm{v}\mathrm{e}\mathrm{c}(𝐀{)}^{𝖳}\mathrm{v}\mathrm{e}\mathrm{c}(𝐁)=\mathrm{t}\mathrm{r}({𝐀}^{𝖳}𝐁)=\mathrm{t}\mathrm{r}(𝐀{𝐁}^{𝖳}),$

където „tr“ означава следата на матрица, а vec означава векторизацията.

Произведение на Крьонекер

За две матрици Шаблон:Math и Шаблон:Math с произволни размерности съответно Шаблон:Math и Шаблон:Math (без каквито и да е било изисквания върху размерността на матриците), произведението на Крьоникер е матрицата

$𝐀\otimes 𝐁=\left(\begin{array}{cccc}{A}_{11}𝐁& A_{12}𝐁& \cdots & A_{1n}𝐁\\ A_{21}𝐁& A_{22}𝐁& \cdots & A_{2n}𝐁\\ ⋮& ⋮& \ddots & ⋮\\ A_{m1}𝐁& A_{m2}𝐁& \cdots & A_{mn}𝐁\end{array}\right).$

с размерност Шаблон:Math. Това е приложението на най-общото тензорно произведение върху матрици.