Cálculo matricial - Matrix calculus

Em matemática , cálculo de matriz é uma notação especializada para fazer cálculos multivariados , especialmente sobre espaços de matrizes . Ele coleta as várias derivadas parciais de uma única função em relação a muitas variáveis , e / ou de uma função multivariada em relação a uma única variável, em vetores e matrizes que podem ser tratados como entidades únicas. Isso simplifica muito as operações, como encontrar o máximo ou mínimo de uma função multivariada e resolver sistemas de equações diferenciais . A notação usada aqui é comumente usada em estatística e engenharia , enquanto a notação de índice de tensor é preferida em física .

Duas convenções notacionais concorrentes dividem o campo do cálculo matricial em dois grupos separados. Os dois grupos podem ser distinguidos pelo fato de escreverem a derivada de um escalar em relação a um vetor como um vetor coluna ou um vetor linha . Ambas as convenções são possíveis mesmo quando a suposição comum é feita de que os vetores devem ser tratados como vetores de coluna quando combinados com matrizes (em vez de vetores de linha). Uma única convenção pode ser um tanto padrão em um único campo que normalmente usa cálculo matricial (por exemplo , econometria , estatística, teoria de estimativa e aprendizado de máquina ). No entanto, mesmo dentro de um determinado campo, autores diferentes podem ser encontrados usando convenções concorrentes. Autores de ambos os grupos freqüentemente escrevem como se suas convenções específicas fossem padronizadas. Erros graves podem ocorrer ao combinar resultados de diferentes autores sem verificar cuidadosamente se as notações compatíveis foram usadas. As definições dessas duas convenções e comparações entre elas são coletadas na seção de convenções de layout .

Alcance

O cálculo de matriz se refere a uma série de notações diferentes que usam matrizes e vetores para coletar a derivada de cada componente da variável dependente com relação a cada componente da variável independente. Em geral, a variável independente pode ser um escalar, um vetor ou uma matriz, enquanto a variável dependente também pode ser qualquer um deles. Cada situação diferente levará a um conjunto diferente de regras, ou um cálculo separado , usando o sentido mais amplo do termo. A notação de matriz serve como uma maneira conveniente de coletar as muitas derivadas de uma maneira organizada.

Como primeiro exemplo, considere o gradiente do cálculo vetorial . Para uma função escalar de três variáveis independentes , o gradiente é dado pela equação vetorial ${\ displaystyle f (x_ {1}, x_ {2}, x_ {3})}$

{\ displaystyle \ nabla f = {\ frac {\ parcial f} {\ parcial x_ {1}}} {\ hat {x}} _ {1} + {\ frac {\ parcial f} {\ parcial x_ {2 }}} {\ hat {x}} _ {2} + {\ frac {\ partial f} {\ partial x_ {3}}} {\ hat {x}} _ {3}}

,

onde representa um vetor unitário na direção de . Este tipo de derivada generalizada pode ser vista como a derivada de um escalar, f , em relação a um vetor , e seu resultado pode ser facilmente coletado na forma vetorial. ${\ displaystyle {\ hat {x}} _ {i}}$ ${\ displaystyle x_ {i}}$ ${\ displaystyle 1 \ leq i \ leq 3}$ ${\ displaystyle \ mathbf {x}}$

{\ displaystyle \ nabla f = {\ frac {\ partial f} {\ partial \ mathbf {x}}} = {\ begin {bmatrix} {\ frac {\ partial f} {\ partial x_ {1}}} & {\ frac {\ parcial f} {\ parcial x_ {2}}} & {\ frac {\ parcial f} {\ parcial x_ {3}}} \\\ end {bmatriz}} ^ {\ textf {T} }.}

Exemplos mais complicados incluem a derivada de uma função escalar em relação a uma matriz, conhecida como matriz de gradiente , que coleta a derivada em relação a cada elemento da matriz na posição correspondente na matriz resultante. Nesse caso, o escalar deve ser uma função de cada uma das variáveis independentes na matriz. Como outro exemplo, se tivermos um n- vetor de variáveis dependentes, ou funções, de m variáveis independentes, podemos considerar a derivada do vetor dependente em relação ao vetor independente. O resultado pode ser coletado em uma matriz m × n consistindo em todas as combinações possíveis de derivadas. Há um total de nove possibilidades usando escalares, vetores e matrizes. Observe que, ao considerarmos um número maior de componentes em cada uma das variáveis independentes e dependentes, podemos ficar com um número muito grande de possibilidades.

Os seis tipos de derivados que podem ser organizados de forma mais organizada em forma de matriz são coletados na tabela a seguir.

Tipos de derivada de matriz
Tipos	Escalar	Vetor	Matriz
Escalar	${\ displaystyle {\ frac {\ partial y} {\ partial x}}}$	${\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial x}}}$	${\ displaystyle {\ frac {\ partial \ mathbf {Y}} {\ partial x}}}$
Vetor	${\ displaystyle {\ frac {\ partial y} {\ partial \ mathbf {x}}}}$	${\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial \ mathbf {x}}}}$
Matriz	${\ displaystyle {\ frac {\ partial y} {\ partial \ mathbf {X}}}}$

Aqui, usamos o termo "matriz" em seu sentido mais geral, reconhecendo que vetores e escalares são simplesmente matrizes com uma coluna e uma linha, respectivamente. Além disso, usamos letras em negrito para indicar vetores e letras maiúsculas em negrito para matrizes. Essa notação é usada por toda parte.

Observe que também podemos falar sobre a derivada de um vetor em relação a uma matriz, ou qualquer uma das outras células não preenchidas em nossa tabela. No entanto, essas derivadas são mais naturalmente organizadas em um tensor de classificação superior a 2, de modo que não se encaixam perfeitamente em uma matriz. Nas três seções seguintes, definiremos cada uma dessas derivadas e as relacionaremos a outros ramos da matemática. Consulte a seção de convenções de layout para uma tabela mais detalhada.

Relação com outros derivados

A derivada de matriz é uma notação conveniente para manter o controle de derivadas parciais para fazer cálculos. A derivada de Fréchet é a forma padrão na configuração da análise funcional para obter derivadas com respeito a vetores. No caso de uma função de matriz de uma matriz ser Fréchet diferenciável, as duas derivadas concordarão até a tradução das notações. Como é o caso em geral para derivadas parciais , algumas fórmulas podem se estender sob condições analíticas mais fracas do que a existência da derivada como mapeamento linear aproximado.

Usos

O cálculo matricial é usado para derivar estimadores estocásticos ótimos, frequentemente envolvendo o uso de multiplicadores de Lagrange . Isso inclui a derivação de:

Notação

Os derivados vetoriais e matriciais apresentados nas seções a seguir tiram total vantagem da notação matricial , usando uma única variável para representar um grande número de variáveis. A seguir, distinguiremos escalares, vetores e matrizes por seu tipo de letra. Vamos deixá- M ( n , m ) representar o espaço das reais n × m matrizes com n linhas e m colunas. Essas matrizes serão denotadas com letras maiúsculas em negrito: A , X , Y , etc. Um elemento de M ( n , 1), ou seja, um vetor de coluna , é denotado com uma letra minúscula em negrito: a , x , y , etc. .Um elemento de M (1,1) é um escalar, denotado com fonte em itálico minúsculo: a , t , x , etc. X ^T denota a transposta da matriz , tr ( X ) é o traço e det ( X ) ou | X | é o determinante . Todas as funções são consideradas de classe de diferenciabilidade C ^{1, a} menos que indicado de outra forma. Geralmente letras da primeira metade do alfabeto (a, b, c, ...) serão usadas para denotar constantes, e da segunda metade (t, x, y, ...) para denotar variáveis.

NOTA : Como mencionado acima, existem notações concorrentes para esquematizar sistemas de derivadas parciais em vetores e matrizes, e nenhum padrão parece estar surgindo ainda. As próximas duas seções introdutórias usam a convenção de layout do numerador simplesmente para fins de conveniência, para evitar complicar demais a discussão. A seção seguinte discute as convenções de layout com mais detalhes. É importante perceber o seguinte:

Apesar do uso dos termos "layout do numerador" e "layout do denominador", na verdade existem mais de duas opções notacionais possíveis envolvidas. A razão é que a escolha de numerador vs. denominador (ou em algumas situações, numerador vs. misto) pode ser feita independentemente para escalar por vetor, vetor por escalar, vetor por vetor e escalar por derivados de matriz e vários autores misturam e combinam suas escolhas de layout de várias maneiras.
A escolha do layout do numerador nas seções introdutórias abaixo não implica que esta seja a escolha "correta" ou "superior". Existem vantagens e desvantagens nos vários tipos de layout. Erros graves podem resultar da combinação descuidada de fórmulas escritas em layouts diferentes, e a conversão de um layout para outro requer cuidado para evitar erros. Como resultado, ao trabalhar com fórmulas existentes, a melhor política provavelmente é identificar qualquer layout usado e manter a consistência com ele, em vez de tentar usar o mesmo layout em todas as situações.

Alternativas

A notação do índice tensorial com sua convenção de soma de Einstein é muito semelhante ao cálculo da matriz, exceto que se escreve apenas um único componente por vez. Tem a vantagem de poder manipular facilmente tensores de classificação alta arbitrariamente, enquanto tensores de classificação superior a dois são bastante complicados com a notação de matriz. Todo o trabalho aqui pode ser feito nesta notação sem o uso da notação de matriz de variável única. No entanto, muitos problemas na teoria da estimativa e em outras áreas da matemática aplicada resultariam em muitos índices para controlar adequadamente, apontando a favor do cálculo matricial nessas áreas. Além disso, a notação de Einstein pode ser muito útil para provar as identidades apresentadas aqui (consulte a seção sobre diferenciação ) como uma alternativa à notação de elemento típica, que pode se tornar complicada quando as somas explícitas são transportadas. Observe que uma matriz pode ser considerada um tensor de classificação dois.

Derivados com vetores

Como os vetores são matrizes com apenas uma coluna, as derivadas de matriz mais simples são derivadas de vetores.

As notações desenvolvido aqui pode acomodar as operações usuais de cálculo vectorial por meio da identificação do espaço M ( n , 1) de n -vectors com o espaço euclidiano R ⁿ , e o escalar M (1,1) é identificado com R . O conceito correspondente do cálculo vetorial é indicado no final de cada subseção.

NOTA : A discussão nesta seção assume a convenção de layout do numerador para fins pedagógicos. Alguns autores usam convenções diferentes. A seção sobre convenções de layout discute esse problema com mais detalhes. As identidades fornecidas mais abaixo são apresentadas em formulários que podem ser usados em conjunto com todas as convenções de layout comuns.

Vetor por escalar

A derivada de um vetor , por um escalar x é escrita (na notação de layout do numerador ) como ${\ displaystyle \ mathbf {y} = {\ begin {bmatrix} y_ {1} & y_ {2} & \ cdots & y_ {m} \ end {bmatrix}} ^ {\ mathsf {T}}}$

{\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial x}} = {\ begin {bmatrix} {\ frac {\ partial y_ {1}} {\ partial x}} \\ {\ frac {\ parcial y_ {2}} {\ parcial x}} \\\ vdots \\ {\ frac {\ parcial y_ {m}} {\ parcial x}} \\\ end {bmatriz}}.}

No vector de cálculo da derivada de um vector y em relação a um escalar x é conhecida como o vector tangente do vector y , . Observe aqui que y : R ¹ → R ^m . ${\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial x}}}$

Exemplo Simples exemplos deste incluem a velocidade do vector em espaço euclidiano , que é o vector tangente da posição vector (considerado como uma função do tempo). Além disso, a aceleração é o vetor tangente da velocidade.

Escalar por vetor

A derivada de um escalar y por um vetor , é escrita (na notação de layout do numerador ) como ${\ displaystyle \ mathbf {x} = {\ begin {bmatrix} x_ {1} & x_ {2} & \ cdots & x_ {n} \ end {bmatrix}} ^ {\ mathsf {T}}}$

{\ displaystyle {\ frac {\ partial y} {\ partial \ mathbf {x}}} = {\ begin {bmatrix} {\ frac {\ partial y} {\ partial x_ {1}}} & {\ frac { \ parcial y} {\ parcial x_ {2}}} & \ cdots & {\ frac {\ parcial y} {\ parcial x_ {n}}} \ end {bmatrix}}.}

No cálculo vetorial , o gradiente de um campo escalar f no espaço R ⁿ (cujas coordenadas independentes são as componentes de x ) é a transposta da derivada de um escalar por um vetor.

{\ displaystyle \ nabla f = {\ begin {bmatrix} {\ frac {\ partial f} {\ partial x_ {1}}} \\\ vdots \\ {\ frac {\ partial f} {\ partial x_ {n }}} \ end {bmatrix}} = \ left ({\ frac {\ partial f} {\ partial \ mathbf {x}}} \ right) ^ {\ mathsf {T}}}

Por exemplo, em física, o campo elétrico é o gradiente vetorial negativo do potencial elétrico .

A derivada direcional de uma função escalar f ( x ) do vetor espacial x na direção do vetor unitário u (representado neste caso como um vetor coluna) é definida usando o gradiente como segue.

{\ displaystyle \ nabla _ {\ mathbf {u}} {f} (\ mathbf {x}) = \ nabla f (\ mathbf {x}) \ cdot \ mathbf {u}}

Usando a notação recém-definida para a derivada de um escalar em relação a um vetor, podemos reescrever a derivada direcional como Este tipo de notação será bom ao provar regras de produto e regras de cadeia que parecem semelhantes ao que estamos familiarizados para a derivada escalar . ${\ displaystyle \ nabla _ {\ mathbf {u}} f = {\ frac {\ partial f} {\ partial \ mathbf {x}}} \ mathbf {u}.}$

Vetor por vetor

Cada um dos dois casos anteriores pode ser considerado como uma aplicação da derivada de um vetor em relação a um vetor, usando um vetor de tamanho um apropriadamente. Da mesma forma, descobriremos que as derivadas envolvendo matrizes se reduzirão a derivadas envolvendo vetores de uma maneira correspondente.

A derivada de uma função vetorial (um vetor cujos componentes são funções) , com relação a um vetor de entrada,, é escrita (em notação de layout de numerador ) como ${\ displaystyle \ mathbf {y} = {\ begin {bmatrix} y_ {1} & y_ {2} & \ cdots & y_ {m} \ end {bmatrix}} ^ {\ mathsf {T}}}$ ${\ displaystyle \ mathbf {x} = {\ begin {bmatrix} x_ {1} & x_ {2} & \ cdots & x_ {n} \ end {bmatrix}} ^ {\ mathsf {T}}}$

{\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial \ mathbf {x}}} = {\ begin {bmatrix} {\ frac {\ partial y_ {1}} {\ partial x_ {1} }} & {\ frac {\ parcial y_ {1}} {\ parcial x_ {2}}} & \ cdots & {\ frac {\ parcial y_ {1}} {\ parcial x_ {n}}} \\ { \ frac {\ parcial y_ {2}} {\ parcial x_ {1}}} & {\ frac {\ parcial y_ {2}} {\ parcial x_ {2}}} & \ cdots & {\ frac {\ parcial y_ {2}} {\ parcial x_ {n}}} \\\ vdots & \ vdots & \ ddots & \ vdots \\ {\ frac {\ parcial y_ {m}} {\ parcial x_ {1}}} & {\ frac {\ parcial y_ {m}} {\ parcial x_ {2}}} & \ cdots & {\ frac {\ parcial y_ {m}} {\ parcial x_ {n}}} \\\ end {bmatriz }}.}

No cálculo vetorial , a derivada de uma função vetorial y em relação a um vetor x cujas componentes representam um espaço é conhecida como pushforward (ou diferencial) ou matriz Jacobiana .

O pushforward ao longo de uma função vetorial f em relação ao vetor v em R ⁿ é dado por ${\ displaystyle d \, \ mathbf {f} (\ mathbf {v}) = {\ frac {\ partial \ mathbf {f}} {\ partial \ mathbf {v}}} d \, \ mathbf {v}. }$

Derivados com matrizes

Existem dois tipos de derivadas com matrizes que podem ser organizadas em uma matriz do mesmo tamanho. Estas são a derivada de uma matriz por um escalar e a derivada de um escalar por uma matriz. Eles podem ser úteis em problemas de minimização encontrados em muitas áreas da matemática aplicada e adotaram os nomes matriz tangente e matriz gradiente, respectivamente, após seus análogos para vetores.

Observação : a discussão nesta seção assume a convenção de layout do numerador para fins pedagógicos. Alguns autores usam convenções diferentes. A seção sobre convenções de layout discute esse problema com mais detalhes. As identidades fornecidas mais abaixo são apresentadas em formulários que podem ser usados em conjunto com todas as convenções de layout comuns.

Matriz por escalar

A derivada de uma função de matriz Y por um escalar x é conhecida como a matriz tangente e é dada (na notação de layout do numerador ) por

{\ displaystyle {\ frac {\ partial \ mathbf {Y}} {\ partial x}} = {\ begin {bmatrix} {\ frac {\ partial y_ {11}} {\ partial x}} & {\ frac { \ parcial y_ {12}} {\ parcial x}} & \ cdots & {\ frac {\ parcial y_ {1n}} {\ parcial x}} \\ {\ frac {\ parcial y_ {21}} {\ parcial x}} & {\ frac {\ parcial y_ {22}} {\ parcial x}} & \ cdots & {\ frac {\ parcial y_ {2n}} {\ parcial x}} \\\ vdots & \ vdots & \ ddots & \ vdots \\ {\ frac {\ parcial y_ {m1}} {\ parcial x}} & {\ frac {\ parcial y_ {m2}} {\ parcial x}} & \ cdots & {\ frac { \ parcial y_ {mn}} {\ parcial x}} \\\ end {bmatriz}}.}

Escalar por matriz

A derivada de uma função escalar y de uma matriz p × q X de variáveis independentes, em relação à matriz X , é dada (na notação de layout do numerador ) por

{\ displaystyle {\ frac {\ partial y} {\ partial \ mathbf {X}}} = {\ begin {bmatrix} {\ frac {\ partial y} {\ partial x_ {11}}} & {\ frac { \ parcial y} {\ parcial x_ {21}}} & \ cdots & {\ frac {\ parcial y} {\ parcial x_ {p1}}} \\ {\ frac {\ parcial y} {\ parcial x_ {12 }}} & {\ frac {\ parcial y} {\ parcial x_ {22}}} & \ cdots & {\ frac {\ parcial y} {\ parcial x_ {p2}}} \\\ vdots & \ vdots & \ ddots & \ vdots \\ {\ frac {\ parcial y} {\ parcial x_ {1q}}} & {\ frac {\ parcial y} {\ parcial x_ {2q}}} & \ cdots & {\ frac { \ parcial y} {\ parcial x_ {pq}}} \\\ end {bmatriz}}.}

Exemplos importantes de funções escalares de matrizes incluem o traço de uma matriz e o determinante .

Em analogia com cálculo vetorial, essa derivada é freqüentemente escrita da seguinte forma.

{\ displaystyle \ nabla _ {\ mathbf {X}} y (\ mathbf {X}) = {\ frac {\ partial y (\ mathbf {X})} {\ partial \ mathbf {X}}}}

Também em analogia ao cálculo vetorial , a derivada direcional de um escalar f ( X ) de uma matriz X na direção da matriz Y é dada por

{\ displaystyle \ nabla _ {\ mathbf {Y}} f = \ operatorname {tr} \ left ({\ frac {\ partial f} {\ partial \ mathbf {X}}} \ mathbf {Y} \ right). }

É a matriz gradiente, em particular, que encontra muitos usos em problemas de minimização na teoria de estimação , particularmente na derivação do algoritmo de filtro de Kalman , que é de grande importância na área.

Outros derivados de matriz

Os três tipos de derivados que não foram considerados são aqueles que envolvem vetores por matrizes, matrizes por vetores e matrizes por matrizes. Estes não são amplamente considerados e uma notação não é amplamente aceita.

Convenções de layout

Esta seção discute as semelhanças e diferenças entre as convenções de notação usadas nos vários campos que aproveitam o cálculo matricial. Embora existam basicamente duas convenções consistentes, alguns autores acham conveniente misturar as duas convenções nas formas que são discutidas abaixo. Após esta seção, as equações serão listadas em ambas as formas concorrentes separadamente.

A questão fundamental é que a derivada de um vetor em relação a um vetor, ou seja , muitas vezes é escrita de duas maneiras concorrentes. Se o numerador y for de tamanho m e o denominador x de tamanho n , então o resultado pode ser apresentado como uma matriz m × n ou matriz n × m , ou seja, os elementos de y dispostos em colunas e os elementos de x dispostos em linhas ou vice-versa. Isso leva às seguintes possibilidades: ${\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial \ mathbf {x}}}}$

Layout do numerador , ou seja, layout de acordo com y e x ^T (ou seja, ao contrário de x ). Isso às vezes é conhecido como a formulação Jacobiana . Isso corresponde ao layout m × n no exemplo anterior.
Layout do denominador , ou seja, layout de acordo com y ^T e x (ou seja, ao contrário de y ). Isso às vezes é conhecido como a formulação de Hessian . Alguns autores chamam esse layout de gradiente , em distinção ao jacobiano (layout do numerador), que é sua transposição. (No entanto, gradiente significa mais comumente a derivada, independentemente do layout.). Isso corresponde ao layout n × m no exemplo anterior. ${\ displaystyle {\ frac {\ partial y} {\ partial \ mathbf {x}}},}$
Uma terceira possibilidade às vezes vista é insistir em escrever a derivada como (isto é, a derivada é tomada em relação à transposta de x ) e seguir o layout do numerador. Isso torna possível afirmar que a matriz é apresentada de acordo com o numerador e o denominador. Na prática, isso produz resultados iguais aos do layout do numerador. ${\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial \ mathbf {x} '}},}$

Ao lidar com o gradiente e o caso oposto , temos os mesmos problemas. Para sermos consistentes, devemos fazer o seguinte: ${\ displaystyle {\ frac {\ partial y} {\ partial \ mathbf {x}}}}$ ${\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial x}},}$

Se escolhermos o layout do numerador para , devemos definir o gradiente como um vetor de linha e como um vetor de coluna. ${\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial \ mathbf {x}}},}$ ${\ displaystyle {\ frac {\ partial y} {\ partial \ mathbf {x}}}}$ ${\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial x}}}$
Se escolhermos o layout do denominador para , devemos definir o gradiente como um vetor de coluna e como um vetor de linha. ${\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial \ mathbf {x}}},}$ ${\ displaystyle {\ frac {\ partial y} {\ partial \ mathbf {x}}}}$ ${\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial x}}}$
Na terceira possibilidade acima, podemos escrever e e layout uso numerador. ${\ displaystyle {\ frac {\ partial y} {\ partial \ mathbf {x} '}}}$ ${\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial x}},}$

Nem todos os livros e artigos de matemática são consistentes nesse aspecto. Ou seja, às vezes convenções diferentes são usadas em contextos diferentes dentro do mesmo livro ou papel. Por exemplo, alguns escolhem o layout do denominador para gradientes (colocando-os como vetores de coluna), mas o layout do numerador para a derivada vetor a vetor ${\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial \ mathbf {x}}}.}$

Da mesma forma, quando se trata de derivados escalar-por-matriz e derivados matriz-por-escalar então disposição consistente numerador estabelece de acordo com Y e X ^T , enquanto disposição denominador consistente estabelece de acordo com Y ^T e X . Na prática, no entanto, seguir um layout de denominador e definir o resultado de acordo com Y ^T raramente é visto porque torna as fórmulas feias que não correspondem às fórmulas escalares. Como resultado, os seguintes layouts podem frequentemente ser encontrados: ${\ displaystyle {\ frac {\ partial y} {\ partial \ mathbf {X}}}}$ ${\ displaystyle {\ frac {\ partial \ mathbf {Y}} {\ partial x}},}$ ${\ displaystyle {\ frac {\ partial \ mathbf {Y}} {\ partial x}},}$

Disposição numerador consistente , que define de acordo com Y e de acordo com a X ^t . ${\ displaystyle {\ frac {\ partial \ mathbf {Y}} {\ partial x}}}$ ${\ displaystyle {\ frac {\ partial y} {\ partial \ mathbf {X}}}}$
Disposição mista , a qual estabelece de acordo com Y e de acordo com a X . ${\ displaystyle {\ frac {\ partial \ mathbf {Y}} {\ partial x}}}$ ${\ displaystyle {\ frac {\ partial y} {\ partial \ mathbf {X}}}}$
Use a notação com resultados iguais ao layout de numerador consistente. ${\ displaystyle {\ frac {\ partial y} {\ partial \ mathbf {X} '}},}$

Nas fórmulas a seguir, lidamos com as cinco combinações possíveis e separadamente. Também lidamos com casos de derivadas escalar por escalar que envolvem um vetor ou matriz intermediária. (Isso pode surgir, por exemplo, se uma curva paramétrica multidimensional for definida em termos de uma variável escalar e, em seguida, uma derivada de uma função escalar da curva for obtida em relação ao escalar que parametriza a curva.) Para cada das várias combinações, fornecemos os resultados do layout do numerador e do layout do denominador, exceto nos casos acima em que o layout do denominador raramente ocorre. Em casos envolvendo matrizes onde faz sentido, fornecemos resultados de layout de numerador e layout misto. Conforme observado acima, os casos em que os denominadores vetoriais e de matriz são escritos na notação de transposição são equivalentes ao layout do numerador com os denominadores escritos sem a transposição. ${\ displaystyle {\ frac {\ partial y} {\ partial \ mathbf {x}}}, {\ frac {\ partial \ mathbf {y}} {\ partial x}}, {\ frac {\ partial \ mathbf { y}} {\ partial \ mathbf {x}}}, {\ frac {\ partial y} {\ partial \ mathbf {X}}}}$ ${\ displaystyle {\ frac {\ partial \ mathbf {Y}} {\ partial x}}}$

Lembre-se de que vários autores usam combinações diferentes de layouts de numerador e denominador para diferentes tipos de derivadas, e não há garantia de que um autor usará consistentemente o layout de numerador ou denominador para todos os tipos. Compare as fórmulas abaixo com as citadas na fonte para determinar o layout usado para aquele tipo específico de derivada, mas tome cuidado para não presumir que derivados de outros tipos necessariamente sigam o mesmo tipo de layout.

Ao tomar derivadas com um denominador agregado (vetor ou matriz) para encontrar um máximo ou mínimo do agregado, deve-se ter em mente que o uso do layout do numerador produzirá resultados que são transpostos em relação ao agregado. Por exemplo, ao tentar encontrar a estimativa de máxima verossimilhança de uma distribuição normal multivariada usando cálculo de matriz, se o domínio for um vetor coluna k × 1, então o resultado usando o layout do numerador será na forma de um vetor linha 1 × k . Assim, ou os resultados devem ser transpostos no final ou o layout do denominador (ou layout misto) deve ser usado.

Resultado da diferenciação de vários tipos de agregados com outros tipos de agregados
		Escalar y		Vetor de coluna y (tamanho m × 1 )		Matriz Y (tamanho m × n )
		Notação	Modelo	Notação	Modelo	Notação	Modelo
Escalar x	Numerador	${\ displaystyle {\ frac {\ partial y} {\ partial x}}}$	Escalar	${\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial x}}}$	Tamanho- vetor coluna m	${\ displaystyle {\ frac {\ partial \ mathbf {Y}} {\ partial x}}}$	matriz m × n
Escalar x	Denominador	${\ displaystyle {\ frac {\ partial y} {\ partial x}}}$	Escalar		Tamanho- vetor linha m
Vetor de coluna x (tamanho n × 1 )	Numerador	${\ displaystyle {\ frac {\ partial y} {\ partial \ mathbf {x}}}}$	Vetor de tamanho n linha	${\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial \ mathbf {x}}}}$	matriz m × n	${\ displaystyle {\ frac {\ partial \ mathbf {Y}} {\ partial \ mathbf {x}}}}$
Vetor de coluna x (tamanho n × 1 )	Denominador		Vetor de coluna de tamanho n		matriz n × m
Matriz X (tamanho p × q )	Numerador	${\ displaystyle {\ frac {\ partial y} {\ partial \ mathbf {X}}}}$	matriz q × p	${\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial \ mathbf {X}}}}$		${\ displaystyle {\ frac {\ partial \ mathbf {Y}} {\ partial \ mathbf {X}}}}$
Matriz X (tamanho p × q )	Denominador		matriz p × q

Os resultados das operações serão transpostos ao alternar entre o layout do numerador e a notação do layout do denominador.

Notação de layout de numerador

Usando a notação de layout do numerador, temos:

{\ displaystyle {\ begin {align} {\ frac {\ partial y} {\ partial \ mathbf {x}}} & = {\ begin {bmatrix} {\ frac {\ partial y} {\ partial x_ {1} }} & {\ frac {\ parcial y} {\ parcial x_ {2}}} & \ cdots & {\ frac {\ parcial y} {\ parcial x_ {n}}} \ end {bmatriz}}. \\ {\ frac {\ partial \ mathbf {y}} {\ partial x}} & = {\ begin {bmatrix} {\ frac {\ partial y_ {1}} {\ partial x}} \\ {\ frac {\ parcial y_ {2}} {\ parcial x}} \\\ vdots \\ {\ frac {\ parcial y_ {m}} {\ parcial x}} \\\ fim {bmatriz}}. \\ {\ frac { \ partial \ mathbf {y}} {\ partial \ mathbf {x}}} & = {\ begin {bmatrix} {\ frac {\ partial y_ {1}} {\ partial x_ {1}}} & {\ frac {\ parcial y_ {1}} {\ parcial x_ {2}}} & \ cdots & {\ frac {\ parcial y_ {1}} {\ parcial x_ {n}}} \\ {\ frac {\ parcial y_ {2}} {\ parcial x_ {1}}} & {\ frac {\ parcial y_ {2}} {\ parcial x_ {2}}} & \ cdots & {\ frac {\ parcial y_ {2}} { \ parcial x_ {n}}} \\\ vdots & \ vdots & \ ddots & \ vdots \\ {\ frac {\ parcial y_ {m}} {\ parcial x_ {1}}} & {\ frac {\ parcial y_ {m}} {\ parcial x_ {2}}} & \ cdots & {\ frac {\ parcial y_ {m}} {\ parcial x_ {n}}} \\\ end {bmatriz}}. \\ { \ frac {\ partial y} {\ partial \ mathbf {X}}} & = {\ begin {b matriz} {\ frac {\ parcial y} {\ parcial x_ {11}}} & {\ frac {\ parcial y} {\ parcial x_ {21}}} & \ cdots & {\ frac {\ parcial y} { \ parcial x_ {p1}}} \\ {\ frac {\ parcial y} {\ parcial x_ {12}}} & {\ frac {\ parcial y} {\ parcial x_ {22}}} & \ cdots & { \ frac {\ parcial y} {\ parcial x_ {p2}}} \\\ vdots & \ vdots & \ ddots & \ vdots \\ {\ frac {\ parcial y} {\ parcial x_ {1q}}} & { \ frac {\ parcial y} {\ parcial x_ {2q}}} & \ cdots & {\ frac {\ parcial y} {\ parcial x_ {pq}}} \\\ end {bmatriz}}. \ end {alinhado }}}

As seguintes definições são fornecidas apenas em notação de layout de numerador:

{\ displaystyle {\ begin {align} {\ frac {\ partial \ mathbf {Y}} {\ partial x}} & = {\ begin {bmatrix} {\ frac {\ partial y_ {11}} {\ partial x }} & {\ frac {\ parcial y_ {12}} {\ parcial x}} & \ cdots & {\ frac {\ parcial y_ {1n}} {\ parcial x}} \\ {\ frac {\ parcial y_ {21}} {\ parcial x}} & {\ frac {\ parcial y_ {22}} {\ parcial x}} & \ cdots & {\ frac {\ parcial y_ {2n}} {\ parcial x}} \ \\ vdots & \ vdots & \ ddots & \ vdots \\ {\ frac {\ parcial y_ {m1}} {\ parcial x}} & {\ frac {\ parcial y_ {m2}} {\ parcial x}} & \ cdots & {\ frac {\ partial y_ {mn}} {\ partial x}} \\\ end {bmatrix}}. \\ d \ mathbf {X} & = {\ begin {bmatrix} dx_ {11} & dx_ {12} & \ cdots & dx_ {1n} \\ dx_ {21} & dx_ {22} & \ cdots & dx_ {2n} \\\ vdots & \ vdots & \ ddots & \ vdots \\ dx_ {m1} & dx_ {m2} & \ cdots & dx_ {mn} \\\ end {bmatrix}}. \ end {alinhado}}}

Notação de layout do denominador

Usando a notação de layout do denominador, temos:

{\ displaystyle {\ begin {align} {\ frac {\ partial y} {\ partial \ mathbf {x}}} & = {\ begin {bmatrix} {\ frac {\ partial y} {\ partial x_ {1} }} \\ {\ frac {\ parcial y} {\ parcial x_ {2}}} \\\ vdots \\ {\ frac {\ parcial y} {\ parcial x_ {n}}} \\\ end {bmatriz }}. \\ {\ frac {\ partial \ mathbf {y}} {\ partial x}} & = {\ begin {bmatrix} {\ frac {\ partial y_ {1}} {\ partial x}} & { \ frac {\ parcial y_ {2}} {\ parcial x}} & \ cdots & {\ frac {\ parcial y_ {m}} {\ parcial x}} \ end {bmatrix}}. \\ {\ frac { \ partial \ mathbf {y}} {\ partial \ mathbf {x}}} & = {\ begin {bmatrix} {\ frac {\ partial y_ {1}} {\ partial x_ {1}}} & {\ frac {\ parcial y_ {2}} {\ parcial x_ {1}}} & \ cdots & {\ frac {\ parcial y_ {m}} {\ parcial x_ {1}}} \\ {\ frac {\ parcial y_ {1}} {\ parcial x_ {2}}} & {\ frac {\ parcial y_ {2}} {\ parcial x_ {2}}} & \ cdots & {\ frac {\ parcial y_ {m}} { \ parcial x_ {2}}} \\\ vdots & \ vdots & \ ddots & \ vdots \\ {\ frac {\ parcial y_ {1}} {\ parcial x_ {n}}} & {\ frac {\ parcial y_ {2}} {\ parcial x_ {n}}} & \ cdots & {\ frac {\ parcial y_ {m}} {\ parcial x_ {n}}} \\\ end {bmatriz}}. \\ { \ frac {\ partial y} {\ partial \ mathbf {X}}} & = {\ begin {b matriz} {\ frac {\ parcial y} {\ parcial x_ {11}}} & {\ frac {\ parcial y} {\ parcial x_ {12}}} & \ cdots & {\ frac {\ parcial y} { \ parcial x_ {1q}}} \\ {\ frac {\ parcial y} {\ parcial x_ {21}}} & {\ frac {\ parcial y} {\ parcial x_ {22}}} & \ cdots & { \ frac {\ parcial y} {\ parcial x_ {2q}}} \\\ vdots & \ vdots & \ ddots & \ vdots \\ {\ frac {\ parcial y} {\ parcial x_ {p1}}} & { \ frac {\ parcial y} {\ parcial x_ {p2}}} & \ cdots & {\ frac {\ parcial y} {\ parcial x_ {pq}}} \\\ end {bmatriz}}. \ end {alinhado }}}

Identidades

Conforme observado acima, em geral, os resultados das operações serão transpostos ao alternar entre o layout do numerador e a notação do layout do denominador.

Para ajudar a compreender todas as identidades abaixo, tenha em mente as regras mais importantes: a regra da cadeia , regra do produto e regra da soma . A regra da soma aplica-se universalmente, e a regra do produto aplica-se na maioria dos casos abaixo, desde que a ordem dos produtos da matriz seja mantida, uma vez que os produtos da matriz não são comutativos. A regra da cadeia se aplica em alguns dos casos, mas infelizmente não se aplica em derivadas matriz por escalar ou derivadas escalar por matriz (no último caso, envolvendo principalmente o operador de rastreamento aplicado a matrizes). No último caso, a regra do produto também não pode ser aplicada diretamente, mas o equivalente pode ser feito com um pouco mais de trabalho usando as identidades diferenciais.

As seguintes identidades adotam as seguintes convenções:

os escalares, a, b, c, d e e são constantes em relação a, e os escalares, u, e v são funções de um de x, x ou X ;
os vetores, a , b , c , d e e são constantes em relação a, e os vetores, u , e v são funções de um de x, x ou X ;
as matrizes, A , B , C , D , e E são constante no que diz respeito, e as matrizes, U e V são funções de um de x, x , ou X .

Identidades vetor a vetor

Isso é apresentado primeiro porque todas as operações que se aplicam à diferenciação vetor por vetor se aplicam diretamente à diferenciação vetor por escalar ou escalar por vetor simplesmente reduzindo o vetor apropriado no numerador ou denominador a um escalar.

Identidades: vetor a vetor ${\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial \ mathbf {x}}}}$
Doença	Expressão	Layout do numerador, ou seja, por y e x ^T	Layout do denominador, ou seja, por y ^T e x
a não é uma função de x	${\ displaystyle {\ frac {\ partial \ mathbf {a}} {\ partial \ mathbf {x}}} =}$	${\ displaystyle \ mathbf {0}}$
	${\ displaystyle {\ frac {\ partial \ mathbf {x}} {\ partial \ mathbf {x}}} =}$	${\ displaystyle \ mathbf {I}}$
A não é uma função de x	${\ displaystyle {\ frac {\ partial \ mathbf {A} \ mathbf {x}} {\ partial \ mathbf {x}}} =}$	${\ displaystyle \ mathbf {A}}$	${\ displaystyle \ mathbf {A} ^ {\ top}}$
A não é uma função de x	${\ displaystyle {\ frac {\ partial \ mathbf {x} ^ {\ top} \ mathbf {A}} {\ partial \ mathbf {x}}} =}$	${\ displaystyle \ mathbf {A} ^ {\ top}}$	${\ displaystyle \ mathbf {A}}$
a não é uma função de x , u = u ( x )	${\ displaystyle {\ frac {\ partial a \ mathbf {u}} {\ partial \, \ mathbf {x}}} =}$	${\ displaystyle a {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}}}$
v = v ( x ), a não é uma função de x	${\ displaystyle {\ frac {\ partial v \ mathbf {a}} {\ partial \ mathbf {x}}} =}$	${\ displaystyle \ mathbf {a} {\ frac {\ partial v} {\ partial \ mathbf {x}}}}$	${\ displaystyle {\ frac {\ partial v} {\ partial \ mathbf {x}}} \ mathbf {a} ^ {\ top}}$
v = v ( x ), u = u ( x )	${\ displaystyle {\ frac {\ partial v \ mathbf {u}} {\ partial \ mathbf {x}}} =}$	${\ displaystyle v {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}} + \ mathbf {u} {\ frac {\ partial v} {\ partial \ mathbf {x}}} }$	${\ displaystyle v {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}} + {\ frac {\ partial v} {\ partial \ mathbf {x}}} \ mathbf {u} ^ {\ top}}$
A não é uma função de x , u = u ( x )	${\ displaystyle {\ frac {\ partial \ mathbf {A} \ mathbf {u}} {\ partial \ mathbf {x}}} =}$	${\ displaystyle \ mathbf {A} {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}}}$	${\ displaystyle {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}} \ mathbf {A} ^ {\ top}}$
u = u ( x ), v = v ( x )	${\ displaystyle {\ frac {\ partial (\ mathbf {u} + \ mathbf {v})} {\ partial \ mathbf {x}}} =}$	${\ displaystyle {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}} + {\ frac {\ partial \ mathbf {v}} {\ partial \ mathbf {x}}}}$
u = u ( x )	${\ displaystyle {\ frac {\ partial \ mathbf {g (u)}} {\ partial \ mathbf {x}}} =}$	${\ displaystyle {\ frac {\ partial \ mathbf {g (u)}} {\ partial \ mathbf {u}}} {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}} }$	${\ displaystyle {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}} {\ frac {\ partial \ mathbf {g (u)}} {\ partial \ mathbf {u}}} }$
u = u ( x )	${\ displaystyle {\ frac {\ partial \ mathbf {f (g (u))}} {\ partial \ mathbf {x}}} =}$	${\ displaystyle {\ frac {\ partial \ mathbf {f (g)}} {\ partial \ mathbf {g}}} {\ frac {\ partial \ mathbf {g (u)}} {\ partial \ mathbf {u }}} {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}}}$	${\ displaystyle {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}} {\ frac {\ partial \ mathbf {g (u)}} {\ partial \ mathbf {u}}} {\ frac {\ partial \ mathbf {f (g)}} {\ partial \ mathbf {g}}}}$

Identidades escalar por vetor

As identidades fundamentais são colocadas acima da linha preta espessa.

Identidades: escalar por vetor ${\ displaystyle {\ frac {\ partial y} {\ partial \ mathbf {x}}} = \ nabla _ {\ mathbf {x}} y}$
Doença	Expressão	Layout do numerador, ou seja , por x ^T ; o resultado é vetor linha	Layout do denominador, ou seja , por x ; resultado é vetor de coluna
a não é uma função de x	${\ displaystyle {\ frac {\ partial a} {\ partial \ mathbf {x}}} =}$	${\ displaystyle \ mathbf {0} ^ {\ top}}$	${\ displaystyle \ mathbf {0}}$
a não é uma função de x , u = u ( x )	${\ displaystyle {\ frac {\ partial au} {\ partial \ mathbf {x}}} =}$	${\ displaystyle a {\ frac {\ partial u} {\ partial \ mathbf {x}}}}$
u = u ( x ), v = v ( x )	${\ displaystyle {\ frac {\ partial (u + v)} {\ partial \ mathbf {x}}} =}$	${\ displaystyle {\ frac {\ partial u} {\ partial \ mathbf {x}}} + {\ frac {\ partial v} {\ partial \ mathbf {x}}}}$
u = u ( x ), v = v ( x )	${\ displaystyle {\ frac {\ partial uv} {\ partial \ mathbf {x}}} =}$	${\ displaystyle u {\ frac {\ partial v} {\ partial \ mathbf {x}}} + v {\ frac {\ partial u} {\ partial \ mathbf {x}}}}$
u = u ( x )	${\ displaystyle {\ frac {\ partial g (u)} {\ partial \ mathbf {x}}} =}$	${\ displaystyle {\ frac {\ partial g (u)} {\ partial u}} {\ frac {\ partial u} {\ partial \ mathbf {x}}}}$
u = u ( x )	${\ displaystyle {\ frac {\ partial f (g (u))} {\ partial \ mathbf {x}}} =}$	${\ displaystyle {\ frac {\ parcial f (g)} {\ parcial g}} {\ frac {\ parcial g (u)} {\ parcial u}} {\ frac {\ parcial u} {\ parcial \ mathbf {x}}}}$
u = u ( x ), v = v ( x )	${\ displaystyle {\ frac {\ partial (\ mathbf {u} \ cdot \ mathbf {v})} {\ partial \ mathbf {x}}} = {\ frac {\ partial \ mathbf {u} ^ {\ top } \ mathbf {v}} {\ partial \ mathbf {x}}} =}$	${\ displaystyle \ mathbf {u} ^ {\ top} {\ frac {\ partial \ mathbf {v}} {\ partial \ mathbf {x}}} + \ mathbf {v} ^ {\ top} {\ frac { \ parcial \ mathbf {u}} {\ parcial \ mathbf {x}}}}$ ${\ displaystyle {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}}, {\ frac {\ partial \ mathbf {v}} {\ partial \ mathbf {x}}}}$ no layout do numerador	${\ displaystyle {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}} \ mathbf {v} + {\ frac {\ partial \ mathbf {v}} {\ partial \ mathbf {x }}} \ mathbf {u}}$ ${\ displaystyle {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}}, {\ frac {\ partial \ mathbf {v}} {\ partial \ mathbf {x}}}}$ no layout do denominador
u = u ( x ), v = v ( x ), A não é uma função de x	${\ displaystyle {\ frac {\ partial (\ mathbf {u} \ cdot \ mathbf {A} \ mathbf {v})} {\ partial \ mathbf {x}}} = {\ frac {\ partial \ mathbf {u } ^ {\ top} \ mathbf {A} \ mathbf {v}} {\ partial \ mathbf {x}}} =}$	${\ displaystyle \ mathbf {u} ^ {\ top} \ mathbf {A} {\ frac {\ partial \ mathbf {v}} {\ partial \ mathbf {x}}} + \ mathbf {v} ^ {\ top } \ mathbf {A} ^ {\ top} {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}}}$ ${\ displaystyle {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}}, {\ frac {\ partial \ mathbf {v}} {\ partial \ mathbf {x}}}}$ no layout do numerador	${\ displaystyle {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}} \ mathbf {A} \ mathbf {v} + {\ frac {\ partial \ mathbf {v}} {\ parcial \ mathbf {x}}} \ mathbf {A} ^ {\ top} \ mathbf {u}}$ ${\ displaystyle {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}}, {\ frac {\ partial \ mathbf {v}} {\ partial \ mathbf {x}}}}$ no layout do denominador
	${\ displaystyle {\ frac {\ partial ^ {2} f} {\ partial \ mathbf {x} \ partial \ mathbf {x} ^ {\ top}}} =}$	${\ displaystyle \ mathbf {H} ^ {\ top}}$	${\ displaystyle \ mathbf {H}}$ , a matriz hessiana
a não é uma função de x	${\ displaystyle {\ frac {\ partial (\ mathbf {a} \ cdot \ mathbf {x})} {\ partial \ mathbf {x}}} = {\ frac {\ partial (\ mathbf {x} \ cdot \ mathbf {a})} {\ partial \ mathbf {x}}} =}$ ${\ displaystyle {\ frac {\ partial \ mathbf {a} ^ {\ top} \ mathbf {x}} {\ partial \ mathbf {x}}} = {\ frac {\ partial \ mathbf {x} ^ {\ topo} \ mathbf {a}} {\ partial \ mathbf {x}}} =}$	${\ displaystyle \ mathbf {a} ^ {\ top}}$	${\ displaystyle \ mathbf {a}}$
A não é uma função de x b não é uma função de x	${\ displaystyle {\ frac {\ partial \ mathbf {b} ^ {\ top} \ mathbf {A} \ mathbf {x}} {\ partial \ mathbf {x}}} =}$	${\ displaystyle \ mathbf {b} ^ {\ top} \ mathbf {A}}$	${\ displaystyle \ mathbf {A} ^ {\ top} \ mathbf {b}}$
A não é uma função de x	${\ displaystyle {\ frac {\ partial \ mathbf {x} ^ {\ top} \ mathbf {A} \ mathbf {x}} {\ partial \ mathbf {x}}} =}$	${\ displaystyle \ mathbf {x} ^ {\ top} \ left (\ mathbf {A} + \ mathbf {A} ^ {\ top} \ right)}$	${\ displaystyle \ left (\ mathbf {A} + \ mathbf {A} ^ {\ top} \ right) \ mathbf {x}}$
A não é uma função de x A é simétrica	${\ displaystyle {\ frac {\ partial \ mathbf {x} ^ {\ top} \ mathbf {A} \ mathbf {x}} {\ partial \ mathbf {x}}} =}$	${\ displaystyle 2 \ mathbf {x} ^ {\ top} \ mathbf {A}}$	${\ displaystyle 2 \ mathbf {A} \ mathbf {x}}$
A não é uma função de x	${\ displaystyle {\ frac {\ partial ^ {2} \ mathbf {x} ^ {\ top} \ mathbf {A} \ mathbf {x}} {\ partial \ mathbf {x} \ partial \ mathbf {x} ^ {\ top}}} =}$	${\ displaystyle \ mathbf {A} + \ mathbf {A} ^ {\ top}}$
A não é uma função de x A é simétrica	${\ displaystyle {\ frac {\ partial ^ {2} \ mathbf {x} ^ {\ top} \ mathbf {A} \ mathbf {x}} {\ partial \ mathbf {x} \ partial \ mathbf {x} ^ {\ top}}} =}$	${\ displaystyle 2 \ mathbf {A}}$
	${\ displaystyle {\ frac {\ partial (\ mathbf {x} \ cdot \ mathbf {x})} {\ partial \ mathbf {x}}} = {\ frac {\ partial \ mathbf {x} ^ {\ top } \ mathbf {x}} {\ partial \ mathbf {x}}} = {\ frac {\ partial \ left \ Vert \ mathbf {x} \ right \ Vert ^ {2}} {\ partial \ mathbf {x} }} =}$	${\ displaystyle 2 \ mathbf {x} ^ {\ top}}$	${\ displaystyle 2 \ mathbf {x}}$
a não é uma função de x , u = u ( x )	${\ displaystyle {\ frac {\ partial (\ mathbf {a} \ cdot \ mathbf {u})} {\ partial \ mathbf {x}}} = {\ frac {\ partial \ mathbf {a} ^ {\ top } \ mathbf {u}} {\ partial \ mathbf {x}}} =}$	${\ displaystyle \ mathbf {a} ^ {\ top} {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}}}$ ${\ displaystyle {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}}}$ no layout do numerador	${\ displaystyle {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}} \ mathbf {a}}$ ${\ displaystyle {\ frac {\ partial \ mathbf {u}} {\ partial \ mathbf {x}}}}$ no layout do denominador
a , b não são funções de x	${\ displaystyle {\ frac {\ partial \; {\ textbf {a}} ^ {\ top} {\ textbf {x}} {\ textbf {x}} ^ {\ top} {\ textbf {b}}} {\ parcial \; {\ textbf {x}}}} =}$	${\ displaystyle {\ textbf {x}} ^ {\ top} \ left ({\ textbf {a}} {\ textbf {b}} ^ {\ top} + {\ textbf {b}} {\ textbf {a }} ^ {\ top} \ right)}$	${\ displaystyle \ left ({\ textbf {a}} {\ textbf {b}} ^ {\ top} + {\ textbf {b}} {\ textbf {a}} ^ {\ top} \ right) {\ textbf {x}}}$
A , b , C , D , e não são funções de x	${\ displaystyle {\ frac {\ partial \; ({\ textbf {A}} {\ textbf {x}} + {\ textbf {b}}) ^ {\ top} {\ textbf {C}} ({\ textbf {D}} {\ textbf {x}} + {\ textbf {e}})} {\ parcial \; {\ textbf {x}}}} =}$	${\ displaystyle ({\ textbf {D}} {\ textbf {x}} + {\ textbf {e}}) ^ {\ top} {\ textbf {C}} ^ {\ top} {\ textbf {A} } + ({\ textbf {A}} {\ textbf {x}} + {\ textbf {b}}) ^ {\ top} {\ textbf {C}} {\ textbf {D}}}$	${\ displaystyle {\ textbf {D}} ^ {\ top} {\ textbf {C}} ^ {\ top} ({\ textbf {A}} {\ textbf {x}} + {\ textbf {b}} ) + {\ textbf {A}} ^ {\ top} {\ textbf {C}} ({\ textbf {D}} {\ textbf {x}} + {\ textbf {e}})}$
a não é uma função de x	${\ displaystyle {\ frac {\ partial \; \ \| \ mathbf {x} - \ mathbf {a} \ \|} {\ partial \; \ mathbf {x}}} =}$	${\ displaystyle {\ frac {(\ mathbf {x} - \ mathbf {a}) ^ {\ top}} {\ \| \ mathbf {x} - \ mathbf {a} \ \|}}}$	${\ displaystyle {\ frac {\ mathbf {x} - \ mathbf {a}} {\ \| \ mathbf {x} - \ mathbf {a} \ \|}}}$

Identidades vetor por escalar

Identidades: vetor por escalar ${\ displaystyle {\ frac {\ partial \ mathbf {y}} {\ partial x}}}$
Doença	Expressão	Layout do numerador, ou seja, por y , o resultado é o vetor da coluna	Layout do denominador, ou seja, por y ^T , o resultado é o vetor linha
a não é uma função de x	${\ displaystyle {\ frac {\ partial \ mathbf {a}} {\ partial x}} =}$	${\ displaystyle \ mathbf {0}}$
a não é uma função de x , u = u ( x )	${\ displaystyle {\ frac {\ partial a \ mathbf {u}} {\ partial x}} =}$	${\ displaystyle a {\ frac {\ partial \ mathbf {u}} {\ partial x}}}$
A não é uma função de x , u = u ( x )	${\ displaystyle {\ frac {\ partial \ mathbf {A} \ mathbf {u}} {\ partial x}} =}$	${\ displaystyle \ mathbf {A} {\ frac {\ partial \ mathbf {u}} {\ partial x}}}$	${\ displaystyle {\ frac {\ partial \ mathbf {u}} {\ partial x}} \ mathbf {A} ^ {\ top}}$
u = u ( x )	${\ displaystyle {\ frac {\ partial \ mathbf {u} ^ {\ top}} {\ partial x}} =}$	${\ displaystyle \ left ({\ frac {\ partial \ mathbf {u}} {\ partial x}} \ right) ^ {\ top}}$
u = u ( x ), v = v ( x )	${\ displaystyle {\ frac {\ partial (\ mathbf {u} + \ mathbf {v})} {\ partial x}} =}$	${\ displaystyle {\ frac {\ partial \ mathbf {u}} {\ partial x}} + {\ frac {\ partial \ mathbf {v}} {\ partial x}}}$
u = u ( x ), v = v ( x )	${\ displaystyle {\ frac {\ partial (\ mathbf {u} ^ {\ top} \ times \ mathbf {v})} {\ partial x}} =}$	${\ displaystyle \ left ({\ frac {\ partial \ mathbf {u}} {\ partial x}} \ right) ^ {\ top} \ times \ mathbf {v} + \ mathbf {u} ^ {\ top} \ times {\ frac {\ partial \ mathbf {v}} {\ partial x}}}$	${\ displaystyle {\ frac {\ partial \ mathbf {u}} {\ partial x}} \ times \ mathbf {v} + \ mathbf {u} ^ {\ top} \ times \ left ({\ frac {\ partial \ mathbf {v}} {\ partial x}} \ right) ^ {\ top}}$
u = u ( x )	${\ displaystyle {\ frac {\ partial \ mathbf {g (u)}} {\ partial x}} =}$	${\ displaystyle {\ frac {\ partial \ mathbf {g (u)}} {\ partial \ mathbf {u}}} {\ frac {\ partial \ mathbf {u}} {\ partial x}}}$	${\ displaystyle {\ frac {\ partial \ mathbf {u}} {\ partial x}} {\ frac {\ partial \ mathbf {g (u)}} {\ partial \ mathbf {u}}}}$
u = u ( x )		Assume um layout de matriz consistente; Veja abaixo.
u = u ( x )	${\ displaystyle {\ frac {\ partial \ mathbf {f (g (u))}} {\ partial x}} =}$	${\ displaystyle {\ frac {\ partial \ mathbf {f (g)}} {\ partial \ mathbf {g}}} {\ frac {\ partial \ mathbf {g (u)}} {\ partial \ mathbf {u }}} {\ frac {\ partial \ mathbf {u}} {\ partial x}}}$	${\ displaystyle {\ frac {\ partial \ mathbf {u}} {\ partial x}} {\ frac {\ partial \ mathbf {g (u)}} {\ partial \ mathbf {u}}} {\ frac { \ parcial \ mathbf {f (g)}} {\ parcial \ mathbf {g}}}}$
u = u ( x )		Assume um layout de matriz consistente; Veja abaixo.
U = U ( x ), v = v ( x )	${\ displaystyle {\ frac {\ partial (\ mathbf {U} \ times \ mathbf {v})} {\ partial x}} =}$	${\ displaystyle {\ frac {\ partial \ mathbf {U}} {\ partial x}} \ times \ mathbf {v} + \ mathbf {U} \ times {\ frac {\ partial \ mathbf {v}} {\ x parcial}}}$	${\ displaystyle \ mathbf {v} ^ {\ top} \ times \ left ({\ frac {\ partial \ mathbf {U}} {\ partial x}} \ right) + {\ frac {\ partial \ mathbf {v }} {\ partial x}} \ times \ mathbf {U} ^ {\ top}}$

NOTA : As fórmulas envolvendo as derivadas vetor a vetor e (cujas saídas são matrizes) assumem que as matrizes são dispostas consistentemente com o layout vetorial, ou seja, matriz de layout de numerador quando vetor de layout de numerador e vice-versa; caso contrário, transponha os derivados vetor a vetor. ${\ displaystyle {\ frac {\ partial \ mathbf {g (u)}} {\ partial \ mathbf {u}}}}$ ${\ displaystyle {\ frac {\ partial \ mathbf {f (g)}} {\ partial \ mathbf {g}}}}$

Identidades escalar por matriz

Observe que os equivalentes exatos da regra do produto escalar e da regra da cadeia não existem quando aplicados a funções com valor de matriz de matrizes. No entanto, a regra de produto desse tipo se aplica à forma diferencial (veja abaixo), e esta é a maneira de derivar muitas das identidades abaixo envolvendo a função de rastreamento , combinada com o fato de que a função de rastreamento permite transposição e permutação cíclica, ie:

{\ displaystyle {\ begin {alinhado} \ operatorname {tr} (\ mathbf {A}) & = \ operatorname {tr} \ left (\ mathbf {A ^ {\ top}} \ right) \\\ operatorname {tr } (\ mathbf {ABCD}) & = \ operatorname {tr} (\ mathbf {BCDA}) = \ operatorname {tr} (\ mathbf {CDAB}) = \ operatorname {tr} (\ mathbf {DABC}) \ end {alinhado}}}

Por exemplo, para calcular ${\ displaystyle {\ frac {\ partial \ operatorname {tr} (\ mathbf {AXBX ^ {\ top} C})} {\ partial \ mathbf {X}}}:}$

{\ displaystyle {\ begin {alinhado} d \ operatorname {tr} (\ mathbf {AXBX ^ {\ top} C}) & = d \ operatorname {tr} \ left (\ mathbf {CAXBX ^ {\ top}} \ direita) = \ operatorname {tr} \ left (d \ left (\ mathbf {CAXBX ^ {\ top}} \ right) \ right) \\ & = \ operatorname {tr} \ left (\ mathbf {CAX} d ( \ mathbf {BX ^ {\ top}} \ right) + d \ left (\ mathbf {CAX}) \ mathbf {BX ^ {\ top}} \ right) \\ & = \ operatorname {tr} \ left (\ mathbf {CAX} d \ left (\ mathbf {BX ^ {\ top}} \ right) \ right) + \ operatorname {tr} \ left (d (\ mathbf {CAX}) \ mathbf {BX ^ {\ top} } \ right) \\ & = \ operatorname {tr} \ left (\ mathbf {CAXB} d \ left (\ mathbf {X ^ {\ top}} \ right) \ right) + \ operatorname {tr} \ left ( \ mathbf {CA} (d \ mathbf {X}) \ mathbf {BX ^ {\ top}} \ right) \\ & = \ operatorname {tr} \ left (\ mathbf {CAXB} (d \ mathbf {X} ) ^ {\ top} \ right) + \ operatorname {tr} (\ mathbf {CA} \ left (d \ mathbf {X}) \ mathbf {BX ^ {\ top}} \ right) \\ & = \ operatorname {tr} \ left (\ left (\ mathbf {CAXB} (d \ mathbf {X}) ^ {\ top} \ right) ^ {\ top} \ right) + \ operatorname {tr} \ left (\ mathbf { CA} (d \ mathbf {X}) \ mathbf {BX ^ {\ top}} \ right) \\ & = \ operator nome {tr} \ left ((d \ mathbf {X}) \ mathbf {B ^ {\ top} X ^ {\ top} A ^ {\ top} C ^ {\ top}} \ right) + \ operatorname { tr} \ left (\ mathbf {CA} (d \ mathbf {X}) \ mathbf {BX ^ {\ top}} \ right) \\ & = \ operatorname {tr} \ left (\ mathbf {B ^ {\ top} X ^ {\ top} A ^ {\ top} C ^ {\ top}} (d \ mathbf {X}) \ right) + \ operatorname {tr} \ left (\ mathbf {BX ^ {\ top} } \ mathbf {CA} (d \ mathbf {X}) \ right) \\ & = \ operatorname {tr} \ left (\ left (\ mathbf {B ^ {\ top} X ^ {\ top} A ^ { \ top} C ^ {\ top}} + \ mathbf {BX ^ {\ top}} \ mathbf {CA} \ right) d \ mathbf {X} \ right) \ end {alinhado}}}

Portanto,

{\ displaystyle {\ frac {\ partial \ operatorname {tr} \ left (\ mathbf {AXBX ^ {\ top} C} \ right)} {\ partial \ mathbf {X}}} = \ mathbf {CAXB} + \ mathbf {A ^ {\ top} C ^ {\ top}} \ mathbf {XB ^ {\ top}}.}

(Para a última etapa, consulte a seção Conversão da forma diferencial para a forma derivada .)

Identidades: escalar por matriz ${\ displaystyle {\ frac {\ partial y} {\ partial \ mathbf {X}}}}$
Doença	Expressão	Layout do numerador, ou seja, por X ^T	Layout do denominador, ou seja, por X
a não é uma função de X	${\ displaystyle {\ frac {\ partial a} {\ partial \ mathbf {X}}} =}$	${\ displaystyle \ mathbf {0} ^ {\ top}}$	${\ displaystyle \ mathbf {0}}$
a não é uma função de X , u = u ( X )	${\ displaystyle {\ frac {\ partial au} {\ partial \ mathbf {X}}} =}$	${\ displaystyle a {\ frac {\ partial u} {\ partial \ mathbf {X}}}}$
u = u ( X ), v = v ( X )	${\ displaystyle {\ frac {\ partial (u + v)} {\ partial \ mathbf {X}}} =}$	${\ displaystyle {\ frac {\ partial u} {\ partial \ mathbf {X}}} + {\ frac {\ partial v} {\ partial \ mathbf {X}}}}$
u = u ( X ), v = v ( X )	${\ displaystyle {\ frac {\ partial uv} {\ partial \ mathbf {X}}} =}$	${\ displaystyle u {\ frac {\ partial v} {\ partial \ mathbf {X}}} + v {\ frac {\ partial u} {\ partial \ mathbf {X}}}}$
u = u ( X )	${\ displaystyle {\ frac {\ partial g (u)} {\ partial \ mathbf {X}}} =}$	${\ displaystyle {\ frac {\ partial g (u)} {\ partial u}} {\ frac {\ partial u} {\ partial \ mathbf {X}}}}$
u = u ( X )	${\ displaystyle {\ frac {\ partial f (g (u))} {\ partial \ mathbf {X}}} =}$	${\ displaystyle {\ frac {\ parcial f (g)} {\ parcial g}} {\ frac {\ parcial g (u)} {\ parcial u}} {\ frac {\ parcial u} {\ parcial \ mathbf {X}}}}$
U = U ( X )	${\ displaystyle {\ frac {\ partial g (\ mathbf {U})} {\ partial X_ {ij}}} =}$	${\ displaystyle \ operatorname {tr} \ left ({\ frac {\ partial g (\ mathbf {U})} {\ partial \ mathbf {U}}} {\ frac {\ partial \ mathbf {U}} {\ parcial X_ {ij}}} \ right)}$	${\ displaystyle \ operatorname {tr} \ left (\ left ({\ frac {\ partial g (\ mathbf {U})} {\ partial \ mathbf {U}}} \ right) ^ {\ top} {\ frac {\ partial \ mathbf {U}} {\ partial X_ {ij}}} \ right)}$
U = U ( X )		Ambas as formas assumem o layout do numerador para ${\ displaystyle {\ frac {\ partial \ mathbf {U}} {\ partial X_ {ij}}},}$ ou seja, layout misto se o layout do denominador para X estiver sendo usado.
um e b não são funções de X	${\ displaystyle {\ frac {\ partial \ mathbf {a} ^ {\ top} \ mathbf {X} \ mathbf {b}} {\ partial \ mathbf {X}}} =}$	${\ displaystyle \ mathbf {b} \ mathbf {a} ^ {\ top}}$	${\ displaystyle \ mathbf {a} \ mathbf {b} ^ {\ top}}$
um e b não são funções de X	${\ displaystyle {\ frac {\ partial \ mathbf {a} ^ {\ top} \ mathbf {X} ^ {\ top} \ mathbf {b}} {\ partial \ mathbf {X}}} =}$	${\ displaystyle \ mathbf {a} \ mathbf {b} ^ {\ top}}$	${\ displaystyle \ mathbf {b} \ mathbf {a} ^ {\ top}}$
a , b e C não são funções de X	${\ displaystyle {\ frac {\ partial (\ mathbf {X} \ mathbf {a} + \ mathbf {b}) ^ {\ top} \ mathbf {C} (\ mathbf {X} \ mathbf {a} + \ mathbf {b})} {\ partial \ mathbf {X}}} =}$	${\ displaystyle \ left (\ left (\ mathbf {C} + \ mathbf {C} ^ {\ top} \ right) (\ mathbf {X} \ mathbf {a} + \ mathbf {b}) \ mathbf {a } ^ {\ top} \ right) ^ {\ top}}$	${\ displaystyle \ left (\ mathbf {C} + \ mathbf {C} ^ {\ top} \ right) (\ mathbf {X} \ mathbf {a} + \ mathbf {b}) \ mathbf {a} ^ { \principal }}$
a , b e C não são funções de X	${\ displaystyle {\ frac {\ partial (\ mathbf {X} \ mathbf {a}) ^ {\ top} \ mathbf {C} (\ mathbf {X} \ mathbf {b})} {\ partial \ mathbf { X}}} =}$	${\ displaystyle \ left (\ mathbf {C} \ mathbf {X} \ mathbf {b} \ mathbf {a} ^ {\ top} + \ mathbf {C} ^ {\ top} \ mathbf {X} \ mathbf { a} \ mathbf {b} ^ {\ top} \ right) ^ {\ top}}$	${\ displaystyle \ mathbf {C} \ mathbf {X} \ mathbf {b} \ mathbf {a} ^ {\ top} + \ mathbf {C} ^ {\ top} \ mathbf {X} \ mathbf {a} \ mathbf {b} ^ {\ top}}$
	${\ displaystyle {\ frac {\ partial \ operatorname {tr} (\ mathbf {X})} {\ partial \ mathbf {X}}} =}$	${\ displaystyle \ mathbf {I}}$
U = U ( X ), V = V ( X )	${\ displaystyle {\ frac {\ partial \ operatorname {tr} (\ mathbf {U} + \ mathbf {V})} {\ partial \ mathbf {X}}} =}$	${\ displaystyle {\ frac {\ partial \ operatorname {tr} (\ mathbf {U})} {\ partial \ mathbf {X}}} + {\ frac {\ partial \ operatorname {tr} (\ mathbf {V} )} {\ partial \ mathbf {X}}}}$
a não é uma função de X , U = U ( X )	${\ displaystyle {\ frac {\ partial \ operatorname {tr} (a \ mathbf {U})} {\ partial \ mathbf {X}}} =}$	${\ displaystyle a {\ frac {\ partial \ operatorname {tr} (\ mathbf {U})} {\ partial \ mathbf {X}}}}$
g ( X ) é qualquer polinômio com coeficientes escalares, ou qualquer função de matriz definida por uma série polinomial infinita (por exemplo, e ^X , sin ( X ), cos ( X ), ln ( X ), etc. usando uma série de Taylor ); g ( x ) é a função escalar equivalente, g ′ ( x ) é sua derivada e g ′ ( X ) é a função de matriz correspondente	${\ displaystyle {\ frac {\ partial \ operatorname {tr} (\ mathbf {g (X)})} {\ partial \ mathbf {X}}} =}$	${\ displaystyle \ mathbf {g} '(\ mathbf {X})}$	${\ displaystyle \ left (\ mathbf {g} '(\ mathbf {X}) \ right) ^ {\ top}}$
A não é uma função de X	${\ displaystyle {\ frac {\ partial \ operatorname {tr} (\ mathbf {AX})} {\ partial \ mathbf {X}}} = {\ frac {\ partial \ operatorname {tr} (\ mathbf {XA} )} {\ partial \ mathbf {X}}} =}$	${\ displaystyle \ mathbf {A}}$	${\ displaystyle \ mathbf {A} ^ {\ top}}$
A não é uma função de X	${\ displaystyle {\ frac {\ partial \ operatorname {tr} \ left (\ mathbf {AX ^ {\ top}} \ right)} {\ partial \ mathbf {X}}} = {\ frac {\ partial \ operatorname {tr} \ left (\ mathbf {X ^ {\ top} A} \ right)} {\ partial \ mathbf {X}}} =}$	${\ displaystyle \ mathbf {A} ^ {\ top}}$	${\ displaystyle \ mathbf {A}}$
A não é uma função de X	${\ displaystyle {\ frac {\ partial \ operatorname {tr} \ left (\ mathbf {X ^ {\ top} AX} \ right)} {\ partial \ mathbf {X}}} =}$	${\ displaystyle \ mathbf {X} ^ {\ top} \ left (\ mathbf {A} + \ mathbf {A} ^ {\ top} \ right)}$	${\ displaystyle \ left (\ mathbf {A} + \ mathbf {A} ^ {\ top} \ right) \ mathbf {X}}$
A não é uma função de X	${\ displaystyle {\ frac {\ partial \ operatorname {tr} (\ mathbf {X ^ {- 1} A})} {\ partial \ mathbf {X}}} =}$	${\ displaystyle - \ mathbf {X} ^ {- 1} \ mathbf {A} \ mathbf {X} ^ {- 1}}$	${\ displaystyle - \ left (\ mathbf {X} ^ {- 1} \ right) ^ {\ top} \ mathbf {A} ^ {\ top} \ left (\ mathbf {X} ^ {- 1} \ right ) ^ {\ top}}$
A , B não são funções de X	${\ displaystyle {\ frac {\ partial \ operatorname {tr} (\ mathbf {AXB})} {\ partial \ mathbf {X}}} = {\ frac {\ partial \ operatorname {tr} (\ mathbf {BAX} )} {\ partial \ mathbf {X}}} =}$	${\ displaystyle \ mathbf {BA}}$	${\ displaystyle \ mathbf {A ^ {\ top} B ^ {\ top}}}$
A , B , C não são funções de X	${\ displaystyle {\ frac {\ partial \ operatorname {tr} \ left (\ mathbf {AXBX ^ {\ top} C} \ right)} {\ partial \ mathbf {X}}} =}$	${\ displaystyle \ mathbf {BX ^ {\ top} CA} + \ mathbf {B ^ {\ top} X ^ {\ top} A ^ {\ top} C ^ {\ top}}}$	${\ displaystyle \ mathbf {A ^ {\ top} C ^ {\ top} XB ^ {\ top}} + \ mathbf {CAXB}}$
n é um número inteiro positivo	${\ displaystyle {\ frac {\ partial \ operatorname {tr} \ left (\ mathbf {X} ^ {n} \ right)} {\ partial \ mathbf {X}}} =}$	${\ displaystyle n \ mathbf {X} ^ {n-1}}$	${\ displaystyle n \ left (\ mathbf {X} ^ {n-1} \ right) ^ {\ top}}$
A não é uma função de X , n é um número inteiro positivo	${\ displaystyle {\ frac {\ partial \ operatorname {tr} \ left (\ mathbf {A} \ mathbf {X} ^ {n} \ right)} {\ partial \ mathbf {X}}} =}$	${\ displaystyle \ sum _ {i = 0} ^ {n-1} \ mathbf {X} ^ {i} \ mathbf {A} \ mathbf {X} ^ {ni-1}}$	${\ displaystyle \ sum _ {i = 0} ^ {n-1} \ left (\ mathbf {X} ^ {i} \ mathbf {A} \ mathbf {X} ^ {ni-1} \ right) ^ { \principal }}$
	${\ displaystyle {\ frac {\ partial \ operatorname {tr} \ left (e ^ {\ mathbf {X}} \ right)} {\ partial \ mathbf {X}}} =}$	${\ displaystyle e ^ {\ mathbf {X}}}$	${\ displaystyle \ left (e ^ {\ mathbf {X}} \ right) ^ {\ top}}$
	${\ displaystyle {\ frac {\ partial \ operatorname {tr} (\ sin (\ mathbf {X}))} {\ partial \ mathbf {X}}} =}$	${\ displaystyle \ cos (\ mathbf {X})}$	${\ displaystyle (\ cos (\ mathbf {X})) ^ {\ top}}$
	${\ displaystyle {\ frac {\ partial \| \ mathbf {X} \|} {\ partial \ mathbf {X}}} =}$	${\ displaystyle \ operatorname {cofactor} (X) ^ {\ top} = \| \ mathbf {X} \| \ mathbf {X} ^ {- 1}}$	${\ displaystyle \ operatorname {cofactor} (X) = \| \ mathbf {X} \| \ left (\ mathbf {X} ^ {- 1} \ right) ^ {\ top}}$
a não é uma função de X	${\ displaystyle {\ frac {\ partial \ ln \| a \ mathbf {X} \|} {\ partial \ mathbf {X}}} =}$	${\ displaystyle \ mathbf {X} ^ {- 1}}$	${\ displaystyle \ left (\ mathbf {X} ^ {- 1} \ right) ^ {\ top}}$
A , B não são funções de X	${\ displaystyle {\ frac {\ partial \| \ mathbf {AXB} \|} {\ partial \ mathbf {X}}} =}$	${\ displaystyle \| \ mathbf {AXB} \| \ mathbf {X} ^ {- 1}}$	${\ displaystyle \| \ mathbf {AXB} \| \ left (\ mathbf {X} ^ {- 1} \ right) ^ {\ top}}$
n é um número inteiro positivo	${\ displaystyle {\ frac {\ partial \ left \| \ mathbf {X} ^ {n} \ right \|} {\ partial \ mathbf {X}}} =}$	${\ displaystyle n \ left \| \ mathbf {X} ^ {n} \ right \| \ mathbf {X} ^ {- 1}}$	${\ displaystyle n \ left \| \ mathbf {X} ^ {n} \ right \| \ left (\ mathbf {X} ^ {- 1} \ right) ^ {\ top}}$
(ver pseudo-inverso )	${\ displaystyle {\ frac {\ partial \ ln \ left \| \ mathbf {X} ^ {\ top} \ mathbf {X} \ right \|} {\ partial \ mathbf {X}}} =}$	${\ displaystyle 2 \ mathbf {X} ^ {+}}$	${\ displaystyle 2 \ left (\ mathbf {X} ^ {+} \ right) ^ {\ top}}$
(ver pseudo-inverso )	${\ displaystyle {\ frac {\ partial \ ln \ left \| \ mathbf {X} ^ {\ top} \ mathbf {X} \ right \|} {\ partial \ mathbf {X} ^ {+}}} =}$	${\ displaystyle -2 \ mathbf {X}}$	${\ displaystyle -2 \ mathbf {X} ^ {\ top}}$
A não é uma função de X , X é quadrado e invertível	${\ displaystyle {\ frac {\ partial \ left \| \ mathbf {X ^ {\ top}} \ mathbf {A} \ mathbf {X} \ right \|} {\ partial \ mathbf {X}}} =}$	${\ displaystyle 2 \ left \| \ mathbf {X ^ {\ top}} \ mathbf {A} \ mathbf {X} \ right \| \ mathbf {X} ^ {- 1} = 2 \ left \| \ mathbf {X ^ {\ top}} \ right \|\| \ mathbf {A} \|\| \ mathbf {X} \| \ mathbf {X} ^ {- 1}}$	${\ displaystyle 2 \ left \| \ mathbf {X ^ {\ top}} \ mathbf {A} \ mathbf {X} \ right \| \ left (\ mathbf {X} ^ {- 1} \ right) ^ {\ top }}$
A não é uma função de X , X não é quadrado, A é simétrico	${\ displaystyle {\ frac {\ partial \ left \| \ mathbf {X ^ {\ top}} \ mathbf {A} \ mathbf {X} \ right \|} {\ partial \ mathbf {X}}} =}$	${\ displaystyle 2 \ left \| \ mathbf {X ^ {\ top}} \ mathbf {A} \ mathbf {X} \ right \| \ left (\ mathbf {X ^ {\ top} A ^ {\ top} X} \ right) ^ {- 1} \ mathbf {X ^ {\ top} A ^ {\ top}}}$	${\ displaystyle 2 \ left \| \ mathbf {X ^ {\ top}} \ mathbf {A} \ mathbf {X} \ right \| \ mathbf {AX} \ left (\ mathbf {X ^ {\ top} AX} \ direita) ^ {- 1}}$
A não é uma função de X , X não é quadrado, A é não simétrico	${\ displaystyle {\ frac {\ partial \| \ mathbf {X ^ {\ top}} \ mathbf {A} \ mathbf {X} \|} {\ partial \ mathbf {X}}} =}$	${\ displaystyle {\ begin {alinhados} \ left \| \ mathbf {X ^ {\ top}} \ mathbf {A} \ mathbf {X} \ right \| {\ Big (} & \ left (\ mathbf {X ^ { \ top} AX} \ right) ^ {- 1} \ mathbf {X ^ {\ top} A} + {} \\ & \ left (\ mathbf {X ^ {\ top} A ^ {\ top} X} \ right) ^ {- 1} \ mathbf {X ^ {\ top} A ^ {\ top}} {\ Big)} \ end {alinhado}}}$	${\ displaystyle {\ begin {alinhados} \ left \| \ mathbf {X ^ {\ top}} \ mathbf {A} \ mathbf {X} \ right \| {\ Big (} & \ mathbf {AX} \ left (\ mathbf {X ^ {\ top} AX} \ right) ^ {- 1} + {} \\ & \ mathbf {A ^ {\ top} X} \ left (\ mathbf {X ^ {\ top} A ^ { \ top} X} \ right) ^ {- 1} {\ Big)} \ end {alinhado}}}$

Identidades matriz por escalar

Identidades: matriz por escalar ${\ displaystyle {\ frac {\ partial \ mathbf {Y}} {\ partial x}}}$
Doença	Expressão	Layout do numerador, ou seja, por Y
U = U ( x )	${\ displaystyle {\ frac {\ partial a \ mathbf {U}} {\ partial x}} =}$	${\ displaystyle a {\ frac {\ partial \ mathbf {U}} {\ partial x}}}$
A , B não são funções de x , U = U ( x )	${\ displaystyle {\ frac {\ partial \ mathbf {AUB}} {\ partial x}} =}$	${\ displaystyle \ mathbf {A} {\ frac {\ partial \ mathbf {U}} {\ partial x}} \ mathbf {B}}$
U = U ( x ), V = V ( x )	${\ displaystyle {\ frac {\ partial (\ mathbf {U} + \ mathbf {V})} {\ partial x}} =}$	${\ displaystyle {\ frac {\ partial \ mathbf {U}} {\ partial x}} + {\ frac {\ partial \ mathbf {V}} {\ partial x}}}$
U = U ( x ), V = V ( x )	${\ displaystyle {\ frac {\ partial (\ mathbf {U} \ mathbf {V})} {\ partial x}} =}$	${\ displaystyle \ mathbf {U} {\ frac {\ partial \ mathbf {V}} {\ partial x}} + {\ frac {\ partial \ mathbf {U}} {\ partial x}} \ mathbf {V} }$
U = U ( x ), V = V ( x )	${\ displaystyle {\ frac {\ partial (\ mathbf {U} \ otimes \ mathbf {V})} {\ partial x}} =}$	${\ displaystyle \ mathbf {U} \ otimes {\ frac {\ partial \ mathbf {V}} {\ partial x}} + {\ frac {\ partial \ mathbf {U}} {\ partial x}} \ otimes \ mathbf {V}}$
U = U ( x ), V = V ( x )	${\ displaystyle {\ frac {\ partial (\ mathbf {U} \ circ \ mathbf {V})} {\ partial x}} =}$	${\ displaystyle \ mathbf {U} \ circ {\ frac {\ partial \ mathbf {V}} {\ partial x}} + {\ frac {\ partial \ mathbf {U}} {\ partial x}} \ circ \ mathbf {V}}$
U = U ( x )	${\ displaystyle {\ frac {\ partial \ mathbf {U} ^ {- 1}} {\ partial x}} =}$	${\ displaystyle - \ mathbf {U} ^ {- 1} {\ frac {\ partial \ mathbf {U}} {\ partial x}} \ mathbf {U} ^ {- 1}}$
U = U ( x, y )	${\ displaystyle {\ frac {\ partial ^ {2} \ mathbf {U} ^ {- 1}} {\ partial x \ partial y}} =}$	${\ displaystyle \ mathbf {U} ^ {- 1} \ left ({\ frac {\ partial \ mathbf {U}} {\ partial x}} \ mathbf {U} ^ {- 1} {\ frac {\ partial \ mathbf {U}} {\ parcial y}} - {\ frac {\ parcial ^ {2} \ mathbf {U}} {\ parcial x \ parcial y}} + {\ frac {\ parcial \ mathbf {U} } {\ partial y}} \ mathbf {U} ^ {- 1} {\ frac {\ partial \ mathbf {U}} {\ partial x}} \ right) \ mathbf {U} ^ {- 1}}$
A não é uma função de x , g ( X ) é qualquer polinômio com coeficientes escalares ou qualquer função de matriz definida por uma série polinomial infinita (por exemplo, e ^X , sin ( X ), cos ( X ), ln ( X ), etc. .); g ( x ) é a função escalar equivalente, g ′ ( x ) é sua derivada e g ′ ( X ) é a função de matriz correspondente	${\ displaystyle {\ frac {\ partial \, \ mathbf {g} (x \ mathbf {A})} {\ partial x}} =}$	${\ displaystyle \ mathbf {A} \ mathbf {g} '(x \ mathbf {A}) = \ mathbf {g}' (x \ mathbf {A}) \ mathbf {A}}$
A não é uma função de x	${\ displaystyle {\ frac {\ partial e ^ {x \ mathbf {A}}} {\ partial x}} =}$	${\ displaystyle \ mathbf {A} e ^ {x \ mathbf {A}} = e ^ {x \ mathbf {A}} \ mathbf {A}}$

Além disso, consulte Derivada do mapa exponencial .

Identidades escalar por escalar

Com vetores envolvidos

Identidades: escalar a escalar, com vetores envolvidos
Doença	Expressão	Qualquer layout (assume que o produto escalar ignora o layout de linha vs. coluna)
u = u ( x )	${\ displaystyle {\ frac {\ partial g (\ mathbf {u})} {\ partial x}} =}$	${\ displaystyle {\ frac {\ partial g (\ mathbf {u})} {\ partial \ mathbf {u}}} \ cdot {\ frac {\ partial \ mathbf {u}} {\ partial x}}}$
u = u ( x ), v = v ( x )	${\ displaystyle {\ frac {\ partial (\ mathbf {u} \ cdot \ mathbf {v})} {\ partial x}} =}$	${\ displaystyle \ mathbf {u} \ cdot {\ frac {\ partial \ mathbf {v}} {\ partial x}} + {\ frac {\ partial \ mathbf {u}} {\ partial x}} \ cdot \ mathbf {v}}$

Com matrizes envolvidas

Identidades: escalar a escalar, com matrizes envolvidas
Doença	Expressão	Layout de numerador consistente, ou seja , por Y e X ^T	Layout misto, ou seja , por Y e X
U = U ( x )	${\ displaystyle {\ frac {\ partial \| \ mathbf {U} \|} {\ partial x}} =}$	${\ displaystyle \| \ mathbf {U} \| \ operatorname {tr} \ left (\ mathbf {U} ^ {- 1} {\ frac {\ partial \ mathbf {U}} {\ partial x}} \ right)}$
U = U ( x )	${\ displaystyle {\ frac {\ partial \ ln \| \ mathbf {U} \|} {\ partial x}} =}$	${\ displaystyle \ operatorname {tr} \ left (\ mathbf {U} ^ {- 1} {\ frac {\ partial \ mathbf {U}} {\ partial x}} \ right)}$
U = U ( x )	${\ displaystyle {\ frac {\ partial ^ {2} \| \ mathbf {U} \|} {\ partial x ^ {2}}} =}$	${\ displaystyle \| \ mathbf {U} \| \ left [\ operatorname {tr} \ left (\ mathbf {U} ^ {- 1} {\ frac {\ partial ^ {2} \ mathbf {U}} {\ partial x ^ {2}}} \ right) + \ operatorname {tr} ^ {2} \ left (\ mathbf {U} ^ {- 1} {\ frac {\ partial \ mathbf {U}} {\ partial x} } \ right) - \ operatorname {tr} \ left (\ left (\ mathbf {U} ^ {- 1} {\ frac {\ partial \ mathbf {U}} {\ partial x}} \ right) ^ {2 }\certo, certo]}$
U = U ( x )	${\ displaystyle {\ frac {\ partial g (\ mathbf {U})} {\ partial x}} =}$	${\ displaystyle \ operatorname {tr} \ left ({\ frac {\ partial g (\ mathbf {U})} {\ partial \ mathbf {U}}} {\ frac {\ partial \ mathbf {U}} {\ parcial x}} \ direita)}$	${\ displaystyle \ operatorname {tr} \ left (\ left ({\ frac {\ partial g (\ mathbf {U})} {\ partial \ mathbf {U}}} \ right) ^ {\ top} {\ frac {\ partial \ mathbf {U}} {\ partial x}} \ right)}$
A não é uma função de x , g ( X ) é qualquer polinômio com coeficientes escalares ou qualquer função de matriz definida por uma série polinomial infinita (por exemplo, e ^X , sin ( X ), cos ( X ), ln ( X ), etc. .); g ( x ) é a função escalar equivalente, g ′ ( x ) é sua derivada e g ′ ( X ) é a função de matriz correspondente.	${\ displaystyle {\ frac {\ partial \ operatorname {tr} (\ mathbf {g} (x \ mathbf {A}))} {\ partial x}} =}$	${\ displaystyle \ operatorname {tr} \ left (\ mathbf {A} \ mathbf {g} '(x \ mathbf {A}) \ right)}$
A não é uma função de x	${\ displaystyle {\ frac {\ partial \ operatorname {tr} \ left (e ^ {x \ mathbf {A}} \ right)} {\ partial x}} =}$	${\ displaystyle \ operatorname {tr} \ left (\ mathbf {A} e ^ {x \ mathbf {A}} \ right)}$

Identidades em forma diferencial

Freqüentemente, é mais fácil trabalhar na forma diferencial e depois converter de volta para as derivadas normais. Isso só funciona bem usando o layout do numerador. Nessas regras, "a" é um escalar.

Identidades diferenciais: escalar envolvendo matriz
Doença	Expressão	Resultado (layout do numerador)
	${\ displaystyle d (\ operatorname {tr} (\ mathbf {X})) =}$	${\ displaystyle \ operatorname {tr} (d \ mathbf {X})}$
	${\ displaystyle d (\| \ mathbf {X} \|) =}$	${\ displaystyle \| \ mathbf {X} \| \ operatorname {tr} \ left (\ mathbf {X} ^ {- 1} d \ mathbf {X} \ right) = \ operatorname {tr} (\ operatorname {adj} ( \ mathbf {X}) d \ mathbf {X})}$
	${\ displaystyle d (\ ln \| \ mathbf {X} \|) =}$	${\ displaystyle \ operatorname {tr} \ left (\ mathbf {X} ^ {- 1} d \ mathbf {X} \ right)}$

Identidades diferenciais: matriz
Doença	Expressão	Resultado (layout do numerador)
A não é uma função de X	${\ displaystyle d (\ mathbf {A}) =}$	${\ displaystyle 0}$
a não é uma função de X	${\ displaystyle d (a \ mathbf {X}) =}$	${\ displaystyle a \, d \ mathbf {X}}$
	${\ displaystyle d (\ mathbf {X} + \ mathbf {Y}) =}$	${\ displaystyle d \ mathbf {X} + d \ mathbf {Y}}$
	${\ displaystyle d (\ mathbf {X} \ mathbf {Y}) =}$	${\ displaystyle (d \ mathbf {X}) \ mathbf {Y} + \ mathbf {X} (d \ mathbf {Y})}$
( Produto Kronecker )	${\ displaystyle d (\ mathbf {X} \ otimes \ mathbf {Y}) =}$	${\ displaystyle (d \ mathbf {X}) \ otimes \ mathbf {Y} + \ mathbf {X} \ otimes (d \ mathbf {Y})}$
( Produto Hadamard )	${\ displaystyle d (\ mathbf {X} \ circ \ mathbf {Y}) =}$	${\ displaystyle (d \ mathbf {X}) \ circ \ mathbf {Y} + \ mathbf {X} \ circ (d \ mathbf {Y})}$
	${\ displaystyle d \ left (\ mathbf {X} ^ {\ top} \ right) =}$	${\ displaystyle (d \ mathbf {X}) ^ {\ top}}$
	${\ displaystyle d \ left (\ mathbf {X} ^ {- 1} \ right) =}$	${\ displaystyle - \ mathbf {X} ^ {- 1} \ left (d \ mathbf {X} \ right) \ mathbf {X} ^ {- 1}}$
( transpor conjugado )	${\ displaystyle d \ left (\ mathbf {X} ^ {\ rm {H}} \ right) =}$	${\ displaystyle (d \ mathbf {X}) ^ {\ rm {H}}}$
n é um número inteiro positivo	${\ displaystyle d \ left (\ mathbf {X} ^ {n} \ right) =}$	${\ displaystyle \ sum _ {i = 0} ^ {n-1} \ mathbf {X} ^ {i} (d \ mathbf {X}) \ mathbf {X} ^ {ni-1}}$
	${\ displaystyle d \ left (e ^ {\ mathbf {X}} \ right) =}$	${\ displaystyle \ int _ {0} ^ {1} e ^ {a \ mathbf {X}} (d \ mathbf {X}) e ^ {(1-a) \ mathbf {X}} da}$
${\ displaystyle \ mathbf {X} = \ sum _ {i} \ lambda _ {i} \ mathbf {P} _ {i}}$ é diagonalizável ${\ displaystyle \ mathbf {P} _ {i} \ mathbf {P} _ {j} = \ delta _ {ij} \ mathbf {P} _ {i}}$ f é diferenciável a cada autovalor ${\ displaystyle \ lambda _ {i}}$	${\ displaystyle d \ left (f (\ mathbf {X}) \ right) =}$	${\ displaystyle \ sum _ {ij} \ mathbf {P} _ {i} (d \ mathbf {X}) \ mathbf {P} _ {j} {\ begin {cases} f '(\ lambda _ {i} ) & \ lambda _ {i} = \ lambda _ {j} \\ {\ frac {f (\ lambda _ {i}) - f (\ lambda _ {j})} {\ lambda _ {i} - \ lambda _ {j}}} & \ lambda _ {i} \ neq \ lambda _ {j} \ end {casos}}}$

Na última linha, é o delta de Kronecker e é o conjunto de operadores de projecção ortogonal que projeto para o k -ésimo vector próprio de X . Q é a matriz dos autovetores de e são os autovalores. A função de matriz é definida em termos da função escalar para matrizes diagonalizáveis por onde com . ${\ displaystyle \ delta _ {ij}}$ ${\ displaystyle (\ mathbf {P} _ {k}) _ {ij} = (\ mathbf {Q}) _ {ik} (\ mathbf {Q} ^ {- 1}) _ {kj}}$ ${\ displaystyle \ mathbf {X} = \ mathbf {Q} \ mathbf {\ Lambda} \ mathbf {Q} ^ {- 1}}$ ${\ displaystyle (\ mathbf {\ Lambda}) _ {ii} = \ lambda _ {i}}$ ${\ displaystyle f (\ mathbf {X})}$ ${\ displaystyle f (x)}$ ${\ displaystyle f (\ mathbf {X}) = \ sum _ {i} f (\ lambda _ {i}) \ mathbf {P} _ {i}}$ ${\ displaystyle \ mathbf {X} = \ sum _ {i} \ lambda _ {i} \ mathbf {P} _ {i}}$ ${\ displaystyle \ mathbf {P} _ {i} \ mathbf {P} _ {j} = \ delta _ {ij} \ mathbf {P} _ {i}}$

Para converter para a forma derivada normal, primeiro converta-a para uma das seguintes formas canônicas e, em seguida, use estas identidades:

Conversão da forma diferencial para a forma derivada
Forma diferencial canônica	Forma derivada equivalente
${\ displaystyle dy = a \, dx}$	${\ displaystyle {\ frac {dy} {dx}} = a}$
${\ displaystyle dy = \ mathbf {a} ^ {\ top} d \ mathbf {x}}$	${\ displaystyle {\ frac {dy} {d \ mathbf {x}}} = \ mathbf {a} ^ {\ top}}$
${\ displaystyle dy = \ operatorname {tr} (\ mathbf {A} \, d \ mathbf {X})}$	${\ displaystyle {\ frac {dy} {d \ mathbf {X}}} = \ mathbf {A}}$
${\ displaystyle d \ mathbf {y} = \ mathbf {a} \, dx}$	${\ displaystyle {\ frac {d \ mathbf {y}} {dx}} = \ mathbf {a}}$
${\ displaystyle d \ mathbf {y} = \ mathbf {A} \, d \ mathbf {x}}$	${\ displaystyle {\ frac {d \ mathbf {y}} {d \ mathbf {x}}} = \ mathbf {A}}$
${\ displaystyle d \ mathbf {Y} = \ mathbf {A} \, dx}$	${\ displaystyle {\ frac {d \ mathbf {Y}} {dx}} = \ mathbf {A}}$

Formulários

O cálculo diferencial matricial é usado em estatística, particularmente para a análise estatística de distribuições multivariadas , especialmente a distribuição normal multivariada e outras distribuições elípticas .

É usado na análise de regressão para calcular, por exemplo, a fórmula de regressão de mínimos quadrados ordinários para o caso de múltiplas variáveis explicativas .

Veja também

Notas

Referências

Fang, Kai-Tai ; Zhang, Yao-Ting (1990). Análise multivariada generalizada . Science Press (Pequim) e Springer-Verlag (Berlim). ISBN 3540176519. 9783540176510.
Kollo, Tõnu; von Rosen, Dietrich (2005). Estatística multivariada avançada com matrizes . Dordrecht: Springer. ISBN 978-1-4020-3418-3.
Pan, Jianxin; Fang, Kaitai (2007). Modelos de curvas de crescimento e diagnósticos estatísticos . Pequim: Science Press. ISBN 9780387950532.

Leitura adicional

Lax, Peter D. (2007). "9. Cálculo de funções com valores vetoriais e matriciais". Álgebra linear e suas aplicações (2ª ed.). Hoboken, NJ: Wiley-Interscience. ISBN 978-0-471-75156-4.
Magnus, Jan R. (outubro de 2010). "Sobre o conceito de derivada de matriz" . Journal of Multivariate Analysis . 101 (9): 2200–2206. doi : 10.1016 / j.jmva.2010.05.005 .. Observe que este artigo da Wikipedia foi quase completamente revisado da versão criticada neste artigo.
Magnus, Jan R. (1999). Cálculo diferencial matricial com aplicações em estatística e econometria . Neudecker, Heinz. (Rev. ed.). Nova York: John Wiley. ISBN 0-471-98632-1. OCLC 40467399 .
Abadir, Karim M., 1964- (2005). Álgebra matricial . Magnus, Jan R. Cambridge: Cambridge University Press. ISBN 978-0-511-64796-3. OCLC 569411497 .CS1 maint: vários nomes: lista de autores ( link )

links externos

Programas

MatrixCalculus.org , um site para avaliar expressões de cálculo de matriz simbolicamente
NCAlgebra , um pacote de código aberto do Mathematica que possui algumas funcionalidades de cálculo de matriz

Em formação

Matrix Reference Manual , Mike Brookes, Imperial College London .
Diferenciação de matriz (e algumas outras coisas) , Randal J. Barnes, Departamento de Engenharia Civil, Universidade de Minnesota.
Notes on Matrix Calculus , Paul L. Fackler, North Carolina State University .
Matrix Differential Calculus (apresentação de slides), Zhang Le, University of Edinburgh .
Introduction to Vector and Matrix Differentiation (notas sobre a diferenciação de matrizes, no contexto da Econometria ), Heino Bohn Nielsen.
Uma nota sobre matrizes de diferenciação (notas sobre diferenciação de matrizes), Pawel Koval, do Munich Personal RePEc Archive.
Cálculo vetorial / matricial Mais informações sobre a diferenciação de matrizes.
Identidades de matriz (notas sobre diferenciação de matrizes), Sam Roweis.

Languages

In other projects