Em teoria das probabilidades e Teoria da Informação, a informação mútua (em inglês MI de en:Mutual information) de duas variáveis aleatórias é a medida da dependência mútua entre as duas variáveis. Mais especificamente, a informação mútuaquantifica a informação (em unidades como shannons, mais conhecidos como bits) que uma variável aleatória contém acerca da outra. O conceito de informação mútua esta intrinsicamente ligado ao da Entropia de uma variável aleatória, uma noção fundamental da teoria da informação, que define a "quantidade de informação" contida em uma variável aleatória.

Não sendo limitado a variáveis aleatória com valores reais como o coeficiente de correlação, a MI é mais genérica e determina quão similar a distribuição conjunta p(X,Y) está dos produtos das distribuições marginais p(X)p(Y). MI é o valor esperado da pointwise mutual information (PMI).

Formalmente a informação mútua^[1] de duas variáveis aleatórias discretas, X e Y pode ser definida como:

${\displaystyle I(X;Y)=\sum _{y\in Y}\sum _{x\in X}p(x,y)\log {\left({\frac {p(x,y)}{p(x)\,p(y)}}\right)},}$

x

Δe, ΔM, Δf, ΔE, Δt, Δi, ΔT, ΔC, ΔE,ΔA, ΔD, ΔM......  =
x

sistema de dez dimensões de Graceli.

x

sistema de transições de estados, e estados  de Graceli, 

x

T l    T l     E l       Fl         dfG l   

N l    El                 tf l

P l    Ml                 tfefel 

Ta l   Rl

         Ll

         D

aonde p(x,y) é a distribuição de probabilidade conjunta de X e Y, e ${\displaystyle p(x)}$ e ${\displaystyle p(y)}$ são funções de probabilidade de distribuição marginal de X e Y, respectivamente. No caso de variáveis aleatórias contínuas, a somatória é substituída por uma integral dupla definida:

${\displaystyle I(X;Y)=\int _{Y}\int _{X}p(x,y)\log {\left({\frac {p(x,y)}{p(x)\,p(y)}}\right)}\;dx\,dy,}$

x

Δe, ΔM, Δf, ΔE, Δt, Δi, ΔT, ΔC, ΔE,ΔA, ΔD, ΔM......  =
x

sistema de dez dimensões de Graceli.

x

sistema de transições de estados, e estados  de Graceli, 

x

T l    T l     E l       Fl         dfG l   

N l    El                 tf l

P l    Ml                 tfefel 

Ta l   Rl

         Ll

         D

aonde p(x,y) é agora a função de densidade de probabilidade conjunta de X e Y, p(x) e p(y) são funções de densidade de probabilidade marginal de X e Y, respectivamente.

Se usarmos o logarítmo de base 2 a unidade da informação mútua será bits.

Motivação[editar | editar código-fonte]

Intuitivamente, a informação mútua mede a informação compartilhada entre X e Y: ela mede quanto o conhecimento de uma destas variáveis reduz a incerteza sobre a outra. Por exemplo, se X e Y são independentes, então conhecer X não fornece nenhuma informação sobre Y e vice versa, então a informação mútua delas será zero. No outro extremo, se X for uma função determinística de Y e Y for uma função determinística de X então toda a informação contida em X é compartilhada por Y: conhecer X determina o valor de Y e vice versa. Como resultado, neste caso a informação mútua é o mesmo que a incerteza contida em Y (ou X) sozinha, chamada de entropia de Y (ou X). Além disto, esta informação mútua é a mesma que a entropia de X e também que a entropia de Y. (Um caso bem especial disto é quando X e Y são a mesma variável aleatória.)

Informação mútua é uma medida da dependência inerente expressada pela distribuição de probabilidade conjunta de X e Y relativas à distribuição conjuntas de X e Y assumindo que sejam independentes. Informação mútua portanto mede a dependência no sentido que: I(X; Y) = 0 se e somente se X e Y são variáveis aleatórias independentes. Isto é fácil de ver num dos sentidos: se X e Y são independentes, então p(x,y) = p(x)p(y), e portanto:

${\displaystyle \log {\left({\frac {p(x,y)}{p(x)\,p(y)}}\right)}=\log 1=0.}$

x

Δe, ΔM, Δf, ΔE, Δt, Δi, ΔT, ΔC, ΔE,ΔA, ΔD, ΔM......  =
x

sistema de dez dimensões de Graceli.

x

sistema de transições de estados, e estados  de Graceli, 

x

T l    T l     E l       Fl         dfG l   

N l    El                 tf l

P l    Ml                 tfefel 

Ta l   Rl

         Ll

         D

Além disto, a informação mútua é não-negativa (i.e. I(X;Y) ≥ 0; veja abaixo) e uma função simétrica (i.e. I(X;Y) = I(Y;X)).

Propriedades[editar | editar código-fonte]

• ${\displaystyle I(X;Y)\geq 0}$;

• ${\displaystyle I(X;Y)=0}$ se, e somente se, X e Y forem variáveis aleatórias independentes;

• ${\displaystyle I(X;Y)=I(Y;X)}$

x

Δe, ΔM, Δf, ΔE, Δt, Δi, ΔT, ΔC, ΔE,ΔA, ΔD, ΔM......  =
x

sistema de dez dimensões de Graceli.

x

sistema de transições de estados, e estados  de Graceli, 

x

T l    T l     E l       Fl         dfG l   

N l    El                 tf l

P l    Ml                 tfefel 

Ta l   Rl

         Ll

         D

Dada a forte relação entre Informação Mútua e Entropia, temos os seguintes corolários:

• ${\displaystyle 0\leq H(X|Y)\leq H(X)}$, ${\displaystyle 0\leq H(Y|X)\leq H(Y)}$;

• ${\displaystyle H(X,Y)\leq H(X)+H(Y)}$

x

Δe, ΔM, Δf, ΔE, Δt, Δi, ΔT, ΔC, ΔE,ΔA, ΔD, ΔM......  =
x

sistema de dez dimensões de Graceli.

x

sistema de transições de estados, e estados  de Graceli, 

x

T l    T l     E l       Fl         dfG l   

N l    El                 tf l

P l    Ml                 tfefel 

Ta l   Rl

         Ll

         D

Relação com outras quantidades[editar | editar código-fonte]

Não-negatividade[editar | editar código-fonte]

Usando a Desigualdade de Jensen na definição da informação mútua podemos mostrar que I(X;Y) é não-negativa, i.e.

${\displaystyle I(X;Y)\geq 0}$

x

Δe, ΔM, Δf, ΔE, Δt, Δi, ΔT, ΔC, ΔE,ΔA, ΔD, ΔM......  =
x

sistema de dez dimensões de Graceli.

x

sistema de transições de estados, e estados  de Graceli, 

x

T l    T l     E l       Fl         dfG l   

N l    El                 tf l

P l    Ml                 tfefel 

Ta l   Rl

         Ll

         D

Relação com a entropia condicional e conjunta[editar | editar código-fonte]

Informação mútua pode ser expressada equivalentemente como

${\displaystyle {\begin{aligned}I(X;Y)&{}\equiv \mathrm {H} (X)-\mathrm {H} (X|Y)\\&{}\equiv \mathrm {H} (Y)-\mathrm {H} (Y|X)\\&{}\equiv \mathrm {H} (X)+\mathrm {H} (Y)-\mathrm {H} (X,Y)\\&{}\equiv \mathrm {H} (X,Y)-\mathrm {H} (X|Y)-\mathrm {H} (Y|X)\end{aligned}}}$

x

Δe, ΔM, Δf, ΔE, Δt, Δi, ΔT, ΔC, ΔE,ΔA, ΔD, ΔM......  =
x

sistema de dez dimensões de Graceli.

x

sistema de transições de estados, e estados  de Graceli, 

x

T l    T l     E l       Fl         dfG l   

N l    El                 tf l

P l    Ml                 tfefel 

Ta l   Rl

         Ll

         D

aonde ${\displaystyle \mathrm {H} (X)}$ e ${\displaystyle \mathrm {H} (Y)}$ são entropias marginais, Η(X|Y) e Η(Y|X) são as entropias condicionais, e Η(X,Y) é a entropia conjunta de X e Y. Note a analogia da união, diferença e intersecção de dois conjuntos, conforme ilustrado no diagrama de Venn. Em termos de canais de comunicação nos quais a saída ${\displaystyle Y}$ é uma versão ruídosa da entrada ${\displaystyle X}$, essas relações estão resumidas na figura abaixo.

Relações entre as quantidades da teoria da informação.

Como I(X;Y) é não-negativa, consequentemente, ${\displaystyle \mathrm {H} (X)\geq \mathrm {H} (X|Y)}$. Aqui temos a dedução detalhada de I(X;Y) = Η(Y) – Η(Y|X):

${\displaystyle {\begin{aligned}I(X;Y)&{}=\sum _{x,y}p(x,y)\log {\frac {p(x,y)}{p(x)p(y)}}\\&{}=\sum _{x,y}p(x,y)\log {\frac {p(x,y)}{p(x)}}-\sum _{x,y}p(x,y)\log p(y)\\&{}=\sum _{x,y}p(x)p(y|x)\log p(y|x)-\sum _{x,y}\log p(y)p(x,y)\\&{}=\sum _{x}p(x)\left(\sum _{y}p(y|x)\log p(y|x)\right)-\sum _{y}\log p(y)\left(\sum _{x}p(x,y)\right)\\&{}=-\sum _{x}p(x)\mathrm {H} (Y|X=x)-\sum _{y}p(y)\log p(y)\\&{}=-\mathrm {H} (Y|X)+\mathrm {H} (Y)\\&{}=\mathrm {H} (Y)-\mathrm {H} (Y|X).\\\end{aligned}}}$

x

Δe, ΔM, Δf, ΔE, Δt, Δi, ΔT, ΔC, ΔE,ΔA, ΔD, ΔM......  =
x

sistema de dez dimensões de Graceli.

x

sistema de transições de estados, e estados  de Graceli, 

x

T l    T l     E l       Fl         dfG l   

N l    El                 tf l

P l    Ml                 tfefel 

Ta l   Rl

         Ll

         D

As provas das outras identidades acima são similares.

Intuitivamente, se a entropia H(Y) é considerada como uma medida da incerteza sobre uma variável aleatória, então H(Y|X) é uma medida do quanto X não diz sobre Y. Isto é "a quantidade de incerteza restando sobre Y depois que X é conhecido", e então o lado direito da primeira dessas igualdades pode ser lido como "a quantidade de incerteza em Y, menos a quantidade de incerteza em Y que sobra após X ser conhecido", que é equivalente à "quantidade de incerteza em Y que é removida por conhecer X". O que corrobora o sentido intuitivo da informação mútua como a quantidade de informação (ou seja, redução da incerteza) que conhecer qualquer variável produz sobre a outra.

Note que no caso discreto H(X|X) = 0 e portanto Η(X) = I(X;X). Então Thus I(X;X) ≥ I(X;Y), e pode-se formular o princípio básico que uma variável contém pelo menos tanta informação sobre sí mesma quanto qualquer outra variável pode fornecer.

observação: é usado textos da wikipédia para mostrar as modificações com as variáveis do sistema decadimensional e categorial Graceli.

teoria da relatividade categorial Graceli

ENERGIA, MASSA, FENÔMENOS, ESPAÇO, TEMPO, INTERAÇÕES, TRANSFORMAÇÕES, CONDUTIVIDADE, EMISSÕES, ABSORÇÕES, DIFRAÇÃO, MOMENTUM.

Δe, ΔM, Δf, ΔE, Δt, Δi, ΔT, ΔC, ΔE,ΔA, ΔD, ΔM......  =
x

sistema de dez dimensões de Graceli.

x

sistema de transições de estados, e estados  de Graceli, 

x

T l    T l     E l       Fl         dfG l   

N l    El                 tf l

P l    Ml                 tfefel 

Ta l   Rl

         Ll

         D

NO SISTEMA CATEGORIAL DE GRACELI TODO TIPO DE MOVIMENTO TEM AÇÃO TRANSFORMADORA  [como os outros elementos, como temperatura, radioatividade, luz, e outros],SOBRE ESTRUTURAS E ENERGIAS, TEMPO E ESPAÇO, INÉRCIA E GRAVIDADE, LUZ .

Estados de Graceli de matéria, energias, momentuns, inércias, e entropias.


Estados térmico.
Estado quântico.
De dilatação.
De entropia.
De potencia de entropia e relação com dilatação.
De magnetismo [correntes, momentum e condutividades]..
De eletricidade [correntes, momentum e condutividades].
De condutividade.
De mometum e fluxos variados.
De potencial inercial da matéria e energia.
De transformação.
De comportamento de cargas e interações com elétrons.
De emaranhamentos e transemaranhamentos.
De paridades e transparidades.
De radiação.
Radioatividade.
De radioisótopos.
De relação entre radioatividade, radiação, eletromagnetismo e termoentropia.
De capacidade e potencialidade de resistir a pressão, a capacidade de resistir a pressão e transformar em entropia e momentum.

De resistir à temperaturas.
E transformar em dilatação, interações entre partículas, energias e campos.
Estado dos padrões de variações e efeitos variacionais.
Estado de incerteza dos fenômenos e entre as suas interações.


E outros estados de matéria, energia, momentum, tipos de inércia [como de inércia potencial de energias magnética, elétrica, forte e fraca, dinâmica, geométrica [côncava, convexa e plana] em sistema.


E que todos estes tipos de estados tendem a ter ações de uns sobre os outros, formando um aglomerado de fenômenos de efeitos na produção de novas causas. E de efeitos variacionais de uns sobre os outros, ou seja, um sistema integrado.



Sobre padrões de entropia.

Mesmo havendo uma desordem, esta desordem segue alguns parâmetros futuros e que dependem de condições dos estados de Graceli, ou seja, a desordem segue alguns padrões e ordens conforme avança e passa por fases e agentes fenomênicos, estruturais e geométricos.


Porem, a reversibilidade se torna impossível, aumenta a instabilidade e as incertezas de posição, intensidade, variações, efeitos e outros fenômenos conforme as próprias intensidades de dilatações, e agentes e estados envolvidos.


Levando em consideração que mesmo havendo ordem não é possível a reversibilidade do estado e condições em que se encontravam a energia, matéria, momentum, inércias, dimensões, e outros agentes.


A temperatura pode voltar ao seu lugar e ao seu ponto inicial, mas não as estruturas das partículas, as intensidades infinitésimas de padrões de energias, e nem o grau de oscilações que a energias, as interações, as transformações que passam estas partículas e suas energias, estruturas e interações, e as interações e intensidades de grau de variação de cada agente.


Porem, a desordem é temporal, ou seja, com o passar do tempo outras ordens e padrões se afirmarão.


Sendo que também a entropia varia conforme intensidade de instabilidade por tempo. E tempo por intensidade de instabilidade.


Assim, segue efeitos variacionais e de incertezas por instabilidade de energia adicionada, e de tempo.


Ou seja, uma grande instabilidade e desordem em pouco tempo vai levar a uma grande e instável por mais tempo uma entropia.


Do que um grande tempo com pequena intensidade de instabilidade e energia adicionada num sistema ou numa variação térmica.


Ou mesmo numa variação eletromagnética, ou mesmo na condutividade.


Princípio tempo instabilidade de Graceli.

Assim, a desordem acaba por encontrar uma ordem se não acontecer nenhuma instabilidade novamente. Pois, as partículas e energias tendem a se reorganizar novamente conforme o passar do tempo,  e esta reorganização segue um efeito progressivo em relação à desordem e tempo. Como os vistos acima.


Ou seja, aquela organização anterior não vai mais acontecer, pois, segue o princípio da irreversibilidade, mas outras organizações se formarão conforme avança o tempo de estabilidade.

as dimensões categorias podem ser divididas em cinco formas diversificadas.

tipos, níveis, potenciais, tempo de ação, especificidades de transições de energias, de fenômenos, de estados de energias, físicos [estruturais], de fenômenos, estados quântico, e outros.

paradox of the system of ten dimensions and categories of Graceli.



a four-dimensional system can not define all the energies, changes of structures, states and phenomena within a structure, that is why there are ten or more dimensions, I have developed and I work with ten, but nature certainly goes beyond ten, with this we move to a decadimensional and categorial universe.



that is, categories ground the variables of phenomena and their interactions and transformations.



and with this we do not have a relationship with mass, but with structure, therefore, a structure carries with it much more than mass, since also mass is related to forces, inertia, resistances and energies.



but structures are related to transitions of physical states, quantum, energies, phenomena, and others.



as well as transitions of energies, phenomena, categories and dimensions.

paradoxo do sistema de dez dimensões e categorias de Graceli.

um sistema de quatro dimensões não tem como definir todas as energias, mudanças de estruturas, estados e fenômenos dentro de uma estrutura, por isto se tem dez ou mais dimensões, desenvolvi e trabalho com dez, mas a natureza com certeza vai alem das dez, com isto caminhamos para um universo decadimensional e categorial.

ou seja, as categorias fundamentam as variáveis dos fenõmenos e suas interações e transformações.

e com isto não se tem uma relação com massa, mas com estrutura, pois, uma estrutura carrega consigo muito mais do que massa, uma vez também que massa está relacionado com forças, inércia, resistências e energias.

mas estruturas está relacionado com transições de estados físicos, quântico, de energias, de fenômenos, e outros.

como também transições de energias, fenômenos, categorias e dimensões.

 = entropia reversível

postulado categorial e decadimensional Graceli.

TUDO QUE ESTÁ RELACIONADO COM ENERGIA, ESTRUTURAS, FENÔMENOS E DIMENSÕES ESTÁ INSERIDO NO SISTEMA DECADIMENSIONAL E CATEGORIAL GRACELI.


todo sistema decadimensional e categorial é um sistema transcendente e indeterminado.

matriz categorial Graceli.

T l    T l     E l       Fl         dfG l   

N l    El                 tf l

P l    Ml                 tfefel 

Ta l   Rl

         Ll

         D

1] Cosmic space.
2] Cosmic and quantum time.
3] Structures.
4] Energy.
5] Phenomena.
6] Potential.
7] Phase transitions of physical [amorphous and crystalline] states and states of energies and phenomena of Graceli.
8] Types and levels of magnetism [in paramagnetic, diamagnetic, ferromagnetic] and electricity, radioactivity [fissions and fusions], and light [laser, maser, incandescence, fluorescence, phosphorescence, and others.
9] thermal specificity, other energies, and structure phenomena, and phase transitions.
10] action time specificity in physical and quantum processes.

Sistema decadimensional Graceli.

1]Espaço cósmico.

2]Tempo cósmico  e quântico.

3]Estruturas.[isótopos, estrutura eletrônica, elementos químicos, amorfos e cristalinos, e, outros.

4]Energias.

5]Fenômenos.

6]Potenciais., e potenciais de campos, de energias, de transições de estruturas e estados físicos, quãntico,  e estados de fenômenos e estados de transições, transformações e decaimentos.

7]Transições de fases de estados físicos [amorfos e cristalinos] e estados de energias e fenômenos de Graceli.

8]Tipos e níveis de magnetismo [em paramagnéticos, diamagnético, ferromagnéticos] e eletricidade, radioatividade [fissões e fusões], e luz [laser, maser, incandescências, fluorescências, fosforescências, e outros.

9] especificidade térmica, de outras energias, e fenômenos das estruturas, e transições de fases.

10] especificidade de tempo de ações em processos físicos e quântico.

T l    T l     E l       Fl         dfG l   

N l    El                 tf l

P l    Ml                 tfefel 

Ta l   Rl

         Ll

         D

Matriz categorial de Graceli.

T l    T l     E l       Fl         dfG l   

N l    El                 tf l

P l    Ml                 tfefel 

Ta l   Rl

         Ll

         Dl

Tipos, níveis, potenciais, tempo de ação, temperatura, eletricidade, magnetismo, radioatividade, luminescências, dinâmicas, estruturas, fenômenos, transições de fenômenos e estados físicos, e estados de energias, dimensões fenomênicas de Graceli.

[estruturas: isótopos, partículas, amorfos e cristalinos, paramagnéticos, dia, ferromagnéticos, e estados [físicos, quântico, de energias, de fenômenos, de transições, de interações, transformações e decaimentos, emissões e absorções, eletrostático, condutividade e fluidez]].

trans-intermecânica de supercondutividade no sistema categorial de Graceli.

EPG = d [hc] [T / IEEpei [pit] = [pTEMRLD] and [fao] [itd] [iicee] tetdvd [pe] cee [caG].]

p it = potentials of interactions and transformations.
Temperature divided by isotopes and physical states and potential states of energies and isotopes = emissions, random wave fluxes, ion interactions, charges and energies structures, tunnels and entanglements, transformations and decays, vibrations and dilations, electrostatic potential, conductivities, entropies and enthalpies. categories and agents of Graceli.

h e = quantum index and speed of light.

[pTEMRlD] = THERMAL, ELECTRICAL, MAGNETIC, RADIOACTIVE, Luminescence, DYNAMIC POTENTIAL] ..


EPG = GRACELI POTENTIAL STATUS.

[pTFE] = POTENCIAL DE TRANSIÇÕES DE FASES DE ESTADOS FÍSICOS E DE ENERGIAS E FANÔMENOS [TRANSIÇÕES DE GRACELI]

, [pTEMRLD] [hc] [pI] [PF] [pIT][pTFE] [CG].