Entropia

Alguns autores referem-se a entropia como uma desordem ou como informação. Mas, não é exactamente nem uma nem outra. O termo entropia foi usado pela primeira vez na termodinâmica, sendo mais tarde transferido para o domínio da informação.

A definição científica deve-se a Shannon e a Léon Brillouin: a medida de informação pode ser representada pela seguinte expressão:

I = K log P

I – representa a quantidade de informação sobre um acontecimento ou situação, para as quais existem P possibilidades de probabilidades iguais.

K – é uma constante, chamada de constante de Boltzman que aparece em termodinâmica na equação de Max Planck.

Segundo a segunda lei da termodinâmica a entropia está constantemente a aumentar em qualquer mudança espontânea. Se a mudança é reversível a entropia mantêm-se constante.

Esta lei também se aplica da mesma maneira à informação: a sua intensidade diminui à medida que é comunicada. Se a comunicação for perfeita, ou seja, se não ocorreu nenhuma perturbação, a entropia permanece constante. Quando ocorre uma perturbação a entropia aumenta e a informação diminui.

A entropia e informação são quantidades isomórficas, mas de sinal contrário. Portanto, entropia pode ser considerada como uma medida da nossa ignorância, da nossa insegurança e uma medida inversa da informação.