Gracias a una interesante conversación twittera con @ramoneeza he decido a escribir una entrada a la que tenía ganas desde hace tiempo. Vamos a ver qué es la información y su relación con la entropía.
El hombre clave aquí es un tal Claude Shannon, que fue quien introdujo el concepto matemático de información.
Claude Shannon
En esta entrada veremos cómo se relaciona la entropía (definición de Boltzmann-Gibbs) con este concepto de información. Lo que ha de quedar claro es que esta información de Shannon no es una característica física de los sistemas sino una medida de «lo sorprendente» que es un suceso.
Sería interesante repasar lo que se ha hablado aquí de entropía. Recomiendo una breve lectura de:
Tan llevada y tan traída, hablemos de entropía
Ahí encontraréis una discusión elemental de qué es la entropía según el punto de vista físico.
Cuentos Cuánticos 