이 소절에서는 물리적 개념이자 정보적 개념으로서 엔트로피가 발전해 온 역사를 다룬다. 이 가지는 노트가 늘어남에 따라 앞으로 추가될 노트와 예제, 참고 문헌을 위한 안정적인 진입점으로 유지된다.