Math♾️/Sparsity and Compression

왜 정보는 압축이 가능한가?

생각 깎는 아이 2022. 9. 27. 23:30

 

"원숭이들이 자판을 무한히 자판을 두드렸을 때 세익스피어가 나올 수 있다"

 

위의 말은 무엇일까?

원숭이들이 자판을 무작위로 두드리면 말도 안되는 철자의 조합으로 구성된 글이 나올것이다. 

하지만 확률에 신비한 마법으로 세익스피어와 같은 명작이 나올수도 있다. 

 

즉 이 말은 철자의 조합으로 만들어질 수 있는 수 많은 글이 하나의 공간을 이룰 때 우리가 읽을 수 있는 글자는 해당 공간 상에서 극히 일부를 차지하며 그 중에서도 고전과 같은 명작이 나오는 것은 더 적은 수라는 것이다. 

 

살아오면서 보고,듣는 것들로 세상이 이루어져 있다고 체험을 통해 느끼지만 우리가 인지 할 수 있는 구조화 된 신호인 오디오, 사진, 영상등은 무작위적인 조합으로 만들어 질 수 있는 것들로 이루어진 공간에 극히 일부에 해당한다. 

 

반대로 말하면 들어오는 신호중에 인지를 위해 필요한 신호의 양은 많지 않다는 것이다.

 

따라서 인지를 위해 필요한 신호들을 구분하고 추출할 수 있다면 해당 신호들만 가지고 우리가 인지할 수 있는 형태의 정보를 만들 수 있다.

정보의 압축은 이렇게 중요한 성분만 남김으로서 신호의 크기를  줄이는 과정이다.