정보의 압축
-
왜 정보는 압축이 가능한가?Math♾️/Sparsity and Compression 2022. 9. 27. 23:30
"원숭이들이 자판을 무한히 자판을 두드렸을 때 세익스피어가 나올 수 있다" 위의 말은 무엇일까? 원숭이들이 자판을 무작위로 두드리면 말도 안되는 철자의 조합으로 구성된 글이 나올것이다. 하지만 확률에 신비한 마법으로 세익스피어와 같은 명작이 나올수도 있다. 즉 이 말은 철자의 조합으로 만들어질 수 있는 수 많은 글이 하나의 공간을 이룰 때 우리가 읽을 수 있는 글자는 해당 공간 상에서 극히 일부를 차지하며 그 중에서도 고전과 같은 명작이 나오는 것은 더 적은 수라는 것이다. 살아오면서 보고,듣는 것들로 세상이 이루어져 있다고 체험을 통해 느끼지만 우리가 인지 할 수 있는 구조화 된 신호인 오디오, 사진, 영상등은 무작위적인 조합으로 만들어 질 수 있는 것들로 이루어진 공간에 극히 일부에 해당한다. 반대로..