목록CS (2)

유사컴공님의 블로그

[정보이론] 허프만 인코딩과 정보 엔트로피

허프만 인코딩은 정보 엔트로피와 밀접하게 연결되어있다. 정보 엔트로피의 의미는 정보를 표현하는 데에 필요한 평균 '최소' 자원량이다. 여기서 자원량은 비트로 해석할 수 있다. 여기서 중요한 건 '최소' 자원량이라는 점인데, 허프만 인코딩을 활용하여 정보를 표현하면 정보들을 이론적 '최소'자원량에 가까운 비트수로 표현 가능하기 때문이다. 허프만 인코딩은 각 기호의 등장 확률에 따라 가변 길이의 비트 코드를 부여함으로써, 전체 데이터를 표현하는 데 필요한 평균 비트 수를 최소화한다. 이는 정보 이론에서 정의하는 정보 엔트로피가 의미하는 '이론적인 최소 자원량'에 가까운 실제 값을 제공하며, 따라서 허프만 인코딩을 통해 데이터 표현에 필요한 최소 자원량을 구할 수 있다. 정보 엔트로피의 수식은 다음과 같다. ..
CS/정보이론 2025. 10. 8. 20:23
[CA] 명령어 사이클과 마이크로명령어

본 게시글의 설명자료로 사용된 사진은 김종현 저서 '컴퓨터구조론' 4장 내용을 기반으로 합니다. 본 게시글에서는 CPU의 명령어 사이클이 어떻게 마이크로명령어를 통해 구현되는지 설명하고자 한다.CPU의 동작 사이클은 기본적으로 인출 사이클, 실행사이클로 나누어진다. 말그대로 명령어 인출사이클은 현재 명령어가 어떠한 명령어인지 명령어를 인출해오는 단계이고, 실행사이클은 인출해온 명령어를 실행하는 단계이다. 이때 명령어가 간접지정방식으로 이루어진 경우 명령어 인출사이클과 실행사이클 사이에 간접사이클이 포함되게 된다. 명령어 사이클에 대한 자세한 내용은 아래 링크를 참고하길 바란다 :https://velog.io/@hyunji015/%EC%BB%B4%ED%93%A8%ED%84%B0%EA%B5%AC%EC%..
CS/컴퓨터구조 2025. 9. 26. 16:10
이전 Prev 1 Next 다음