목차
1장 이산 소스와 엔트로피 = 1
1.1 디지털 통신과 저장 시스템 알아보기 = 1
1.2 이산 정보 소스와 엔트로피 = 3
1.2.1 소스 알파벳과 엔트로피 = 3
1.2.2 결합 엔트로피와 조건 엔트로피 = 7
1.2.3 심벌 블록의 엔트로피와 연쇄 법칙 = 11
1.3 소스 코딩 = 14
1.3.1 매핑 함수와 효율 = 14
1.3.2 상호정보 = 16
1.3.3 암호화에 대해서 간단히 알아보기 = 20
1.3.4 1.3절에 대한 요약 = 22
1.4 허프만 코딩(Huffman coding) = 23
1.4.1 전치 코드와 즉각적 복호화 = 23
1.4.2 허프만 코드 만들기 = 25
1.4.3 하드웨어 구현 방법들 = 27
1.4.4 허프만 코딩 효율성의 강인성(robustness) = 29
1.5 사전 코드와 Lempel-Ziv 코딩 = 30
1.5.1 동적 사전 코딩에 대한 타당성 = 30
1.5.2 연결된 리스트 LZ 알고리즘 = 32
1.5.3 복호화 과정 = 35
1.5.4 LZ 압축에서 거대 블록 요구 = 37
1.6 산술적 코딩(arithmetic coding) = 39
1.6.1 코드워드의 길이와 대략적 등분의 성질 = 39
1.6.2 산술적 코딩 방법 = 42
1.6.3 산술적 코딩 복호화 = 45
1.6.4 산술적 코딩에서 생각해야 하는 다른 문제들 = 47
1.7 소스 모델과 적응적 소스 코딩 = 48
요약 = 49
참고문헌 = 51
연습문제 = 52
2장 채널과 채널 용량 = 55
2.1 메모리가 없는 이산 채널 모델 = 55
2.1.1 전이 확률 행렬(transition probability matrix) = 55
2.1.2 출력 엔트로피와 상호정보 = 57
2.2 채널 용량과 2진 대칭 채널 = 61
2.2.1 상호정보의 최대화와 채널 용량 = 61
2.2.2 대칭적 채널 = 64
2.3 블록 코딩과 샤논의 제2정리 = 67
2.3.1 모호성(equivocation) = 67
2.3.2 엔트로피율과 채널-코딩 정리 = 69
2.4 Markov 프로세스 및 메모리가 있는 소스 = 72
2.4.1 Markov 프로세스(process) = 72
2.4.2 정상 상태 확률과 엔트로피율 = 75
2.5 Markov chain과 데이터 처리 = 79
2.6 제한적인 채널(constrained channels) = 81
2.6.1 변조 이론과 채널의 제한들 = 81
2.6.2 선형 시불변 채널 = 84
2.7 시퀀스의 자기상관 함수와 전력 스펙트럼 = 87
2.7.1 시간 시퀀스의 통계학 = 87
2.7.2 전력 스펙트럼 = 90
2.8 데이터 번역 코드 = 95
2.8.1 데이터 시퀀스에 대한 제한 = 95
2.8.2 코드의 상태 공간과 트렐리스 표현 = 97
2.8.3 데이터 번역 코드의 용량 = 101
2.9 (d, k) 시퀀스 = 104
2.9.1 런 길이 제한 코드와 최대 엔트로피 시퀀스 = 104
2.9.2 최대 엔트로피 시퀀스의 전력 스펙트럼 = 106
요약 = 113
참고문헌 = 115
연습문제 = 116
3장 런 길이 제한 코드 = 122
3.1 데이터 번역 코딩에 대한 일반적인 고찰 = 122
3.2 전치 코드와 블록 코드 = 125
3.2.1 고정 길이 블록 코드 = 125
3.2.2 가변 길이 블록 코드 = 126
3.2.3 전치 코드와 Kraft 부등식 = 130
3.3 상태 종속적인 고정 길이 블록 코드 = 132
3.4 가변-길이 고정률 코드 = 136
3.5 룩어헤드 코드 = 140
3.5.1 코드워드 붙이기 = 140
3.5.2 k 제한 = 143
3.5.3 비공식적이면서 공식적인 설계 방법들 = 144
3.6 dc(직류 성분) 없는 코드 = 147
3.6.1 이동(running) 디지털 합 및 디지털 합의 변위 = 147
3.6.2 상태 분리와 MSN 코드 = 150
요약 = 158
참고문헌 = 259
연습문제 = 160
4장 선형 블록 에러 정정 코드 = 162
4.1 일반적인 고찰 = 162
4.1.1 에러 정정을 위한 채널 코딩 = 162
4.1.2 2진 대칭 채널에 대한 에러율과 에러 분포 = 164
4.1.3 에러 검출과 정정 = 168
4.1.4 최대유사도 복호화 법칙 = 170
4.1.5 해밍 거리 그리고 코드 검출 / 정정 능력 = 172
4.2 2진 체 그리고 2진 벡터 공간 = 175
4.2.1 2진 체(binary field) = 175
4.2.2 벡터 공간에서의 선형 코드의 표현 = 181
4.3 선형 블록 코드 = 182
4.3.1 벡터 공간의 기본 성질 = 182
4.3.2 해밍 무게, 해밍 거리, 해밍 큐브 = 184
4.3.3 잉여 비트 요구 조건상에서의 해밍 구와 한계 = 187
4.4 선형 블록 코드의 복호화 = 189
4.4.1 항시 정정 복호기와 한계 거리 복호기 = 189
4.4.2 신드롬 복호기와 패리티 검사 정리 = 192
4.5 해밍 코드 = 194
4.5.1 해밍 코드의 설계 = 194
4.5.2 해밍 코드의 쌍대 코드 = 198
4.5.3 확장 해밍 코드 = 200
4.6 선형 블록 에러 정정 코드에 대한 에러율 성능 한계 = 204
4.6.1 블록 에러율 = 204
4.6.2 비트 에러율 = 206
4.7 반복 요청을 사용하는 한계 거리 복호기의 성능 = 211
4.7.1 근사화한 에러 성능 = 211
4.7.2 ARQ 시스템의 효과적인 코드율 = 215
4.7.3 ARQ 프로토콜 = 217
요약 = 218
참고문헌 = 219
연습문제 = 220
5장 순환 코드 = 223
5.1 순환 코드의 성질과 정의 = 223
5.2 순환 코드의 다항식 표현 = 226
5.3 다항식 모듈로 연산 = 228
5.3.1 다항식 링(polynomial rings) = 228
5.3.2 주요 대수적 항등원 = 231
5.4 순환 코드의 생성과 복호화 = 235
5.4.1 생성기, 패리티 검사, 신드롬 다항식 = 235
5.4.2 체계적 순환 코드 = 236
5.4.3 체계적 순환 코드 부호기의 하드웨어 구현 = 239
5.4.4 순환 코드 복호기의 하드웨어 구현 = 242
5.4.5 Meggitt 복호기 = 244
5.5 에러 포착 복호기 = 249
5.5.1 정정 중의 신드롬 갱신 = 249
5.5.2 연집 에러 패턴과 에러 포착 = 250
5.6 표준 순환 블록 코드 = 257
5.6.1 해밍 코드 = 258
5.6.2 BCH 코드 = 258
5.6.3 연집 정정 코드 = 260
5.6.4 CRC 코드 = 261
5.7 순환 코드의 단순한 수정 = 264
5.7.1 코드 확장 = 264
5.7.2 코드 단축 = 266
5.7.3 단축 코드의 비순환 = 271
5.7.4 인터리빙 = 272
요약 = 276
참고문헌 = 277
연습문제 = 277
6장 컨벌루셔널 코드 = 281
6.1 컨벌루셔널 코드의 정의 = 281
6.2 컨벌루셔널 코드의 구조적인 성질 = 287
6.2.1 상태도와 트렐리스 표현 = 287
6.2.2 컨벌루셔널 코드의 전달 함수 = 291
6.3 비터비 알고리즘 = 294
6.4 왜 비터비 알고리즘이 동작하나 Ⅰ: 경판정 복호화 = 302
6.4.1 경판정 복호화에서의 최대 유사도 = 302
6.4.2 에러 사건의 확률 = 305
6.4.3 비트 에러율의 경계 = 308
6.5 알려진 좋은 컨벌루셔널 코드 = 311
6.6 왜 비터비 알고리즘이 동작하나 Ⅱ: 연판정 복호화 = 314
6.6.1 Euclidean 거리와 최대 유사도 = 314
6.6.2 동률의 제거와 정보의 손실 = 318
6.6.3 유사도 메트릭의 계산 = 321
6.7 비터비 복호화의 트레이스백 방법 = 322
6.8 천공된 컨벌루셔널 코드 = 329
6.8.1 천공하기 = 329
6.8.2 좋은 천공된 컨벌루셔널 코드들 = 332
요약 = 335
참고문헌 = 336
연습문제 = 337
7장 트렐리스 코드 변조 = 340
7.1 다진폭/다위상 이산 비메모리 채널 = 340
7.1.1 I-Q 변조 = 340
7.1.2 n-ary PSK 신호 분포 = 342
7.1.3 PSK 에러율 = 344
7.1.4 직교위상 진폭 변조(QAM) = 347
7.2 체계적인 재귀 컨벌루셔널 부호기 = 349
7.3 신호 매핑과 집합 분할 = 352
7.4 PSK와 QAM에 대하여 알려진 좋은 트렐리스 코드 = 357
요약 = 360
참고문헌 = 361
연습문제 = 361
8장 정보이론과 암호작성법 = 364
8.1 암호 시스템 = 364
8.1.1 암호 시스템의 기본요소 = 364
8.1.2 간단한 암호기 시스템들 = 366
8.2 암호 시스템에 대한 공격 = 373
8.3 완전한 보안 = 375
8.4 언어 엔트로피 및 성공적인 암호문 공격들 = 379
8.4.1 키 얼버무림 정리 = 379
8.4.2 가짜 키 및 키 얼버무림 = 380
8.4.3 언어 잉여분 및 유니시티 거리 = 382
8.5 계산상의 안전 = 385
8.6 산란법과 혼란법 = 387
8.7 곱셈 암호기 시스템 = 389
8.7.1 교환가능, 교환불가능, 멱등원 곱셈 암호기 = 389
8.7.2 혼합 변환들과 좋은 곱셈 암호기들 = 393
8.8 코드들 = 395
8.9 공개 키 암호 시스템 = 396
8.10 다른 사항들 = 398
요약 = 398
참고문헌 = 399
연습문제 = 400
9장 샤논의 코딩 이론 = 404
9.1 랜덤 코딩(random coding) = 404
9.2 평균 랜덤 코드 = 407
9.3 샤논의 제2정리에 관한 논의 = 410
9.4 샤논-FANO 코딩 = 412
9.5 샤논의 무잡음 코딩 정리 = 414
9.6 결론 = 415
참고문헌 = 417
선택된 문제의 해답 = 418
찾아보기 = 423