Information Theory and Coding


Lecture Notes:                                                                                                  Download Handouts:

Lecture 1  : Introduction, Information Theory                                                                      PDF
                  (Self Information, Mutual, conditional, Entropy, Source coding Theorem)
Lecture 2  : Source Coding Techniques                                                                               PDF
                  (Huffman, Runlength, Lempel-Ziv, Arithmatic, Shannon Fano and JPEG)
Lecture 3  : Foundation of Error Correction Codes                                                            PDF
                  (BSC, AWGN, BER, Shannon and Nyquist Theorem)
Lecture 4  : Groups and Vector Space                                                                                  PDF
                  (Group, Field Theory, Vector space, Linear Algebra)

Lecture 4  : Linear Block Codes                                                                                           PDF
 (Coding, Syndrome Decoding, Optimal, MDS, LDPC, Bounds and Performance)
Lecture 5  : Cyclic Codes                                                                                                     PDF
(Designing, Coding and Decoding, Circuit Implementation, CRC, Polynomial, Golay Code )

Lecture 6  : Number Theory and Algebra                                                                          PDF
(Divisibility, GCD, Eucludean Algo, Totient Function, Fermate Little theorem, Creating extended field, Factoring x^n -1, Minimal Polynomial)
Lecture 7  : BCH Codes                                                                                                      PDF
 (Designing for t-symbol correcting code for GF(q), Decoding)
Lecture 8  : Convolutional, Turbo and Trellis Codes                                                       PDF
(Convolutional code: Circuit, State diagram, Trellis Diagram, Encoding, Turbo: Concept, interleaver, TCM: Concept)



Homework 1: Test followed by Assignment

Homework 2: Design Problem
Soft Deadline 18th Nov 2013, Hard Deadline :23rd Nov 2013
Guidelines Download
Design Problem Statements Download

Homework 3: Open Book Test
(Open Book/Open Notes/Open Internet)

Reading Material (Updates)
Keep updating sheets as we will add more and more questions in sheet