Pengertian Ergodic

Definisi matematika yang sempurna untuk ergodicity terlalu kompleks untuk dijelaskan. Bagaimanapun juga, Shannon menawarkan penjelasan intuitif sebagai berikut. Dalam proses ergodic setiap urutan dihasilkan oleh proses yang sama dalam properti statistik. Jadi frekuensi huruf, frekuensi pasangan huruf, dan sebagainya, diperoleh dari urutan yang khusus,  seiring dengan meningkatnya panjang urutan mendekati limit tak bebas dari urutan khusus tersebut. Sebenarnya tidaklah benar untuk tiap urutan tetapi kumpulan darinya salah jika probabilitasnya nol. Secara kasar properti ergodic berarti “statistikal homogenitas”.

  Algoritma Blahut Untuk Mengkalkulasi Rate-Distortion Function

Misalkan diberikan suatu sumber diskrit dengan fungsi massa probabilitas:

dan pengukuran distorsi

Dipilih sebuah nilai negatif

dan nilai integer yang kecil

Bagian berikut ini adalah Algoritma Blahut untuk mengkalkulasi titik pada kurva R(D) dengan slope s. Î merepresentasikan akurasi dari R(D). Dalam algoritma ini, indeks i dan j adalah nilai integer yang mempunyai kisaran dari 1 hingga m.

Algoritma: 

1.   Input P_i, s, dan Π

2.   Inisialisasi:                                                         ................................................. (2.18)

3.   Kalkulasi persamaan dengan urutan berikut ini:

                                                                              ................................................. (2.19)

4.   Jika T_U − T_L  ³ Î, maka kembali ke langkah 3. Jika tidak lanjutkan ke langkah 5

5.   Kalkulasi urutan persamaan berikut ini:

 

                                                                                                                    (2.20)

6.   Selesai

Sebagai Catatan:

• Direkomendasikan memilih s menurut:

                                                                        ........................................... (2.21)

Dimana A > 0, b > 0 dan K adalah nilai point pada kurva R(D) yang akan dihitung.

• Direkomendasikan setting Î = 0.001. Hasil kalkulasi nilai dari R(D) akurat hingga ± Î / 2.
• Adalah mungkin untuk menyamaratakan algoritma dalam kasus dimana alphabet reproduksi berbeda dari alphabet sumber. Dalam kasus ini, hanya diubah range  j dari  1 melalui m  menjadi  1 melalui n, dimana n ¹ m.
• Terdapat sedikit kesalahan kecil pada paper Blahut. Tanda negatif hilang dari T_U dan T_L. Ini berlawanan dan mempengaruhi langkah 4 pada algoritma.
• Untuk sumber alphabet yang berkelanjutan. Algoritma Blahut boleh dipakai untuk perkiraan kurva R(D). Ini dapat diselesaikan dengan memperkirakan awalan dari sumber dengan menggunakan quantizer skalar laju tinggi dan kemudian  mengkalkulasi kurva R(D) dari sumber yang dikuantisasi.

 Next Pages...