Bagaimana saya bisa tahu perbedaan antara algoritma EM dan MLE?


Jawaban 1:

Algoritma maksimisasi ekspektasi (EM) berupaya untuk menemukan estimasi kemungkinan maksimum (MLE) untuk parameter model dengan variabel laten. Parameter bukan variabel laten, mereka sedang terpinggirkan dalam proses. Meskipun EM tidak dijamin akan menyatu ke maksimum global, namun dijamin akan menyatu ke maksimum dan untuk meningkatkan kemungkinan model pada setiap langkah. Contoh khas adalah algoritma Baum-Welch, yang digunakan agar sesuai dengan model ruang keadaan.


Jawaban 2:

Saya sedang mempelajari konsep ini sekarang dan saya berharap jawaban saya benar tetapi saya ingin umpan balik juga meningkat.

Jadi seperti yang saya lihat, MLE adalah cara untuk memperkirakan fungsi kemungkinan tanpa mempertimbangkan kemungkinan priori. Dengan kata lain, jika kita melempar dadu untuk mendapatkan 5, MLE akan mengaitkan skor tertinggi dengan distribusi (sebut saja distribusi Batman) yang memiliki probabilitas 1 pada 3 output dan 0 ke yang lain (yang merupakan counter -intuitif)

Namun algoritma EM akan mempertimbangkan pengetahuan apriori bahwa probabilitas 5 pada die yang adil adalah 1/6. Oleh karena itu ini akan diperhitungkan saat membuat langkah-E dari algoritma EM. Pada kenyataannya, ada berbagai cara untuk mencapai ini yaitu melalui prior Bayesian, model Markov, dll.

Jika seseorang menemukan kesalahan dengan pemahaman saya, harap sarankan edit.


Jawaban 3:

MLE menyediakan fungsi Objective yang perlu dioptimalkan untuk Data yang Diberikan.

Optimasi itu sendiri dapat dilakukan dengan berbagai cara. EM (Ekspektasi Maksimalisasi) adalah salah satu cara untuk mengoptimalkan, semua jenis optimasi lainnya juga dapat digunakan.

Singkatnya, MLE Menentukan tujuan Pengoptimalan sementara EM memecahkannya dengan cara yang berulang-ulang.