Apa sebenarnya perbedaan antara seorang Frequentist dan seorang Bayesian? Bukankah kedua sudut pandang ini secara konseptual identik?


Jawaban 1:

Mereka tentu tidak identik. Untuk sepenuhnya menjelaskan keduanya akan membutuhkan sebuah buku, tetapi perbedaan dasarnya adalah ini:

Bayesians memperkirakan probabilitas sebelumnya (apa yang mereka yakini sebelum mereka melakukan percobaan atau studi) dan kemudian memodifikasinya dengan melihat data baru.

Orang-orang yang sering berpikir tentang bagaimana jadinya jika percobaan atau studi yang sama diulang beberapa kali.

Keduanya memiliki masalah. Saya menulis puisi untuk menggambarkan masalah ini:

Hanya nama prof Bayesian dari masa jabatan MyersSays yang dia inginkan. Tapi mimpinya tidak akan terpenuhi, dia akan dipecat, saya yakin, Ketika mereka menangkapnya menyesuaikan priors-nya.

Seorang rekan yang kerap bernama Smith tetap diam (dia memohon Kelima) Ketika hakim menanyakan asumsi yang dibutuhkan Untuk menghitung nilai p dengan.


Jawaban 2:

Mereka tidak identik, dan perbedaannya sebenarnya dapat diungkapkan dengan ringkas: mereka memberikan jawaban yang berbeda untuk pertanyaan: 'Apa itu probabilitas?'

Frequentist mendefinisikan probabilitas menggunakan aksioma Kolmogorov: Probability space - Wikipedia, sedangkan Bayesian tidak.

Meskipun benar bahwa dalam praktiknya, Frequentists membuat pernyataan seperti: "Sebuah hipotesis hanya bisa Benar atau Salah dan Anda tidak dapat menetapkan nilai probabilitas untuk itu." hipotesis Anda benar atau tidak.

Misalnya: katakanlah hipotesis Anda adalah 'Ketinggian rata-rata anak laki-laki lebih besar daripada tinggi rata-rata anak perempuan'.

Bagaimana seorang frequentist dapat memberikan nilai probabilitas pada hipotesis ini?

Seorang frequentist dapat membayangkan urutan alam semesta tanpa batas di mana 'tinggi rata-rata untuk anak laki-laki dan perempuan' adalah variabel acak independen yang terdistribusi secara identik. Alam semesta khusus kita adalah satu realisasi dari percobaan ini.

Di bawah paradigma seperti itu, konsisten dengan kerangka kerja yang kerap kali berbicara tentang 'probabilitas tinggi rata-rata anak laki-laki lebih besar daripada rata-rata perempuan yang tinggi badan'. Tentu saja, tidak ada cara untuk membuat kesimpulan tentang kemungkinan ini, jadi sering kali pada umumnya tidak repot. Bayesian mengambil semacam distribusi sebelumnya, yang pada dasarnya mengasumsikan distribusi pada variabel acak tinggi rata-rata, meskipun kami hanya memiliki data di dalamnya dalam satu semesta.

Yang benar adalah bahwa semua teori probabilitas modern adalah frequentist, jadi ketika orang Bayesian menggunakan sesuatu dari teori probabilitas modern, mereka menggunakan ide-ide frequentist.

Tidak bijaksana membuang sesuatu yang begitu kuat.

Dengan catatan yang sama, tindakan Bayesian dengan asumsi distribusi probabilitas pada parameter menjadi cara yang diterima untuk melakukan sesuatu karena memungkinkan seseorang untuk membuat kesimpulan yang sangat berguna.

Saya percaya bahwa kita sedang bergerak ke arah di mana istilah-istilah ini akan menjadi bagian dari masa lalu.

Dalam praktiknya, kami akan terus menggunakan teori probabilitas frequent frequentist sambil membuat beberapa asumsi Bayes dengan tangan-tangan tentang distribusi parameter kami yang ingin kami simpulkan.

TAMBAHAN

Bagi mereka yang berpendapat bahwa orang Bayesian menggunakan teori probabilitas aksiomatik Kolmogorov, saya akan merespons seperti itu:

Jika Anda mendefinisikan probabilitas menggunakan aksioma Kolmogorov maka Anda menggunakan probabilitas frequentist (ruang Probability adalah konstruk frequentist), dan dengan definisi yang masuk akal Anda harus disebut Frequentist. Fakta bahwa Anda dapat melakukan pembaruan Bayesian dengan probabilitas yang didefinisikan menggunakan aksioma Kolmogorov tidak membuat Anda menjadi 'Bayesian'.

Seperti dapat dilihat di sini: Teorema Bayes, ada interpretasi frequentis yang sangat valid dari teorema Bayes.

Inti dari jawaban ini adalah untuk berpendapat bahwa Frequentists umumnya mulai menerima gagasan untuk mendefinisikan distribusi sebelumnya yang agak sewenang-wenang pada perangkat yang tidak dapat kita simpulkan. Tindakan mendefinisikan pendahuluan pada kenyataannya sepenuhnya konsisten dengan aksioma Kolmogorov, itu hanya asumsi tambahan yang dikenakan pada masalah.

Adapun bagaimana Bayesian mendefinisikan probabilitas, sayangnya tidak ada kerangka pemersatu

Ada buku Teori Probabilitas; Logika sains oleh Janes

yang memperkenalkan satu cara yang Bayesians mendefinisikan teori probabilitas dan dalam Lampiran A ia berbicara tentang berbagai pendekatan lain untuk teori probabilitas, termasuk pendekatan Kolmogorov serta pendekatan de Finetti.

Probabilitas Bayesian


Jawaban 3:

Misalkan Anda ingin menguji hipotesis - misalnya bahwa semua angsa berwarna putih, atau bahwa koin tertentu itu adil. Anda melakukan penelitian untuk menguji hipotesis.

Bayesian akan mengatakan bahwa berbicara tentang kemungkinan bahwa hipotesis itu benar. Cara Bayesian mengevaluasi studi adalah dengan menghitung probabilitas posterior bahwa hipotesis tertentu benar, yaitu probabilitas yang diberikan hasil penelitian yang diamati.

Frequentist tidak menganggap probabilitas seperti itu bermakna. Dia berpikir bahwa hipotesis itu benar atau salah. Anda dapat berbicara tentang seberapa kuat bukti yang diberikan penelitian terhadap hipotesis (nilai-p), tetapi itu adalah sesuatu yang berbeda.


Jawaban 4:

Misalkan Anda ingin menguji hipotesis - misalnya bahwa semua angsa berwarna putih, atau bahwa koin tertentu itu adil. Anda melakukan penelitian untuk menguji hipotesis.

Bayesian akan mengatakan bahwa berbicara tentang kemungkinan bahwa hipotesis itu benar. Cara Bayesian mengevaluasi studi adalah dengan menghitung probabilitas posterior bahwa hipotesis tertentu benar, yaitu probabilitas yang diberikan hasil penelitian yang diamati.

Frequentist tidak menganggap probabilitas seperti itu bermakna. Dia berpikir bahwa hipotesis itu benar atau salah. Anda dapat berbicara tentang seberapa kuat bukti yang diberikan penelitian terhadap hipotesis (nilai-p), tetapi itu adalah sesuatu yang berbeda.