Bayes teoremi

Bayes düsturu

Bayes teoremi (və ya Bayes düsturu) — statistik cəhətdən bir-birindən asılı olan başqa bir hadisənin baş verməsi şərti ilə hadisənin baş vermə ehtimalını təyin etməyə imkan verən elementar ehtimal nəzəriyyəsinin əsas teoremlərindən aşağı. Başqa sözlə, Bayes düsturundan istifadə edərək həm əvvəllər məlum olan məlumatları, həm də yeni müşahidə məlumatlarını nəzərə alaraq hadisənin baş vermə ehtimalını aydınlaşdıra bilərsiniz. Bayes düsturu ehtimal nəzəriyyəsinin əsas aksiomlarından, xüsusən də şərti ehtimaldan götürülə bilər. Bayes teoreminin özəlliyi ondan ibarətdir ki, onun praktiki tətbiqi çoxlu sayda hesablamalar və hesablamalar tələb edir, ona görə də Bayes təxminləri yalnız kompüter və şəbəkə texnologiyalarında inqilabdan sonra fəal şəkildə istifadə olunmağa başladı. Bu gün o, maşın öyrənməsi və süni intellekt texnologiyalarında fəal şəkildə istifadə olunur.

Bayes teoremi yarandıqda, teoremdə istifadə edilən ehtimallar bir sıra ehtimal şərhlərinə məruz qaldı. Belə şərhlərdən biri düsturun əldə edilməsinin statistik təhlilə xüsusi yanaşmanın tətbiqi ilə bilavasitə bağlı olduğunu bildirirdi. Ehtimalın Bayesian təfsirindən istifadə edərək, teorem baş verən hadisələrin sayına görə insanın inam səviyyəsinin necə kəskin şəkildə dəyişə biləcəyini göstərir. Bayesin statistikası üçün əsas olan Bayesin gəldiyi nəticə budur. Bununla belə, teorem yalnız Bayes analizində istifadə edilmir, həm də çoxlu sayda digər hesablamalar üçün fəal şəkildə istifadə olunur.

Psixoloji təcrübələr göstərdi ki, insanlar çox vaxt bəzi şəxsi təcrübəyə (posterior ehtimal) əsaslanaraq hadisənin real (riyazi cəhətdən düzgün) ehtimalını səhv qiymətləndirirlər, çünki onlar fərziyyənin çox ehtimalına (aprior ehtimal) məhəl qoymurlar. Buna görə də, Bayesin düsturundan düzgün nəticə intuitiv olaraq gözləniləndən çox fərqli ola bilər.

Bayes teoremi onun müəllifi, ingilis riyaziyyatçısı və din xadimi Tomas Bayesin (1702-1761) şərəfinə adlandırılmışdır, o, teoremdən yenilənmiş məlumatlar əsasında inancları tənzimləmək üçün istifadə etməyi təklif etmişdir. Onun “Şanslar doktrinasında problemin həllinə dair esse” əsəri ilk dəfə müəllifin ölümündən 2 il sonra, 1763-cü ildə nəşr edilmişdir. Bayesin ölümündən sonrakı əsəri Kral Cəmiyyətində qəbul olunmadan və oxunmazdan əvvəl Riçard Prays tərəfindən əhəmiyyətli dərəcədə redaktə edilmiş və yenilənmişdir. Bununla belə, bu fikirlər teoremin müasir tərtibini ilk dəfə 1812-ci ildə yazdığı “Ehtimalın Analitik Nəzəriyyəsi” kitabında nəşr etdirən Pyer-Simon Laplas tərəfindən yenidən kəşf edilənə və inkişaf etdirilənə qədər ictimaiyyətə açıqlanmadı.

Ser Harold Ceffris yazırdı ki, Bayes teoremi "ehtimal üçün Pifaqor teoreminin həndəsə üçün olduğu kimidir".

Formulyasiya

Bayes düsturu:

$P(A\mid B)={\frac {P(B\mid A)\,P(A)}{P(B)}}$,

burada

$P(A)$ - A hipotezinin a priori ehtimalı (bu terminologiyanın mənası, aşağıya baxın);

$P(A\mid B)$ — A fərziyyəsinin B hadisəsinin baş vermə ehtimalı (posterior ehtimal);

$P(B\mid A)$ — A fərziyyəsi doğrudursa, B hadisəsinin baş vermə ehtimalı;

$P(B)$ B hadisəsinin baş verməsinin ümumi ehtimalıdır.

Sübutu

Bayes düsturu şərti ehtimalın tərifindən irəli gəlir. Birgə hadisə ehtimalı AB ehtimallar vasitəsilə iki şəkildə ifadə edilir

$P(AB)=P(A\mid B)P(B)=P(B\mid A)P(A)$

Beləliklə $P(A\mid B)={\frac {P(AB)}{P(B)}}={\frac {P(B\mid A)\,P(A)}{P(B)}}$

P(B) hesablanması

Problemlərdə və statistik tətbiqlərdə P(B) adətən ümumi ehtimalı 1 olan bir neçə uyğunsuz fərziyyədən asılı olaraq hadisənin ümumi ehtimalı düsturu ilə hesablanır.

$P(B)=\sum _{i=1}^{N}P(B\mid A_{i})P(A_{i})$,

cəm işarəsi altında olan ehtimalların məlum olduğu və ya eksperimental olaraq qiymətləndirilə bildiyi yerlərdə.

Bu halda Bayes düsturu aşağıdakı kimi yazılır:

$P(A_{j}\mid B)={\frac {P(B\mid A_{j})P(A_{j})}{\sum _{i=1}^{N}P(B\mid A_{i})P(A_{i})}}$

“Fiziki məna” və terminologiya

Bayesin düsturu sizə “səbəb və nəticəni yenidən təşkil etməyə” imkan verir: hadisənin məlum faktını nəzərə alaraq, onun müəyyən bir səbəbdən yaranma ehtimalını hesablayın. Anlamaq lazımdır ki, teoremi tətbiq etmək üçün A və B arasında səbəb-nəticə əlaqəsi lazım deyil.

“Səbəblərin” hərəkətini əks etdirən hadisələr bu halda “fərziyyə” adlanır, çünki onlar verilmiş hadisəyə səbəb olmuş “güman edilən” hadisələrdir. Fərziyyənin doğru olmasının qeyd-şərtsiz ehtimalı “apriori” (səbəbin “ümumiyyətlə” nə qədər ehtimal olması), baş vermiş hadisə faktını nəzərə alaraq şərti olanı isə “a posteriori” (necə ehtimal olunan səbəb "hadisə haqqında məlumatlar nəzərə alınmaqla ortaya çıxdı"). .

Ədəbiyyat

• Гмурман В. Е. Теория вероятностей и математическая статистика, — М: Высшее образование. 2005
• Judgment under Uncertainty: Heuristics and Biases (21st). Cambridge University Press. Daniel Kahneman, et al. 2005. ISBN 978-0-521-28414-1.
• Элиезер Юдковски. Наглядное объяснение теоремы Байеса

Əlavə araşdırma üçün

• McGrayne, Sharon Bertsch. The Theory That Would Not Die: How Bayes' Rule Cracked the Enigma Code, Hunted Down Russian Submarines & Emerged Triumphant from Two Centuries of Controversy. Yale University Press. 2011. ISBN 978-0-300-18822-6.
• Andrew Gelman, John B. Carlin, Hal S. Stern, and Donald B. Rubin (2003), «Bayesian Data Analysis», Second Edition, CRC Press.
• Charles M. Grinstead and J. Laurie Snell (1997), «Introduction to Probability (2nd edition)», American Mathematical Society (free pdf available [1].
• Pierre-Simon Laplace. (1774/1986), «Memoir on the Probability of the Causes of Events», Statistical Science 1(3):364-378.
• Peter M. Lee (2012), «Bayesian Statistics: An Introduction», Wiley.
• Rosenthal, Jeffrey S. (2005): «Struck by Lightning: the Curious World of Probabilities». Harper Collings.
• Stephen M. Stigler (1986), «Laplace’s 1774 Memoir on Inverse Probability», Statistical Science 1(3):359-363.
• Stone, JV (2013). Chapter 1 of book «Bayes’ Rule: A Tutorial Introduction», University of Sheffield, England.

Xarici keçidlər

• The Theory That Would Not Die by Sharon Bertsch McGrayne New York Times Book Review by John Allen Paulos on 5 August 2011
• Weisstein, Eric W. Bayes' Theorem (ing.) Wolfram MathWorld saytında.
• Şablon:PlanetMath
• Bayes Theorem and the Folly of Prediction
• A tutorial on probability and Bayes’ theorem devised for Oxford University psychology students
• An Intuitive Explanation of Bayes' Theorem by Eliezer S. Yudkowsky