Теорема на Бейс

Теорема на Бейс по името на Томас Бейс (Thomas Bayes) се използва в теорията на вероятностите за изчисляване на вероятността за настъпване на дадено събитие, след като вече е известна част от информацията за него.

Формулировка

$P(A|B)=\frac{P(B|A)P(A)}{P(B)}$,

където

$P(A)$ – вероятност за настъпване на събитието A;

$P(A|B)$ – Условна вероятност за настъпване на събитието A при положение, че събитието B е настъпило (апостериорна вероятност);

$P(B|A)$ – Условна вероятност за настъпване на B при положение, че A е настъпило;

$P(B)$ – вероятност за настъпване на събитието B.

Извод

За да изведем теоремата, трябва да напишем определението за условна вероятност. Вероятността за настъпване на събитието A при положение, че B вече е настъпило е:

$P(A|B)=\frac{P(A\cap B)}{P(B)}.$

Аналогично, вероятността за настъпване на B при положение, че A се е сбъднало е:

$P(B|A)=\frac{P(A\cap B)}{P(A)}.$

Като комбинираме двете уравнения, получаваме:

$P(A|B)P(B)=P(A\cap B)=P(B|A)P(A).$

Тази лема понякога се намира „правило за умножение на вероятности“ Остава да разделим на P(B), при положение, че тази вероятност не е нулева, за да получим Теоремата на Бейс:

$P(A|B)=\frac{P(B|A)P(A)}{P(B)}.$

Примери

Тест за болест

Задача: Фармацевтична компания произвежда тест, за който се твърди че е надежден: ако пациентът е болен, този тест в 99% от случаите ще даде положителен резултат, а ако пациентът е здрав, в 99% от случаите тестът ще е отрицателен. Ако тази болест засяга 0,5% от населението, то каква е вероятността пациентът да е болен, ако тестът е положителен?

Решение:

• Означаваме с Pr(B) вероятността даден пациент да е болен, която според данните от задачата е равна на 0.005
• Означаваме с Pr(Z) вероятността даден пациент да е здрав, която е очевидно 0.995
• Означаваме с Pr(+|B) вероятността тестът да даде положителен резултат, ако пациентът е болен, т.е. 0.99
• Означаваме с Pr(+|Z) вероятността тестът да даде положителен резултат, a пациентът да е здрав, т.е. 0.01
• Означаваме с Pr(+) тестът да даде положителен резултат, независимо дали пациентът е болен или не
• Търсената вероятност е Pr(B|+) т.е. вероятността пациентът да е болен, ако тестът е положителен

По теоремата на Бейс:

$\mathrm{Pr}(B|+)=\frac{\mathrm{Pr}(+|B)\mathrm{Pr}(B)}{\mathrm{Pr}(+)}.$

Вероятността Pr(+) е равна на вероятността тестът да е положителен, независимо дали пациентът е здрав или болен. Тази вероятност е равна на вероятността тестът да е положителен и пациентът да е болен, плюс вероятността тестът да е положителен, а пациентът да е здрав. Или:

$\mathrm{Pr}(+)=\mathrm{Pr}(+\cap B)+\mathrm{Pr}(+\cap notB)$ (теорема)

Понеже

$Z=notB$

Следва

$\mathrm{Pr}(+)=\mathrm{Pr}(+\cap B)+\mathrm{Pr}(+\cap Z)$

$\mathrm{Pr}(+)=\mathrm{Pr}(+|B)\mathrm{Pr}(B)+\mathrm{Pr}(+|Z)\mathrm{Pr}(Z)$

Или търсената вероятност е:

$\mathrm{Pr}(B|+)=\frac{\mathrm{Pr}(+|B)\mathrm{Pr}(B)}{\mathrm{Pr}(+|B)\mathrm{Pr}(B)+\mathrm{Pr}(+|Z)\mathrm{Pr}(Z)}$

$\mathrm{Pr}(B|+)=\frac{0.99\times 0.005}{0.99\times 0.005+0.01\times 0.995}$

или в крайна сметка:

$\mathrm{Pr}(B|+)=0.33$

Което означава, че вероятността даден пациент да е болен, ако тестът е положителен е само около 33%, което не е практично за нуждите на медицината, т.е. въпреки впечатляващите вероятности в условието, тестът е слаб. Това означава, че тестовете за болести следва да се произвеждат с точност, много по-голяма от 99%.

Анти-спам филтри

Съществуват анти-спам филтри за електронна поща, основаващи се на теоремата на Бейс. Тези програми изчисляват вероятността дадено електронно съобщение да е спам по следния начин:

$\mathrm{Pr}(\mathrm{s}\mathrm{p}\mathrm{a}\mathrm{m}|\mathrm{w}\mathrm{o}\mathrm{r}\mathrm{d}\mathrm{s})=\frac{\mathrm{Pr}(\mathrm{w}\mathrm{o}\mathrm{r}\mathrm{d}\mathrm{s}|\mathrm{s}\mathrm{p}\mathrm{a}\mathrm{m})\mathrm{Pr}(\mathrm{s}\mathrm{p}\mathrm{a}\mathrm{m})}{\mathrm{Pr}(\mathrm{w}\mathrm{o}\mathrm{r}\mathrm{d}\mathrm{s})}$

Където $\mathrm{Pr}(\mathrm{s}\mathrm{p}\mathrm{a}\mathrm{m}|\mathrm{w}\mathrm{o}\mathrm{r}\mathrm{d}\mathrm{s})$ е вероятността дадено съобщение да е спам, при положение че съдържа определени думи и изрази в него, $\mathrm{Pr}(\mathrm{w}\mathrm{o}\mathrm{r}\mathrm{d}\mathrm{s}|\mathrm{s}\mathrm{p}\mathrm{a}\mathrm{m})$ е вероятността тези думи или изрази да се съдържат в спам-съобщение, $\mathrm{Pr}(\mathrm{s}\mathrm{p}\mathrm{a}\mathrm{m})$ е броят на спамовете към общия брой на съобщенията, т.е. вероятността всяко съобщение да е спам, а $\mathrm{Pr}(\mathrm{w}\mathrm{o}\mathrm{r}\mathrm{d}\mathrm{s})$ е вероятността тези думи да бъдат намерени в нормално електронно съобщение. Идеята е предложена за пръв път от английския програмист Пол Греъм.

Външни препратки

• Условна вероятност, Формула на Бейс Шаблон:Webarchive, лекции по вероятности на проф. Димитър Въндев