Chapterبەش 4 · Lectureوانە 4.8

Bayes' Theoremسەلمێنراوی بەیز

Turn a conditional probability around: partitions, the law of total probability, Bayes' formula with the course's three examples, and why base rates matter for medical tests and spam filters.

پێچەوانەکردنەوەی : ، ، بەیز لەگەڵ سێ نموونەکەی کۆرسەکە و بۆچی ڕێژەی بنەڕەت بۆ پشکنینی پزیشکی و گرنگە.

16 min read16 خولەک خوێندنەوە · 17 stepsهەنگاو

What you will learnچی فێر دەبیت

Recognise a partition of the sample space and use the law of total probability.
Use Bayes' theorem to find $P(A \mid B)$ from $P(B \mid A)$ and the priors.
Solve the course's Examples 23–25 and check that posteriors add to 1.
Explain the base rate fallacy with 1000 people and apply Bayes to a spam filter.

بناسیتەوە و بەکار بهێنیت.
بە $P(A \mid B)$ لە $P(B \mid A)$ و بدۆزیتەوە.
نموونەکانی ⁦23–25⁩ی کۆرسەکە چارەسەر بکەیت و پشتڕاستی بکەیتەوە کە کۆی پارچەکان 1ـە.
بە ⁦1000⁩ کەس ڕوون بکەیتەوە و بەیز لە بەکار بهێنیت.

Turning a question aroundپێچەوانەکردنەوەی پرسیارێک

A factory has three machines, A, B and C. Each machine makes some broken (defective) units, and the factory knows how often: for example, 3% of machine A's units are defective. That is a conditional probability: $P(D \mid A) = 0.03$ , the probability of defective, given that the unit came from A.

کارگەیەک سێ ئامێری هەیە: A، B و C. هەر ئامێرێک هەندێک بەرهەمی خراپ دروست دەکات و کارگەکە دەزانێت چەند جار: بۆ نموونە ⁦3%⁩ی بەرهەمەکانی ئامێری A خراپن. ئەمە : $P(D \mid A) = 0.03$ ، واتە خراپبوون بە مەرجێک بەرهەمەکە هی ئامێری A بێت.

Now an inspector picks up a defective unit. Which machine made it? The question has turned around: we know $P(D \mid A)$ , but we want $P(A \mid D)$ . These two are not the same number. Bayes' theorem is the rule that turns one into the other.

ئێستا پشکنەرێک بەرهەمێکی خراپ هەڵدەگرێت. کام ئامێر دروستی کردووە؟ پرسیارەکە پێچەوانە بووەتەوە: $P(D \mid A)$ دەزانین، بەڵام $P(A \mid D)$ ـمان دەوێت. ئەم دووانە هەمان ژمارە نین. ئەو یاسایەیە کە یەکێکیان دەکات بە ئەوی تر.

You need one idea from the previous lesson: $P(A \mid B) = \frac{P(A \cap B)}{P(B)}$ , so $P(A \cap B) = P(A)\,P(B \mid A)$ (the multiplication rule). If this is new to you, read Conditional Probability, Independence and the Multiplication Rule first.

یەک بیرۆکەت لە وانەی پێشوو پێویستە: $P(A \mid B) = \frac{P(A \cap B)}{P(B)}$ ، بۆیە $P(A \cap B) = P(A)\,P(B \mid A)$ (یاسای لێکدانی ئەگەر). گەر ئەمە بۆت نوێیە، سەرەتا ئەگەری مەرجدار، سەربەخۆیی و یاسای لێکدانی ئەگەر بخوێنەوە.

Quick checkپشکنینی خێراLet

G

= “the student is a girl” and

E

= “the student wears glasses”. In a class,

P(E \mid G) = 0.2

. What does this number tell you?با

G

= «قوتابییەکە کچە» و

E

= «قوتابییەکە چاویلکە دەکات». لە پۆلێکدا

P(E \mid G) = 0.2

. ئەم ژمارەیە چی دەڵێت؟20% of the whole class are girls with glasses⁦20%⁩ی هەموو پۆلەکە کچی چاویلکەدارنOf the girls, 20% wear glassesلە کچەکان، ⁦20%⁩ چاویلکە دەکەنOf the students who wear glasses, 20% are girlsلەو قوتابییانەی چاویلکە دەکەن، ⁦20%⁩ کچن

Cutting the sample space into piecesپارچەکردنی بۆشایی نموونە

Bayes' theorem starts from a partition of the sample space $\Omega$ : events $A_1, A_2, \dots, A_n$ that do not overlap and together cover everything.

لە دەست پێ دەکات: $A_1, A_2, \dots, A_n$ کە یەکتر نابڕن و پێکەوە هەموو شتێک دادەپۆشن.

A_i \cap A_j = \varnothing \ (i \ne j), \qquad A_1 \cup A_2 \cup \cdots \cup A_n = \Omega

Five pieces

A_1, \dots, A_5

fill

\Omega

without overlapping; the event

B

is cut into five pieces too.پێنج پارچەی

A_1, \dots, A_5

بەبێ یەکتربڕین

\Omega

پڕ دەکەنەوە؛

B

ـیش دەبێت بە پێنج پارچە.CêIT

A city and its neighbourhoodsشارێک و گەڕەکەکانی

Think of a city cut into neighbourhoods. Every house is in exactly one neighbourhood, and the neighbourhoods together make the whole city. If you want the number of tea houses in the city, you can count them neighbourhood by neighbourhood and add.

شارێک بهێنە بەرچاو کە کراوە بە گەڕەک. هەموو خانوویەک ڕێک لە یەک گەڕەکدایە و گەڕەکەکان پێکەوە هەموو شارەکە پێک دەهێنن. گەر ژمارەی چایخانەکانی شارەکەت بوێت، دەتوانیت گەڕەک بە گەڕەک بیانژمێریت و کۆیان بکەیتەوە.

Where the analogy stops workingسنووری ئەم نموونەیە

A real border street could belong to two neighbourhoods; in a partition that is not allowed — every outcome must belong to one piece only.

شەقامێکی سەر سنوور لەوانەیە سەر بە دوو گەڕەک بێت؛ لە ئەمە ڕێگە پێنەدراوە: هەر دەبێت تەنها سەر بە یەک پارچە بێت.

Quick checkپشکنینی خێراA die is thrown. Which list of events is a partition of

\Omega = \{1, 2, 3, 4, 5, 6\}

?بەردەزارێک هەڵدەدرێت. کام لیستی

\Omega = \{1, 2, 3, 4, 5, 6\}

ـە؟

\{1, 2, 3\}, \{3, 4, 5, 6\}

\{1, 2, 3\}, \{3, 4, 5, 6\}

\{1, 2\}, \{3, 4\}, \{5, 6\}

\{1, 2\}, \{3, 4\}, \{5, 6\}

\{1, 2\}, \{4, 5, 6\}

\{1, 2\}, \{4, 5, 6\}

The law of total probabilityیاسای ئەگەری گشتی

How likely is it that a randomly chosen unit is defective at all? The defective units come from A, from B or from C. These three pieces of $D$ do not overlap, so their probabilities add, and each piece is a multiplication: the share of the machine times its defective rate.

چەندە دەگونجێت بەرهەمێکی هەڕەمەکی بە گشتی خراپ بێت؟ بەرهەمە خراپەکان یان لە A، یان لە B یان لە C دێن. ئەم سێ پارچەیەی $D$ یەکتر نابڕن، بۆیە کۆ دەکرێنەوە و هەر پارچەیەک لێکدانێکە: بەشی ئامێرەکە جارانی ڕێژەی بەرهەمی خراپی.

P(B) = P(A_1)P(B \mid A_1) + P(A_2)P(B \mid A_2) + \cdots + P(A_n)P(B \mid A_n) = \sum_{i=1}^{n} P(A_i)\,P(B \mid A_i)

P(D) = 0.5(0.03) + 0.3(0.04) + 0.2(0.05) = 0.015 + 0.012 + 0.010 = 0.037

Why does it work? $B = (A_1 \cap B) \cup \cdots \cup (A_n \cap B)$ : the pieces do not overlap, so the addition rule adds them, and the multiplication rule gives each piece: $P(A_i \cap B) = P(A_i)P(B \mid A_i)$ .

بۆچی کار دەکات؟ $B = (A_1 \cap B) \cup \cdots \cup (A_n \cap B)$ : پارچەکان یەکتر نابڕن، بۆیە یاسای کۆکردنەوەی ئەگەر کۆیان دەکاتەوە و هەر پارچەیەک دەدات: $P(A_i \cap B) = P(A_i)P(B \mid A_i)$ .

Quick checkپشکنینی خێراA shop sells eggs from two farms: 60% from farm 1 (2% broken) and 40% from farm 2 (5% broken). What share of all eggs is broken?دوکانێک هێلکە لە دوو کێڵگە دەفرۆشێت: ⁦60%⁩ لە کێڵگەی ⁦1 (2%⁩ شکاو) و ⁦40%⁩ لە کێڵگەی ⁦2 (5%⁩ شکاو). چەند لە سەدی هەموو هێلکەکان شکاون؟

7\%

7\%

3.5\%

3.5\%

3.2\%

3.2\%

The Law of Total Probabilityjbstatistics · Englishئینگلیزی · 200K viewsبینین · 3.9K likesلایک
The law of total probability: split the sample space into pieces, add "share × rate" for each piece; worked with machines making faulty parts.
: بکە بە چەند پارچەیەک، بۆ هەر پارچەیەک «بەش × ڕێژە» کۆ بکەرەوە؛ بە نموونەی چەند ئامێرێک کە پارچەی خراپ دروست دەکەن.
Idea from 0:00, formal statement at 2:36, a machine-parts example at 4:26 (the same set-up as Example 23), tree diagram at 7:12.
بیرۆکەکە لە ⁦0:00⁩ـەوە، دەربڕینی فەرمی لە ⁦2:36⁩، نموونەی پارچەی ئامێرەکان لە ⁦4:26⁩ (هەمان بارودۆخی نموونەی ⁦(23)⁩)، لە ⁦7:12⁩.

Bayes' theoremسەلمێنراوی بەیز

Write the definition of conditional probability, then replace the top with the multiplication rule and the bottom with the law of total probability:

پێناسەی بنووسە، پاشان بە و بە بگۆڕە:

P(A_i \mid B) = \frac{P(A_i \cap B)}{P(B)} = \frac{P(A_i)\,P(B \mid A_i)}{P(A_1)P(B \mid A_1) + \cdots + P(A_n)P(B \mid A_n)} = \frac{P(A_i)\,P(B \mid A_i)}{\sum_{k=1}^{n} P(A_k)\,P(B \mid A_k)}

The three probabilities in Bayes' theoremسێ ناو
Partبەش	Nameناو	In the factoryلە کارگەکەدا
$P(A_i)$	prior probability: what you believe before the clue: ئەوەی پێش نیشانەکە باوەڕت پێیەتی	A makes 50% of all units⁦A 50%⁩ی هەموو بەرهەمەکان دروست دەکات
$P(B \mid A_i)$	how well piece $i$ explains the clueپارچەی $i$ چەندە نیشانەکە ڕوون دەکاتەوە	3% of A's units are defective⁦3%⁩ی بەرهەمەکانی A خراپن
$P(A_i \mid B)$	posterior probability: what you believe after the clue: ئەوەی دوای نیشانەکە باوەڕت پێیەتی	a defective unit came from Aبەرهەمێکی خراپ هی A بووە

In words: the new belief is the old belief times how well it explains the clue, shared out so that everything adds to 1. The denominator is the same for every $i$ ; it only rescales.

بە وشە: باوەڕی نوێ = باوەڕی کۆن جارانی ئەوەی چەندە نیشانەکە ڕوون دەکاتەوە، دابەشکراو بە شێوەیەک کە هەمووی بکاتە 1. بۆ هەموو $i$ ـیەک هەمان شتە؛ تەنها پێوانەکە ڕێک دەخاتەوە.

Example 23: which machine made it?نموونەی ⁦23⁩: کام ئامێر دروستی کردووە؟

Machines A, B and C make 50%, 30% and 20% of a factory's output. Their defective rates are 3%, 4% and 5%. A unit chosen at random is defective. What is the probability that machine A made it?

ئامێرەکانی A، B و C بە ڕیز ⁦50%⁩، ⁦30%⁩ و ⁦20%⁩ی بەرهەمی کارگەیەک دروست دەکەن. ڕێژەی بەرهەمی خراپیان ⁦3%⁩، ⁦4%⁩ و ⁦5%⁩ـە. بەرهەمێکی هەڕەمەکی هەڵدەبژێردرێت و خراپ دەردەچێت. ئەوە چەندە کە ئامێری A دروستی کردبێت؟

Write what you knowئەوەی دەیزانیت بینووسە
Priors: $P(A) = 0.5,\ P(B) = 0.3,\ P(C) = 0.2$ . Defective rates: $P(D \mid A) = 0.03,\ P(D \mid B) = 0.04,\ P(D \mid C) = 0.05$ .
: $P(A) = 0.5,\ P(B) = 0.3,\ P(C) = 0.2$ . ڕێژەی خراپ: $P(D \mid A) = 0.03,\ P(D \mid B) = 0.04,\ P(D \mid C) = 0.05$ .
The denominator: all defective unitsژێرەکە: هەموو بەرهەمە خراپەکان
$P(D) = 0.015 + 0.012 + 0.010 = 0.037$ (the law of total probability).
$P(D) = 0.015 + 0.012 + 0.010 = 0.037$ ().
Machine A's share of themبەشی ئامێری A لەوان
Divide A's strip by the total:
پارچەی A دابەش بکە بەسەر کۆی گشتیدا:
$P(A \mid D) = \frac{0.5(0.03)}{0.5(0.03) + 0.3(0.04) + 0.2(0.05)} = \frac{0.015}{0.037} \approx 0.405$

Keep only the defective strips and stretch them to 100%: A's strip is 40.5% of them.تەنها پارچە خراپەکان بهێڵەرەوە و بیانکەرە ⁦100%⁩: پارچەی ⁦A 40.5%⁩یانە.CêIT

The same way, $P(B \mid D) = \frac{0.012}{0.037} \approx 0.324$ and $P(C \mid D) = \frac{0.010}{0.037} \approx 0.270$ . The three answers add to 1: the defective unit came from some machine.

بە هەمان شێوە، $P(B \mid D) = \frac{0.012}{0.037} \approx 0.324$ و $P(C \mid D) = \frac{0.010}{0.037} \approx 0.270$ . کۆی سێ وەڵامەکە 1ـە: بەرهەمە خراپەکە هی ئامێرێک بووە.

Quick checkپشکنینی خێراMachine C has the worst defective rate (5%). Why is a defective unit still most likely to come from A?ئامێری C خراپترین ڕێژەی هەیە ⁦(5%)⁩. بۆچی هێشتا بەرهەمێکی خراپ بە زۆری هی ئامێری Aـیە؟Because the posterior always follows the smallest rateچونکە ئەگەری پاشینە هەمیشە دوای بچووکترین ڕێژە دەکەوێتBecause A makes so many more units that its 3% is the biggest number of defective unitsچونکە A ئەوەندە بەرهەمی زیاتر دروست دەکات کە ⁦3%⁩ـەکەی گەورەترین ژمارەی بەرهەمی خراپەBecause 3% is closer to the average of 3%, 4% and 5%چونکە ⁦3%⁩ نزیکترە لە تێکڕای ⁦3%⁩، ⁦4%⁩ و ⁦5%⁩

Example 24: when the clue tells you nothingنموونەی ⁦24⁩: کاتێک نیشانەکە هیچ ناڵێت

A class is 70% boys and 30% girls. In a maths exam 5% of the boys and 5% of the girls fail. A student chosen at random failed. What is the probability that the student is a girl? A boy?

پۆلێک ⁦70%⁩ کوڕ و ⁦30%⁩ کچە. لە تاقیکردنەوەیەکی بیرکاریدا ⁦5%⁩ی کوڕەکان و ⁦5%⁩ی کچەکان دەکەون. قوتابییەکی هەڕەمەکی هەڵدەبژێردرێت و کەوتووە. ئەوە چەندە کە کچ بێت؟ کوڕ بێت؟

\begin{aligned} P(G \mid F) &= \frac{0.3(0.05)}{0.3(0.05) + 0.7(0.05)} = \frac{0.015}{0.050} = 0.3 \\ P(B \mid F) &= \frac{0.7(0.05)}{0.7(0.05) + 0.3(0.05)} = \frac{0.035}{0.050} = 0.7 \end{aligned}

The posteriors are exactly the priors, 0.3 and 0.7. That is not an accident: both groups fail at the same rate, so 0.05 cancels from the top and the bottom. Failing tells you nothing about who the student is: the events “girl” and “failed” are independent.

ڕێک هەمان : ⁦0.3⁩ و ⁦0.7⁩. ئەمە ڕێکەوت نییە: هەردوو کۆمەڵە بە هەمان ڕێژە دەکەون، بۆیە ⁦0.05⁩ لە و لادەچێت. کەوتن هیچ دەربارەی ئەوەی قوتابییەکە کێیە ناڵێت: «کچ» و «کەوتوو» ڕووداوی سەربەخۆن.

Quick checkپشکنینی خێراIn a town, 40% of drivers own a white car. White cars and other cars have the same accident rate. A car in an accident is chosen at random. What is the probability that it is white?لە شارۆچکەیەکدا ⁦40%⁩ی شۆفێرەکان ئۆتۆمبێلی سپییان هەیە. ئۆتۆمبێلە سپییەکان و ئەوانی تر هەمان ڕێژەی ڕووداویان هەیە. ئۆتۆمبێلێکی تووشی ڕووداو بە هەڕەمەکی هەڵدەبژێردرێت. ئەوە چەندە کە سپی بێت؟

0.4

0.4

0.6

0.6

We cannot know without the accident rateبێ ڕێژەی ڕووداوەکە ناتوانین بیزانین

Example 25: three boxes of ballsنموونەی ⁦25⁩: سێ سندووقی تۆپ

Box A holds 3 red and 5 white balls, box B 2 red and 1 white, box C 2 red and 3 white. A box is chosen at random and one ball is drawn from it. The ball is red. What is the probability that it came from box A?

سندووقی ⁦A 3⁩ تۆپی سوور و 5 سپیی تێدایە، سندووقی ⁦B 2⁩ سوور و 1 سپی، سندووقی ⁦C 2⁩ سوور و 3 سپی. سندووقێک بە هەڕەمەکی هەڵدەبژێردرێت و تۆپێکی لێ دەردەهێنرێت. تۆپەکە سوورە. ئەوە چەندە کە لە سندووقی A هاتبێت؟

Priors and likelihoodsئەگەری پێشینە و ڕێژەکان
Each box is chosen with probability $\frac{1}{3}$ . Red in each box: $P(R \mid A) = \frac{3}{8},\ P(R \mid B) = \frac{2}{3},\ P(R \mid C) = \frac{2}{5}$ .
هەر سندووقێک بە $\frac{1}{3}$ هەڵدەبژێردرێت. سوور لە هەر سندووقێکدا: $P(R \mid A) = \frac{3}{8},\ P(R \mid B) = \frac{2}{3},\ P(R \mid C) = \frac{2}{5}$ .
Bayesبەیز
The $\frac{1}{3}$ is in every term, so it cancels:
$\frac{1}{3}$ لە هەموو بەشێکدا هەیە، بۆیە لادەچێت:
$P(A \mid R) = \frac{\frac{1}{3}\cdot\frac{3}{8}}{\frac{1}{3}\cdot\frac{3}{8} + \frac{1}{3}\cdot\frac{2}{3} + \frac{1}{3}\cdot\frac{2}{5}} = \frac{\frac{3}{8}}{\frac{3}{8} + \frac{2}{3} + \frac{2}{5}} = \frac{45}{173} \approx 0.260$
Check with countsبە ژماردن پشتڕاستی بکەرەوە
Imagine 360 draws, 120 from each box. Red balls: 45 from A, 80 from B, 48 from C, 173 in all. Of the 173 red balls, 45 came from A.
⁦360⁩ جار دەرهێنان بهێنە بەرچاو، ⁦120⁩ جار لە هەر سندووقێک. تۆپی سوور: ⁦45⁩ لە A، ⁦80⁩ لە B، ⁦48⁩ لە C، کۆی گشتی ⁦173⁩. لە ⁦173⁩ تۆپە سوورەکە ⁦45⁩یان لە A هاتوون.

Two fixes to the printed questionدوو ڕاستکردنەوە بۆ پرسیارە چاپکراوەکە

(1) The question must say how the box is chosen; without it there is no answer. The usual reading is “at random”, $\frac{1}{3}$ each, as above. (2) The printed numerator is $P(A)P(R \mid B)$ ; it must be $P(A)P(R \mid A)$ : the box in the numerator is the box you ask about. The notes stop at question marks; the answer is $\frac{45}{173}$ .

⁦(1)⁩ پرسیارەکە دەبێت بڵێت سندووقەکە چۆن هەڵدەبژێردرێت؛ بەبێ ئەمە وەڵامی نییە. خوێندنەوەی باو «بە هەڕەمەکی»ـیە، هەر یەکە $\frac{1}{3}$ ، وەک سەرەوە. ⁦(2)⁩ چاپکراو $P(A)P(R \mid B)$ ـە؛ دەبێت $P(A)P(R \mid A)$ بێت: سندووقی ناو ئەو سندووقەیە کە پرسیاری دەربارە دەکەیت. تێبینییەکان لە نیشانەی پرسیار دەوەستن؛ وەڵامەکە $\frac{45}{173}$ ـە.

Quick checkپشکنینی خێراIn the same problem, what is

P(B \mid R)

?لە هەمان پرسیاردا

P(B \mid R)

چەندە؟

\frac{80}{173} \approx 0.462

\frac{80}{173} \approx 0.462

\frac{1}{3}

\frac{1}{3}

\frac{2}{3}

\frac{2}{3}

A positive test: why base rates matterپشکنینێکی ئەرێنی: بۆچی ڕێژەی بنەڕەت گرنگە

A condition affects 1% of people. A screening test finds it in 90% of the people who have it (its sensitivity), but it also says “positive” for 10% of healthy people (a false positive rate of 10%). Your test is positive. How likely is it that you have the condition?

نەخۆشییەک ⁦1%⁩ی خەڵک دەگرێتەوە. پشکنینێکی سەرەتایی لە ⁦90%⁩ی ئەو کەسانەدا دەیدۆزێتەوە کە هەیانە ()، بەڵام بۆ ⁦10%⁩ی کەسانی ساغیش دەڵێت «ئەرێنی» (ڕێژەی ⁦10%⁩ـە). ئەنجامی پشکنینەکەت ئەرێنییە. چەندە دەگونجێت نەخۆشییەکەت هەبێت؟

Quick checkپشکنینی خێراGuess first: what is the probability that a person with a positive result has the condition?سەرەتا تەخمین بکە: ئەوە چەندە کە کەسێک کە ئەنجامەکەی ئەرێنییە نەخۆشییەکەی هەبێت؟

90\%

90\%

About 8%نزیکەی ⁦8%⁩About 50%نزیکەی ⁦50%⁩

The medical test paradox, and redesigning Bayes' rule3Blue1Brown · Englishئینگلیزی · 1.4M viewsبینین · 54K likesلایک · Partبەشی 0:00–5:53 (ofلە 21:13)
Why a positive result from a good test can still mean a low chance of disease: count 1000 people, sensitivity and false positives.
بۆچی کاتێک پشکنینێکی باش ئەرێنی دەردەچێت، هێشتا دەکرێت نەخۆشی کەم بێت: ⁦1000⁩ کەس بژمێرە، لەگەڵ و .
Plays 0:00-5:53, the paradox itself with 1% prevalence; the later "Bayes factor" part is beyond this lesson.
لە ⁦0:00⁩ تا ⁦5:53⁩ پەخش دەبێت: خودی پارادۆکسەکە بە ڕێژەی تووشبوونی ⁦1%⁩؛ بەشی دواتری «Bayes factor» لە ئاستی ئەم وانەیە بەرزترە.

A positive test: why base rates matterپشکنینێکی ئەرێنی: بۆچی ڕێژەی بنەڕەت گرنگە

Think of 1000 people⁦1000⁩ کەس بهێنە بەرچاو

Percentages hide the sizes of the groups. Count people instead (natural frequencies): of 1000 people, 10 have the condition and 990 do not. The test finds 9 of the 10. It also flags 10% of the 990 healthy people: 99. So $9 + 99 = 108$ people get a positive result, and only 9 of them are sick.

قەبارەی کۆمەڵەکان دەشارنەوە. لە جیاتیان کەسەکان بژمێرە (): لە ⁦1000⁩ کەس، ⁦10⁩ کەس نەخۆشییەکەیان هەیە و ⁦990⁩ کەس نییانە. پشکنینەکە 9 لە ⁦10⁩ کەسەکە دەدۆزێتەوە. هەروەها ⁦10%⁩ی ⁦990⁩ کەسە ساغەکەش ئەرێنی دەکات: ⁦99⁩ کەس. کەواتە $9 + 99 = 108$ کەس ئەنجامی ئەرێنی وەردەگرن و تەنها 9یان نەخۆشن.

The same problem with counts instead of percentages.هەمان پرسیار بە ژمارە لە جیاتی .CêIT

P(D \mid +) = \frac{P(D)\,P(+ \mid D)}{P(D)\,P(+ \mid D) + P(H)\,P(+ \mid H)} = \frac{0.01(0.9)}{0.01(0.9) + 0.99(0.1)} = \frac{0.009}{0.108} = \frac{1}{12} \approx 0.083

A positive test: why base rates matterپشکنینێکی ئەرێنی: بۆچی ڕێژەی بنەڕەت گرنگە

Watch the 1000 peopleسەیری ⁦1000⁩ کەسەکە بکە

The animation shows the same 1000 people as dots. Watch how few of the positive results belong to sick people.

ئەنیمەیشنەکە هەمان ⁦1000⁩ کەس وەک خاڵ نیشان دەدات. سەیر بکە چەند کەم لە ئەنجامە ئەرێنییەکان هی کەسانی نەخۆشن.

Animation: 1000 grey dots; 10 turn orange (the sick people); then 9 of them get a dark ring and 99 grey dots turn blue (positive results); the others fade; finally the 108 positive dots gather into a block where only 9 are orange. — Most positive results come from the many healthy people, not from the few sick ones.زۆربەی ئەنجامە ئەرێنییەکان لە کەسە ساغە زۆرەکانەوە دێن، نەک لە نەخۆشە کەمەکان.CêIT

This trap has a name: the base rate fallacy, judging only by the test's accuracy and forgetting how rare the condition is (its base rate, the prior 1%). A small share of a big healthy group can easily outnumber a big share of a small sick group.

ئەم تەڵەیە ناوی هەیە: ، واتە تەنها بە وردیی پشکنینەکە بڕیار بدەیت و لەبیرت بچێت نەخۆشییەکە چەندە دەگمەنە (واتە ڕێژەی بنەڕەت، ⁦1%⁩). بەشێکی بچووک لە کۆمەڵەیەکی گەورەی ساغ بە ئاسانی لە بەشێکی گەورەی کۆمەڵەیەکی بچووکی نەخۆش زیاتر دەبێت.

Definitionپێناسە

Ignoring how rare something is in general (the base rate) when judging evidence, so a positive test looks more convincing than it is.

پشتگوێخستنی ئەوەی شتێک بە گشتی چەند دەگمەنە (ڕێژەی بنەڕەت) لە کاتی هەڵسەنگاندنی بەڵگەدا، بۆیە ئەنجامێکی ئەرێنیی پشکنین لەوەی هەیە بەهێزتر دەردەکەوێت.

A positive test: why base rates matterپشکنینێکی ئەرێنی: بۆچی ڕێژەی بنەڕەت گرنگە

A second test, and a negative resultپشکنینی دووەم و ئەنجامی نەرێنی

The 108 people with a positive result take a second, independent test with the same rates. Now the prior is $\frac{1}{12}$ , not 1%: yesterday's posterior is today's prior.

ئەو ⁦108⁩ کەسەی ئەنجامیان ئەرێنی بووە پشکنینێکی دووەمی سەربەخۆ دەکەن بە هەمان ڕێژەکان. ئێستا $\frac{1}{12}$ ـە، نەک ⁦1%⁩: دوێنێ ئەمڕۆیە.

P(D \mid ++) = \frac{\frac{1}{12}(0.9)}{\frac{1}{12}(0.9) + \frac{11}{12}(0.1)} = \frac{0.9}{0.9 + 1.1} = \frac{9}{20} = 0.45

A negative first result is very reassuring: of the 892 negatives (1 sick + 891 healthy), only 1 is sick, so $P(D \mid -) = \frac{1}{892} \approx 0.1\%$ . The share of healthy people that the test correctly clears, $\frac{891}{990} = 90\%$ , is its specificity.

ئەنجامی نەرێنی لە یەکەم پشکنیندا زۆر دڵنیاکەرەوەیە: لە ⁦892⁩ نەرێنییەکە (⁦1⁩ نەخۆش + ⁦891⁩ ساغ)، تەنها 1 نەخۆشە، بۆیە $P(D \mid -) = \frac{1}{892} \approx 0.1\%$ . ئەو بەشەی کەسانی ساغ کە پشکنینەکە بە دروستی نەرێنییان دەکات، $\frac{891}{990} = 90\%$ ، .

Quick checkپشکنینی خێراWhy do doctors usually repeat a positive screening test before deciding anything?بۆچی پزیشکەکان بە زۆری پشکنینێکی سەرەتایی ئەرێنی دووبارە دەکەنەوە پێش ئەوەی بڕیار بدەن؟Because after one positive result the probability is still low (8% here); a second positive raises it a lot (45%)چونکە دوای یەک ئەنجامی ئەرێنی ئەگەرەکە هێشتا نزمە (لێرە ⁦8%⁩)؛ ئەرێنیی دووەم زۆری بەرز دەکاتەوە ⁦(45%)⁩Because two tests make the condition rarerچونکە دوو پشکنین نەخۆشییەکە دەگمەنتر دەکەنBecause the first test is always wrongچونکە پشکنینی یەکەم هەمیشە هەڵەیە

Bayes in your inbox: spam filtersبەیز لە ئیمەیڵەکەتدا: فلتەرەکانی سپام

An email program learns from old mail: 30% of the messages are spam. The word “prize” appears in 20% of spam messages but in only 1% of normal ones. A new message contains “prize”. Is it spam?

بەرنامەیەکی لە نامە کۆنەکانەوە فێر دەبێت: ⁦30%⁩ی نامەکان . وشەی «خەڵات» لە ⁦20%⁩ی نامەکانی هەیە، بەڵام تەنها لە ⁦1%⁩ی نامە ئاساییەکاندا. نامەیەکی نوێ وشەی «خەڵات»ـی تێدایە. ؟

P(S \mid W) = \frac{0.3(0.2)}{0.3(0.2) + 0.7(0.01)} = \frac{0.060}{0.067} = \frac{60}{67} \approx 0.896

Quick checkپشکنینی خێراIf spam were rarer (say 3% of mail instead of 30%), the same word would make a message…گەر دەگمەنتر بووایە (بۆ نموونە ⁦3%⁩ی نامەکان لە جیاتی ⁦30%⁩)، هەمان وشە نامەیەک دەکات بە…less likely to be spam than 89.6%سپام بە ئەگەرێکی کەمتر لە ⁦89.6%⁩exactly as likely, 89.6%ڕێک هەمان ئەگەر، ⁦89.6%⁩certainly spamبە دڵنیاییەوە سپام

Bayes in your inbox: spam filtersبەیز لە ئیمەیڵەکەتدا: فلتەرەکانی سپام

Many words at once: naive Bayesزۆر وشە پێکەوە: پۆلێنکەری بەیزی ساکار

A real filter looks at many words at once. A naive Bayes classifier multiplies the evidence of each word as if the words were independent (that simplification is why it is called “naive”), then moves messages above a threshold into the spam folder. It is one of the oldest tools of machine learning: it learns its numbers from labelled examples.

ڕاستەقینە هاوکات سەیری زۆر وشە دەکات. بەڵگەی هەر وشەیەک لێک دەدات وەک ئەوەی وشەکان سەربەخۆ بن (ئەم سادەکردنەوەیە هۆی ناوی «ساکار»ـە)، پاشان ئەو نامانەی لە سنوورێک تێدەپەڕن دەخاتە بوخچەی . یەکێکە لە کۆنترین ئامرازەکانی فێربوونی ئامێر: ژمارەکانی لە نموونەی نیشانەکراوەوە فێر دەبێت.

A false positive here is a lost emailئەرێنیی هەڵە لێرەدا ئیمەیڵێکی ونبووە

A spam filter makes the same two kinds of mistake as the medical test: a normal message moved to spam (false positive) and a spam message left in the inbox (false negative). Filters are usually tuned to make few false positives, because losing a real message hurts more than seeing one advert.

هەمان دوو جۆری هەڵەی پشکنینە پزیشکییەکە دەکات: نامەیەکی ئاسایی دەخرێتە ناو () و نامەیەکی لە ناو سندووقی هاتوودا دەمێنێتەوە (). بە زۆری بە شێوەیەک ڕێک دەخرێن کە کەم بن، چونکە ونبوونی نامەیەکی ڕاستەقینە لە بینینی ڕیکلامێک خراپترە.

Quick checkپشکنینی خێراWhy is the naive Bayes classifier called “naive”?بۆچی بە دەڵێن «ساکار»؟It treats the words of a message as if they were independent of each otherوشەکانی نامەکە وا دادەنێت کە لە یەکتر سەربەخۆ بنIt reads only the first word of each messageتەنها یەکەم وشەی هەر نامەیەک دەخوێنێتەوەIt ignores how common spam isگوێ نادات بەوەی سپام چەندە باوە

Naive Bayes, Clearly Explained!!!StatQuest with Josh Starmer · Englishئینگلیزی · 1.4M viewsبینین · 35K likesلایک · Partبەشی 1:08–14:00 (ofلە 15:12)
How a naive Bayes spam filter scores a message from word probabilities, and why it is called "naive".
لە جۆری چۆن بە وشەکان نمرە دەداتە نامەیەک، هەروەها بۆچی پێی دەوترێت «ساکار».
Plays 1:08-14:00: word probabilities in normal and spam messages, classifying two messages, pseudocounts, and why naive Bayes is naive (12:35); stops before the closing self-promotion.
لە ⁦1:08⁩ تا ⁦14:00⁩ پەخش دەبێت: وشەکان لە نامەی ئاسایی و ، دوو نامە، ژمارەی زیادکراوی گریمانەیی (pseudocounts)، هەروەها بۆچی پێی دەوترێت «ساکار» ⁦(12:35)⁩؛ پێش ڕیکلامی کۆتایی بۆ کارەکانی خۆی ڕادەوەستێت.

Common mistakesهەڵە باوەکان

Swapping the condition. $P(+ \mid D) = 0.9$ does not mean $P(D \mid +) = 0.9$ . Always ask: which group am I looking inside?
Forgetting the base rate. A very accurate test for a very rare condition still gives mostly false alarms. Put the prior into the formula.
A partition with gaps or overlaps. The pieces $A_i$ must cover every case once. If a fourth machine exists, the denominator is wrong.
The wrong numerator. The numerator is the one term of the denominator that belongs to the piece you ask about: $P(A)P(R \mid A)$ , never $P(A)P(R \mid B)$ .
Not checking the total. The posteriors of all the pieces must add to 1 ( $0.405 + 0.324 + 0.270 \approx 1$ ; the tiny gap is rounding). If they do not, something is wrong.

گۆڕینەوەی مەرجەکە. $P(+ \mid D) = 0.9$ واتای $P(D \mid +) = 0.9$ نییە. هەمیشە بپرسە: لە ناو کام کۆمەڵەدا دەڕوانم؟
لەبیرکردنی ڕێژەی بنەڕەت. پشکنینێکی زۆر ورد بۆ نەخۆشییەکی زۆر دەگمەن هێشتا زۆربەی ئاگادارکردنەوەکانی هەڵەن. بخەرە ناو .
بە بۆشایی یان یەکتربڕینەوە. پارچەکانی $A_i$ دەبێت هەموو حاڵەتێک یەک جار دابپۆشن. گەر ئامێری چوارەم هەبێت، هەڵەیە.
هەڵە. ئەو یەک بەشەی کە هی ئەو پارچەیەیە پرسیاری دەربارە دەکەیت: $P(A)P(R \mid A)$ ، هەرگیز $P(A)P(R \mid B)$ نا.
پشتڕاستنەکردنەوەی کۆکە. کۆی هەموو پارچەکان دەبێت 1 بێت ( $0.405 + 0.324 + 0.270 \approx 1$ ؛ جیاوازییە بچووکەکە لە خڕکردنەوەوە دێت). گەر وا نەبوو، شتێک هەڵەیە.

Quick checkپشکنینی خێراA student writes

P(A \mid D) + P(B \mid D) + P(C \mid D) = 1.2

. What can you conclude?قوتابییەک دەنووسێت

P(A \mid D) + P(B \mid D) + P(C \mid D) = 1.2

. چی دەردەخەیت؟There is a mistake: the posteriors over a partition must add to exactly 1هەڵەیەک هەیە: کۆی ئەگەری پاشینەی پارچەکانی پارچەکاریی بۆشایی نموونە دەبێت ڕێک 1 بێتMachine A must be brokenئامێری A دەبێت تێکچووبێتNothing: posteriors can add to more than 1هیچ: کۆی ئەگەری پاشینەی پارچەکان دەتوانێت لە 1 زیاتر بێت

Exercisesڕاهێنانەکان

ExerciseڕاهێنانStale breadنانی وشک

A shop buys 70% of its bread from bakery X and 30% from bakery Y. 2% of X's loaves and 5% of Y's loaves are stale. A customer gets a stale loaf. What is the probability that it came from Y?

دوکانێک ⁦70%⁩ی نانەکەی لە نانەواخانەی X و ⁦30%⁩ی لە نانەواخانەی Y دەکڕێت. ⁦2%⁩ی نانەکانی X و ⁦5%⁩ی نانەکانی Y وشکن. کڕیارێک نانێکی وشکی بەردەکەوێت. ئەوە چەندە کە لە Y هاتبێت؟

Hintئاماژە

First find the share of stale bread with the law of total probability.

سەرەتا بە بەشی نانی وشک بدۆزەوە.

Show answerوەڵامەکە پیشان بدە

\begin{aligned} P(\text{stale}) &= 0.7(0.02) + 0.3(0.05) = 0.014 + 0.015 = 0.029 \\ P(Y \mid \text{stale}) &= \frac{0.015}{0.029} = \frac{15}{29} \approx 0.517 \end{aligned}

ExerciseڕاهێنانA coin with two headsدراوێک بە دوو شێر

A bag holds two coins: a fair one and one with heads on both sides. You take one at random and toss it: heads. (a) What is the probability that it is the two-headed coin? (b) You toss the same coin again: heads again. What is the probability now?

توورەکەیەک دوو دراوی تێدایە: یەکێکی دادپەروەر و یەکێک کە هەردوو ڕووی شێرە. بە هەڕەمەکی یەکێکیان دەردەهێنیت و هەڵیدەدەیت: شێر. (أ) ئەوە چەندە کە دراوە دوو شێرەکە بێت؟ (ب) هەمان دراو دووبارە هەڵدەدەیتەوە: دیسان شێر. ئێستا چەندە؟

Show answerوەڵامەکە پیشان بدە

\begin{aligned} \text{(a)}\quad P(T \mid H) &= \frac{\frac12 \cdot 1}{\frac12 \cdot 1 + \frac12 \cdot \frac12} = \frac{2}{3} \\ \text{(b)}\quad P(T \mid HH) &= \frac{\frac12 \cdot 1}{\frac12 \cdot 1 + \frac12 \cdot \frac14} = \frac{4}{5} \end{aligned}

ExerciseڕاهێنانExample 25, box Cنموونەی ⁦25⁩، سندووقی C

In Example 25 (boxes A, B, C, chosen at random), the ball drawn is red. Find the probability that it came from box C, and check that the three answers add to 1.

لە نموونەی ⁦25⁩دا (سندووقەکانی A، B، C، بە هەڕەمەکی هەڵدەبژێردرێن)، تۆپە دەرهێنراوەکە سوورە. ئەوە بدۆزەوە کە لە سندووقی C هاتبێت و پشتڕاستی بکەرەوە کە کۆی سێ وەڵامەکە 1ـە.

Show answerوەڵامەکە پیشان بدە

P(C \mid R) = \frac{\frac25}{\frac38 + \frac23 + \frac25} = \frac{48}{173} \approx 0.277, \qquad \frac{45}{173} + \frac{80}{173} + \frac{48}{173} = 1

ExerciseڕاهێنانA more common conditionنەخۆشییەکی باوتر

Use the same test as before (sensitivity 90%, false positive rate 10%), but now 10% of the people have the condition. What is $P(D \mid +)$ ? Use 1000 people.

هەمان پشکنینی پێشوو بەکار بهێنە ( ⁦90%⁩، ڕێژەی ⁦10%⁩)، بەڵام ئێستا ⁦10%⁩ی خەڵک نەخۆشییەکەیان هەیە. $P(D \mid +)$ چەندە؟ ⁦1000⁩ کەس بەکار بهێنە.

Show answerوەڵامەکە پیشان بدە

100 people have it and 90 of them test positive; 900 are healthy and 90 of them test positive. So 90 of the 180 positives are sick: $P(D \mid +) = \frac{90}{180} = 0.5$ . The same test is much more useful when the condition is more common.

⁦100⁩ کەس نەخۆشییەکەیان هەیە و ⁦90⁩یان ئەنجامیان ئەرێنییە؛ ⁦900⁩ کەس ساغن و ⁦90⁩یان ئەنجامیان ئەرێنییە. کەواتە ⁦90⁩ لە ⁦180⁩ ئەرێنییەکە نەخۆشن: $P(D \mid +) = \frac{90}{180} = 0.5$ . هەمان پشکنین کاتێک نەخۆشییەکە باوترە زۆر بەسوودترە.

Summaryکورتە

A partition $A_1, \dots, A_n$ cuts $\Omega$ into pieces that do not overlap and cover everything.
Law of total probability: $P(B) = \sum P(A_i)P(B \mid A_i)$ .
Bayes' theorem: $P(A_i \mid B) = \frac{P(A_i)P(B \mid A_i)}{\sum P(A_k)P(B \mid A_k)}$ : the prior times how well it explains the clue, rescaled so that everything adds to 1.
Examples: machine A made a defective unit with probability 0.405; equal failure rates leave the prior unchanged (0.3); a red ball came from box A with probability $\frac{45}{173}$ .
Base rates matter: with a rare condition most positive results are false alarms (9 of 108). Counting 1000 people makes this easy to see.
Spam filters (naive Bayes) use the same formula, word by word.

( $A_1, \dots, A_n$ ) $\Omega$ دەکات بە پارچەگەلێک کە یەکتر نابڕن و هەموو شتێک دادەپۆشن.
: $P(B) = \sum P(A_i)P(B \mid A_i)$ ، واتە کۆکردنەوەی پارچەکانی B.
: $P(A_i \mid B) = \frac{P(A_i)P(B \mid A_i)}{\sum P(A_k)P(B \mid A_k)}$ : جارانی ئەوەی چەندە نیشانەکە ڕوون دەکاتەوە، ڕێکخراو بە شێوەیەک کە کۆیان 1 بێت.
نموونەکان: ئامێری A بە ⁦0.405⁩ بەرهەمە خراپەکەی دروست کردووە؛ ڕێژەی کەوتنی یەکسان ناگۆڕێت ⁦(0.3)⁩؛ تۆپە سوورەکە بە $\frac{45}{173}$ لە سندووقی A هاتووە.
ڕێژەی بنەڕەت گرنگە: لە نەخۆشییەکی دەگمەندا زۆربەی ئەنجامە ئەرێنییەکان ئاگادارکردنەوەی هەڵەن (⁦9⁩ لە ⁦108⁩). ژماردنی ⁦1000⁩ کەس ئەمە ئاسان نیشان دەدات.
() هەمان بەکار دەهێنن، وشە بە وشە.

Videoڤیدیۆ

Watch a videoسەیری ڤیدیۆیەک بکە

A video that viewers liked a lot and praised in their comments, chosen for this lesson.ڤیدیۆیەک کە بینەران زۆریان پێ خۆش بووە و لە کۆمێنتەکانیاندا ستایشیان کردووە، بۆ ئەم وانەیە هەڵبژێردراوە.

Bayes theorem, the geometry of changing beliefs3Blue1Brown · Englishئینگلیزی · 6M viewsبینین · 160K likesلایک
Bayes' theorem as a picture: start from a prior, keep only the cases that fit the evidence, and read off the new probability.
وەک وێنە: لە دەست پێبکە، تەنها ئەو حاڵەتانە بهێڵەوە کە لەگەڵ بەڵگەکە دەگونجێن، پاشان نوێیەکە () بخوێنەوە.
Example from 0:00, the formula from 4:09, making it intuitive with area from 10:13.
نموونەیەک لە ⁦0:00⁩ـەوە، لە ⁦4:09⁩ـەوە، تێگەیشتنی ئاسان بە ڕووبەر لە ⁦10:13⁩ـەوە.

Lesson complete!وانەکە تەواو بوو!

Well done. Review the key terms, then go on to the next lesson.دەستخۆش. سەیرێکی زاراوە سەرەکییەکان بکەرەوە، پاشان بڕۆ بۆ وانەی داهاتوو.

Key termsزاراوە سەرەکییەکان

Next lessonوانەی داهاتوو

Random Variables and Probability Mass Functionsگۆڕاوە هەڕەمەکییەکان و نەخشەی بارستەی ئەگەر

Related lecturesوانە پەیوەندیدارەکان

References and further readingسەرچاوەکان و خوێندنەوەی زیاتر

This lecture is a first edition. The Kurdish text and terminology are waiting for review by Kurdish IT teachers.ئەم وانەیە چاپی یەکەمە. دەقە کوردییەکە و زاراوەکانی چاوەڕێی پێداچوونەوەی مامۆستایانی کوردی بواری IT ن.