2.6. Xác suất¶
Theo cách này hay cách khác, học máy đơn thuần là đưa ra các dự đoán. Chúng ta có thể muốn dự đoán xác suất của một bệnh nhân có thể bị đau tim vào năm sau, khi đã biết tiền sử lâm sàng của họ. Trong tác vụ phát hiện điều bất thường, chúng ta có thể muốn đánh giá khả năng các thông số động cơ máy bay ở mức nào, liệu có ở mức hoạt động bình thường không. Trong học tăng cường, chúng ta muốn có một tác nhân hoạt động thông minh trong một môi trường. Nghĩa là chúng ta cần tính tới xác suất đạt điểm thưởng cao nhất cho từng hành động có thể thực hiện. Và khi xây dựng một hệ thống gợi ý chúng ta cũng cần quan tâm tới xác suất. Ví dụ, giả thiết rằng chúng ta làm việc cho một hãng bán sách trực tuyến lớn. Chúng ta có thể muốn ước lượng xác suất một khách hàng cụ thể muốn mua một cuốn sách cụ thể nào đó. Để làm được điều này, chúng ta cần dùng tới ngôn ngữ xác suất. Có những khóa học, chuyên ngành, luận văn, sự nghiệp, và cả các ban ngành đều dành toàn bộ cho xác suất. Vì thế đương nhiên mục tiêu của chúng tôi trong chương này không phải để dạy toàn bộ môn xác suất. Thay vào đó, chúng tôi hy vọng đưa tới cho bạn đọc các kiến thức nền tảng, đủ để bạn đọc có thể bắt đầu xây dựng mô hình học sâu đầu tiên của chính mình, và truyền cảm hứng cho bạn thêm yêu thích xác suất để có thể bắt đầu tự khám phá nếu muốn.
Chúng tôi đã nhắc tới xác suất trong các chương trước mà không nói rõ chính xác nó là gì hay là đưa ra một ví dụ cụ thể nào. Giờ hãy cùng bắt đầu nghiêm túc hơn bằng cách xem xét trường hợp đầu tiên: phân biệt mèo và chó dựa trên các bức ảnh. Điều này tưởng chừng đơn giản nhưng thực ra là một thách thức. Để bắt đầu, độ phức tạp của bài toán này có thể phụ thuộc vào độ phân giải của ảnh.
Fig. 2.6.1 Ảnh ở các độ phân giải khác nhau (\(10 \times 10\), \(20 \times 20\), \(40 \times 40\), \(80 \times 80\), and \(160 \times 160\) điểm ảnh).¶
Như thể hiện trong Fig. 2.6.1, con người phân biệt mèo và chó dễ dàng ở độ phân giải \(160 \times 160\) điểm ảnh, có chút thử thách hơn ở \(40 \times 40\) điểm ảnh, và gần như không thể ở \(10 \times 10\) điểm ảnh. Nói cách khác, khả năng phân biệt mèo và chó của chúng ta ở khoảng cách càng xa (đồng nghĩa với độ phân giải thấp) càng giống đoán mò. Xác suất trang bị cho ta một cách suy luận hình thức về mức độ chắc chắn. Nếu chúng ta hoàn toàn chắc chắn rằng bức ảnh mô tả một con mèo, ta có thể nói rằng xác suất nhãn tương ứng \(y\) là “mèo”, ký hiệu là \(P(y=\) “mèo”\()\) equals \(1\). Nếu chúng ta không có manh mối nào để đoán rằng \(y =\) “mèo” hoặc là \(y =\) “chó”, thì ta có thể nói rằng hai xác suất này có khả năng bằng nhau, biễu diễn bởi \(P(y=\) “mèo”\() = P(y=\) “chó”\() = 0.5\). Nếu ta khá tự tin, nhưng không thực sự chắc chắn bức ảnh mô tả một con mèo, ta có thể gán cho nó một xác suất \(0.5 < P(y=\) “mèo”\() < 1\).
Giờ hãy xem xét trường hợp thứ hai: cho dữ liệu theo dõi khí tượng, chúng ta muốn dự đoán xác suất ngày mai trời sẽ mưa ở Đài Bắc. Nếu vào mùa hè, xác suất trời mưa có thể là \(0.5\).
Trong cả hai trường hợp, chúng ta đều quan tâm tới một đại lượng nào đó và cùng không chắc chắn về giá trị đầu ra. Nhưng có một khác biệt quan trọng giữa hai trường hợp. Trong trường hợp đầu tiên, bức ảnh chỉ có thể là chó hoặc mèo, và chúng ta chỉ không biết là loài nào. Trong trường hợp thứ hai, đầu ra thực sự có thể là một sự kiện ngẫu nhiên, nếu bạn tin vào những thứ như vậy (và hầu hết các nhà vật lý tin vậy). Như vậy xác suất là một ngôn ngữ linh hoạt để suy đoán về mức độ chắc chắn của chúng ta, và nó có thể được áp dụng hiệu quả trong vô vàn ngữ cảnh khác nhau.
2.6.1. Lý thuyết Xác suất cơ bản¶
Giả sử, ta tung xúc xắc và muốn biết cơ hội để thấy mặt số \(1\) so với các mặt khác là bao nhiêu? Nếu chiếc xúc xắc có chất liệu đồng nhất, thì cả \(6\) mặt \(\{1, \ldots, 6\}\) đều có khả năng xuất hiện như nhau, nên ta sẽ thấy mặt \(1\) xuất hiện một lần trong mỗi sáu lần tung xúc xắc như trên. Ta có thể nói rằng mặt \(1\) xuất hiện với xác suất là \(\frac{1}{6}\).
Với một chiếc xúc xắc thật, ta có thể không biết được tỷ lệ này và cần kiểm tra liệu xúc xắc có bị hư hỏng gì không. Cách duy nhất để kiểm tra là tung thật nhiều lần rồi ghi lại kết quả. Mỗi lần tung, ta quan sát thấy một số trong \(\{1, \ldots, 6\}\) xuất hiện. Với kết quả này, ta muốn kiểm chứng xác suất xuất hiện của từng mặt số.
Cách tính trực quan nhất là lấy số lần xuất hiện của mỗi mặt số chia cho tổng số lần tung. Cách này cho ta một ước lượng của xác suất ứng với một sự kiện cho trước. Luật số lớn cho ta biết rằng số lần tung xúc xắc càng tăng thì ước lượng này càng gần hơn với xác xuất thực. Trước khi giải thích chi tiết hơn, hãy cùng lập trình thí nghiệm này.
Bắt đầu, ta nhập các gói lệnh cần thiết.
%matplotlib inline
from d2l import mxnet as d2l
from mxnet import np, npx
import random
npx.set_np()
Tiếp theo, ta sẽ cần tung xúc xắc. Trong thống kê, ta gọi quá trình thu
các mẫu từ phân phối xác suất là quá trình lấy mẫu. Phân phối mà gán
các xác suất cho các lựa chọn rời rạc (discrete choices) được gọi là
phân phối đa thức (multinomial distribution). Sau này, ta sẽ đưa ra
định nghĩa chính quy phân phối là gì; nhưng để hình dung, hãy xem nó
như phép gán xác suất xảy ra cho các sự kiện. Trong MXNet, ta có thể lấy
mẫu từ phân phối đa thức với hàm np.random.multinomial. Có nhiều
cách sử dụng hàm này, nhưng ta tập trung vào cách dùng đơn giản nhất.
Muốn lấy một mẫu đơn, ta chỉ cần đưa vào hàm này một vector chứa các xác
suất. Hàm np.random.multinomial sẽ cho kết quả là một vector có
chiều dài tương tự: trong vector này, giá trị tại chỉ số \(i\) là số
lần kết quả \(i\) xuất hiện.
fair_probs = [1.0 / 6] * 6
np.random.multinomial(1, fair_probs)
array([0, 0, 0, 1, 0, 0], dtype=int64)
Nếu chạy hàm lấy mẫu vài lần, bạn sẽ thấy rằng mỗi lần các giá trị trả
về đều là ngẫu nhiên. Giống với việc đánh giá một con xúc xắc có đều hay
không, chúng ta thường muốn tạo nhiều mẫu từ cùng một phân phối. Tạo dữ
liệu như trên với vòng lặp for trong Python là rất chậm, vì vậy hàm
random.multinomial hỗ trợ sinh nhiều mẫu trong một lần gọi, trả về
một mảng chứa các mẫu độc lập với kích thước bất kỳ.
np.random.multinomial(10, fair_probs)
array([1, 1, 5, 1, 1, 1], dtype=int64)
Chúng ta cũng có thể giả sử làm \(3\) thí nghiệm, trong đó mỗi thí nghiệm cùng lúc lấy ra \(10\) mẫu.
counts = np.random.multinomial(10, fair_probs, size=3)
counts
array([[1, 2, 1, 2, 4, 0],
[3, 2, 2, 1, 0, 2],
[1, 2, 1, 3, 1, 2]], dtype=int64)
Giờ chúng ta đã biết cách lấy mẫu các lần tung của một con xúc xắc, ta có thể giả lập 1000 lần tung. Sau đó, chúng ta có thể đếm xem mỗi mặt xuất hiện bao nhiêu lần. Cụ thể, chúng ta tính toán tần suất tương đối như là một ước lượng của xác suất thực.
# Store the results as 32-bit floats for division
counts = np.random.multinomial(1000, fair_probs).astype(np.float32)
counts / 1000 # Reletive frequency as the estimate
array([0.164, 0.153, 0.181, 0.163, 0.163, 0.176])
Do dữ liệu được sinh bởi một con xúc xắc đều, ta biết mỗi đầu ra đều có xác suất thực bằng \(\frac{1}{6}\), cỡ \(0.167\), do đó kết quả ước lượng bên trên trông khá ổn.
Chúng ta cũng có thể minh họa những xác suất này hội tụ tới xác suất thực như thế nào. Hãy cũng làm \(500\) thí nghiệm trong đó mỗi thí nghiệm lấy ra \(10\) mẫu.
counts = np.random.multinomial(10, fair_probs, size=500)
cum_counts = counts.astype(np.float32).cumsum(axis=0)
estimates = cum_counts / cum_counts.sum(axis=1, keepdims=True)
d2l.set_figsize((6, 4.5))
for i in range(6):
d2l.plt.plot(estimates[:, i].asnumpy(),
label=("P(die=" + str(i + 1) + ")"))
d2l.plt.axhline(y=0.167, color='black', linestyle='dashed')
d2l.plt.gca().set_xlabel('Groups of experiments')
d2l.plt.gca().set_ylabel('Estimated probability')
d2l.plt.legend();
Mỗi đường cong liền tương ứng với một trong sáu giá trị của xúc xắc và chỉ ra xác suất ước lượng của sự kiện xúc xắc ra mặt tương ứng sau mỗi thí nghiệm. Đường đứt đoạn màu đen tương ứng với xác suất thực. Khi ta lấy thêm dữ liệu bằng cách thực hiện thêm các thí nghiệm, thì \(6\) đường cong liền sẽ hội tụ tiến tới xác suất thực.
2.6.1.1. Các Tiên đề của Lý thuyết Xác suất¶
Khi thực hiện tung một con xúc xắc, chúng ta gọi tập hợp \(\mathcal{S} = \{1, 2, 3, 4, 5, 6\}\) là không gian mẫu hoặc không gian kết quả, trong đó mỗi phần tử là một kết quả. Một sự kiện là một tập hợp các kết quả của không gian mẫu. Ví dụ, “tung được một số \(5\)” (\(\{5\}\)) và “tung được một số lẻ” (\(\{1, 3, 5\}\)) đều là những sự kiện hợp lệ khi tung một con xúc xắc. Chú ý rằng nếu kết quả của một phép tung ngẫu nhiên nằm trong sự kiện \(\mathcal{A}\), sự kiện \(\mathcal{A}\) đã xảy ra. Như vậy, nếu mặt \(3\) chấm ngửa lên sau khi xúc xắc được tung, chúng ta nói sự kiện “tung được một số lẻ” đã xảy ra bởi vì \(3 \in \{1, 3, 5\}\).
Một cách chính thống hơn, xác suất có thể được xem là một hàm số ánh xạ một tập hợp các sự kiện tới một số thực. Xác suất của sự kiện \(\mathcal{A}\) trong không gian mẫu \(\mathcal{S}\), được kí hiệu là \(P(\mathcal{A})\), phải thoả mãn những tính chất sau:
- Với mọi sự kiện \(\mathcal{A}\), xác suất của nó là không âm, tức là: \(P(\mathcal{A}) \geq 0\);
- Xác suất của toàn không gian mẫu luôn bằng \(1\), tức: \(P(\mathcal{S}) = 1\);
- Đối với mọi dãy sự kiện có thể đếm được \(\mathcal{A}_1, \mathcal{A}_2, \ldots\) xung khắc lẫn nhau (\(\mathcal{A}_i \cap \mathcal{A}_j = \emptyset\) với mọi \(i \neq j\)), xác suất có ít nhất một sự kiện xảy ra sẽ là tổng của những giá trị xác suất riêng lẻ, hay: \(P(\bigcup_{i=1}^{\infty} \mathcal{A}_i) = \sum_{i=1}^{\infty} P(\mathcal{A}_i)\).
Đây cũng là những tiên đề của lý thuyết xác suất, được đề xuất bởi Kolmogorov năm 1933. Nhờ vào hệ thống tiên đề này, ta có thể tránh được những tranh luận chủ quan về sự ngẫu nhiên; và ta có thể có được những suy luận chặt chẽ sử dụng ngôn ngữ toán học. Ví dụ, cho sự kiện \(\mathcal{A}_1\) là toàn bộ không gian mẫu và \(\mathcal{A}_i = \emptyset\) với mọi \(i > 1\), chúng ta có thể chứng minh rằng \(P(\emptyset) = 0\), nghĩa là xác suất của sự kiện không thể xảy ra bằng \(0\).
2.6.1.2. Biến ngẫu nhiên¶
Trong thí nghiệm tung xúc xắc ngẫu nhiên, chúng ta đã giới thiệu khái niệm của một biến ngẫu nhiên. Một biến ngẫu nhiên có thể dùng để biểu diễn cho hầu như bất kỳ đại lượng nào và giá trị của nó không cố định. Nó có thể nhận một giá trị trong tập các giá trị khả dĩ từ một thí nghiệm ngẫu nhiên. Hãy xét một biến ngẫu nhiên \(X\) có thể nhận một trong những giá trị từ tập không gian mẫu \(\mathcal{S} = \{1, 2, 3, 4, 5, 6\}\) của thí nghiêm tung xúc xắc. Chúng ta có thể biểu diễn sự kiện “trông thấy mặt \(5\)” là \(\{X = 5\}\) hoặc \(X = 5\), và xác suất của nó là \(P(\{X = 5\})\) hoặc \(P(X = 5)\). Khi viết \(P(X = a)\), chúng ta đã phân biệt giữa biến ngẫu nhiên \(X\) và các giá trị (ví dụ như \(a\)) mà \(X\) có thể nhận. Tuy nhiên, ký hiệu như vậy khá là rườm rà. Để đơn giản hóa ký hiệu, một mặt, chúng ta có thể chỉ cần dùng \(P(X)\) để biểu diễn phân phối của biến ngẫu nhiên \(X\): phân phối này cho chúng ta biết xác xuất mà \(X\) có thể nhận cho bất kỳ giá trị nào. Mặt khác, chúng ta có thể đơn thuần viết \(P(a)\) để biểu diễn xác suất mà một biến ngẫu nhiên nhận giá trị \(a\). Bởi vì một sự kiện trong lý thuyết xác suất là một tập các kết quả từ không gian mẫu, chúng ta có thể xác định rõ một khoảng các giá trị mà một biến ngẫu nhiên có thể nhận. Ví dụ, \(P(1 \leq X \leq 3)\) diễn tả xác suất của sự kiện \(\{1 \leq X \leq 3\}\), nghĩa là \(\{X = 1, 2, \text{hoặc}, 3\}\). Tương tự, \(P(1 \leq X \leq 3)\) biểu diễn xác suất mà biến ngẫu nhiên \(X\) có thể nhận giá trị trong tập \(\{1, 2, 3\}\).
Lưu ý rằng có một sự khác biệt tinh tế giữa các biến ngẫu nhiên rời rạc, ví dụ như các mặt của xúc xắc, và các biến ngẫu nhiên liên tục, ví dụ như cân nặng và chiều cao của một người. Việc hỏi rằng hai người có cùng chính xác chiều cao hay không khá là vô nghĩa. Nếu ta đo với đủ độ chính xác, ta sẽ thấy rằng không có hai người nào trên hành tinh này mà có cùng chính xác chiều cao cả. Thật vậy, nếu đo đủ chính xác, chiều cao của bạn lúc mới thức dậy và khi đi ngủ sẽ khác nhau. Cho nên không có lý do gì để tìm xác suất một người nào đó cao \(1.80139278291028719210196740527486202\) mét cả. Trong toàn bộ dân số trên thế giới, xác suất này gần như bằng \(0\). Sẽ có lý hơn nếu ta hỏi chiều cao của một người nào đó có rơi vào một khoảng cho trước hay không, ví dụ như giữa \(1.79\) và \(1.81\) mét. Trong các trường hợp này, ta có thể định lượng khả năng mà ta thấy một giá trị nào đó theo một mật độ xác suất. Xác suất để có chiều cao chính xác \(1.80\) mét không tồn tại, nhưng mật độ của sự kiện này khác không. Trong bất kỳ khoảng nào giữa hai chiều cao khác nhau ta đều có xác suất khác không. Trong phần còn lại của mục này, ta sẽ xem xét xác suất trong không gian rời rạc. Về xác suất của biến ngẫu nhiên liên tục, bạn có thể xem ở Section 18.6.
2.6.2. Làm việc với Nhiều Biến Ngẫu nhiên¶
Chúng ta sẽ thường xuyên phải làm việc với nhiều hơn một biến ngẫu nhiên cùng lúc. Ví dụ, chúng ta có thể muốn mô hình hóa mối quan hệ giữa các loại bệnh và các triệu chứng bệnh. Cho một loại bệnh và một triệu chứng bệnh, giả sử “cảm cúm” và “ho”, chúng có thể xuất hiện hoặc không trên một bệnh nhân với xác suất nào đó. Mặc dù chúng ta hy vọng xác suất cả hai xảy ra gần bằng không, ta có thể vẫn muốn ước lượng các xác suất này và mối quan hệ giữa chúng để có thể thực hiện các biện pháp chăm sóc y tế tốt hơn.
Xét một ví dụ phức tạp hơn: các bức ảnh chứa hàng triệu điểm ảnh, tương ứng với hàng triệu biến ngẫu nhiên. Và trong nhiều trường hợp các bức ảnh sẽ được gán một nhãn chứa tên các vật xuất hiện trong ảnh. Chúng ta cũng có thể xem nhãn này như một biến ngẫu nhiên. Thậm chí, ta còn có thể xem tất cả các siêu dữ liệu như địa điểm, thời gian, khẩu độ, tiêu cự, ISO, khoảng lấy nét và loại máy ảnh, là các biến ngẫu nhiên. Tất cả các những biến ngẫu nhiên này xảy ra đồng thời. Khi làm việc với nhiều biến ngẫu nhiên, có một số đại lượng đáng được quan tâm.
2.6.2.1. Xác suất Đồng thời¶
Đầu tiên là xác suất đồng thời \(P(A = a, B=b)\). Cho hai biến \(a\) và \(b\) bất kỳ, xác suất đồng thời cho ta biết xác suất để cả \(A=a\) và \(B=b\) đều xảy ra. Ta có thể thấy rằng với mọi giá trị \(a\) và \(b\), \(P(A=a, B=b) \leq P(A=a)\). Bởi để \(A=a\) và \(B=b\) xảy ra thì \(A=a\) phải xảy ra và \(B=b\) cũng phải xảy ra (và ngược lại). Do đó, khả năng \(A=a\) và \(B=b\) xảy ra đồng thời không thể lớn hơn khả năng \(A=a\) hoặc \(B=b\) xảy ra một cách độc lập được.
2.6.2.2. Xác suất có điều kiện¶
Điều này giúp ta thu được một tỉ lệ thú vị: \(0 \leq \frac{P(A=a, B=b)}{P(A=a)} \leq 1\). Chúng ta gọi tỉ lệ này là xác suất có điều kiện và ký hiệu là \(P(B=b \mid A=a)\): xác suất để \(B=b\), với điều kiện \(A=a\) đã xảy ra.
2.6.2.3. Định lý Bayes¶
Sử dụng định nghĩa của xác suất có điều kiện, chúng ta có thể thu được một trong những phương trình nổi tiếng và hữu dụng nhất trong thống kê: định lý Bayes. Cụ thể như sau: Theo định nghĩa chúng ta có quy tắc nhân \(P(A, B) = P(B \mid A) P(A)\). Tương tự, ta cũng có \(P(A, B) = P(A \mid B) P(B)\). Giả sử \(P(B) > 0\). Kết hợp các điều kiện trên ta có:
Lưu ý rằng ở đây chúng ta sử dụng ký hiệu ngắn gọn hơn, với \(P(A, B)\) là xác suất đồng thời và \(P(A \mid B)\) là xác suất có điều kiện. Các phân phối này có thể được tính tại các giá trị cụ thể \(A = a, B=b\).
2.6.2.4. Phép biên hóa¶
Định lý Bayes rất hữu ích nếu chúng ta muốn suy luận một điều gì đó từ một điều khác, như là nguyên nhân và kết quả, nhưng ta chỉ biết các đặc tính theo chiều ngược lại, như ta sẽ thấy trong phần sau của chương này. Chúng ta cần làm một thao tác quan trọng để đạt được điều này, đó là phép biên hóa. Có thể hiểu là việc xác định \(P(B)\) từ \(P(A, B)\). Chúng ta có thể tính được xác suất của B bằng tổng xác suất kết hợp của A và B tại mọi giá trị có thể của A:
Công thức này cũng được biết đến với tên gọi quy tắc tổng. Xác suất hay phân phối thu được từ thao tác biên hóa được gọi là xác suất biên hoặc phân phối biên.
2.6.2.5. Tính độc lập¶
Một tính chất hữu ích khác cần kiểm tra là tính phụ thuộc và tính độc lập. Hai biến ngẫu nhiên \(A\) và \(B\) độc lập nghĩa là việc một sự kiện của \(A\) xảy ra không tiết lộ bất kỳ thông tin nào về việc xảy ra một sự kiện của \(B\). Trong trường hợp này \(P(B \mid A) = P(B)\). Các nhà thống kê thường biểu diễn điều này bằng ký hiệu \(A \perp B\). Từ định lý Bayes, ta có \(P(A \mid B) = P(A)\). Trong tất cả các trường hợp khác, chúng ta gọi \(A\) và \(B\) là hai biến phụ thuộc. Ví dụ, hai lần đổ liên tiếp của một con xúc xắc là độc lập. Ngược lại, vị trí của công tắc đèn và độ sáng trong phòng là không độc lập (tuy nhiên chúng không hoàn toàn xác định, vì bóng đèn luôn có thể bị hỏng, mất điện hoặc công tắc bị hỏng).
Vì \(P(A \mid B) = \frac{P(A, B)}{P(B)} = P(A)\) tương đương với \(P(A, B) = P(A)P(B)\), hai biến ngẫu nhiên là độc lập khi và chỉ khi phân phối đồng thời của chúng là tích các phân phối riêng lẻ của chúng. Tương tự, cho một biến ngẫu nhiên \(C\) khác, hai biến ngẫu nhiên \(A\) và \(B\) là độc lập có điều kiện khi và chỉ khi \(P(A, B \mid C) = P(A \mid C)P(B \mid C)\). Điều này được ký hiệu là \(A \perp B \mid C\).
2.6.2.6. Ứng dụng¶
Hãy thử nghiệm các kiến thức chúng ta vừa học. Giả sử rằng một bác sĩ phụ trách xét nghiệm AIDS cho một bệnh nhân. Việc xét nghiệm này khá chính xác và nó chỉ thất bại với xác suất \(1\%\), khi nó cho kết quả dương tính dù bệnh nhân khỏe mạnh. Hơn nữa, nó không bao giờ thất bại trong việc phát hiện HIV nếu bệnh nhân thực sự bị nhiễm bệnh. Ta sử dụng \(D_1\) để biểu diễn kết quả chẩn đoán (\(1\) nếu dương tính và \(0\) nếu âm tính) và \(H\) để biểu thị tình trạng nhiễm HIV (\(1\) nếu dương tính và \(0\) nếu âm tính). Table 2.6.1 liệt kê xác suất có điều kiện đó.
| Xác suất có điều kiện | \(H=1\) | \(H=0\) |
|---|---|---|
| \(P(D_1 = 1 \mid H)\) | 1 | 0.01 |
| \(P(D_1 = 0 \mid H)\) | 0 | 0.99 |
Lưu ý rằng tổng của từng cột đều bằng \(1\) (nhưng tổng từng hàng thì không), vì xác suất có điều kiện cần có tổng bằng \(1\), giống như xác suất. Hãy cùng tìm xác suất bệnh nhân bị AIDS nếu xét nghiệm trả về kết quả dương tính, tức \(P(H = 1 \mid D_1 = 1)\). Rõ ràng điều này sẽ phụ thuộc vào mức độ phổ biến của bệnh, bởi vì nó ảnh hưởng đến số lượng dương tính giả. Giả sử rằng dân số khá khỏe mạnh, ví dụ: \(P(H=1) = 0.0015\). Để áp dụng Định lý Bayes, chúng ta cần áp dụng phép biên hóa và quy tắc nhân để xác định
Do đó, ta có
Nói cách khác, chỉ có 13,06% khả năng bệnh nhân thực sự mắc bệnh AIDS, dù ta dùng một bài kiểm tra rất chính xác. Như ta có thể thấy, xác suất có thể trở nên khá phản trực giác.
Một bệnh nhân phải làm gì nếu nhận được tin dữ như vậy? Nhiều khả năng họ sẽ yêu cầu bác sĩ thực hiện một xét nghiệm khác để làm rõ sự việc. Bài kiểm tra thứ hai có những đặc điểm khác và không tốt bằng bài thứ nhất, như ta có thể thấy trong Table 2.6.2.
| Xác xuất có điều kiện | \(H=1\) | \(H=0\) |
|---|---|---|
| \(P(D_2 = 1 \mid H)\) | 0.98 | 0.03 |
| \(P(D_2 = 0 \mid H)\) | 0.02 | 0.97 |
Không may thay, bài kiểm tra thứ hai cũng có kết quả dương tính. Hãy cùng tính các xác suất cần thiết để sử dụng định lý Bayes bằng cách giả định tính độc lập có điều kiện:
Bây giờ chúng ta có thể áp dụng phép biên hóa và quy tắc nhân xác suất:
Cuối cùng xác suất bệnh nhân mắc bệnh AIDS qua hai lần dương tính là
Cụ thể hơn, thử nghiệm thứ hai mang lại độ tin cậy cao hơn rằng không phải mọi chuyện đều ổn. Mặc dù bài kiểm tra thứ hai kém chính xác hơn bài đầu, nó vẫn cải thiện đáng kể dự đoán.
2.6.3. Kỳ vọng và Phương sai¶
Để tóm tắt những đặc tính then chốt của các phân phối xác suất, chúng ta cần một vài phép đo. Kỳ vọng (hay trung bình) của một biến ngẫu nhiên \(X\), được ký hiệu là
Khi giá trị đầu vào của phương trình \(f(x)\) là một biến ngẫu nhiên nhiên cho trước theo phân phối \(P\) với các giá trị \(x\) khác nhau, kỳ vọng của \(f(x)\) sẽ được tính theo phương trình:
Trong nhiều trường hợp, chúng ta muốn đo độ lệch của biến ngẫu nhiên \(X\) so với kỳ vọng của nó. Đại lượng này có thể được đo bằng phương sai
Nếu lấy căn bậc hai của kết quả ta sẽ được độ lệch chuẩn. Phương sai của một hàm của một biến ngẫu nhiên đo độ lệch của hàm số đó từ kỳ vọng của nó khi các giá trị \(x\) khác nhau được lấy mẫu từ phân phối của biến ngẫu nhiên đó:
2.6.4. Tóm tắt¶
- Chúng ta có thể sử dụng MXNet để lấy mẫu từ phân phối xác suất.
- Các biến ngẫu nhiên có thể được phân tích bằng các phương pháp như phân phối đồng thời (joint distribution), phân phối có điều kiện (conditional distribution), định lý Bayes, phép biên hóa (marginalization) và giả định độc lập (independence assumptions).
- Kỳ vọng và phương sai là các phép đo hữu ích để tóm tắt các đặc điểm chính của phân phối xác suất.
2.6.5. Bài tập¶
- Tiến hành \(m=500\) nhóm thí nghiệm với mỗi nhóm lấy ra \(n=10\) mẫu. Thay đổi \(m\) và \(n\). Quan sát và phân tích kết quả của thí nghiệm.
- Cho hai sự kiện với xác suất \(P(\mathcal{A})\) và \(P(\mathcal{B})\), tính giới hạn trên và dưới của \(P(\mathcal{A} \cup \mathcal{B})\) và \(P(\mathcal{A} \cap \mathcal{B})\). (Gợi ý: sử dụng biểu đồ Venn.)
- Giả sử chúng ta có các biến ngẫu nhiên \(A\), \(B\) và \(C\), với \(B\) chỉ phụ thuộc \(A\), và \(C\) chỉ phụ thuộc vào \(B\). Làm thế nào để đơn giản hóa xác suất đồng thời của \(P(A, B, C)\)? (Gợi ý: đây là một Chuỗi Markov.)
- Trong Section 2.6.2.6, bài xét nghiệm đầu tiên có độ chính xác cao hơn. Vậy tại sao chúng ta không sử dụng bài xét nghiệm đầu tiên cho lần thử tiếp theo?
2.6.6. Thảo luận¶
2.6.7. Những người thực hiện¶
Bản dịch trong trang này được thực hiện bởi:
- Đoàn Võ Duy Thanh
- Nguyễn Văn Tâm
- Vũ Hữu Tiệp
- Nguyễn Cảnh Thướng
- Lê Khắc Hồng Phúc
- Phạm Hồng Vinh
- Mai Sơn Hải
- Trần Kiến An
- Tạ H. Duy Nguyên
- Phạm Minh Đức
- Trần Thị Hồng Hạnh
- Lê Thành Vinh
- Nguyễn Minh Thư