Định lý giới hạn trung tâm

Trong xác suất thống kê, định lý giới hạn trung tâm (Tiếng Anh: Central Limit Theorem - CLT) phát biểu rằng, dưới các điều kiện thích hợp thì một phân phối xác suất khi được chuẩn hóa của trung bình mẫu sẽ hội tụ đến phân phối chuẩn tắc, dù phân phối ban đầu có thể không chuẩn. Định lí này đóng vai trò trung tâm trong lí thuyết xác suất, bởi nhờ định lí này mà các phương pháp vốn có thể sử dụng trong nghiên cứu phân phối chuẩn tắc cũng có thể được sử dụng để nghiên cứu các phân phối khác.

Tập tin:Dice sum central limit theorem.svg

Tổng các kết quả đầu ra khi gieo một con xúc sắc sẽ có xu hướng tuân theo phân phối chuẩn khi số lần gieo xúc sắc tăng lên

Có nhiều phiên bản khác nhau của định lí này, phụ thuộc vào các điều kiện được đưa ra. Ngoài ra, theo dòng phát triển của lí thuyết xác suất, định lí này cũng đã được phát triển; với những phiên bản đầu tiên từ năm 1811. Tuy nhiên, dạng hiện đại của CLT chỉ xuất hiện từ những năm 1920.^[1]

Định lý giới hạn trung tâm

Cho X₁, X₂... là tập hợp các biến ngẫu nhiên được định nghĩa trên cùng một không gian xác suất, có cùng phân phối D và độc lập lẫn nhau. Giả sử giá trị kỳ vọng $μ$ và độ lệch chuẩn $σ$ của phân phối D là tồn tại và hữu hạn ( $σ \neq 0$ ).

Xét tổng S_n = X₁ + ... + X_n. Ta có S_n có kỳ vọng là nμ và độ lệch chuẩn σ n^½. Khi đó, phân phối của S_n hội tụ về phân phối chuẩn N(nμ,σ²n) khi n tiến về vô cùng.

Để làm rõ hơn sự hội tụ này, ta đặt:

Z_{n} = \frac{S_{n} - n μ}{σ \sqrt{n}} .

để có được kỳ vọng và độ lệch chuẩn của $Z_{n}$ lần lượt là 0 và 1.

Nếu phân phối của Z_n hội tụ về phân phối chuẩn N(0,1) khi n tiến về vô cùng (tức là hội tụ theo phân phối), thì cũng có nghĩa là: nếu Φ là hàm phân phối tích lũy của N(0,1), thì với mọi số thực z:

lim_{n \to \infty} P (Z_{n} \leq z) = Φ (z),

Hay một cách tương đương:

lim_{n \to \infty} P (\frac{{\overline{X}}_{n} - μ}{σ / \sqrt{n}} \leq z) = Φ (z)

trong đó

{\overline{X}}_{n} = S_{n} / n = (X_{1} + \dots + X_{n}) / n

Chứng minh định lý giới hạn trung tâm

Mặc dù đây là định lý quan trọng trong thống kê và xác suất ứng dụng nhưng phần chứng minh của nó khá đơn giản bằng cách sử dụng các hàm đặc trưng, nó gần giống với phần chứng minh của luật số lớn.

Ta có với mọi i, $Y_{i} = \frac{X_{i} - μ}{σ}$ có kỳ vọng 0 và độ lệch chuẩn 1, với hàm đặc trưng được khai triển giới hạn dưới dạng:

φ_{Y_{i}} (t) = 1 - \frac{t^{2}}{2} + o (t^{2}), t \to 0.

Ta có:

Z_{n} = \frac{{\overline{X}}_{n} - μ}{σ / \sqrt{n}} = \sum_{i = 1}^{n} \frac{Y_{i}}{\sqrt{n}} .

Từ các tính chất cơ bản của hàm đặc trưng, ta suy ra hàm đặc trưng của Z_n là

φ_{Z_{n}} (t) = {[φ_{Y_{i}} (\frac{t}{\sqrt{n}})]}^{n} = {[1 - \frac{t^{2}}{2 n} + o (\frac{t^{2}}{n})]}^{n} \to e^{- t^{2} / 2}

khi

n \to + \infty .

Giới hạn này là hàm đặc trưng của phân phối chuẩn N(0,1). Từ đó định lý giới hạn trung tâm được chứng minh nhờ vào định lý về tính liên tục của Levy, trong đó có nói rằng, sự hội tụ của các hàm đặc trưng cho phép suy ra sự hội tụ theo phân phối.

Nếu mômen bậc 3 E[(X - μ)³] tồn tại và hữu hạn, thì ta có hội tụ đều (uniform), và vận tốc hội tụ có bậc ít nhất là 1/n^½ (xem định lý Berry-Esseen).

Trong các ứng dụng thực tế, định lý này cho phép thay thế tổng vô cùng lớn nhưng hữu hạn các biến ngẫu nhiên bằng một biến ngẫu nhiên có phân phối chuẩn, như vầy sẽ dễ dàng thao tác, tính toán hơn.

Các suy rộng từ định lý

Hàm phân phối xác suất

Hàm phân phối xác suất của tổng nhiều biến ngẫu nhiên độc lập được xác định bởi hàm xoắn (convolution) từ các hàm phân phối xác suất của các biến ngẫu nhiên đó. Từ định lý giới hạn trung tâm, ta có thể suy ra, hàm xoắn này hội tụ về một hàm phân phối xác suất chuẩn khi số biến ngẫu nhiên tăng vô hạn.

Tích các biến ngẫu nhiên

Định lý giới hạn trung tâm phát biểu cho tổng các biến ngẫu nhiên độc lập, câu hỏi là chuyện gì xảy ra với tích của các biến ngẫu nhiên độc lập?

Ta biết rằng, lôgarit (log) của tích các số hạng thì bằng tổng lôgarit các số hạng. Định lý giới hạn trung tâm cho biết tổng lôgarit, và do đó lôgarit của tích, hội tụ về biến ngẫu nhiên phân phối chuẩn. Từ đó suy ra tích các biến ngẫu nhiên hội tụ về một biến ngẫu nhiên có phân phối chuẩn-lôgarit (log-normal).

Các định lý giới hạn trung tâm mở rộng

Điều kiện Lyapunov

Xét X_n là một dãy các biến ngẫu nhiên được định nghĩa trên cùng một không gian xác suất, không nhất thiết có cùng phân phối. Giả sử X_i có kỳ vọng hữu hạn μ_i và độ lệch chuẩn hữu hạn σ_i. Ta định nghĩa:

s_{n}^{2} = \sum_{i = 1}^{n} σ_{i}^{2} .

Giả sử các mômen bậc 3

r_{i}^{3} = E ({| X_{i} - μ_{i} |}^{3})

là hữu hạn với mọi i và

lim_{n \to \infty} \frac{r_{n}}{s_{n}} = 0.

Các điều kiện trên được gọi la điều kiện Lyapunov.

Ta xét tổng mới S_n=X₁+...+X_n. Kỳ vọng của S_n là m_n = ∑_i=1..nμ_i và độ lệch chuẩn là s_n. Nếu ta chuẩn hóa S_n bằng cách đặt

Z_{n} = \frac{S_{n} - m_{n}}{s_{n}}

thì phân phối xác suất của Z_n hội tụ về phân phối chuẩn N(0,1).

Điều kiện Lindeberg

Với các giả thiết ban đầu như trong điều kiện Lyapunov.

Với mọi ε > 0

lim_{n \to \infty} \sum_{i = 1}^{n} E (\frac{(X_{i} - μ_{i})^{2}}{s_{n}^{2}} : | X_{i} - μ_{i} | > ϵ s_{n}) = 0

trong đó E(U: V > c) là kỳ vọng có điều kiện: kỳ vọng của U với điều kiện V > c. Khi đó phân phối xác suất của Z_n hội tụ về phân phối chuẩn N(0,1).

Trường hợp các biến ngẫu nhiên không độc lập

Có một số định lý nghiên cứu trường hợp tổng của các biến ngẫu nhiên không độc lập, ví dụ định lý giới han trung tâm m-phụ thuộc (m-dependent central limit theorem), định lý giới hạn trung tâm martingal (martingale central limit theorem) và định lý giới hạn trung tâm cho quá trình hỗn hợp (central limit theorem for mixing processes).^[2]

Tham khảo

^ Fischer, Hans (2011). A History of the Central Limit Theorem: From Classical to Modern Probability Theory (PDF). Sources and Studies in the History of Mathematics and Physical Sciences. New York: Springer. doi:10.1007/978-0-387-87857-7. ISBN 978-0-387-87856-0. MR 2743162. Zbl 1226.60004. Lưu trữ (PDF) bản gốc ngày 31 tháng 10 năm 2017.
^ Van Huu, Nguyen; Hoang, Vuong Quan; Ngoc, Tran Minh (2005). "Central Limit Theorem for Functional of Jump Markov Processes". Vietnam Journal of Mathematics. 33 (4): 443–461.

Liên kết ngoài

Central Limit Theorem Java Lưu trữ ngày 17 tháng 9 năm 2007 tại Wayback Machine
Central Limit Theorem chương trình mô phỏng thực nghiệm định lý giới hạn trung tâm.

Bản mẫu:Thống kê

[1] Fischer, Hans (2011). A History of the Central Limit Theorem: From Classical to Modern Probability Theory (PDF). Sources and Studies in the History of Mathematics and Physical Sciences. New York: Springer. doi:10.1007/978-0-387-87857-7. ISBN 978-0-387-87856-0. MR 2743162. Zbl 1226.60004. Lưu trữ (PDF) bản gốc ngày 31 tháng 10 năm 2017.

[2] Van Huu, Nguyen; Hoang, Vuong Quan; Ngoc, Tran Minh (2005). "Central Limit Theorem for Functional of Jump Markov Processes". Vietnam Journal of Mathematics. 33 (4): 443–461.

[1]

[2]