Overfitting

Overfitting (Quá khớp) là gì?

Overfitting là hiện tượng mô hình thống kê hoặc máy học học quá chi tiết các đặc điểm đặc thù (bao gồm cả nhiễu) trong tập dữ liệu huấn luyện, dẫn đến độ chính xác rất cao trên dữ liệu cũ nhưng suy giảm nghiêm trọng khi dự báo dữ liệu mới. Trong ngân hàng, đây là rủi ro lớn vì mô hình chấm điểm tín dụng nếu bị overfitting sẽ không phát hiện được các hồ sơ vay gian lận trong tương lai.

Đặc điểm chính

• Phương sai cao, độ chệch thấp: mô hình bám sát từng quan sát huấn luyện.
• Khoảng cách train-test lớn: điểm AUC trên tập test thấp hơn tập train đáng kể (thường chênh lệch trên 10%).
• Số biến quá nhiều so với số quan sát, hoặc mô hình cây có độ sâu quá lớn.
• Thiếu kiểm định chéo (cross-validation): dẫn đến đánh giá quá lạc quan.

Ví dụ thực tế

Một ngân hàng xây dựng mô hình chấm điểm tín dụng trên 5.000 hồ sơ vay trong năm 2023 với 80 biến (gồm cả biến ID khách hàng). Mô hình đạt AUC 0,98 trên tập train nhưng chỉ đạt 0,65 trên tập test 2024 — đây là dấu hiệu overfitting rõ rệt. Theo Thông tư 13/2018/TT-NHNN về hệ thống xếp hạng tín dụng nội bộ, ngân hàng phải đảm bảo mô hình có khả năng dự báo ổn định ngoài mẫu (out-of-sample validation).

Cách khắc phục

• Tăng dữ liệu huấn luyện hoặc loại bỏ biến không ý nghĩa.
• Áp dụng regularization (L1, L2), giảm độ phức tạp mô hình.
• Dùng k-fold cross-validation và kiểm định trên dữ liệu ngoài mẫu.