- SHAP và LIME giải thích từng dự đoán riêng lẻ (giải thích cục bộ) mà không cần biết bên trong mô hình: chỉ cần gọi mô hình trên các đầu vào đã chỉnh.
- LIME lấy mẫu quanh điểm cần giải thích, khớp một mô hình tuyến tính có trọng số theo độ gần. Nhanh và linh hoạt, nhưng kết quả phụ thuộc cách chọn nhân và có thể không cộng đủ.
- SHAP dùng giá trị Shapley, cách chia duy nhất thỏa ba tính chất: cộng đủ, đặc trưng vắng mặt nhận 0, và nhất quán. Kernel SHAP chính là LIME với một nhân đặc biệt.
- SHAP giải thích mô hình chứ không giải thích thế giới: không phải quan hệ nhân quả, và con số phụ thuộc vào hồ sơ nền cũng như giả định các đặc trưng độc lập.
Bài dựa trên bản PDF của hai bài báo: SHAP (Lundberg và Lee, NeurIPS 2017, arXiv 1705.07874v2) và LIME (Ribeiro, Singh và Guestrin, KDD 2016, arXiv 1602.04938v3), đọc ngày 12/11/2026. Các mô hình hay được giải thích bằng hai cách này là cây quyết định, rừng ngẫu nhiên và gradient boosting; bài này không giảng lại các mô hình đó.
Explainable AI và giải thích cục bộ
AI giải thích được (explainable AI) là nhóm kỹ thuật trả lời câu hỏi "vì sao mô hình đưa ra kết quả này". Có hai cấp: giải thích toàn cục cho biết mô hình nói chung dựa vào đặc trưng nào; giải thích cục bộ cho biết một dự đoán cụ thể, ví dụ hồ sơ vay của một người, đến từ đâu. SHAP và LIME thuộc loại thứ hai.
Bài báo LIME mở đầu bằng lập luận: độ chính xác trên tập kiểm định chưa đủ để tin một mô hình. Họ cố ý huấn luyện một bộ phân loại tồi để phân biệt sói và chó husky, từ 20 ảnh chọn sao cho mọi ảnh sói đều có tuyết ở nền. Mô hình học đúng một quy tắc: có tuyết thì đoán sói. Khi cho 27 học viên cao học (đã học ít nhất một môn học máy) xem dự đoán không kèm giải thích, 10 người tin mô hình và 12 người đoán ra chuyện tuyết. Sau khi xem giải thích của LIME, chỉ còn 3 người tin, và 25 người chỉ ra tuyết là thứ mô hình đang dựa vào.
LIME: một mô hình tuyến tính quanh điểm cần giải thích
LIME (Local Interpretable Model-agnostic Explanations) tìm một mô hình đơn giản g, thường là tuyến tính, bắt chước mô hình f ở gần điểm x (phương trình 1 của bài báo):
\[\xi(x) = \arg\min_{g \in G} \; \mathcal{L}(f, g, \pi_x) + \Omega(g)\]
Ba thành phần cần chọn. Thứ nhất là cách biểu diễn dễ hiểu: với văn bản là từ có hay không có, với ảnh là từng vùng điểm ảnh (superpixel) giữ nguyên hay tô xám, với bảng số là đặc trưng giữ nguyên hay thay bằng giá trị nền. Thứ hai là nhân khoảng cách \(\pi_x(z) = \exp(-D(x, z)^2 / \sigma^2)\): mẫu càng giống x càng được coi trọng. Thứ ba là độ phức tạp \(\Omega(g)\), ở đây là giới hạn chỉ giữ K đặc trưng, chọn bằng Lasso rồi khớp lại bằng bình phương tối thiểu. Hàm mất mát là sai số bình phương có trọng số giữa f và g trên các mẫu lấy quanh x.
Bài báo ghi giải thích một dự đoán của rừng ngẫu nhiên 1.000 cây với 5.000 mẫu mất chưa tới 3 giây trên máy xách tay, còn một dự đoán của mạng Inception cho ảnh mất khoảng 10 phút (phần cứng năm 2016). Nhóm tác giả cũng thừa nhận: nếu mô hình phi tuyến mạnh ngay trong vùng lân cận thì không có giải thích tuyến tính nào trung thực.
Giá trị Shapley: chia công bằng
SHAP (SHapley Additive exPlanations) coi các đặc trưng là người chơi trong một trò chơi hợp tác, còn dự đoán là phần thưởng. Gọi \(f(S)\) là đầu ra của mô hình khi chỉ biết các đặc trưng trong tập S. Phần của đặc trưng i là trung bình có trọng số của phần nó thêm vào, xét trên mọi tập S không chứa nó (phương trình 8, viết theo tập hợp):
\[\begin{aligned} \phi_i = \sum_{S \subseteq F \setminus \{i\}} & \frac{|S|!\,(M - |S| - 1)!}{M!} \\ & \times \big[f(S \cup \{i\}) - f(S)\big] \end{aligned}\]
với M là số đặc trưng. Định lý 1 của bài báo nói đây là cách chia duy nhất thỏa đồng thời ba tính chất: cộng đủ (tổng các phần cộng giá trị nền bằng đúng dự đoán), đặc trưng vắng mặt nhận 0, và nhất quán (mô hình dựa vào một đặc trưng nhiều hơn thì phần của nó không giảm). Hệ quả là các cách giải thích không dựa trên giá trị Shapley, kể cả LIME, phải vi phạm cộng đủ hoặc nhất quán. Trong thử nghiệm với người dùng trên Amazon Mechanical Turk, giải thích của SHAP khớp với cách con người chia công nhiều hơn hẳn LIME và DeepLIFT.
Còn một chỗ phải chọn: "chỉ biết các đặc trưng trong S" nghĩa là gì? Bài báo định nghĩa \(f(S)\) là kỳ vọng của đầu ra khi biết các đặc trưng đó. Khi coi các đặc trưng độc lập (phương trình 11), ta tính nó bằng cách thay các đặc trưng còn lại bằng giá trị của dữ liệu nền. Đoạn code dưới đây dùng một hồ sơ nền duy nhất cho dễ tính tay.
Tính SHAP chính xác trên một mô hình nhỏ
Mô hình đồ chơi chấm điểm một hồ sơ vay: \(f = 0{,}3 + 0{,}05\,x_1 - 0{,}4\,x_2 + 0{,}1\,x_1 x_3\), với \(x_1\) là thu nhập (chục triệu đồng mỗi tháng), \(x_2\) là tỉ lệ nợ trên thu nhập, \(x_3\) là có tài sản đảm bảo hay không. Số hạng cuối là tương tác: có tài sản thì thu nhập càng có giá. Hồ sơ nền là (1,5; 0,3; 0), hồ sơ cần giải thích là (2,5; 0,5; 1).
"""Giá trị Shapley chính xác, Kernel SHAP và LIME trên một mô hình chấm điểm vay vốn 3 đặc trưng (numpy).
Mô hình đồ chơi: f(x) = 0,3 + 0,05·thu_nhap - 0,4·ty_le_no + 0,1·thu_nhap·tai_san
(thu nhập tính bằng chục triệu đồng/tháng, tỉ lệ nợ trên thu nhập từ 0 đến 1, tài sản đảm bảo 0 hoặc 1).
"Bỏ" một đặc trưng nghĩa là thay nó bằng giá trị của một hồ sơ nền (trung bình), như SHAP khi coi các đặc trưng độc lập.
Chạy: python shap_lime.py (cần numpy)
"""
from itertools import combinations, product
from math import comb, factorial
import numpy as np
TEN = ["thu nhập", "tỉ lệ nợ", "tài sản"]
NEN = np.array([1.5, 0.3, 0.0]) # hồ sơ nền: 15 triệu/tháng, nợ 30% thu nhập, không có tài sản đảm bảo
HO_SO = np.array([2.5, 0.5, 1.0]) # hồ sơ cần giải thích
def mo_hinh(x):
return 0.3 + 0.05 * x[0] - 0.4 * x[1] + 0.1 * x[0] * x[2]
def v(f, x, nen, tap):
"""Giá trị của liên minh `tap`: giữ đặc trưng trong tap theo x, các đặc trưng khác lấy theo hồ sơ nền."""
z = nen.copy()
z[list(tap)] = x[list(tap)]
return f(z)
def shapley_chinh_xac(f, x, nen):
"""Phương trình 8 của Lundberg và Lee: duyệt mọi tập con S không chứa i, trọng số |S|!(M-|S|-1)!/M!."""
m = len(x)
phi = np.zeros(m)
for i in range(m):
khac = [j for j in range(m) if j != i]
for r in range(m):
for S in combinations(khac, r):
w = factorial(r) * factorial(m - r - 1) / factorial(m)
phi[i] += w * (v(f, x, nen, S + (i,)) - v(f, x, nen, S))
return phi
def hoi_quy_trong_so(Z, y, w):
"""Bình phương tối thiểu có trọng số, có hệ số tự do: giải (A^T W A) b = A^T W y với A = [1, Z]."""
A = np.hstack([np.ones((len(Z), 1)), Z])
W = np.diag(w)
return np.linalg.solve(A.T @ W @ A, A.T @ W @ y)
def kernel_shap(f, x, nen):
"""Định lý 2: hồi quy có trọng số với nhân Shapley (M-1) / (C(M,|z|) |z| (M-|z|)) trên mọi liên minh.
Hai liên minh rỗng và đầy đủ có trọng số vô cùng; ta khử chúng bằng ràng buộc phi_0 = f(nền), tổng phi = f(x) - f(nền)."""
m = len(x)
phi0, delta = v(f, x, nen, ()), v(f, x, nen, tuple(range(m))) - v(f, x, nen, ())
hang, y, w = [], [], []
for z in product([0, 1], repeat=m):
k = sum(z)
if 0 < k < m:
tap = tuple(i for i in range(m) if z[i])
hang.append([z[i] - z[-1] for i in range(m - 1)]) # thay phi_M = delta - tổng các phi khác
y.append(v(f, x, nen, tap) - phi0 - z[-1] * delta)
w.append((m - 1) / (comb(m, k) * k * (m - k)))
A, y, W = np.array(hang, float), np.array(y), np.diag(w)
phi = np.linalg.solve(A.T @ W @ A, A.T @ W @ y)
return np.append(phi, delta - phi.sum())
def lime(f, x, nen, sigma=1.0):
"""LIME trên cùng 8 liên minh (không lấy mẫu ngẫu nhiên): nhân mũ exp(-D^2 / sigma^2), D là khoảng cách tới x."""
Z = np.array(list(product([0, 1], repeat=len(x))), float)
y = np.array([v(f, x, nen, tuple(np.flatnonzero(z))) for z in Z])
d = np.sqrt(((1 - Z) ** 2).sum(axis=1))
return hoi_quy_trong_so(Z, y, np.exp(-d ** 2 / sigma ** 2))[1:]
def chay_thu():
nen, x = mo_hinh(NEN), mo_hinh(HO_SO)
print(f"f(hồ sơ nền) = {nen:.3f}, f(hồ sơ) = {x:.3f}, chênh lệch {x - nen:+.3f}")
for ten, phi in (("Shapley chính xác", shapley_chinh_xac(mo_hinh, HO_SO, NEN)),
("Kernel SHAP", kernel_shap(mo_hinh, HO_SO, NEN)),
("LIME, sigma = 1", lime(mo_hinh, HO_SO, NEN))):
print(f"{ten:18s}: " + ", ".join(f"{t} {p:+.3f}" for t, p in zip(TEN, phi)) + f"; tổng {phi.sum():+.3f}")
if __name__ == "__main__":
chay_thu()
Bạn có thể tính tay để kiểm. Tỉ lệ nợ không tương tác với gì, nên phần của nó là \(-0{,}4 \times (0{,}5 - 0{,}3) = -0{,}08\); đó cũng là hệ quả 1 của bài báo (Linear SHAP): với mô hình tuyến tính, \(\phi_i = w_i (x_i - \mathbb{E}[x_i])\). Phần tuyến tính của thu nhập cho \(0{,}05 \times 1 = 0{,}05\). Số hạng tương tác đáng giá 0,25 ở hồ sơ và 0 ở nền; chia theo công thức Shapley cho hai người chơi, thu nhập nhận 0,05 và tài sản nhận 0,20. Cộng lại: thu nhập 0,10, tỉ lệ nợ −0,08, tài sản 0,20, tổng 0,22.
Dòng Kernel SHAP cho đúng ba số đó bằng một con đường khác: hồi quy tuyến tính có trọng số trên 8 liên minh, với nhân Shapley của định lý 2. Đây là liên hệ quan trọng nhất của bài báo: LIME và SHAP cùng là hồi quy có trọng số, chỉ khác nhân. Dòng LIME dùng nhân mũ quen thuộc trên đúng 8 liên minh đó (LIME thật lấy mẫu ngẫu nhiên; ở đây duyệt đủ để kết quả cố định) và cho thu nhập +0,123, tài sản +0,223: hai đặc trưng có tương tác được chia khác đi, và tổng 0,266 không còn bằng 0,22. LIME mô tả độ dốc của mô hình gần hồ sơ, không chia phần chênh lệch so với nền.
Về chi phí, tính chính xác cần duyệt \(2^M\) liên minh, tức O(2^M) lần gọi mô hình: được với 3 đặc trưng, không được với 100. Bài báo ghi hồi quy của Kernel SHAP tốn O(2^M + M^3) nếu duyệt hết, nên thực tế người ta lấy mẫu các liên minh. Với mô hình đặc biệt có cách nhanh hơn: Linear SHAP có công thức đóng, Deep SHAP ghép giá trị Shapley của từng lớp trong mạng nơ-ron.
Đọc kết quả SHAP cho đúng
Giá trị SHAP trả lời "mô hình dựa vào đâu", không trả lời "điều gì gây ra kết quả". Nếu mô hình học một tương quan giả, như tuyết và sói, SHAP sẽ báo đúng sự thật đó về mô hình. Con số cũng phụ thuộc vào dữ liệu nền: so với một hồ sơ nền khác, cùng mô hình và cùng hồ sơ sẽ cho các phần khác. Khi các đặc trưng tương quan mạnh, cách thay giá trị nền theo giả định độc lập tạo ra những hồ sơ không có thật, và giải thích có thể lệch. Một phép thử nhanh cho mọi công cụ: cộng các phần với giá trị nền xem có bằng đúng dự đoán không.
SHAP hay LIME
| LIME | SHAP | |
|---|---|---|
| Cơ sở | Hồi quy có trọng số theo độ gần | Giá trị Shapley của lý thuyết trò chơi |
| Các phần cộng đủ thành dự đoán | Không đảm bảo | Có (tính chất cộng đủ) |
| Phải tự chọn | Nhân, độ rộng σ, số đặc trưng K, cách lấy mẫu |
Dữ liệu nền, cách xấp xỉ khi M lớn |
| Hợp với | Văn bản, ảnh (từ, vùng điểm ảnh), xem nhanh | Bảng số, báo cáo cần con số nhất quán |
- Đọc SHAP như quan hệ nhân quả: nó chỉ mô tả mô hình đã học gì.
- Quên ghi dữ liệu nền: đổi nền là đổi con số.
- So giá trị SHAP của hai mô hình khác nhau như thể cùng một thang đo.
- Tin một lần chạy LIME: kết quả đổi theo mẫu ngẫu nhiên và độ rộng nhân; chạy vài lần và so.
- Dùng giải thích trên đặc trưng tương quan mạnh mà không kiểm: giả định độc lập tạo ra hồ sơ không có thật.
Câu hỏi thường gặp
SHAP values âm nghĩa là gì?
Đặc trưng đó kéo dự đoán xuống so với giá trị nền. Trong ví dụ, tỉ lệ nợ 50% (so với 30% của hồ sơ nền) kéo điểm xuống 0,08.
SHAP có dùng cho mạng nơ-ron được không?
Được. Kernel SHAP không cần biết bên trong mô hình; bài báo còn đề xuất Deep SHAP, nhanh hơn cho mạng nơ-ron.
Vì sao tổng giá trị SHAP bằng đúng dự đoán trừ giá trị nền?
Đó là tính chất cộng đủ, một trong ba tính chất mà định lý 1 dùng để chứng minh giá trị Shapley là cách chia duy nhất.
Khi nào nên dùng LIME?
Khi cần xem nhanh một dự đoán trên văn bản hay ảnh, với biểu diễn dễ hiểu như từ hoặc vùng ảnh. Nếu cần con số cộng đủ để báo cáo, dùng SHAP.
Học tiếp
- Mô hình hay được giải thích bằng SHAP: cây quyết định.
- Mô hình mạnh nhất cho bảng số, cũng là nơi SHAP hay dùng nhất: XGBoost và gradient boosting.
- Gộp nhiều cây và đo tầm quan trọng của đặc trưng: rừng ngẫu nhiên và ensemble learning.
Nếu bạn muốn học Python và AI bài bản cùng giảng viên, tham khảo khóa học AI của Big-O Coding.
Khóa AI – Introduction to Machine Learning: nền tảng Máy học từ thuật toán cơ bản đến Neural Networks và LLM, học bằng Python. Học thử buổi 1 miễn phí.


