- Ví dụ đối kháng (adversarial example) là đầu vào được thêm một nhiễu rất nhỏ, có chủ đích, khiến mô hình đoán sai, thường còn rất tự tin.
- Theo Goodfellow và cộng sự (2014), nguyên nhân chính là mô hình quá tuyến tính: ở
nchiều, mỗi chiều chỉ lệchεnhưng đầu ra có thể đổi tớiεnhân tổng trị tuyệt đối các trọng số. - FGSM đi một bước theo dấu của gradient; PGD đi nhiều bước nhỏ và chiếu về vùng cho phép. Huấn luyện chống nhiễu bằng PGD là cách phòng thủ đáng tin nhất trong các bài báo này, nhưng tốn tính toán và vẫn còn xa độ chính xác trên dữ liệu sạch.
- Với mô hình ngôn ngữ lớn, một chuỗi hậu tố tối ưu tự động có thể bẻ khóa nhiều mô hình cùng lúc; đó là chuyện khác với chèn lệnh vào ngữ cảnh.
Bài dựa trên bản PDF của bốn bài báo: Szegedy và cộng sự (arXiv 1312.6199v4), Goodfellow và cộng sự (arXiv 1412.6572v3), Madry và cộng sự (arXiv 1706.06083v4) và Zou và cộng sự (arXiv 2307.15043v2), đọc ngày 12/11/2026. Ví dụ code dùng hồi quy logistic; các thí nghiệm trong bài báo chủ yếu trên mạng tích chập.
Tấn công đối kháng là gì
Năm 2013, Szegedy và cộng sự báo cáo một tính chất "kỳ lạ" của mạng nơ-ron: chỉ cần thêm vào một ảnh thử một nhiễu khó nhận ra bằng mắt, mạng có thể đổi dự đoán sang bất kỳ lớp nào. Nhiễu này không ngẫu nhiên; nó được tìm bằng cách tối ưu chính đầu vào để mô hình sai nhiều nhất (họ dùng L-BFGS có ràng buộc hộp). Điều đáng lo hơn: cùng một ảnh đối kháng thường cũng đánh lừa được mạng khác, có số lớp khác, siêu tham số khác, thậm chí được huấn luyện trên một phần dữ liệu khác.
Bài này nói về tấn công lúc mô hình đang chạy: kẻ tấn công sửa đầu vào, còn mô hình giữ nguyên. Đó khác với đầu độc dữ liệu huấn luyện, và khác với chèn lệnh (prompt injection), nơi kẻ tấn công giấu câu lệnh bằng ngôn ngữ tự nhiên trong dữ liệu mà ứng dụng AI đọc. Khi kẻ tấn công biết hết trọng số để tính gradient, ta gọi là tấn công hộp trắng; khi chỉ gửi được đầu vào và xem kết quả, gọi là hộp đen.
Vì sao nhiễu nhỏ lại có tác dụng lớn
Goodfellow và cộng sự đưa ra một giải thích đơn giản. Xét một mô hình tuyến tính với trọng số w. Thêm nhiễu \(\eta\) vào đầu vào thì đầu ra đổi một lượng \(w^\top \eta\). Nếu mỗi chiều chỉ được lệch tối đa \(\epsilon\), lượng đổi lớn nhất đạt được khi chọn \(\eta = \epsilon\,\mathrm{sign}(w)\):
\[\begin{aligned} w^\top (x + \eta) &= w^\top x + w^\top \eta \\ \max_{\|\eta\|_\infty \le \epsilon} w^\top \eta &= \epsilon \, \|w\|_1 \end{aligned}\]
Nếu w có n chiều và trung bình mỗi trọng số có độ lớn m, đầu ra đổi khoảng \(\epsilon m n\). Độ lớn của nhiễu theo từng chiều không tăng theo số chiều, nhưng tác dụng của nó tăng tuyến tính theo n. Một ảnh có hàng nghìn điểm ảnh là hàng nghìn thay đổi rất nhỏ cùng đẩy về một phía. Bài báo lập luận rằng các mạng ReLU, LSTM hay maxout được thiết kế để chạy gần tuyến tính cho dễ tối ưu, nên chúng thừa hưởng đúng điểm yếu này; kết luận của họ là mô hình "quá tuyến tính" chứ không phải "quá phi tuyến".
FGSM: một bước theo dấu gradient
Từ giải thích tuyến tính suy ra một cách tấn công rất rẻ, gọi là phương pháp dấu gradient nhanh (FGSM, fast gradient sign method). Gọi \(J(\theta, x, y)\) là hàm mất mát của mô hình với tham số \(\theta\), đầu vào x, nhãn y:
\[\eta = \epsilon \, \mathrm{sign}\big(\nabla_x J(\theta, x, y)\big)\]
Chỉ cần một lần lan truyền ngược. Kết quả trong bài báo: với GoogLeNet trên ImageNet, ảnh gấu trúc được nhận đúng với 57,7% độ tin cậy; cộng nhiễu với \(\epsilon = 0{,}007\), mức ứng với bit nhỏ nhất của ảnh 8 bit, mô hình đoán là vượn gibbon với 99,3%. Trên MNIST với \(\epsilon = 0{,}25\), một bộ phân loại softmax nông sai 99,9% ảnh đối kháng (độ tin trung bình 79,3%), mạng maxout sai 89,4% (độ tin 97,6%). Trên CIFAR-10 với \(\epsilon = 0{,}1\), mạng tích chập maxout sai 87,15%.
Code numpy: FGSM và PGD
Đoạn code dưới đây tấn công hai mô hình. Mô hình thứ nhất là hồi quy logistic trên 784 "điểm ảnh" (cỡ một ảnh 28×28), trọng số ngẫu nhiên, chỉnh sao cho mô hình tin 82% ảnh thuộc lớp 1. Mô hình thứ hai là một mạng nhỏ có một lớp ẩn, để thấy khác biệt giữa FGSM và PGD.
"""Tấn công đối kháng bằng numpy: FGSM trên hồi quy logistic 784 chiều, rồi FGSM và PGD trên một mạng nhỏ.
Chạy: python fgsm_pgd.py (cần numpy)
"""
import numpy as np
def sigmoid(t):
return 1 / (1 + np.exp(-t))
# ---- Mô hình 1: hồi quy logistic, p(lớp 1 | x) = sigmoid(w·x + b)
def grad_logistic(w, b, x, y):
"""Gradient theo x của mất mát entropy chéo -[y log p + (1 - y) log(1 - p)]: (p - y) · w."""
return (sigmoid(w @ x + b) - y) * w
def fgsm(x, g, eps):
"""Goodfellow và cộng sự (2014): x' = x + eps · sign(gradient), rồi giữ điểm ảnh trong [0, 1]."""
return np.clip(x + eps * np.sign(g), 0.0, 1.0)
# ---- Mô hình 2: mạng một lớp ẩn, p = sigmoid(v · tanh(W x))
def mang(W, v, x):
return sigmoid(v @ np.tanh(W @ x))
def grad_mang(W, v, x, y):
h = np.tanh(W @ x)
return (sigmoid(v @ h) - y) * (W.T @ (v * (1 - h ** 2)))
def pgd(x0, ham_grad, eps, alpha, so_buoc):
"""Madry và cộng sự (2017): lặp bước dấu gradient cỡ alpha, sau mỗi bước chiếu về hình hộp |x - x0| <= eps và [0, 1]."""
x = x0.copy()
for _ in range(so_buoc):
x = x + alpha * np.sign(ham_grad(x))
x = np.clip(np.clip(x, x0 - eps, x0 + eps), 0.0, 1.0)
return x
def mat_mat(p, y):
return float(-(y * np.log(p) + (1 - y) * np.log(1 - p)))
def chay_thu():
rng = np.random.default_rng(0)
n = 784 # số điểm ảnh của một ảnh 28×28
w = rng.normal(0, 0.1, n)
x = rng.uniform(0.2, 0.8, n) # ảnh "sạch", không điểm nào sát biên 0 hay 1
b = 1.5 - w @ x # chỉnh để logit ban đầu bằng 1,5: mô hình tin 82% là lớp 1
eps = 0.03 # khoảng 8/255, mức Madry và cộng sự dùng cho CIFAR-10
x_dk = fgsm(x, grad_logistic(w, b, x, 1.0), eps)
print(f"Logistic 784 chiều: p(lớp 1) {sigmoid(w @ x + b):.3f} -> {sigmoid(w @ x_dk + b):.3f} sau FGSM, eps = {eps}")
print(f" logit giảm {(w @ x - w @ x_dk):.3f}, đúng bằng eps × tổng |w| = {eps * np.abs(w).sum():.3f}")
print(f" điểm ảnh lệch nhiều nhất {np.abs(x_dk - x).max():.3f}")
W, v = rng.normal(0, 1.0, (32, 100)), rng.normal(0, 1.0, 32)
x2 = rng.uniform(0.2, 0.8, 100)
y2 = 1.0 if mang(W, v, x2) > 0.5 else 0.0 # tấn công nhãn mà mạng đang đoán
g = lambda z: grad_mang(W, v, z, y2)
eps2 = 0.05
p0 = mang(W, v, x2)
p_fgsm = mang(W, v, fgsm(x2, g(x2), eps2))
p_pgd = mang(W, v, pgd(x2, g, eps2, alpha=eps2 / 4, so_buoc=20))
print(f"Mạng nhỏ, eps = {eps2}: p(lớp 1) {p0:.3f} lúc đầu, {p_fgsm:.3f} sau FGSM, {p_pgd:.3f} sau PGD 20 bước")
print(f" mất mát {mat_mat(p0, y2):.3f} -> {mat_mat(p_fgsm, y2):.3f} (FGSM) -> {mat_mat(p_pgd, y2):.3f} (PGD)")
if __name__ == "__main__":
chay_thu()
Ba dòng đầu kiểm lại giải thích tuyến tính bằng số: với \(\epsilon = 0{,}03\) (khoảng 8/255), logit giảm 1,896, đúng bằng \(\epsilon \, \|w\|_1\), và xác suất lớp 1 rơi từ 0,818 xuống 0,402, tức dự đoán đổi lớp; không điểm ảnh nào lệch quá 0,03. Hai dòng cuối dành cho mạng nhỏ, ban đầu tin gần chắc ảnh thuộc lớp 0 (xác suất lớp 1 là 0,005). Một bước FGSM với \(\epsilon = 0{,}05\) đẩy xác suất lên 0,314, chưa đổi được nhãn; PGD với 20 bước nhỏ trong cùng vùng \(\epsilon\) đẩy lên 0,780 và đổi được nhãn. Với mô hình tuyến tính, gradient không đổi hướng nên một bước là đủ; với mạng có phi tuyến, hướng tốt nhất đổi dần, nên đi nhiều bước nhỏ mạnh hơn. Khi tự viết tấn công, hãy so gradient của mình với đạo hàm số bằng sai phân trung tâm trên vài chiều.
PGD và huấn luyện chống nhiễu
Madry và cộng sự (2017) đặt cả tấn công lẫn phòng thủ vào một bài toán min-max (phương trình 2.1): tìm tham số sao cho mất mát vẫn nhỏ ngay cả khi kẻ tấn công chọn nhiễu tệ nhất trong tập cho phép S:
\[\min_\theta \; \mathbb{E}_{(x,y) \sim \mathcal{D}} \Big[ \max_{\delta \in S} L(\theta, x + \delta, y) \Big]\]
Bài toán bên trong là tấn công; họ giải nó bằng PGD (projected gradient descent), lặp bước dấu gradient rồi chiếu về hình hộp \(\epsilon\) quanh điểm gốc:
\[x^{t+1} = \Pi_{x + S}\Big(x^t + \alpha \, \mathrm{sign}\big(\nabla_x L(\theta, x^t, y)\big)\Big)\]
Bài toán bên ngoài là huấn luyện trên chính các ví dụ đối kháng đó. Trên MNIST với \(\epsilon = 0{,}3\), một mạng huấn luyện bình thường đạt 99,2% nhưng còn 6,4% khi bị FGSM tấn công. Mạng huấn luyện chống nhiễu (40 bước PGD, mỗi bước 0,01) đạt 98,8% trên ảnh sạch và 89,3% trước đòn mạnh nhất họ thử (PGD 100 bước, 20 lần khởi động lại). Trên CIFAR-10 với \(\epsilon = 8\) trên thang 255, mạng chống nhiễu đạt 87,3% trên ảnh sạch nhưng chỉ 45,8% trước PGD 20 bước; để so sánh, bài báo ghi bản ResNet rộng gấp 10 lần, huấn luyện bình thường, đạt 95,2% trên ảnh sạch. Hai bài học khác: mô hình chống nhiễu cần sức chứa lớn hơn hẳn (mạng nhỏ huấn luyện với PGD không học được gì), và huấn luyện tốn hơn nhiều vì mỗi bước học kèm nhiều bước tấn công.
Huấn luyện chống nhiễu bằng FGSM trong bài của Goodfellow cũng có tác dụng: mạng maxout sai 89,4% ảnh đối kháng trước khi huấn luyện, sau đó còn 17,9%, và lỗi trên tập thử sạch còn giảm từ 0,94% xuống 0,84%, tức nó còn có tác dụng điều chuẩn.
Hộp đen và tính chuyển giao
Không có trọng số vẫn tấn công được, nhờ ảnh đối kháng chuyển từ mô hình này sang mô hình khác. Trong bài của Goodfellow, ảnh đối kháng tạo từ mô hình gốc khiến mô hình đã huấn luyện chống nhiễu sai 19,6%, còn ảnh tạo từ mô hình mới khiến mô hình gốc sai 40,9%. Gộp 12 mạng maxout thành một tổ hợp cũng không cứu được: tổ hợp vẫn sai 91,1% ảnh đối kháng tạo riêng cho nó. Bài báo ghi các cách điều chuẩn chung như dropout, huấn luyện trước, lấy trung bình nhiều mô hình không làm giảm đáng kể điểm yếu này.
Mô hình ngôn ngữ: chuỗi hậu tố đối kháng
Zou và cộng sự (2023) đưa ý tưởng này sang mô hình ngôn ngữ đã được căn chỉnh. Thuật toán GCG (Greedy Coordinate Gradient) tối ưu một hậu tố gồm 20 token gắn sau một yêu cầu có hại, sao cho mô hình bắt đầu câu trả lời bằng "Sure, here is..." thay vì từ chối. Chuỗi tối ưu trên các mô hình mở Vicuna-7B và 13B chuyển được sang mô hình thương mại thời đó: tỉ lệ thành công 87,9% với GPT-3.5, 53,6% với GPT-4, 66% với PaLM-2 và 2,1% với Claude 2. Các số này đo trên phiên bản năm 2023; nhóm tác giả báo cho OpenAI, Google, Meta và Anthropic trước khi công bố. Khác với chèn lệnh, chuỗi hậu tố thường là ký tự lộn xộn do tối ưu sinh ra, không phải câu lệnh viết bằng lời.
- Đánh giá độ bền chỉ bằng FGSM: đòn yếu nhất trong các bài báo; hãy thử PGD nhiều bước và nhiều lần khởi động lại.
- Thấy mô hình "không bị tấn công được" mà không nghi ngờ: gradient có thể bị che (Madry và cộng sự ghi PGD đã đánh giá quá cao độ bền của mô hình MNIST trước tấn công theo chuẩn L2).
- Tin rằng dropout hay tổ hợp nhiều mô hình là đủ để phòng thủ.
- So độ bền của hai mô hình với hai mức \(\epsilon\) hay hai chuẩn khoảng cách khác nhau.
- Nhầm tấn công đối kháng với chèn lệnh: hai mối đe dọa cần hai cách phòng khác nhau.
Câu hỏi thường gặp
Tấn công đối kháng có xảy ra ngoài phòng thí nghiệm không?
Có rủi ro ở mọi nơi kết quả của mô hình dẫn tới hành động: lọc nội dung, nhận diện, xe tự lái. Tính chuyển giao cho thấy kẻ tấn công không cần trọng số của bạn để thử.
FGSM khác PGD thế nào?
FGSM đi một bước cỡ ε theo dấu gradient. PGD đi nhiều bước nhỏ và sau mỗi bước chiếu về vùng cho phép, nên tìm được nhiễu mạnh hơn với mô hình phi tuyến.
Huấn luyện chống nhiễu có làm giảm độ chính xác không?
Trong bài của Madry và cộng sự, mạng CIFAR-10 chống nhiễu đạt 87,3% trên ảnh sạch, trong khi bản ResNet rộng huấn luyện bình thường đạt 95,2%. Trên MNIST mức giảm nhỏ hơn nhiều: 98,8% so với 99,2%.
Mô hình ngôn ngữ ngày nay còn bị chuỗi hậu tố bẻ khóa không?
Các số trong bài báo năm 2023 đo trên phiên bản mô hình thời đó. Các nhà cung cấp đã được báo trước và tiếp tục căn chỉnh; muốn biết tình hình hiện nay, cần đọc báo cáo đánh giá mới của từng mô hình.
Học tiếp
- Một mối đe dọa khác với ứng dụng dùng mô hình ngôn ngữ: prompt injection là gì.
- Mô hình tuyến tính trong ví dụ code: hồi quy logistic.
- Loại mạng trong hầu hết thí nghiệm về ảnh: mạng nơ-ron tích chập CNN.
Nếu bạn muốn học Python và AI bài bản cùng giảng viên, tham khảo khóa học AI của Big-O Coding.
Khóa AI – Introduction to Machine Learning: nền tảng Máy học từ thuật toán cơ bản đến Neural Networks và LLM, học bằng Python. Học thử buổi 1 miễn phí.
Nguồn tham khảo
- Szegedy và cộng sự (2013): Intriguing properties of neural networks, arXiv 1312.6199v4 (đọc bản PDF ngày 12/11/2026)
- Goodfellow, Shlens, Szegedy (2014): Explaining and Harnessing Adversarial Examples, arXiv 1412.6572v3 (đọc bản PDF ngày 12/11/2026)
- Madry và cộng sự (2017): Towards Deep Learning Models Resistant to Adversarial Attacks, arXiv 1706.06083v4 (đọc bản PDF ngày 12/11/2026)
- Zou và cộng sự (2023): Universal and Transferable Adversarial Attacks on Aligned Language Models, arXiv 2307.15043v2 (đọc bản PDF ngày 12/11/2026)


