- AI Engineer xây ứng dụng trên mô hình AI có sẵn: API, prompt, RAG, agent, đánh giá, triển khai. ML Engineer thiên về huấn luyện và vận hành mô hình; Data Scientist thiên về phân tích dữ liệu và thí nghiệm.
- Nền tảng: Python, Git, học máy cơ bản. Kỹ năng riêng: gọi API, viết prompt, RAG, agent, đánh giá (eval), kiểm soát chi phí và an toàn.
- Số liệu ghi đúng nguồn gốc: trong khảo sát Stack Overflow 2026, lương trung vị quy ra USD của nhóm tự nhận là AI/ML engineer là 95.337 USD, tính trên 194 người trả lời có dữ liệu lương, toàn cầu.
- Mỗi kỹ năng, một dự án nhỏ chứng minh, đưa lên GitHub. Nhà tuyển dụng tin dự án chạy được hơn danh sách chứng chỉ.
Bài này là bài tổng của loạt bài về AI trong học tập và nghề nghiệp trên blog Big-O Coding. Số liệu thị trường trong bài lấy từ khảo sát và cơ quan thống kê gốc, ghi rõ năm và nhóm người trả lời, đọc ngày 11/11/2026. Mỗi phần dẫn sang một bài chi tiết.
AI Engineer là gì
Vài năm gần đây, các mô hình ngôn ngữ lớn trở thành một "thành phần" mà phần mềm gọi qua API, giống như cơ sở dữ liệu hay dịch vụ thanh toán. Nghề AI Engineer hình thành quanh việc dùng thành phần đó để làm sản phẩm: chatbot chăm sóc khách hàng trả lời theo tài liệu của công ty, công cụ tóm tắt hợp đồng, trợ lý lập trình nội bộ, hệ thống phân loại email, agent tự làm một chuỗi việc.
Công việc hằng ngày thường gồm:
- Gọi và điều khiển mô hình: chọn mô hình, viết prompt, định dạng đầu ra có cấu trúc, xử lý lỗi và giới hạn tốc độ.
- Cho mô hình dùng dữ liệu riêng: RAG (truy xuất tài liệu liên quan rồi đưa vào ngữ cảnh), kết nối công cụ và cơ sở dữ liệu.
- Xây quy trình nhiều bước và agent: mô hình gọi công cụ, kết quả quay lại mô hình.
- Đánh giá: bộ câu hỏi mẫu, chấm tự động và chấm tay, đo xem thay đổi có làm tốt hơn không.
- Đưa vào sản phẩm: triển khai, giám sát, kiểm soát chi phí theo token, chặn dữ liệu nhạy cảm, xử lý khi mô hình trả lời sai.
Về agent, bài viết "Building effective agents" của Anthropic phân biệt hai loại hệ thống. Workflow là hệ thống mà mô hình và công cụ được điều phối theo các nhánh code định sẵn; agent là hệ thống mà mô hình tự điều khiển quá trình và việc dùng công cụ. Anthropic khuyên tìm giải pháp đơn giản nhất có thể và chỉ tăng độ phức tạp khi cần, một nguyên tắc đáng nhớ cho mọi AI Engineer.
Một dự án đi qua những bước nào
Lấy ví dụ một yêu cầu thường gặp: "làm chatbot trả lời câu hỏi của sinh viên về quy chế đào tạo của trường". Một AI Engineer thường đi qua các bước:
- Làm rõ yêu cầu. Ai dùng, hỏi những gì, câu trả lời sai thì hậu quả ra sao, cần trả lời nhanh đến mức nào, ngân sách cho mỗi câu hỏi bao nhiêu.
- Thu thập câu hỏi mẫu. Gom 50 đến 100 câu hỏi thật kèm câu trả lời đúng; đây sẽ là bộ đánh giá.
- Làm bản thử nhanh nhất. Một lời gọi API với prompt tốt và vài đoạn quy chế dán vào ngữ cảnh. Chạy bộ đánh giá để có điểm xuất phát.
- Thêm RAG khi tài liệu quá dài. Chia quy chế thành đoạn, tìm đoạn liên quan cho từng câu hỏi, yêu cầu mô hình trích nguồn. Chạy lại bộ đánh giá để chắc là tốt hơn.
- Xử lý chỗ khó. Câu hỏi ngoài phạm vi thì từ chối lịch sự; câu hỏi mơ hồ thì hỏi lại; câu trả lời có số liệu thì phải trích đúng điều khoản.
- Đưa vào dùng thử. Triển khai cho một nhóm nhỏ, ghi lại câu hỏi thật, đo chi phí mỗi câu, thêm câu hỏi khó vào bộ đánh giá.
Để ý rằng huấn luyện mô hình không xuất hiện ở bước nào. Phần lớn giá trị đến từ hiểu bài toán, dữ liệu tốt và đánh giá nghiêm túc, đúng tinh thần "giải pháp đơn giản nhất" ở trên.
Khác ML Engineer, Data Scientist, Prompt Engineer thế nào
Tên chức danh khác nhau giữa các công ty, nhưng trọng tâm thường như sau:
| Vai trò | Trọng tâm | Công cụ hay dùng |
|---|---|---|
| AI Engineer | Xây sản phẩm trên mô hình có sẵn | API mô hình, RAG, agent, eval |
| ML Engineer | Huấn luyện, tối ưu, triển khai và vận hành mô hình | PyTorch, pipeline dữ liệu, MLOps |
| Data Scientist | Phân tích dữ liệu, thí nghiệm, mô hình thống kê | pandas, SQL, thống kê, trực quan hóa |
| Prompt Engineer | Thiết kế và tối ưu prompt cho một ứng dụng | Prompt, bộ đánh giá |
Ranh giới mờ dần: AI Engineer giỏi cũng hiểu học máy để biết khi nào cần huấn luyện lại; ML Engineer ngày càng làm việc với mô hình nền tảng. Nếu bạn muốn đi sâu phía huấn luyện mô hình, đọc lộ trình ML Engineer. Còn chuyện prompt engineer có phải một nghề riêng không, xem prompt engineer là gì.
Số liệu nghề: đọc đúng cách
Số liệu về lương và nhu cầu tuyển dụng rất dễ bị trích sai. Ba nguồn gốc dưới đây kèm cách đọc:
Khảo sát Stack Overflow 2026. Theo trang phương pháp, khảo sát ghi nhận 39.266 phản hồi từ 23/06 đến 05/08/2026, trong đó 30.903 phản hồi hợp lệ, từ 169 quốc gia; người trả lời là cộng đồng Stack Overflow được mời qua trang web, blog và danh sách email. Bảng lương theo vai trò (lương trung vị quy ra USD, trên tổng 12.040 người có dữ liệu lương) ghi:
| Vai trò tự nhận | Số người trả lời | Lương trung vị (USD/năm) |
|---|---|---|
| AI/ML engineer | 194 | 95.337 |
| Data scientist | 155 | 90.982 |
| Data engineer | 233 | 90.000 |
| Data or business analyst | 119 | 67.161 |
Cách đọc: đây là trung vị toàn cầu của những người tự chọn vai trò đó và trả lời câu hỏi lương, không phải lương ở Việt Nam, và số người mỗi nhóm khá nhỏ (vài trăm). Nó cho thấy vị trí tương đối giữa các vai trò, không phải con số bạn sẽ nhận.
Cục Thống kê Lao động Mỹ (BLS). Nghề gần nhất được BLS theo dõi là Data Scientists: lương trung vị 120.230 USD/năm (số liệu tháng 5/2025), 275.600 việc làm năm 2025, dự báo tăng 35% giai đoạn 2025 đến 2035, "nhanh hơn nhiều so với trung bình", yêu cầu thường là bằng cử nhân. Đây là thị trường Mỹ; dùng để thấy xu hướng, không quy đổi sang Việt Nam.
ITviec, Việt Nam. Báo cáo Lương & Thị trường Tuyển dụng IT 2025-2026 của ITviec dựa trên 1.839 người tham gia (chuyên gia IT, freelancer, sinh viên IT, quản lý nhân sự, lãnh đạo), khảo sát hai đợt 27/05 đến 31/07 và 21/10 đến 11/11/2025, và có phần về tác động của AI lên doanh nghiệp và người làm IT. Trang tóm tắt công khai không có số lương riêng cho AI Engineer; muốn con số chi tiết, tải bản đầy đủ từ ITviec.
Cẩn thận với các con số lương không ghi nguồn khảo sát, năm và số người trả lời.
Cần học gì: bốn tầng
Tầng 1: nền tảng. Python thành thạo, Git và GitHub, học máy cơ bản (biết huấn luyện và đánh giá một mô hình). Xem loạt bài tài liệu học AI, bắt đầu từ tài liệu học AI miễn phí.
Tầng 2: dùng mô hình. Gọi API của mô hình bằng Python, đọc khóa từ biến môi trường, xử lý lỗi; viết prompt có ví dụ và định dạng đầu ra rõ. Bài đầu tiên: gọi API AI bằng Python. Muốn chạy mô hình mở ngay trên máy để thử nghiệm: chạy AI trên máy cá nhân.
Tầng 3: xây ứng dụng. RAG để mô hình trả lời theo tài liệu riêng: RAG là gì. Biết khi nào cần huấn luyện lại thay vì viết prompt: fine-tuning hay viết prompt. Đo chất lượng bằng bộ đánh giá: đánh giá câu trả lời của AI. Agent và công cụ có trong loạt bài về agent của blog.
Tầng 4: đưa vào sản phẩm. Triển khai, đo chi phí theo token, giới hạn quyền, bảo vệ khóa API và dữ liệu người dùng.
Ngoài kỹ thuật. AI Engineer làm việc nhiều với người không chuyên: quản lý sản phẩm, bộ phận chăm sóc khách hàng, pháp chế. Ba kỹ năng giúp ích rõ rệt: viết rõ ràng (prompt tốt và tài liệu tốt cùng một gốc), giải thích giới hạn của mô hình cho người khác bằng ví dụ cụ thể, và đọc tài liệu chính thức của hãng thay vì tin vào lời đồn trên mạng, vì công cụ AI thay đổi theo tháng.
Tự đánh giá kỹ năng
Đoạn Python dưới đây liệt kê mười kỹ năng theo bốn tầng, mỗi kỹ năng kèm một bằng chứng cụ thể "làm được việc gì" (không phải "đã xem video về nó"). Bạn đánh dấu những gì đã làm được, chương trình cho biết việc tiếp theo nên làm theo đúng thứ tự tầng.
"""Tự đánh giá kỹ năng AI Engineer: đánh dấu những gì đã làm được, nhận danh sách việc còn thiếu theo thứ tự nên học.
Mỗi kỹ năng có một "bằng chứng" cụ thể (làm được việc gì), không phải "đã xem video về nó".
Thứ tự nhóm: nền tảng -> dùng mô hình -> xây ứng dụng -> đưa vào sản phẩm.
"""
KY_NANG = [
# (nhóm, kỹ năng, bằng chứng làm được)
("Nền tảng", "Python", "viết chương trình vài trăm dòng có hàm, lớp, đọc ghi tệp"),
("Nền tảng", "Git và GitHub", "có một dự án trên GitHub với README và nhiều commit"),
("Nền tảng", "Học máy cơ bản", "tự huấn luyện và đánh giá một mô hình phân loại"),
("Dùng mô hình", "Gọi API mô hình", "gọi API bằng Python, khóa đọc từ biến môi trường"),
("Dùng mô hình", "Viết prompt", "viết prompt có ví dụ, có định dạng đầu ra rõ"),
("Xây ứng dụng", "RAG", "chatbot trả lời dựa trên tài liệu riêng, có trích nguồn"),
("Xây ứng dụng", "Agent và công cụ", "mô hình gọi được một hàm Python để tra dữ liệu"),
("Xây ứng dụng", "Đánh giá (eval)", "bộ câu hỏi mẫu chấm tự động chất lượng câu trả lời"),
("Sản phẩm", "Triển khai", "ứng dụng chạy được trên mạng, có người khác dùng thử"),
("Sản phẩm", "Chi phí và an toàn", "đo được số token, chi phí mỗi lượt và chặn dữ liệu nhạy cảm"),
]
def con_thieu(da_lam):
"""Trả về kỹ năng chưa làm, giữ đúng thứ tự trong KY_NANG."""
return [(n, k, b) for n, k, b in KY_NANG if k not in da_lam]
def bao_cao(da_lam):
thieu = con_thieu(da_lam)
dong = [f"Đã làm được {len(KY_NANG) - len(thieu)}/{len(KY_NANG)} kỹ năng."]
if thieu:
n, k, b = thieu[0]
dong.append(f"Việc tiếp theo: [{n}] {k}: {b}")
if len(thieu) > 1:
dong.append("Còn lại: " + ", ".join(k for _, k, _ in thieu[1:]))
else:
dong.append("Đủ cả danh sách: chọn một dự án lớn hơn để làm sâu.")
return dong
def chay_thu():
sinh_vien = {"Python", "Git và GitHub", "Học máy cơ bản", "Gọi API mô hình"}
dong = bao_cao(sinh_vien)
print("\n".join(dong))
return dong
if __name__ == "__main__":
chay_thu()
Với một sinh viên đã có Python, Git, học máy cơ bản và đã gọi được API, kết quả là 4/10 kỹ năng, việc tiếp theo là viết prompt có ví dụ và định dạng đầu ra rõ, sau đó tới RAG, agent, đánh giá, triển khai, chi phí và an toàn. Sửa danh sách cho đúng với bạn, và cập nhật mỗi khi làm xong một dự án.
Dự án để chứng minh
Nhà tuyển dụng muốn thấy bạn làm được. Một vài dự án vừa sức sinh viên, mỗi dự án chứng minh một tầng:
- Chatbot hỏi đáp tài liệu môn học bằng RAG, có trích dẫn đoạn nguồn.
- Công cụ phân loại phản hồi khách hàng bằng mô hình, kèm bộ đánh giá trên 50 câu mẫu.
- Agent nhỏ tra cứu dữ liệu từ một API công khai.
Danh sách đầy đủ trong 10 dự án AI nhỏ cho portfolio. Đưa từng dự án lên GitHub với README rõ ràng, theo bài portfolio AI trên GitHub.
Dùng AI trong học tập và tìm việc
Loạt bài này cũng nói về cách dùng AI đúng khi còn đi học:
- Viết CV và chuẩn bị phỏng vấn với AI mà không bịa kinh nghiệm: dùng AI viết CV.
- Ôn câu hỏi phỏng vấn học máy: câu hỏi phỏng vấn Machine Learning.
- Làm đồ án, khóa luận với AI: được gì và không được gì: dùng AI làm đồ án.
- Học sinh ôn thi học sinh giỏi Tin học với AI đúng cách: AI ôn thi HSG Tin.
Nguyên tắc chung: AI giúp bạn học nhanh hơn khi bạn dùng nó để hỏi, giải thích, kiểm tra; nó làm bạn yếu đi khi bạn để nó làm thay phần cần học.
Lộ trình gợi ý cho sinh viên
Một lộ trình khoảng một năm cho sinh viên IT, mỗi giai đoạn kết thúc bằng một dự án:
- Tháng 1 đến 3: Python, Git, numpy, pandas; một dự án phân tích dữ liệu nhỏ.
- Tháng 4 đến 6: học máy cơ bản (một khóa như Machine Learning Specialization); một mô hình phân loại có đánh giá.
- Tháng 7 đến 9: gọi API mô hình, prompt, RAG; chatbot hỏi đáp tài liệu.
- Tháng 10 đến 12: agent, đánh giá, triển khai; hoàn thiện portfolio và chuẩn bị phỏng vấn.
Muốn kế hoạch theo từng tháng có tài liệu cụ thể, xem lộ trình 6 tháng học AI.
- Trích số lương không có nguồn khảo sát, năm và số người trả lời.
- Học mười framework AI mới cùng lúc mà không có nền Python và học máy.
- Làm agent phức tạp khi một lời gọi API và một prompt tốt là đủ.
- Đưa sản phẩm AI ra dùng mà không có bộ đánh giá nào.
- Ghi "AI Engineer" trong CV khi chưa có dự án nào chứng minh.
Câu hỏi thường gặp
AI Engineer có cần giỏi toán không?
Cần hiểu nền học máy và xác suất để biết mô hình làm được gì, không làm được gì. Mức toán thường thấp hơn ML Engineer hay nhà nghiên cứu, vì phần lớn công việc là xây ứng dụng trên mô hình có sẵn.
Không học ngành khoa học máy tính có làm AI Engineer được không?
Được, nếu bạn có kỹ năng lập trình vững và dự án chứng minh. BLS ghi bằng cử nhân là yêu cầu thường gặp với Data Scientist ở Mỹ; yêu cầu ở từng công ty khác nhau, đọc kỹ tin tuyển dụng.
Nên học AI Engineer hay ML Engineer?
Nếu bạn thích làm sản phẩm, gặp người dùng, ghép nhiều hệ thống: AI Engineer. Nếu bạn thích dữ liệu, huấn luyện, tối ưu mô hình: ML Engineer. Hai hướng dùng chung nền tảng, có thể chuyển qua lại.
AI có thay thế AI Engineer không?
Công cụ AI giúp viết code nhanh hơn, nhưng thiết kế hệ thống, đánh giá chất lượng, chịu trách nhiệm về an toàn và chi phí vẫn cần con người hiểu sâu. Người biết dùng AI tốt có lợi thế lớn.
Học tiếp
- Bắt đầu từ lời gọi API đầu tiên: gọi API AI bằng Python.
- Đi sâu phía huấn luyện mô hình: lộ trình ML Engineer.
- Làm dự án cho hồ sơ: 10 dự án AI nhỏ cho portfolio.
Nếu bạn muốn học Python và AI bài bản cùng giảng viên, tham khảo khóa học AI của Big-O Coding.
Khóa AI – Introduction to Machine Learning: nền tảng Máy học từ thuật toán cơ bản đến Neural Networks và LLM, học bằng Python. Học thử buổi 1 miễn phí.
