AI & Machine Learning

Vector Database và Tìm kiếm Ngữ nghĩa: Bản chất và Ứng dụng

Cơ sở dữ liệu vector (Vector Database) là hạ tầng lưu trữ và truy vấn cốt lõi của kỷ nguyên Generative AI, cho phép máy tính tìm kiếm thông tin dựa trên ý nghĩa ngữ nghĩa thực sự thay vì chỉ so khớp từng ký tự từ khóa truyền thống.

Ý chính
  • Bước chuyển dịch từ từ khóa sang ý nghĩa: Cơ sở dữ liệu quan hệ truyền thống chỉ có thể tìm kiếm chính xác theo chuỗi ký tự hoặc chỉ mục B-Tree; trong khi đó, Vector Database tìm kiếm dựa trên khoảng cách hình học giữa các vector nhúng dày đặc (Dense Embeddings) biểu diễn ý nghĩa ngữ cảnh.
  • Đột phá tốc độ với thuật toán HNSW: Thuật toán Hierarchical Navigable Small World (HNSW) xây dựng đồ thị phân tầng nhiều lớp tương tự cấu trúc Skip-List, giảm thời gian tìm kiếm láng giềng gần đúng từ độ phức tạp tuyến tính \(\mathcal{O}(N)\) xuống thời gian logarit \(\mathcal{O}(\log N)\) với độ chính xác recall trên 95%.
  • Sức mạnh của Tìm kiếm lai (Hybrid Search): Kết hợp nhịp nhàng giữa tìm kiếm ngữ nghĩa bằng Dense Vector và tìm kiếm từ khóa chính xác bằng BM25/Sparse Vector giúp giải quyết hoàn hảo cả bài toán đồng nghĩa lẫn bài toán mã số đặc thù của doanh nghiệp.

1. Sự trỗi dậy của Dữ liệu Phi cấu trúc và Giới hạn của SQL

Trong nhiều thập kỷ qua, hệ quản trị cơ sở dữ liệu quan hệ (RDBMS như PostgreSQL, MySQL, Oracle) là xương sống của mọi hệ thống công nghệ thông tin. Chúng cực kỳ xuất sắc trong việc quản lý dữ liệu có cấu trúc: bảng biểu với các cột số nguyên, chuỗi ký tự, ngày tháng và các phép toán so sánh tuyệt đối (WHERE age > 25 AND status = 'ACTIVE').

Tuy nhiên, hơn 80% dữ liệu thực tế phát sinh trong thời đại số lại thuộc nhóm Dữ liệu phi cấu trúc (Unstructured Data):

  • Bài viết blog, bài báo nghiên cứu, sách điện tử và tài liệu PDF.
  • Hình ảnh độ phân giải cao, video trên mạng xã hội.
  • Bản ghi âm cuộc gọi chăm sóc khách hàng và các đoạn mã nguồn phần mềm.

Nếu lưu một đoạn văn vào cột TEXT trong cơ sở dữ liệu SQL:

  • Tìm kiếm từ khóa bằng LIKE '%thông minh%' hoặc Full-Text Search (tsvector) chỉ có thể tìm thấy các dòng chứa chính xác cụm ký tự "thông minh".
  • Nó hoàn toàn bất lực nếu bài viết sử dụng các từ đồng nghĩa như "sáng dạ", "nhạy bén", "lanh lợi" hoặc tiếng Anh như "clever", "brilliant".
  • Nó không thể hiểu được các mối quan hệ ngữ cảnh tinh tế (ví dụ: "iPhone" và "smartphone" có liên quan mật thiết với nhau).

Sự bùng nổ của Deep Learning đã mang lại lời giải: Các mô hình nền tảng có thể chuyển hóa bất kỳ đoạn văn, hình ảnh hay âm thanh nào thành một vector số thực nhiều chiều (Vector Embedding, thường có từ \(384\) đến \(3.072\) chiều). Và để lưu trữ, quản lý, truy vấn hàng triệu vector này với độ trễ tính bằng mili-giây, Cơ sở dữ liệu Vector (Vector Database) ra đời.

Cơ Sở Dữ Liệu Vector & Cosine Đo lường sự tương đồng ngữ nghĩa bằng góc giữa các vector trong không gian Vector Truy Vấn (A) Tài Liệu Khớp (B) Tài Liệu Khác (C) Độ Tương Đồng Cosine(A, B) ≈ 0.95 Góc hẹp → Ý nghĩa tương đồng Cosine(A, C) ≈ 0.20 Góc rộng → Không liên quan Chỉ mục: HNSW, IVF Tìm kiếm theo ý niệm ngữ nghĩa thay vì so khớp từ khóa chính xác
Vector Database Đo lường Cosine: cos(θ) = (A · B) / (||A|| · ||B||) Góc càng nhỏ: ý nghĩa càng giống Không phụ thuộc độ dài vector Thuật toán chỉ mục HNSW: Tìm kiếm láng giềng xấp xỉ Tốc độ miligiây trên hàng triệu vector Nền tảng của hệ thống RAG
Góc giữa vector truy vấn và vector tài liệu: góc hẹp (cosine cao) là gần nghĩa, góc rộng (cosine thấp) là ít liên quan

2. Các Độ đo Khoảng cách Hình học trong Không gian Vector

Bản chất của tìm kiếm ngữ nghĩa là bài toán hình học: tìm các điểm dữ liệu nằm gần nhất với điểm truy vấn trong không gian nhiều chiều \(\mathbb{R}^d\). Việc định nghĩa "gần" như thế nào phụ thuộc vào việc lựa chọn độ đo khoảng cách (Distance Metric):

2.1. Khoảng cách Euclidean (Chuẩn L2)

Đo độ dài đường thẳng thực tế giữa hai điểm trong không gian:

\[d_{L_2}(\mathbf{u}, \mathbf{v}) = \sqrt{\sum_{i=1}^d (u_i - v_i)^2}\]

  • Thích hợp khi độ lớn tuyệt đối (magnitude) của vector mang thông tin quan trọng.
  • Rất phổ biến trong bài toán phân cụm, xử lý ảnh thị giác máy tính và phân loại dữ liệu không gian.

2.2. Khoảng cách Cosine (Cosine Distance)

Đo góc hợp bởi hai vector, hoàn toàn bỏ qua độ dài tuyệt đối của chúng:

\[d_{\text{Cosine}}(\mathbf{u}, \mathbf{v}) = 1 - \frac{\mathbf{u} \cdot \mathbf{v}}{\|\mathbf{u}\|_2 \|\mathbf{v}\|_2} = 1 - \frac{\sum_{i=1}^d u_i v_i}{\sqrt{\sum_{i=1}^d u_i^2} \sqrt{\sum_{i=1}^d v_i^2}}\]

  • Giá trị nằm trong khoảng \([0, 2]\). Giá trị bằng \(0\) biểu thị hai vector hoàn toàn cùng phương hướng.
  • Đây là độ đo tiêu chuẩn và phổ biến nhất trong xử lý ngôn ngữ tự nhiên (NLP) vì một văn bản ngắn hay dài có cùng chủ đề vẫn sẽ có vector chỉ về cùng một góc phương hướng.

2.3. Tích vô hướng (Dot Product / Inner Product)

Tính tích vô hướng trực tiếp:

\[\langle \mathbf{u}, \mathbf{v} \rangle = \sum_{i=1}^d u_i v_i\]

Nếu tất cả các vector trong cơ sở dữ liệu đã được chuẩn hóa độ dài đơn vị (\(\|\mathbf{u}\|_2 = \|\mathbf{v}\|_2 = 1.0\)) trước khi lưu trữ, tích vô hướng sẽ tương đương toán học với Cosine Similarity:

\[\langle \mathbf{u}, \mathbf{v} \rangle = \cos(\mathbf{u}, \mathbf{v})\]

Thao tác này giúp loại bỏ hoàn toàn phép tính căn bậc hai và phép chia đắt đỏ, cho phép phần cứng GPU và tập lệnh SIMD CPU đạt thông lượng tính toán tối đa.

3. Thách thức Thuật toán: Từ k-NN Tuyệt đối đến ANN Xấp xỉ

Giả sử hệ thống lưu trữ \(N = 10.000.000\) tài liệu, mỗi vector có \(d = 1.536\) chiều (kích thước chuẩn của OpenAI text-embedding-3-small).

Thuật toán Flat k-NN (Duyệt toàn bộ chính xác)

Phương pháp ngây thơ nhất là tính khoảng cách từ vector truy vấn đến từng vector trong số \(10\) triệu vector, sau đó sắp xếp lấy ra \(k\) phần tử nhỏ nhất.

  • Chi phí tính toán: \(\mathcal{O}(N \cdot d) = 10^7 \times 1.536 \approx 1.53 \times 10^{10}\) phép tính số thực dấu phẩy động cho mỗi một lượt tìm kiếm.
  • Thời gian phản hồi: Mất từ vài giây đến cả chục giây, hoàn toàn không thể phục vụ các ứng dụng tương tác người dùng thời gian thực yêu cầu độ trễ dưới 50 mili-giây.

Để phá vỡ giới hạn này, các nhà khoa học máy tính chuyển hướng sang nhóm thuật toán Láng giềng gần đúng (Approximate Nearest Neighbor - ANN). Thay vì đảm bảo 100% tìm ra láng giềng tuyệt đối, thuật toán ANN chấp nhận đánh đổi một tỷ lệ sai số cực nhỏ (ví dụ đạt độ thu hồi Recall \(\ge 95\% - 99\%\)) để giảm thời gian tìm kiếm từ hàng chục giây xuống chỉ còn vài mili-giây!

Các họ giải thuật ANN nổi tiếng bao gồm:

  1. Dựa trên cây (Tree-based): KD-Tree, Annoy (Spotify). Phân chia không gian bằng các siêu phẳng, rất hiệu quả ở số chiều nhỏ (\(d \lt 20\)) nhưng suy thoái nghiêm trọng do lời nguyền chiều dữ liệu khi \(d \gt 100\).
  2. Dựa trên lượng tử hóa (Quantization-based): Product Quantization (PQ), Inverted File Index (IVF-PQ của Meta Faiss). Nén các vector nhiều chiều thành các cụm mã số byte ngắn, cực kỳ tiết kiệm RAM nhưng làm suy giảm độ chính xác.
  3. Dựa trên đồ thị (Graph-based): HNSW (Hierarchical Navigable Small World). Hiện là giải thuật lập chỉ mục mạnh mẽ và chuẩn mực nhất của các hệ cơ sở dữ liệu vector hiện đại.
Học cùng giảng viên

Chủ đề này nằm trong Lecture 02 - K-Nearest Neighbors (KNN) của Khóa AI. Xem đề cương

4. Giải mã Thuật toán Đồ thị Phân tầng HNSW (Hierarchical Navigable Small World)

Được Yury Malkov và Dmitry Yashunin công bố vào năm 2018, HNSW lấy cảm hứng từ hai khái niệm toán học:

  1. Cấu trúc danh sách nhảy (Skip-List): Cấu trúc dữ liệu phân tầng nhiều lớp cho phép tìm kiếm trong mảng với thời gian \(\mathcal{O}(\log N)\) thay vì \(\mathcal{O}(N)\).
  2. Đồ thị thế giới nhỏ (Small World Graph): Hiện tượng "Sáu bậc liên kết" (Six Degrees of Separation) - bất kỳ hai nút nào trong đồ thị cũng có thể kết nối với nhau qua một số lượng bước nhảy rất nhỏ nhờ các liên kết đường dài (long-range links).

Cơ chế hoạt động của HNSW:

HNSW xây dựng một mạng lưới đồ thị nhiều tầng xếp chồng lên nhau theo chiều dọc:

[Layer 2 - Tầng đỉnh thưa thớt]
   ● ───────────────────────────────> ● (Bước nhảy cực xa)
   │                                  │
[Layer 1 - Tầng trung gian]           │
   ● ───────> ● ─────────> ● ─────────> ● (Bước nhảy trung bình)
   │          │            │          │
[Layer 0 - Tầng đáy dày đặc]          │
   ● ──> ● ──> ● ──> ● ──> ● ──> ● ──> ● (Toàn bộ 100% vector dữ liệu)
  1. Tầng cao nhất (Layer \(L_{\max}\)): Chỉ chứa một số lượng rất ít các nút đại diện với mật độ thưa thớt. Các liên kết giữa các nút là các đường cao tốc kết nối những vùng không gian rất xa nhau.
  2. Quá trình tìm kiếm (Greedy Routing):
    • Bắt đầu từ một điểm vào cố định (Entry Point) ở tầng đỉnh, thuật toán tính khoảng cách từ điểm truy vấn tới các nút láng giềng.
    • Di chuyển tham lam (greedy) tới nút nào gần điểm truy vấn nhất.
    • Khi không thể tìm thấy nút nào ở tầng hiện tại gần hơn nữa (rơi vào cực tiểu cục bộ của tầng), thuật toán nhảy xuống tầng bên dưới ngay tại vị trí nút đó và tiếp tục hành trình tìm kiếm.
  3. Tầng đáy cùng (Layer 0): Chứa đầy đủ 100% các vector của toàn bộ cơ sở dữ liệu. Tại đây, thuật toán tìm kiếm tinh chỉnh chi tiết để thu được danh sách \(k\) láng giềng gần nhất (gần đúng: recall thường 95% - 99% chứ không bảo đảm 100%).

Nhờ cơ chế định tuyến phân cấp này, số lượng phép tính khoảng cách giảm ngoạn mục từ \(N\) xuống \(\mathcal{O}(\log N)\), cho phép hệ thống quét qua hàng triệu vector chỉ trong vòng 2 đến 5 mili-giây.

5. Tìm kiếm lai (Hybrid Search): Sự kết hợp hoàn hảo giữa Dense và Sparse

Trong môi trường thực tế, việc chỉ dựa vào tìm kiếm vector ngữ nghĩa (Dense Vector Search) sẽ để lộ những điểm mù chết người:

  • Khi người dùng tìm kiếm: "Lỗi mã 0x80070005 khi cài đặt phần mềm" hoặc "Hợp đồng số HD-2026-99".
  • Vector Embedding chỉ hiểu đây là "lỗi cài đặt" hoặc "hợp đồng kinh tế", nó sẽ trả về các tài liệu bàn về lỗi chung chung hoặc hợp đồng khác, bỏ qua tài liệu chứa chính xác chuỗi ký tự "0x80070005".

Để đạt sự hoàn hảo, các hệ thống công nghệ hàng đầu áp dụng Tìm kiếm lai (Hybrid Search):

  1. Luồng Dense Search (Mô hình Embedding): Nắm bắt ý nghĩa khái quát, ngữ cảnh trừu tượng, từ đồng nghĩa và câu hỏi mở.
  2. Luồng Sparse Search (BM25 / SPLADE): Khớp chính xác các từ khóa hiếm, mã định danh, số hợp đồng, tên riêng nước ngoài.
  3. Hợp nhất điểm số (Reciprocal Rank Fusion - RRF): Hợp nhất hai bảng xếp hạng độc lập thành một danh sách kết quả duy nhất dựa trên thứ hạng: \[\text{RRF Score}(d) = \sum_{m \in \{\text{Dense}, \text{Sparse}\}} \frac{1}{k + \text{rank}_m(d)}\] Trong đó hằng số làm mịn \(k\) thường được chọn bằng \(60\). RRF không phụ thuộc vào thang đo điểm số khác nhau giữa Cosine và BM25, nên gộp được hai bảng xếp hạng một cách ổn định mà không cần chuẩn hóa điểm.

6. Cài đặt thuật toán kiểm thử: Thuật toán Tìm kiếm Láng giềng k-NN Euclidean

Dưới đây là mã nguồn cài đặt chính xác giải thuật tìm kiếm \(k\) láng giềng gần nhất dựa trên khoảng cách Euclidean trong cả Python và C++17, bao gồm quy tắc sắp xếp ổn định và cơ chế xử lý hòa điểm (tie-breaking):

import math

def knn_euclidean_search(query_vec, vectors, k):
    scored = []
    for idx, vec in enumerate(vectors):
        dist_sq = sum((q - v) ** 2 for q, v in zip(query_vec, vec))
        dist = math.sqrt(dist_sq)
        scored.append((round(dist, 8), idx))

    scored.sort()
    return [item[1] for item in scored[:k]]

Phân tích độ phức tạp thuật toán

  • Độ phức tạp thời gian: Với tập dữ liệu gồm \(N\) vector kích thước \(d\), việc tính khoảng cách Euclidean tới vector truy vấn tiêu tốn \(\mathcal{O}(N \cdot d)\) phép toán. Code mẫu sắp xếp toàn bộ danh sách nên tốn \(\mathcal{O}(N \log N)\); nếu dùng hàng đợi ưu tiên max-heap kích thước \(k\) (hoặc heapq.nsmallest, std::partial_sort) thì chỉ còn \(\mathcal{O}(N \log k)\).
  • Độ phức tạp không gian: Lưu trữ danh sách ứng viên tiêu tốn bộ nhớ đệm \(\mathcal{O}(N)\).

7. Toàn cảnh Hệ sinh thái Vector Database hiện nay

Thị trường cơ sở dữ liệu vector hiện nay chia thành hai trường phái rõ rệt:

  1. Hệ cơ sở dữ liệu Vector chuyên biệt (Pure-play Vector DB):
    • Pinecone: Giải pháp điện toán đám mây hoàn toàn (Fully Managed SaaS), tự động mở rộng quy mô, không cần cấu hình hạ tầng, rất phổ biến cho các dự án khởi nghiệp GenAI.
    • Qdrant: Viết bằng ngôn ngữ Rust, cực kỳ nhẹ, hỗ trợ lọc siêu dữ liệu (Payload-based filtering) mạnh mẽ và tối ưu bộ nhớ vượt trội.
    • Milvus: Hệ thống phân tán mã nguồn mở cấp độ doanh nghiệp, thiết kế để lưu trữ hàng tỷ vector trên cụm máy chủ Kubernetes.
    • Chroma: Nhỏ gọn, cài đặt bằng một dòng lệnh Python, cực kỳ lý tưởng cho môi trường thử nghiệm và ứng dụng cục bộ.
  2. Hệ cơ sở dữ liệu truyền thống tích hợp tính năng Vector:
    • pgvector (PostgreSQL Extension): Biến cơ sở dữ liệu quan hệ PostgreSQL thành Vector DB với chỉ mục HNSW và IVFFlat. Đây là lựa chọn số một cho các doanh nghiệp đã có sẵn hạ tầng PostgreSQL, giúp truy vấn kết hợp giữa dữ liệu quan hệ ACID và dữ liệu vector trong cùng một câu lệnh SQL duy nhất mà không cần duy trì thêm một hệ thống thứ hai.
    • Elasticsearch & OpenSearch: Đã tích hợp các công cụ tìm kiếm vector k-NN song song với công cụ tìm kiếm văn bản Lucene truyền thống.

8. Bài tập vận dụng và câu hỏi phỏng vấn

  1. Câu hỏi: Trong thuật toán HNSW, tham số M (số lượng liên kết tối đa của mỗi nút) và efConstruction (kích thước danh sách ứng viên trong lúc xây dựng đồ thị) ảnh hưởng như thế nào đến hiệu năng và bộ nhớ?
    • Gợi ý trả lời:
      • Tăng M và efConstruction giúp đồ thị có chất lượng liên kết tốt hơn, tăng tỷ lệ tìm kiếm chính xác (Recall), nhưng làm tăng đáng kể dung lượng RAM cần để lưu ma trận kề của đồ thị và kéo dài thời gian lập chỉ mục (Build Time).
      • Trong thực tế sản xuất, giá trị thường được cân bằng: M = 16 hoặc 32, efConstruction = 64 hoặc 128. Khi truy vấn thời gian thực, tham số efSearch có thể được điều chỉnh linh hoạt: tăng efSearch khi cần độ chính xác cao và giảm efSearch khi cần ưu tiên độ trễ mili-giây.
  2. Câu hỏi: Tại sao việc lọc siêu dữ liệu (Metadata Filtering) trước khi tìm kiếm vector (Pre-filtering) lại khó khăn hơn nhiều so với lọc dữ liệu trong cơ sở dữ liệu quan hệ?
    • Gợi ý trả lời: Nếu thực hiện Pre-filtering ngây thơ bằng cách loại bỏ các vector không thỏa mãn điều kiện metadata trước, đồ thị HNSW có thể bị đứt gãy kết nối (graph disconnection) hoặc mất đi các đường cao tốc dẫn đường, khiến giải thuật tìm kiếm greedy rơi vào bế tắc hoặc bỏ lỡ láng giềng tối ưu. Các hệ thống cao cấp như Qdrant phải xây dựng thuật toán lọc bên trong đồ thị (Qdrant gọi là filterable HNSW: thêm cạnh nối bên trong từng nhóm giá trị lọc để đồ thị vẫn liên thông khi lọc) để vừa đảm bảo tính liên thông của đồ thị vừa thỏa mãn điều kiện lọc.
Muốn học bài bản cùng giảng viên?

Khóa AI – Introduction to Machine Learning: nền tảng Máy học từ thuật toán cơ bản đến Neural Networks và LLM, học bằng Python. Học thử buổi 1 miễn phí.

Xem Khóa AI

Nguồn tham khảo

Chia sẻ: Facebook LinkedIn
Nhắn Zalo tư vấnZalo Gọi 0937 401 483