Trong bài này
Embedding là cách biểu diễn một đối tượng như từ, câu, tài liệu hoặc sản phẩm bằng một vector số. Mục tiêu là đưa những đối tượng có ý nghĩa hoặc đặc điểm gần nhau đến gần nhau hơn trong không gian biểu diễn.
Vector biểu diễn dữ liệu
Thay vì mô tả ý nghĩa bằng chữ, hệ thống dùng một dãy số để mã hóa các đặc trưng đã học.
Khoảng cách và ngữ nghĩa
Hai câu khác chữ nhưng gần nghĩa có thể có vector nằm gần nhau, tạo nền tảng cho tìm kiếm theo ngữ nghĩa.
Static và contextual embeddings
Một số embedding tương đối cố định; contextual embedding có thể thay đổi biểu diễn dựa trên ngữ cảnh xung quanh.
Ứng dụng và liên hệ RAG
Embedding được dùng trong semantic search, phân nhóm, gợi ý và có thể hỗ trợ tìm đoạn tài liệu liên quan trước bước sinh trong RAG.
Điều cần nhớ
- Embedding biến dữ liệu thành vector số.
- Khoảng cách vector có thể phản ánh mức gần nhau về nghĩa.
- Embedding là nền tảng của semantic search và nhiều hệ thống RAG.
Kiểm tra nhanh
- Hai câu khác chữ nhưng cùng nghĩa có thể có embedding gần nhau không?
- Embedding thường được biểu diễn dưới dạng gì?
- Semantic search khác tìm kiếm từ khóa ở điểm nào?
- Embedding hỗ trợ bước nào trong RAG?