Trong bài này
LLM là viết tắt của Large Language Model. Ở mức cơ bản, mô hình ngôn ngữ học các mẫu trong dữ liệu và tạo đầu ra bằng cách dự đoán token tiếp theo dựa trên context.
Language model dự đoán token
Mô hình không lấy nguyên đoạn văn đã lưu sẵn. Nó liên tục ước lượng token phù hợp tiếp theo dựa trên chuỗi token trước đó.
“Large” nghĩa là gì?
Từ large thường liên quan tới quy mô tham số, dữ liệu và năng lực tính toán dùng để xây mô hình.
Context ảnh hưởng dự đoán
Yêu cầu hiện tại, lịch sử hội thoại và dữ liệu được cung cấp có thể ảnh hưởng trực tiếp đến token tiếp theo mà mô hình dự đoán.
LLM không phải cơ sở dữ liệu sự thật
LLM tạo chuỗi ngôn ngữ có xác suất phù hợp nên câu trả lời có thể tự nhiên nhưng vẫn sai, lỗi thời hoặc thiếu nguồn.
Điều cần nhớ
- LLM sinh ngôn ngữ bằng dự đoán token theo context.
- Quy mô lớn mở rộng năng lực nhưng không đảm bảo mọi câu trả lời đúng.
- LLM không phải cơ sở dữ liệu sự thật.
Kiểm tra nhanh
- LLM dự đoán gì khi tạo văn bản?
- Context ảnh hưởng đầu ra như thế nào?
- Vì sao LLM có thể tạo nhiều câu trả lời hợp lý?
- Vì sao không nên xem LLM là cơ sở dữ liệu?