Trong bài này
Hallucination là thuật ngữ thường dùng khi mô hình AI tạo ra nội dung sai, bịa hoặc không được nguồn hỗ trợ nhưng trình bày với vẻ tự tin.
Vì sao hallucination xảy ra?
Mô hình ngôn ngữ tạo chuỗi dựa trên mẫu và xác suất; một chuỗi nghe hợp lý không tự động có nghĩa mọi chi tiết đều đúng về sự kiện.
Các dạng lỗi thường gặp
Hallucination có thể xuất hiện ở sự kiện, tên nguồn, số liệu, ngày tháng, trích dẫn hoặc mối quan hệ giữa dữ kiện.
Khi nào rủi ro cao?
Rủi ro cao hơn khi câu hỏi đòi hỏi dữ kiện mới, thông tin hiếm, con số cụ thể hoặc nội dung có hậu quả lớn nếu sai.
Nguyên tắc kiểm chứng
Với thông tin quan trọng, cần yêu cầu nguồn, đối chiếu tài liệu chính thức và không dùng một câu trả lời AI duy nhất làm căn cứ cuối cùng.
Điều cần nhớ
- Câu trả lời tự nhiên không đồng nghĩa với đúng.
- Nguồn, số liệu và trích dẫn cần kiểm tra kỹ.
- Mức độ kiểm chứng tăng theo mức độ rủi ro.
Kiểm tra nhanh
- Một câu trả lời tự tin có thể vẫn hallucinate không?
- Loại thông tin nào cần kiểm chứng nguồn?
- AI bịa một đường link thuộc dạng lỗi nào?
- Khi nào không nên dùng AI làm căn cứ duy nhất?