- Điểm 1⚡ Tóm lược nhanh 1.
- Điểm 2Hallucination — Căn Bệnh Của LLM Và Tại Sao Nó Vẫn Chưa Được Chữa Khỏi Tuần qua, một luật sư…
- Điểm 3AI đã bịa ra … 1.
⚡ Tóm lược nhanh
1. Hallucination — Căn Bệnh Của LLM Và Tại Sao Nó Vẫn Chưa Được Chữa Khỏi Tuần qua, một luật sư tại Hà Nội chia sẻ câu chuyện hú hồn: họ dùng ChatGPT để research precedent cases và trình lên tòa — 6 trên 8 vụ án được cite không tồn tại. AI đã bịa ra …
1. Hallucination — Căn Bệnh Của LLM Và Tại Sao Nó Vẫn Chưa Được Chữa Khỏi
Tuần qua, một luật sư tại Hà Nội chia sẻ câu chuyện hú hồn: họ dùng ChatGPT để research precedent cases và trình lên tòa — 6 trên 8 vụ án được cite không tồn tại. AI đã bịa ra số hiệu vụ án, tên thẩm phán và nội dung phán quyết một cách hoàn toàn tự tin. Sự cố tương tự đã xảy ra với luật sư Mỹ năm 2023 và tiếp tục tái diễn trên toàn cầu.
Hallucination trong AI là hiện tượng LLM tạo ra thông tin nghe có vẻ tự tin và hợp lý nhưng thực ra sai hoàn toàn hoặc không có căn cứ. Đây không phải là lỗi ngẫu nhiên — đây là hệ quả kiến trúc của cách LLM hoạt động.
2. Tại Sao LLM Hallucinate?
Có 4 nguyên nhân cơ bản:
2.1 LLM Là Mô Hình Xác Suất, Không Phải Cơ Sở Dữ Liệu
LLM không "biết" thông tin theo nghĩa tra cứu — nó học pattern từ training data và dự đoán token tiếp theo có xác suất cao nhất. Khi được hỏi về thông tin không có trong training data (hay sparse), nó vẫn generate text có xác suất cao thay vì nói "tôi không biết" — vì "tôi không biết" thường có xác suất thấp hơn "một câu trả lời nghe có vẻ đúng".
2.2 Training Data Bias Và Errors
Internet chứa đầy thông tin sai, outdated và biased. LLM học tất cả — kể cả thông tin sai. Và vì thông tin sai thường được lặp lại nhiều lần trên internet, đôi khi nó có xác suất cao hơn thông tin đúng.
2.3 Knowledge Cutoff
LLM không biết sự kiện sau ngày cutoff training. Khi được hỏi về thông tin sau cutoff, nó không nói "tôi không biết" mà extrapolate từ pattern đã học — thường sai.
2.4 Sycophancy
RLHF training khuyến khích LLM cung cấp câu trả lời mà người dùng thích thay vì câu trả lời đúng. Nếu người dùng đặt câu hỏi có assumption sai, LLM có xu hướng confirm assumption đó thay vì correct.
3. Tám Kỹ Thuật Giảm Thiểu Hallucination Hiệu Quả Nhất
Kỹ Thuật 1: Retrieval-Augmented Generation (RAG)
Thay vì để LLM dựa vào training data, RAG cung cấp context thực tế từ verified sources trước mỗi câu trả lời. LLM chỉ được phép synthesize từ context được cung cấp, không được "sáng tác" thêm. Giảm hallucination factual xuống 60–80% cho domain knowledge cụ thể.
Kỹ Thuật 2: Grounding & Citation
Yêu cầu LLM luôn cite nguồn cho mọi claim. Khi LLM biết phải cite nguồn, nó ít hallucinate hơn vì không có nguồn để cite = phải nói "tôi không có thông tin về điều này". Kỹ thuật prompt: "Với mỗi fact, hãy cite nguồn cụ thể. Nếu không có nguồn, hãy nói rõ đây là suy luận của bạn."
Kỹ Thuật 3: Self-Consistency
Chạy cùng một câu hỏi nhiều lần với temperature khác nhau, lấy câu trả lời theo đa số (majority voting). Câu trả lời hallucinated thường không nhất quán giữa các lần chạy, trong khi thông tin đúng thường lặp lại. Tăng accuracy 15–25% trên reasoning tasks.
Kỹ Thuật 4: Chain-of-Verification (CoVe)
Sau khi LLM tạo response ban đầu, yêu cầu nó tự tạo danh sách câu hỏi verification, tự trả lời từng câu hỏi đó, rồi revise response ban đầu dựa trên kết quả verification. Hiệu quả đặc biệt với list facts và multi-hop questions.
Kỹ Thuật 5: Calibrated Uncertainty
Fine-tune hoặc instruct LLM để express uncertainty calibrated: thay vì luôn trả lời tự tin, LLM phải estimate confidence level của mình ("Tôi khá chắc (85%) rằng…" hoặc "Tôi không chắc, nhưng theo tôi nhớ…"). Người dùng có thể dựa vào confidence score để quyết định có verify thêm không.
Kỹ Thuật 6: Structured Prompting Với Explicit Constraints
Thay vì hỏi mở ("Cho tôi biết về XYZ"), dùng structured prompt với explicit constraints: "Chỉ sử dụng thông tin trong context được cung cấp. Nếu context không đủ, hãy nói rõ. Không suy luận hay giả định nếu không có bằng chứng."
Kỹ Thuật 7: Ensemble Với Fact-Checking Agent
Sau khi LLM tạo response, một Fact-Checking Agent riêng (dùng model khác hoặc cùng model với system prompt khác) review và flag các claim có khả năng sai. Với claim bị flag, trigger web search để verify. Kiến trúc này phù hợp cho use cases cần độ chính xác cao như y tế, pháp lý, tài chính.
Kỹ Thuật 8: Domain-Specific Fine-Tuning
Fine-tune LLM trên dataset chính xác của domain cụ thể giúp model "biết" nhiều hơn về domain và hallucinate ít hơn. Tốn kém hơn nhưng hiệu quả nhất cho production systems với domain hẹp và rõ ràng.
4. Đo Lường Hallucination: RAGAS Và TruthfulQA
- TruthfulQA: Benchmark đo khả năng của LLM trả lời đúng câu hỏi mà con người thường bị mislead. GPT-5 đạt ~90%, Claude 4 ~88%, Gemini 2.5 ~85%.
- RAGAS Faithfulness: Đo xem response có được support bởi context retrieved không — chỉ số quan trọng nhất cho RAG systems.
- HaluEval: Dataset đặc biệt để test hallucination trong knowledge-intensive tasks.
5. Hallucination Trong Production: Monitoring Và Alerting
- Setup automated fact-checking pipeline cho một sample % responses.
- Monitor khi LLM express high confidence nhưng thực ra không có evidence — cần calibration.
- Human review cho tất cả responses trong high-stakes domains (y tế, pháp lý, tài chính) trước khi deliver cho end user.
- Build feedback loop: user có thể flag responses sai, data này feed vào improvement process.
6. Kết Luận
Hallucination là thực tế cần accept, không phải problem sẽ "được fix" hoàn toàn. LLM tốt nhất năm 2026 vẫn hallucinate — chỉ là ít hơn. Chiến lược khôn ngoan: kết hợp nhiều kỹ thuật giảm thiểu, thiết kế hệ thống với assumption LLM CÓ THỂ sai và xây dựng safety net cho người dùng phát hiện và báo cáo errors. Đừng deploy LLM trong high-stakes domain mà không có guardrails — đây là bài học đắt giá mà nhiều tổ chức đã phải trả.
🚀 Sẵn sàng ứng dụng AI vào doanh nghiệp của bạn?
Tư vấn AI miễn phí — Bắt đầu chuyển đổi ngay hôm nay
EraGenAI đã giúp hàng trăm doanh nghiệp Việt Nam triển khai AI thực chiến, tăng năng suất 3-10x.
Chọn hướng phù hợp với bạn

