Trước khi trợ lý AI nội bộ trả lời: kiểm tra quyền và nguồn

UDT Insights

Từ kho tri thức UDT: tài liệu học tập RAG, tháng 8/2026. Bài biên tập mới.

Bắt đầu từ những câu hỏi trợ lý được phép trả lời

Trợ lý nội bộ không nên biến mọi tài liệu thành câu trả lời cho mọi nhân viên. Trước khi thử nghiệm, hãy xác định câu hỏi được hỗ trợ, nguồn được sử dụng và ai được đọc những nguồn đó.

Bài viết đề xuất cách kiểm tra mức sẵn sàng cho bản thử nghiệm. Tài liệu học tập nền tảng trình bày RAG, tức sinh câu trả lời có tăng cường truy xuất. RAG tìm nội dung liên quan rồi đưa nội dung đó vào ngữ cảnh để mô hình tạo câu trả lời.

Kiểm tra quyền trước khi tạo câu trả lời

OWASP khuyến nghị kho vector và embedding có nhận biết quyền, kèm phân tách truy cập dữ liệu.[3] Quyền đọc tài liệu là trách nhiệm của hệ thống, không phải lời nhắc để mô hình ngôn ngữ tùy chọn tuân theo.

Thiết kế chúng tôi đề xuất kiểm tra người dùng hiện tại và tài liệu được phép đọc trước khi nội dung truy xuất đến mô hình. Áp dụng cùng ranh giới cho đoạn trích, liên kết nguồn và câu trả lời dùng lại. Chỉ tên tài liệu hạn chế cũng có thể làm lộ thông tin.

Bộ lọc câu hỏi độc hại có mục đích khác. Nó không xác định một người có được đọc tài liệu cụ thể hay không. Cần kiểm tra thay đổi quyền, kể cả khi người dùng từng hỏi thành công rồi mới bị thu hồi quyền.

Chuẩn bị nguồn trước buổi demo

Bắt đầu với một tập tài liệu nhỏ đã được duyệt. Nhờ người phụ trách xác nhận nguồn nào có thẩm quyền và nội dung nào cần sửa.

• Phạm vi: chọn câu hỏi hỗ trợ và loại trừ chủ đề bản thử nghiệm chưa thể trả lời có trách nhiệm.
• Trách nhiệm: xác định người phụ trách nguồn, trạng thái rà soát và cách xử lý tài liệu mâu thuẫn.
• Độ mới: quy định cách cập nhật nội dung, thu hồi tài liệu và thay đổi quyền đi vào hệ thống truy xuất.
• Truy vết: giữ định danh tài liệu, đoạn liên quan và thông tin phiên bản để rà soát.
• Quy tắc trả lời: tách phát biểu có căn cứ khỏi điểm chưa rõ, hỏi lại khi bằng chứng không đủ.
• Đánh giá: kiểm tra câu trả lời được phép, từ chối truy cập, thiếu bằng chứng, nguồn cũ và nội dung truy xuất gây hiểu sai.

Kiểm tra câu trả lời, không chỉ kết quả tìm kiếm

Đánh giá riêng truy xuất và sinh câu trả lời. Hệ thống có tìm đúng đoạn liên quan mà người dùng được đọc không? Câu trả lời có bám đoạn đó không? Có trả lời đúng câu hỏi không? Có khớp đáp án tham chiếu đã duyệt không?

Trích dẫn giúp người rà soát kiểm tra phát biểu. Nó không chứng minh phát biểu được suy ra từ đoạn trích. Cần xem quan hệ giữa hai phần, đồng thời nêu điểm chưa rõ khi tài liệu mâu thuẫn. Giữ người có trách nhiệm rà soát quyết định quan trọng, thay vì coi diễn đạt trôi chảy là thẩm quyền.

Ví dụ giả định: yêu cầu dùng thiết bị

Đây là ví dụ giả định, không phải hệ thống UDT đã triển khai. Một nhân viên hỏi ai phê duyệt yêu cầu sử dụng thiết bị chung.

Trợ lý tìm thấy hướng dẫn đã duyệt mà nhân viên được quyền đọc. Trợ lý trả lời kèm đoạn liên quan và liên kết nguồn. Nó không đưa thêm ghi chú kế hoạch bị hạn chế chỉ vì ghi chú có cùng từ khóa.

Sau đó, hướng dẫn thay đổi nhưng chỉ mục vẫn chứa tên người phê duyệt cũ. Bài kiểm tra cần phát hiện chênh lệch này. Khi chưa xác nhận nguồn đã cập nhật, trợ lý cần nêu điểm chưa chắc và hướng người hỏi tới đầu mối phụ trách, không tự bịa câu trả lời.

Luồng kiểm tra sẵn sàng bốn bước

Dùng trình tự này để nghiệm thu bản thử trước khi mở rộng tập tài liệu.

• Lựa chọn: duyệt câu hỏi, người phụ trách tài liệu và tập nguồn.
• Phân quyền: thực thi quyền hiện tại của người dùng trước khi nội dung truy xuất đến bước sinh câu trả lời.
• Trả lời: dùng đoạn có căn cứ và cho phép kiểm tra bằng chứng.
• Rà soát: kiểm tra độ đúng, thay đổi quyền và độ mới của nguồn trước khi mở rộng.