Làm rõ bước phê duyệt của con người trong quy trình có AI

Trợ lý AI có thể chuẩn bị một hành động hữu ích mà không có thẩm quyền thực hiện. Rắc rối xuất hiện khi quy trình coi yêu cầu chung, bản xem trước hoặc sự im lặng là phê duyệt. Cần xác định rõ ranh giới: chuẩn bị tạo ra đề xuất, phê duyệt cho phép một đề xuất cụ thể, còn thực thi chỉ áp dụng đúng đề xuất đã được duyệt.

Chọn hành động cần có quyết định

Liệt kê hậu quả của từng thao tác trước khi thiết kế màn hình phê duyệt. Gửi cam kết cho khách hàng, đổi quyền tài khoản và sửa bản nháp nội bộ không nên mặc nhiên dùng cùng một quy tắc. OWASP khuyến nghị con người phê duyệt trước hành động có tác động lớn và thực thi phân quyền tại hệ thống đích.[4]

Xác định yêu cầu phê duyệt theo tác động của thao tác, không theo mức tự tin trong lời văn của mô hình. Ghi rõ ai được duyệt, ai cung cấp bằng chứng còn thiếu và ai được hủy. NIST yêu cầu phân biệt rõ trách nhiệm trong cơ chế con người giám sát hệ thống AI.[7] Quy trình cần thể hiện những trách nhiệm đó để nhân viên nhận biết được.

Hiển thị đề xuất thực sự

Đặt bản ghi đích, thay đổi dự kiến, bằng chứng hỗ trợ và hậu quả mong đợi cạnh nhau. Cho người rà soát so sánh trạng thái hiện tại với trạng thái đề xuất. Tránh câu xác nhận mơ hồ chỉ hỏi người dùng có tin trợ lý hay không. Người duyệt cần đủ thông tin để nhận diện chính xác hành động mà họ đang cho phép.

Gắn phê duyệt với đúng đề xuất đó. Nếu người nhận, số tiền, phạm vi hoặc nội dung quan trọng thay đổi, phải yêu cầu duyệt lại. Đặt quy tắc hết hiệu lực phù hợp với tác vụ. Ví dụ, quyết định dựa trên tồn kho không nên có hiệu lực vô thời hạn sau khi tồn kho thay đổi. Đây là kiểm soát thiết kế được khuyến nghị, không phải chuẩn phê duyệt áp dụng cho mọi tình huống.

Danh sách kiểm tra khi triển khai

Dùng các điểm sau để rà soát cả giao diện lẫn đường thực thi phía máy chủ. Nút hiển thị trên màn hình không đủ nếu một đường khác có thể bỏ qua yêu cầu đó.

• Xác minh thẩm quyền của người duyệt đối với đúng bản ghi và thao tác.
• Lưu phiên bản đề xuất cùng quyết định rõ ràng của người rà soát.
• Làm mất hiệu lực phê duyệt khi dữ kiện hoặc tác động quan trọng thay đổi.
• Cung cấp đường từ chối, sửa và chuyển cấp mà không ép chấp nhận.
• Đọc lại đối tượng sau thực thi và cho biết thay đổi đã duyệt có thật sự xảy ra không.

Ví dụ giả định: ngoại lệ giao hàng

Một nhà phân phối giả định dùng AI soạn tin nhắn đề nghị gửi hàng thay thế. Trưởng nhóm dịch vụ xem đơn hàng, mặt hàng đề xuất, người nhận và điều kiện giao hàng trước khi duyệt. Sau đó trợ lý đề xuất mặt hàng khác vì mặt hàng ban đầu không còn sẵn.

Bản sửa phải quay về bước rà soát thay vì sử dụng phê duyệt trước đó. Nếu thực thi thất bại, hệ thống báo lỗi chứ không trình bày bản xem trước đã duyệt như tin nhắn đã gửi. Trưởng nhóm có thể chọn hàng thay thế khác hoặc liên hệ khách hàng mà không dựa vào trạng thái hoàn thành sai.

Dành nguồn lực cho việc rà soát có ý nghĩa

Phê duyệt làm tăng thời gian chờ và khối lượng công việc của người duyệt. Chỉ áp dụng khi quyết định đáng để chịu chi phí đó, và kiểm tra xem người rà soát có tìm được lỗi được cài vào bài thử hay không. Nếu nhân sự không đủ để xem xét thực chất, hãy giảm thẩm quyền của trợ lý hoặc thu hẹp quy trình. Không che khoảng trống bằng bước phê duyệt mà mọi người luôn bấm chấp nhận.