Thiết kế đầu ra AI như đề xuất thay vì quyết định

Màn hình khuyến nghị ảnh hưởng cách con người dùng đầu ra AI. Một câu trôi chảy đặt cạnh nút hành động nổi bật có thể tạo cảm giác chắc chắn hơn mức bằng chứng cho phép. Hãy thiết kế đầu ra như đề xuất mà người chịu trách nhiệm có thể kiểm tra, sửa hoặc bác bỏ. Sự phân biệt cần tồn tại trong cả câu chữ lẫn quy trình.

Giao mục đích xác định cho đề xuất

Nêu rõ đầu ra giúp người dùng làm gì: so sánh phương án, tìm thông tin thiếu hay chuẩn bị bản nháp. Tránh trình bày nhận định sinh tự do như lập trường cuối của tổ chức. NIST yêu cầu ghi rõ giới hạn kiến thức và cách con người sử dụng, giám sát đầu ra AI.[7] Cung cấp các giới hạn đó ngay nơi đề xuất xuất hiện.

Tách dữ kiện có nguồn khỏi gợi ý suy luận. Nếu khuyến nghị phụ thuộc giả định, hiển thị giả định cạnh khuyến nghị. Không dùng nhãn tin cậy không giải thích để thay bằng chứng hỗ trợ. Người rà soát cần hiểu thông tin nào sẽ làm đề xuất thay đổi.

Thiết kế để có thể kiểm tra và bất đồng

Đặt bằng chứng liên quan cạnh phát biểu nó hỗ trợ. Hiển thị đầu vào thiếu trước khi người dùng đến nút chấp nhận. Cho người rà soát sửa đề xuất, so sánh phương án hợp lý khác hoặc không dùng hỗ trợ AI. Đây là khuyến nghị giao diện nhằm hỗ trợ rà soát, không khẳng định một bố cục cụ thể bảo đảm người dùng luôn suy xét kỹ.

Tránh chọn sẵn chấp nhận và câu chữ ngụ ý hệ thống đã quyết định. Nếu quy trình cần hồ sơ quyết định, giữ chỉnh sửa của người rà soát tách với bản được sinh. Khi người dùng chọn khác, cho phép ghi lý do ngắn mà không bắt họ viết giải trình dài chỉ vì không đồng ý với mô hình.

Danh sách kiểm tra thiết kế đề xuất

Rà soát màn hình cùng người chịu trách nhiệm quyết định cuối. Đề nghị người đó giải thích khuyến nghị và giới hạn mà không cần nhóm triển khai hỗ trợ.

• Gắn nhãn đầu ra là đề xuất hoặc bản nháp, không phải quyết định đã duyệt.
• Phân biệt dữ kiện có trích dẫn, giả định và câu hỏi chưa giải quyết.
• Hiển thị rõ lựa chọn sửa, từ chối và yêu cầu thêm thông tin.
• Tách chấp nhận đề xuất khỏi gửi, đăng hoặc sửa bản ghi.
• Hiển thị kết quả hành động sau đó, không coi chấp nhận là bằng chứng đã thực thi.

Ví dụ giả định: đề xuất bổ sung hàng

Một nhà cung cấp văn phòng phẩm giả định dùng AI gợi ý số lượng bổ sung từ tóm tắt tồn kho và kế hoạch khuyến mại sắp tới. Đề xuất liệt kê số tồn có nguồn nhưng nêu rõ chưa có dữ liệu lô hàng nhập đã xác nhận. Người mua có thể yêu cầu thông tin này trước khi chọn số lượng.

Giao diện không gắn nhãn gợi ý là đơn mua đã duyệt. Tạo đơn hàng đi qua quy trình được phân quyền riêng. OWASP khuyến nghị con người phê duyệt hành động tác động lớn và thực thi quyền bên ngoài mô hình.[4] Khi chưa giải quyết thông tin lô hàng còn thiếu, số lượng gợi ý vẫn có điều kiện chứ chưa sẵn sàng để đặt hàng.

Giữ tính hữu ích mà không tạo cảm giác đã chốt

Hiển thị giả định và phương án khác làm tăng công đọc. Quá nhiều chi tiết có thể che vấn đề chính, nên ưu tiên thông tin có thể đổi quyết định. Kiểm tra người dùng có nhận ra gợi ý cố ý thiếu căn cứ và tìm được nguồn gốc hay không. Nếu không, đơn giản hóa đề xuất hoặc thu hẹp tác vụ trước khi trao thêm thẩm quyền cho đầu ra.