Bảo vệ thông tin khách hàng khi tích hợp nhà cung cấp AI

Trợ lý hỗ trợ khách hàng có thể chỉ cần mô tả ngắn về vấn đề, không cần toàn bộ lịch sử tài khoản. Hãy bắt đầu tích hợp nhà cung cấp bằng việc xác định thông tin tác vụ thực sự cần. Sau đó kiểm tra mọi nơi thông tin có thể được chuyển tới hoặc lưu lại. Tuyên bố về quyền riêng tư không thay thế được việc hiểu yêu cầu thực tế của ứng dụng và các bản ghi đã lưu.

Vẽ đầy đủ đường đi dữ liệu

Liệt kê thông tin trong đầu vào người dùng, đoạn truy xuất, phản hồi mô hình, nhật ký vận hành, phân tích và tệp xuất phục vụ hỗ trợ. Xác định thành phần nhận từng mục và ai có thể truy cập. Bao gồm đường lỗi vì yêu cầu thất bại vẫn có thể tạo bản ghi chẩn đoán. Bắt đầu bằng dữ liệu giả lập thay vì hội thoại khách hàng thật.

OWASP liệt kê thông tin cá nhân, chi tiết tài chính, dữ liệu kinh doanh bí mật và thông tin xác thực trong nhóm dữ liệu nhạy cảm của ứng dụng AI.[5] Dùng danh sách này làm điểm xuất phát, rồi hỏi người phụ trách nghiệp vụ trường nào cần thiết. Loại trường không liên quan trước khi ghép yêu cầu, không chỉ sau khi nhận phản hồi.

Xác minh đúng thỏa thuận dịch vụ

Yêu cầu điều khoản và cấu hình áp dụng cho đúng sản phẩm, tài khoản và tính năng đang được đề xuất. Xem việc lưu giữ, dùng để huấn luyện, nơi xử lý, dịch vụ thầu phụ, quyền hỗ trợ và thủ tục xóa. Đây là câu hỏi cần bằng chứng từ nhà cung cấp, không phải giả định mọi dịch vụ của cùng hãng đều giống nhau.

Ghi riêng dữ liệu ứng dụng lưu và dữ liệu nhà cung cấp lưu. Tắt một loại nhật ký không chứng minh mọi bản sao khác đã bị xóa. Khi yêu cầu chưa rõ, cần đưa người phụ trách quyền riêng tư và bảo mật vào trước khi gửi hồ sơ khách hàng. Bài viết đưa ra câu hỏi tích hợp, không kết luận việc tuân thủ pháp luật.

Kiểm tra ranh giới phía ứng dụng

OWASP khuyến nghị quyền truy cập tối thiểu và cảnh báo giới hạn trong system prompt có thể bị vượt qua.[5] Không dùng chỉ dẫn cho mô hình làm rào cản duy nhất giữa thông tin các khách hàng. Kiểm soát phạm vi trước truy xuất và giới hạn người được xem phản hồi đã lưu.

• Chỉ gửi trường tác vụ cần và rà soát mẫu nội dung yêu cầu đi ra ngoài.
• Kiểm tra một khách hàng hoặc người dùng không lấy được tài liệu hạn chế của bên khác.
• Không đưa thông tin xác thực và mã nhận diện không cần thiết vào prompt hoặc nhật ký chẩn đoán.
• Đặt quy tắc truy cập và lưu giữ cho hội thoại, tệp xuất và bản ghi lỗi.
• Xác minh việc xóa các bản do nhóm kiểm soát và ghi rõ trách nhiệm của nhà cung cấp.

Ví dụ giả định: tóm tắt yêu cầu hỗ trợ

Một doanh nghiệp dịch vụ thuê bao giả định muốn AI tóm tắt cho nhân viên hỗ trợ. Yêu cầu ban đầu chứa lịch sử thanh toán và ghi chú nội bộ không liên quan vấn đề hiện tại. Nhóm tích hợp thay bằng mô tả vấn đề, thông tin sản phẩm liên quan và tham chiếu tác vụ không chứa mã nhận diện không cần thiết.

Người rà soát xem yêu cầu thử và nhật ký lỗi để xác nhận trường bị loại không xuất hiện trở lại. Quyền xem bản tóm tắt tuân theo vai trò hỗ trợ sẵn có. Không nên giả định bỏ mã định danh sẽ xác lập tính ẩn danh. Người rà soát vẫn xem mô tả vấn đề còn lại có chi tiết nhận diện hoặc làm lộ thông tin khách hàng hay không.

Chọn ranh giới trước khi mở rộng

Ít ngữ cảnh hơn có thể giảm tính hữu ích của đáp án, còn nhiều ngữ cảnh hơn làm tăng thông tin mỗi thành phần tiếp cận. Đánh giá đánh đổi bằng tác vụ tiêu biểu. Nếu chưa xác minh được kiểm soát cần thiết, hãy thu hẹp tính năng, giữ dữ liệu ngoài tích hợp hoặc tạm dừng trường hợp sử dụng thay vì xem sự chưa rõ là phê duyệt.