Mã hóa đầu cuối có thể ngăn máy chủ chuyển tiếp tin nhắn đọc nội dung trò chuyện được bảo vệ. Nó không bảo đảm rằng không hệ thống AI nào có thể nhận nội dung đó: người tham gia được phép có thể sao chép, một tính năng được cấp quyền có thể xử lý, hoặc thiết bị bị xâm nhập có thể làm lộ nội dung.
Để đánh giá rủi ro huấn luyện AI, hãy theo dõi dữ liệu từ cuộc trò chuyện đến mô hình. Điều quan trọng là phân biệt bản mã mà máy chủ chuyển tiếp không thể mở với bản rõ được cố ý hoặc vô tình cung cấp cho một điểm cuối khác.
Xử lý tin nhắn không giống với huấn luyện mô hình
Một tính năng AI có thể xử lý văn bản để tạo bản tóm tắt mà không dùng văn bản đó để cập nhật tham số mô hình. Dịch vụ cũng có thể lưu giữ câu lệnh, thu thập phản hồi hoặc cho phép huấn luyện theo một chính sách riêng. Đây là các hoạt động khác nhau, cần được công bố riêng.
Hãy hỏi liệu tính năng chỉ thực hiện tác vụ được yêu cầu hay không, có lưu đầu vào hoặc đầu ra không, và có dùng chúng để cải thiện mô hình không. Chỉ riêng sự hiện diện của nút AI không trả lời được những câu hỏi đó. Từ “mã hóa” cũng vậy.
Các nhà nghiên cứu trong How To Think About End-To-End Encryption and AI phân biệt hỗ trợ bằng AI, huấn luyện, tiết lộ và sự đồng ý khi đánh giá các hệ thống này. Phân tích của họ là lý do để xem xét luồng dữ liệu cẩn thận, không phải bằng chứng rằng mọi nhà cung cấp đều bí mật huấn luyện trên mọi tin nhắn riêng tư.
Nội dung trò chuyện có thể đến AI qua đâu
| Đường đi | Vì sao chỉ E2EE không giải quyết được vấn đề |
|---|---|
| Người tham gia dán cuộc trò chuyện vào trợ lý | Người tham gia đã có quyền truy cập bản rõ |
| Bot được thêm vào cuộc trò chuyện | Bot có thể là người nhận được cấp quyền với chính sách xử lý riêng |
| Tính năng trên thiết bị đọc văn bản hiển thị | Việc xử lý diễn ra sau khi giải mã tại điểm cuối |
| Tính năng đám mây dùng ngữ cảnh được chọn được bật | Người dùng có thể cho phép tiết lộ riêng hoặc một đường xử lý được bảo vệ |
| Phần mềm độc hại hoặc tiện ích mở rộng có quá nhiều quyền đọc ứng dụng | Điểm cuối bị xâm nhập, không phải mật mã bảo vệ truyền tải |
| Nội dung được công bố công khai | Phân phối công khai là một ranh giới bảo mật khác |
Mô hình AI từ xa không có khả năng chung để giải mã hệ mã hóa vững chắc chỉ vì nó là mô hình AI. Đồng thời, không thuật toán mật mã nào có thể ngăn người nhận gửi một bản sao đọc được sang nơi khác.
Các sản phẩm hiện nay minh họa những ranh giới khác nhau
Hướng dẫn AI của WhatsApp phân biệt tin nhắn cá nhân với tài liệu được chia sẻ cùng AI và mô tả cách xử lý khác đối với tác nhân bên thứ ba. Hướng dẫn AI trên màn hình giải thích riêng rằng việc đồng ý bật các tính năng đó có thể chia sẻ tin nhắn và thông báo đang hiển thị.
Những ví dụ này cho thấy tại sao một tuyên bố bao quát về toàn bộ ứng dụng thường gây hiểu lầm. Hãy kiểm tra đúng trợ lý, chế độ và quyền đang được sử dụng, thay vì ảnh chụp cũ của một thông báo quyền riêng tư chung chung.
Có thể nói gì về Livara?
Trang bảo mật của Livara mô tả E2EE cho các cuộc trò chuyện riêng tư được hỗ trợ, cùng với siêu dữ liệu vận hành được lưu giữ và các kênh công khai. Trang AI công khai cũng mô tả phạm vi cuộc trò chuyện do người dùng chọn và việc xin phép trước khi chia sẻ ngữ cảnh đã chọn, bao gồm chỉ báo hiển thị khi văn bản đã chọn sẽ được gửi đến nhà cung cấp.
Những tuyên bố đó không hỗ trợ khẳng định tuyệt đối rằng Livara không bao giờ có thể xử lý nội dung trò chuyện bằng AI. Tự chúng cũng không thiết lập lời hứa phổ quát về không huấn luyện hoặc không lưu giữ đối với mọi đường xử lý mô hình có thể có. Thông tin công bố hiện tại của tính năng và điều khoản của nhà cung cấp được chọn phải trả lời những câu hỏi đó.
Thiết lập khóa hậu lượng tử giải quyết một rủi ro khác: các cuộc tấn công phân tích mật mã trong tương lai vào bản mã đã ghi lại. Nó không quy định người nhận AI được cấp quyền làm gì với bản rõ hôm nay.
Danh sách kiểm tra rủi ro huấn luyện cho cuộc trò chuyện riêng tư
- Xác định người nhận. Tính năng chạy cục bộ, do dịch vụ nhắn tin vận hành hay do nhà cung cấp khác cung cấp?
- Giới hạn ngữ cảnh. Chỉ chia sẻ đoạn văn hoặc tệp nhỏ nhất cần thiết; bỏ qua các chi tiết cá nhân không liên quan.
- Đọc chính sách phù hợp. Tìm cụ thể các điều khoản về huấn luyện, lưu giữ, người xem xét, phản hồi và xóa dữ liệu.
- Kiểm tra kỳ vọng của nhóm. Quyền đọc cuộc trò chuyện nhóm không tự động là quyền gửi nó cho dịch vụ khác.
- Rà soát quyền truy cập điểm cuối. Tiện ích trình duyệt, quyền truy cập thông báo và ứng dụng được kết nối có thể tạo các đường đi riêng đến nội dung.
- Tách biệt không gian công khai và riêng tư. Đừng đưa tài liệu mật lên kênh công khai rồi mong mã hóa trò chuyện riêng tư bảo vệ nó.
E2EE có thể chặn một đường truy cập của máy chủ. Ngăn việc sử dụng AI ngoài ý muốn còn đòi hỏi kiểm soát các điểm cuối, quyền và việc tiết lộ có liên quan đến nội dung đã giải mã.
