Szyfrowanie end-to-end może uniemożliwić przekaźnikowi komunikatora odczyt chronionej treści czatu. Nie gwarantuje jednak, że żaden system AI nigdy jej nie otrzyma: uprawniony uczestnik może ją skopiować, dozwolona funkcja przetworzyć, a przejęte urządzenie ujawnić.
Aby ocenić ryzyko trenowania AI, prześledź drogę danych od rozmowy do modelu. Kluczowe jest rozróżnienie między szyfrogramem, którego przekaźnik nie może otworzyć, a tekstem jawnym celowo lub przypadkowo przekazanym do innego punktu końcowego.
Przetwarzanie wiadomości to nie to samo co trenowanie modelu
Funkcja AI może przetwarzać tekst w celu stworzenia podsumowania, nie używając go do aktualizacji parametrów modelu. Usługa może też zachowywać prompty, zbierać opinie lub dopuszczać trening na mocy osobnej polityki. To różne operacje, wymagające odrębnych informacji.
Zapytaj, czy funkcja wykonuje tylko żądane zadanie, czy przechowuje dane wejściowe lub wyniki oraz czy wykorzystuje je do ulepszania modelu. Sam przycisk AI nie odpowiada na te pytania. Nie odpowiada na nie również słowo „zaszyfrowane”.
Badacze w pracy How To Think About End-To-End Encryption and AI rozróżniają pomoc AI, trening, ujawnianie i zgodę podczas oceny takich systemów. Ich analiza uzasadnia uważne badanie przepływu danych, a nie dowodzi, że każdy dostawca potajemnie trenuje na każdej prywatnej wiadomości.
Jak treść czatu może trafić do AI
| Ścieżka | Dlaczego samo E2EE nie rozstrzyga sprawy |
|---|---|
| Uczestnik wkleja czat do asystenta | Uczestnik już ma dostęp do tekstu jawnego |
| Do rozmowy dodano bota | Bot może być uprawnionym odbiorcą z własną polityką przetwarzania |
| Funkcja na urządzeniu odczytuje widoczny tekst | Przetwarzanie następuje po odszyfrowaniu w punkcie końcowym |
| Włączono funkcję chmurową z wybranym kontekstem | Użytkownik może zezwolić na osobne ujawnienie lub chronioną ścieżkę przetwarzania |
| Złośliwe oprogramowanie lub rozszerzenie z nadmiernymi uprawnieniami odczytuje aplikację | Przejęty jest punkt końcowy, a nie szyfr transportowy |
| Treść opublikowano publicznie | Publiczne rozpowszechnianie wyznacza inną granicę poufności |
Zdalny model AI nie zyskuje ogólnej zdolności łamania poprawnego szyfrowania tylko dlatego, że jest modelem AI. Zarazem żaden algorytm kryptograficzny nie może powstrzymać odbiorcy przed przekazaniem czytelnej kopii gdzie indziej.
Obecne produkty pokazują różne granice
Wskazówki WhatsApp dotyczące AI rozróżniają wiadomości osobiste i materiały udostępniane AI oraz opisują odmienne traktowanie agentów zewnętrznych. Osobne wskazówki dotyczące AI analizującej ekran wyjaśniają, że włączenie tych funkcji może udostępnić widoczne wiadomości i powiadomienia.
Przykłady te pokazują, dlaczego ogólne stwierdzenie o całej aplikacji często wprowadza w błąd. Sprawdź konkretnego asystenta, tryb i używane uprawnienie, a nie stary zrzut ogólnej informacji o prywatności.
Co można powiedzieć o Livara?
Strona bezpieczeństwa Livara opisuje E2EE dla obsługiwanych prywatnych rozmów, a także zachowywane metadane operacyjne i kanały publiczne. Jej publiczna strona AI opisuje również wybierany przez użytkownika zakres rozmowy i zgodę przed udostępnieniem wybranego kontekstu, w tym widoczną informację, gdy wybrany tekst miałby trafić do dostawcy.
Te deklaracje nie uzasadniają absolutnego twierdzenia, że Livara nigdy nie może przetwarzać treści czatów za pomocą AI. Same w sobie nie ustanawiają też powszechnej obietnicy braku treningu ani zerowej retencji dla każdej możliwej ścieżki modelu. Odpowiedzi muszą wynikać z aktualnych informacji o funkcji i warunków wybranego dostawcy.
Postkwantowe ustanawianie kluczy dotyczy innego ryzyka: przyszłych ataków kryptoanalitycznych na zapisany szyfrogram. Nie reguluje tego, co uprawniony odbiorca AI robi dziś z tekstem jawnym.
Lista kontrolna ryzyka treningu dla prywatnych rozmów
- Zidentyfikuj odbiorcę. Czy funkcja działa lokalnie, jest obsługiwana przez komunikator czy dostarczana przez innego dostawcę?
- Ogranicz kontekst. Udostępnij najmniejszy potrzebny fragment lub plik; pomiń niezwiązane szczegóły osobiste.
- Przeczytaj właściwą politykę. Szukaj konkretnie warunków dotyczących treningu, retencji, przeglądu przez ludzi, opinii i usuwania.
- Sprawdź oczekiwania grupy. Zgoda na odczyt rozmowy grupowej nie jest automatycznie zgodą na przekazanie jej innej usłudze.
- Przejrzyj dostęp do punktów końcowych. Rozszerzenia przeglądarki, dostęp do powiadomień i połączone aplikacje mogą tworzyć osobne drogi do treści.
- Oddzielaj przestrzenie publiczne od prywatnych. Nie umieszczaj poufnych materiałów w kanale publicznym, oczekując ochrony przez szyfrowanie prywatnych czatów.
E2EE może zamknąć ścieżkę dostępu serwera. Zapobieganie niechcianemu wykorzystaniu przez AI wymaga też kontroli punktów końcowych, uprawnień i ujawnień dotyczących odszyfrowanej treści.
