Totalsträckskryptering kan hindra en meddelandereläserver från att läsa skyddat chattinnehåll. Den garanterar inte att inget AI-system någonsin får innehållet: en behörig deltagare kan kopiera det, en tillåten funktion kan behandla det eller en komprometterad enhet kan exponera det.
För att bedöma risken för AI-träning följer du data från samtalet till modellen. Den viktiga skillnaden går mellan chiffertext som reläservern inte kan öppna och klartext som avsiktligt eller oavsiktligt lämnas till en annan ändpunkt.
Att behandla ett meddelande är inte samma sak som att träna en modell
En AI-funktion kan behandla text för att skapa en sammanfattning utan att använda texten för att uppdatera modellparametrar. En tjänst kan också spara instruktioner, samla in återkoppling eller tillåta träning enligt en separat policy. Det är olika åtgärder som kräver olika information.
Fråga om funktionen endast utför den begärda uppgiften, om den lagrar indata eller utdata och om den använder dem för att förbättra modellen. Att det finns en AI-knapp besvarar inte frågorna. Det gör inte heller ordet ”krypterad”.
Forskarna bakom How To Think About End-To-End Encryption and AI skiljer mellan AI-assistans, träning, utlämnande och samtycke när de utvärderar dessa system. Deras analys är ett skäl att noggrant granska dataflödet, inte bevis för att alla leverantörer i hemlighet tränar på alla privata meddelanden.
Hur chattinnehåll kan nå AI
| Väg | Varför E2EE ensamt inte avgör frågan |
|---|---|
| En deltagare klistrar in en chatt i en assistent | Deltagaren har redan tillgång till klartext |
| En bot läggs till i ett samtal | En bot kan vara en behörig mottagare med en egen behandlingspolicy |
| En funktion på enheten läser synlig text | Behandlingen sker efter dekryptering vid en ändpunkt |
| En molnfunktion med utvald kontext aktiveras | Användaren kan godkänna ett separat utlämnande eller en skyddad behandlingsväg |
| Skadlig kod eller ett tillägg med alltför stora behörigheter läser appen | Ändpunkten, inte transportkrypteringen, är komprometterad |
| Innehåll publiceras offentligt | Offentlig spridning har en annan konfidentialitetsgräns |
En fjärrbaserad AI-modell får inte en allmän förmåga att dekryptera välfungerande kryptering bara för att den är en AI-modell. Samtidigt kan ingen kryptografisk algoritm hindra en mottagare från att skicka en läsbar kopia någon annanstans.
Dagens produkter visar olika gränser
WhatsApps AI-vägledning skiljer mellan personliga meddelanden och material som delas med en AI och beskriver en annan behandling för tredjepartsagenter. Dess vägledning om AI på skärmen förklarar separat att aktivering av dessa funktioner kan innebära att synliga meddelanden och aviseringar delas.
Exemplen visar varför ett svepande påstående om en hel app ofta är missvisande. Kontrollera den specifika assistenten, det läge och den behörighet som används, inte en gammal skärmbild av ett allmänt integritetsmeddelande.
Vad kan man säga om Livara?
Livaras säkerhetssida beskriver E2EE för privata samtal som stöds, tillsammans med bevarade operativa metadata och offentliga kanaler. Dess offentliga AI-sida beskriver också hur användaren väljer samtalsomfattning och ger tillstånd innan utvald kontext delas, inklusive en synlig indikering när vald text skulle skickas till en leverantör.
Dessa uttalanden stöder inte det absoluta påståendet att Livara aldrig kan behandla chattinnehåll med AI. De innebär inte heller i sig ett allmänt löfte om ingen träning eller ingen lagring för varje möjlig modellväg. Funktionens aktuella information och den valda leverantörens villkor måste besvara de frågorna.
Postkvantetablering av nycklar hanterar en annan risk: framtida kryptoanalytiska angrepp mot inspelad chiffertext. Den styr inte vad en behörig AI-mottagare gör med klartext i dag.
Checklista för träningsrisk i privata samtal
- Identifiera mottagaren. Är funktionen lokal, drivs den av meddelandetjänsten eller tillhandahålls den av en annan leverantör?
- Begränsa kontexten. Dela minsta nödvändiga textavsnitt eller fil; utelämna ovidkommande personuppgifter.
- Läs den relevanta policyn. Leta särskilt efter villkor om träning, lagring, mänsklig granskning, återkoppling och radering.
- Kontrollera gruppens förväntningar. Tillstånd att läsa ett gruppsamtal är inte automatiskt tillstånd att skicka det till en annan tjänst.
- Granska åtkomst till ändpunkter. Webbläsartillägg, aviseringsåtkomst och anslutna appar kan skapa separata vägar till innehåll.
- Håll offentliga och privata ytor åtskilda. Lägg inte konfidentiellt material i en offentlig kanal och förvänta dig att privat chattkryptering skyddar det.
E2EE kan stänga en väg för serveråtkomst. Att förhindra oönskad AI-användning kräver också kontroll över ändpunkterna, behörigheterna och utlämnandena som hanterar det dekrypterade innehållet.
