End-to-end-versleuteling kan voorkomen dat een berichtenrelay beschermde chatinhoud leest. Ze garandeert niet dat geen enkel AI-systeem die inhoud ooit ontvangt: een bevoegde deelnemer kan de inhoud kopiëren, een toegestane functie kan deze verwerken of een gecompromitteerd apparaat kan deze blootleggen.
Volg de gegevens van het gesprek naar het model om het risico op AI-training te beoordelen. Het belangrijke onderscheid is dat tussen versleutelde tekst die de relay niet kan ontsleutelen en leesbare tekst die bewust of per ongeluk aan een ander eindpunt wordt verstrekt.
Een bericht verwerken is niet hetzelfde als een model trainen
Een AI-functie kan tekst verwerken om een samenvatting te maken zonder daarmee de modelparameters bij te werken. Een dienst kan ook prompts bewaren, feedback verzamelen of training toestaan volgens een afzonderlijk beleid. Dit zijn verschillende handelingen waarover afzonderlijke informatie nodig is.
Vraag of de functie alleen de gevraagde taak uitvoert, of deze invoer of uitvoer opslaat en of deze die gebruikt om het model te verbeteren. Alleen de aanwezigheid van een AI-knop beantwoordt die vragen niet. Het woord ‘versleuteld’ evenmin.
De onderzoekers van How To Think About End-To-End Encryption and AI maken bij de beoordeling van deze systemen onderscheid tussen AI-ondersteuning, training, openbaarmaking en toestemming. Hun analyse is reden om de gegevensstroom zorgvuldig te onderzoeken, geen bewijs dat iedere aanbieder in het geheim op ieder privébericht traint.
Langs welke routes chatinhoud AI kan bereiken
| Route | Waarom E2EE alleen de vraag niet beantwoordt |
|---|---|
| Een deelnemer plakt een chat in een assistent | De deelnemer heeft al toegang tot de leesbare tekst |
| Er wordt een bot aan een gesprek toegevoegd | Een bot kan een bevoegde ontvanger met een eigen verwerkingsbeleid zijn |
| Een functie op het apparaat leest zichtbare tekst | De verwerking vindt na ontsleuteling op een eindpunt plaats |
| Er wordt een cloudfunctie met geselecteerde context ingeschakeld | De gebruiker kan toestemming geven voor een afzonderlijke verstrekking of een beschermd verwerkingspad |
| Malware of een extensie met te ruime machtigingen leest de app | Het eindpunt is gecompromitteerd, niet de transportversleuteling |
| Inhoud wordt openbaar gepubliceerd | Openbare verspreiding vormt een andere vertrouwelijkheidsgrens |
Een AI-model op afstand krijgt niet het algemene vermogen om degelijke versleuteling te ontsleutelen alleen omdat het een AI-model is. Evenmin kan een cryptografisch algoritme verhinderen dat een ontvanger elders een leesbare kopie indient.
Huidige producten illustreren verschillende grenzen
De AI-uitleg van WhatsApp maakt onderscheid tussen persoonlijke berichten en materiaal dat met een AI wordt gedeeld, en beschrijft een andere behandeling voor agenten van derden. De uitleg over AI op het scherm legt afzonderlijk uit dat het inschakelen van die functies zichtbare berichten en meldingen kan delen.
Deze voorbeelden laten zien waarom een algemene uitspraak over een hele app vaak misleidend is. Controleer de specifieke assistent, modus en machtiging die worden gebruikt, niet een oude schermafbeelding van een algemene privacyverklaring.
Wat kan er over Livara worden gezegd?
De beveiligingspagina van Livara beschrijft E2EE voor ondersteunde privégesprekken, naast bewaarde operationele metadata en openbare kanalen. De openbare AI-pagina beschrijft ook de door de gebruiker gekozen gespreksomvang en toestemming voordat geselecteerde context wordt gedeeld, inclusief een zichtbare melding wanneer geselecteerde tekst naar een aanbieder zou gaan.
Die uitspraken ondersteunen niet de absolute bewering dat Livara nooit chatinhoud met AI kan verwerken. Op zichzelf vormen ze evenmin een universele belofte van geen training of nul bewaring voor elk mogelijk modelpad. De actuele informatie bij de functie en de voorwaarden van de gekozen aanbieder moeten die vragen beantwoorden.
Postkwantumsleutelvaststelling richt zich op een ander risico: toekomstige cryptanalytische aanvallen op opgenomen versleutelde tekst. Ze bepaalt niet wat een bevoegde AI-ontvanger vandaag met leesbare tekst doet.
Checklist voor het trainingsrisico bij privégesprekken
- Bepaal wie de ontvanger is. Werkt de functie lokaal, wordt deze beheerd door de berichtendienst of geleverd door een andere aanbieder?
- Beperk de context. Deel de kleinst mogelijke passage of het bestand dat nodig is; laat niet-relevante persoonlijke gegevens weg.
- Lees het relevante beleid. Zoek specifiek naar voorwaarden voor training, bewaring, menselijke beoordeling, feedback en verwijdering.
- Controleer de verwachtingen van de groep. Toestemming om een groepsgesprek te lezen is niet automatisch toestemming om het aan een andere dienst te verstrekken.
- Controleer de toegang tot eindpunten. Browserextensies, toegang tot meldingen en gekoppelde apps kunnen aparte routes naar inhoud creëren.
- Houd openbare en private omgevingen gescheiden. Plaats geen vertrouwelijk materiaal in een openbaar kanaal in de verwachting dat de versleuteling van privéchats het beschermt.
E2EE kan een route voor servertoegang afsluiten. Ongewenst AI-gebruik voorkomen vereist ook controle over de eindpunten, machtigingen en verstrekkingen die de ontsleutelde inhoud verwerken.
