Ende-zu-Ende-Verschlüsselung kann verhindern, dass ein Nachrichten-Relay geschützte Chatinhalte liest. Sie garantiert nicht, dass diese Inhalte niemals ein KI-System erreichen: Ein berechtigter Teilnehmer kann sie kopieren, eine zugelassene Funktion kann sie verarbeiten oder ein kompromittiertes Gerät kann sie offenlegen.
Um das KI-Trainingsrisiko einzuschätzen, verfolgen Sie die Daten vom Gespräch bis zum Modell. Entscheidend ist der Unterschied zwischen Chiffretext, den das Relay nicht entschlüsseln kann, und Klartext, der absichtlich oder versehentlich einem anderen Endpunkt übermittelt wird.
Eine Nachricht zu verarbeiten ist nicht dasselbe wie ein Modell zu trainieren
Eine KI-Funktion kann Text verarbeiten, um eine Zusammenfassung zu erstellen, ohne damit Modellparameter zu aktualisieren. Ein Dienst kann außerdem Eingaben aufbewahren, Rückmeldungen sammeln oder Training nach einer gesonderten Richtlinie erlauben. Das sind unterschiedliche Vorgänge, die unterschiedlich offengelegt werden müssen.
Fragen Sie, ob die Funktion ausschließlich die angeforderte Aufgabe ausführt, ob sie Eingaben oder Ausgaben speichert und ob sie diese zur Modellverbesserung nutzt. Allein ein KI-Knopf beantwortet diese Fragen nicht. Das Wort „verschlüsselt“ ebenso wenig.
Die Forschenden von How To Think About End-To-End Encryption and AI unterscheiden bei der Bewertung solcher Systeme zwischen KI-Unterstützung, Training, Offenlegung und Einwilligung. Ihre Analyse ist ein Anlass, den Datenfluss genau zu untersuchen, kein Beleg dafür, dass jeder Anbieter heimlich mit jeder privaten Nachricht trainiert.
Auf welchen Wegen Chatinhalte KI erreichen können
| Weg | Warum E2EE allein die Frage nicht klärt |
|---|---|
| Ein Teilnehmer fügt einen Chat in einen Assistenten ein | Der Teilnehmer hat bereits Zugriff auf den Klartext |
| Ein Bot wird einem Gespräch hinzugefügt | Ein Bot kann ein berechtigter Empfänger mit eigenen Verarbeitungsregeln sein |
| Eine Funktion auf dem Gerät liest sichtbaren Text | Die Verarbeitung erfolgt nach der Entschlüsselung auf einem Endpunkt |
| Eine Cloud-Funktion mit ausgewähltem Kontext wird aktiviert | Der Nutzer kann eine gesonderte Offenlegung oder einen geschützten Verarbeitungsweg erlauben |
| Schadsoftware oder eine Erweiterung mit übermäßigen Berechtigungen liest die App | Der Endpunkt ist kompromittiert, nicht die Transportverschlüsselung |
| Inhalte werden öffentlich veröffentlicht | Öffentliche Verbreitung bildet eine andere Vertraulichkeitsgrenze |
Ein entferntes KI-Modell erhält nicht allein dadurch, dass es ein KI-Modell ist, die allgemeine Fähigkeit, sichere Verschlüsselung zu entschlüsseln. Ebenso wenig kann ein kryptografischer Algorithmus verhindern, dass ein Empfänger eine lesbare Kopie anderswo einreicht.
Aktuelle Produkte veranschaulichen unterschiedliche Grenzen
WhatsApps Hinweise zu KI unterscheiden persönliche Nachrichten von Material, das mit einer KI geteilt wird, und beschreiben eine andere Behandlung bei Drittanbieter-Agenten. Die Hinweise zu KI-Funktionen auf dem Bildschirm erläutern gesondert, dass die Aktivierung dieser Funktionen sichtbare Nachrichten und Benachrichtigungen teilen kann.
Diese Beispiele zeigen, weshalb pauschale Aussagen über eine ganze App oft irreführend sind. Prüfen Sie den konkreten Assistenten, Modus und die verwendete Berechtigung statt eines alten Screenshots eines allgemeinen Datenschutzhinweises.
Was lässt sich über Livara sagen?
Livaras Sicherheitsseite beschreibt E2EE für unterstützte private Gespräche sowie aufbewahrte Betriebsmetadaten und öffentliche Kanäle. Die öffentliche KI-Seite beschreibt außerdem den vom Nutzer gewählten Gesprächsumfang und die Berechtigung vor dem Teilen ausgewählten Kontexts, einschließlich eines sichtbaren Hinweises, wenn ausgewählter Text an einen Anbieter gesendet würde.
Diese Aussagen stützen nicht die absolute Behauptung, Livara könne Chatinhalte niemals mit KI verarbeiten. Für sich genommen begründen sie auch kein allgemeines Versprechen, bei jedem denkbaren Modellpfad auf Training oder Aufbewahrung zu verzichten. Diese Fragen müssen die aktuellen Hinweise der Funktion und die Bedingungen des ausgewählten Anbieters beantworten.
Post-Quanten-Schlüsselaufbau adressiert ein anderes Risiko: zukünftige kryptanalytische Angriffe auf aufgezeichneten Chiffretext. Er regelt nicht, was ein berechtigter KI-Empfänger heute mit Klartext macht.
Checkliste zum Trainingsrisiko bei privaten Gesprächen
- Bestimmen Sie den Empfänger. Arbeitet die Funktion lokal, wird sie vom Messenger betrieben oder von einem anderen Anbieter bereitgestellt?
- Begrenzen Sie den Kontext. Teilen Sie nur den kleinsten benötigten Abschnitt oder die erforderliche Datei; lassen Sie nicht relevante persönliche Details weg.
- Lesen Sie die einschlägigen Richtlinien. Suchen Sie gezielt nach Bestimmungen zu Training, Aufbewahrung, menschlicher Prüfung, Rückmeldungen und Löschung.
- Klären Sie die Erwartungen der Gruppe. Die Erlaubnis, ein Gruppengespräch zu lesen, ist nicht automatisch die Erlaubnis, es einem anderen Dienst zu übermitteln.
- Prüfen Sie den Zugriff auf Endpunkte. Browser-Erweiterungen, Benachrichtigungszugriff und verbundene Apps können eigene Zugangswege zu Inhalten schaffen.
- Trennen Sie öffentliche und private Bereiche. Stellen Sie vertrauliches Material nicht in einen öffentlichen Kanal und erwarten Sie nicht, dass die Verschlüsselung privater Chats es schützt.
E2EE kann einen Serverzugriffspfad schließen. Um unerwünschte KI-Nutzung zu verhindern, müssen auch die Endpunkte, Berechtigungen und Offenlegungen kontrolliert werden, die entschlüsselte Inhalte verarbeiten.
