Η διατερματική κρυπτογράφηση μπορεί να εμποδίσει έναν αναμεταδότη μηνυμάτων να διαβάσει προστατευμένο περιεχόμενο συνομιλίας. Δεν εγγυάται ότι κανένα σύστημα AI δεν θα λάβει ποτέ αυτό το περιεχόμενο: ένας εξουσιοδοτημένος συμμετέχων μπορεί να το αντιγράψει, μια επιτρεπόμενη λειτουργία μπορεί να το επεξεργαστεί ή μια παραβιασμένη συσκευή μπορεί να το εκθέσει.
Για να αξιολογήσετε τον κίνδυνο εκπαίδευσης AI, ακολουθήστε τα δεδομένα από τη συνομιλία στο μοντέλο. Η σημαντική διάκριση είναι ανάμεσα στο κρυπτοκείμενο που ο αναμεταδότης δεν μπορεί να ανοίξει και στο μη κρυπτογραφημένο κείμενο που παρέχεται σκόπιμα ή κατά λάθος σε άλλο τελικό σημείο.
Η επεξεργασία ενός μηνύματος δεν είναι το ίδιο με την εκπαίδευση ενός μοντέλου
Μια λειτουργία AI μπορεί να επεξεργαστεί κείμενο για να δημιουργήσει μια περίληψη χωρίς να το χρησιμοποιήσει για να ενημερώσει τις παραμέτρους του μοντέλου. Μια υπηρεσία μπορεί επίσης να διατηρεί προτροπές, να συλλέγει ανατροφοδότηση ή να επιτρέπει εκπαίδευση βάσει ξεχωριστής πολιτικής. Πρόκειται για διαφορετικές ενέργειες που απαιτούν διαφορετικές γνωστοποιήσεις.
Ρωτήστε αν η λειτουργία εκτελεί μόνο την εργασία που ζητήθηκε, αν αποθηκεύει εισόδους ή εξόδους και αν τις χρησιμοποιεί για βελτίωση του μοντέλου. Η παρουσία ενός κουμπιού AI από μόνη της δεν απαντά σε αυτά τα ερωτήματα. Ούτε η λέξη «κρυπτογραφημένο».
Οι ερευνητές στο Πώς να σκεφτόμαστε τη διατερματική κρυπτογράφηση και την AI διακρίνουν τη βοήθεια AI, την εκπαίδευση, την κοινοποίηση και τη συναίνεση όταν αξιολογούν αυτά τα συστήματα. Η ανάλυσή τους είναι λόγος να εξετάσουμε προσεκτικά τη ροή δεδομένων, όχι απόδειξη ότι κάθε πάροχος εκπαιδεύει κρυφά μοντέλα με κάθε ιδιωτικό μήνυμα.
Πού μπορεί να φτάσει το περιεχόμενο συνομιλιών σε AI
| Διαδρομή | Γιατί η E2EE από μόνη της δεν λύνει το ζήτημα |
|---|---|
| Συμμετέχων επικολλά μια συνομιλία σε βοηθό | Ο συμμετέχων έχει ήδη πρόσβαση στο μη κρυπτογραφημένο κείμενο |
| Προστίθεται bot σε συνομιλία | Το bot μπορεί να είναι εξουσιοδοτημένος παραλήπτης με δική του πολιτική επεξεργασίας |
| Λειτουργία στη συσκευή διαβάζει ορατό κείμενο | Η επεξεργασία γίνεται μετά την αποκρυπτογράφηση σε τελικό σημείο |
| Ενεργοποιείται λειτουργία νέφους με επιλεγμένο πλαίσιο | Ο χρήστης μπορεί να εξουσιοδοτήσει ξεχωριστή κοινοποίηση ή προστατευμένη διαδρομή επεξεργασίας |
| Κακόβουλο λογισμικό ή επέκταση με υπερβολικά δικαιώματα διαβάζει την εφαρμογή | Παραβιάζεται το τελικό σημείο, όχι ο κρυπτογραφικός μηχανισμός μεταφοράς |
| Περιεχόμενο δημοσιεύεται δημόσια | Η δημόσια διανομή αποτελεί διαφορετικό όριο εμπιστευτικότητας |
Ένα απομακρυσμένο μοντέλο AI δεν αποκτά γενική δυνατότητα να αποκρυπτογραφεί ισχυρή κρυπτογράφηση απλώς επειδή είναι μοντέλο AI. Αντίστοιχα, κανένας κρυπτογραφικός αλγόριθμος δεν μπορεί να εμποδίσει έναν παραλήπτη να υποβάλει αλλού ένα αναγνώσιμο αντίγραφο.
Τα σημερινά προϊόντα δείχνουν διαφορετικά όρια
Οι οδηγίες AI του WhatsApp διακρίνουν τα προσωπικά μηνύματα από το υλικό που κοινοποιείται σε AI και περιγράφουν διαφορετική μεταχείριση για πράκτορες τρίτων. Οι οδηγίες του για AI στην οθόνη εξηγούν χωριστά ότι η επιλογή ενεργοποίησης αυτών των λειτουργιών μπορεί να κοινοποιεί ορατά μηνύματα και ειδοποιήσεις.
Αυτά τα παραδείγματα δείχνουν γιατί μια γενική δήλωση για ολόκληρη την εφαρμογή είναι συχνά παραπλανητική. Ελέγξτε τον συγκεκριμένο βοηθό, τη λειτουργία και το δικαίωμα που χρησιμοποιούνται, όχι ένα παλιό στιγμιότυπο μιας γενικής ενημέρωσης ιδιωτικότητας.
Τι μπορεί να ειπωθεί για τη Livara;
Η σελίδα ασφάλειας της Livara περιγράφει E2EE για τις υποστηριζόμενες ιδιωτικές συνομιλίες, μαζί με διατηρούμενα λειτουργικά μεταδεδομένα και δημόσια κανάλια. Η δημόσια σελίδα AI περιγράφει επίσης την επιλογή εύρους συνομιλίας από τον χρήστη και την άδεια πριν από την κοινοποίηση επιλεγμένου πλαισίου, συμπεριλαμβανομένης ορατής ένδειξης όταν επιλεγμένο κείμενο πρόκειται να σταλεί σε πάροχο.
Αυτές οι δηλώσεις δεν στηρίζουν τον απόλυτο ισχυρισμό ότι η Livara δεν μπορεί ποτέ να επεξεργαστεί περιεχόμενο συνομιλίας με AI. Ούτε θεμελιώνουν από μόνες τους καθολική υπόσχεση μη εκπαίδευσης ή μηδενικής διατήρησης για κάθε πιθανή διαδρομή μοντέλου. Οι τρέχουσες γνωστοποιήσεις της λειτουργίας και οι όροι του επιλεγμένου παρόχου πρέπει να απαντούν σε αυτά τα ερωτήματα.
Η μετακβαντική εγκαθίδρυση κλειδιών αντιμετωπίζει διαφορετικό κίνδυνο: μελλοντικές κρυπταναλυτικές επιθέσεις σε καταγεγραμμένο κρυπτοκείμενο. Δεν καθορίζει τι κάνει ένας εξουσιοδοτημένος παραλήπτης AI με το μη κρυπτογραφημένο κείμενο σήμερα.
Λίστα ελέγχου κινδύνου εκπαίδευσης για ιδιωτικές συνομιλίες
- Προσδιορίστε τον παραλήπτη. Είναι η λειτουργία τοπική, λειτουργεί από τον αγγελιοφόρο ή παρέχεται από άλλον πάροχο;
- Περιορίστε το πλαίσιο. Κοινοποιήστε το μικρότερο απαραίτητο απόσπασμα ή αρχείο· παραλείψτε άσχετες προσωπικές λεπτομέρειες.
- Διαβάστε τη σχετική πολιτική. Αναζητήστε ειδικά όρους εκπαίδευσης, διατήρησης, ανθρώπινης εξέτασης, ανατροφοδότησης και διαγραφής.
- Ελέγξτε τις προσδοκίες της ομάδας. Η άδεια να διαβάζετε μια ομαδική συνομιλία δεν είναι αυτόματα άδεια να την υποβάλετε σε άλλη υπηρεσία.
- Εξετάστε την πρόσβαση στα τελικά σημεία. Επεκτάσεις προγράμματος περιήγησης, πρόσβαση σε ειδοποιήσεις και συνδεδεμένες εφαρμογές μπορούν να δημιουργούν ξεχωριστές διαδρομές προς το περιεχόμενο.
- Κρατήστε διακριτούς τους δημόσιους και ιδιωτικούς χώρους. Μη βάζετε εμπιστευτικό υλικό σε δημόσιο κανάλι περιμένοντας να το προστατεύσει η κρυπτογράφηση ιδιωτικής συνομιλίας.
Η E2EE μπορεί να κλείσει μια διαδρομή πρόσβασης του διακομιστή. Η αποτροπή ανεπιθύμητης χρήσης AI απαιτεί επίσης έλεγχο των τελικών σημείων, των δικαιωμάτων και των κοινοποιήσεων που χειρίζονται το αποκρυπτογραφημένο περιεχόμενο.
