Uçtan uca şifreleme, bir mesajlaşma aktarıcısının korunan sohbet içeriğini okumasını engelleyebilir. Hiçbir yapay zekâ sisteminin bu içeriği hiçbir zaman almayacağını garanti etmez: yetkili bir katılımcı içeriği kopyalayabilir, izin verilmiş bir özellik işleyebilir veya ele geçirilmiş bir cihaz açığa çıkarabilir.
Yapay zekâ eğitimi riskini değerlendirmek için veriyi konuşmadan modele kadar izleyin. Önemli ayrım, aktarıcının açamadığı şifreli metin ile başka bir uç noktaya bilerek veya yanlışlıkla sağlanan açık metin arasındadır.
Bir mesajı işlemek, bir modeli eğitmekle aynı şey değildir
Bir yapay zekâ özelliği, metni model parametrelerini güncellemek için kullanmadan özet üretmek üzere işleyebilir. Bir hizmet istemleri saklayabilir, geri bildirim toplayabilir veya ayrı bir politika kapsamında eğitime izin verebilir. Bunlar farklı işlemlerdir ve farklı açıklamalar gerektirir.
Özelliğin yalnızca istenen görevi yapıp yapmadığını, girdileri veya çıktıları saklayıp saklamadığını ve bunları modeli geliştirmek için kullanıp kullanmadığını sorun. Tek başına bir yapay zekâ düğmesinin bulunması bu soruları yanıtlamaz. “Şifreli” sözcüğü de yanıtlamaz.
How To Think About End-To-End Encryption and AI çalışmasındaki araştırmacılar bu sistemleri değerlendirirken yapay zekâ desteği, eğitim, ifşa ve rıza arasında ayrım yapar. Analizleri veri akışını dikkatle incelemek için bir gerekçedir; her sağlayıcının her özel mesajla gizlice eğitim yaptığının kanıtı değildir.
Sohbet içeriği yapay zekâya hangi yollardan ulaşabilir?
| Yol | E2EE neden tek başına soruyu çözmez? |
|---|---|
| Katılımcı bir sohbeti asistana yapıştırır | Katılımcının açık metne zaten erişimi vardır |
| Konuşmaya bir bot eklenir | Bot, kendi işleme politikasına sahip yetkili bir alıcı olabilir |
| Cihaz üzerindeki bir özellik görünür metni okur | İşleme, uç noktada şifre çözme sonrasında gerçekleşir |
| Seçili bağlamı kullanan bir bulut özelliği etkinleştirilir | Kullanıcı ayrı bir ifşaya veya korunan bir işleme yoluna izin verebilir |
| Kötü amaçlı yazılım veya aşırı izinli bir eklenti uygulamayı okur | Ele geçirilen şey aktarım şifrelemesi değil, uç noktadır |
| İçerik kamuya açık yayımlanır | Kamuya açık dağıtım farklı bir gizlilik sınırıdır |
Uzaktaki bir yapay zekâ modeli, sırf yapay zekâ modeli olduğu için sağlam şifrelemeyi çözme konusunda genel bir yetenek kazanmaz. Aynı şekilde hiçbir kriptografik algoritma, bir alıcının okunabilir bir kopyayı başka yere göndermesini engelleyemez.
Güncel ürünler farklı sınırları gösterir
WhatsApp’ın yapay zekâ rehberi, kişisel mesajlarla bir yapay zekâyla paylaşılan materyalleri ayırır ve üçüncü taraf ajanlara yönelik farklı işlemleri açıklar. Ekran üzerindeki yapay zekâ rehberi ise bu özelliklere katılmayı seçmenin görünür mesajları ve bildirimleri paylaşabileceğini ayrıca açıklar.
Bu örnekler, bütün bir uygulama hakkındaki genel bir ifadenin neden çoğu zaman yanıltıcı olduğunu gösterir. Genel bir gizlilik bildirimine ait eski bir ekran görüntüsünü değil, kullanılan belirli asistanı, modu ve izni kontrol edin.
Livara hakkında ne söylenebilir?
Livara’nın güvenlik sayfası, desteklenen özel konuşmalar için E2EE’yi, ayrıca saklanan operasyonel meta verileri ve kamuya açık kanalları açıklar. Kamuya açık yapay zekâ sayfası da kullanıcının seçtiği konuşma kapsamını ve seçili bağlam paylaşılmadan önce izin alınmasını, seçili metin bir sağlayıcıya gidecekse görünür bir bildirim gösterilmesini de içerecek şekilde açıklar.
Bu açıklamalar, Livara’nın sohbet içeriğini yapay zekâyla hiçbir zaman işleyemeyeceği yönündeki mutlak iddiayı desteklemez. Tek başlarına, olası her model yolu için evrensel bir eğitim yapmama veya sıfır saklama taahhüdü de oluşturmazlar. Bu soruları özelliğin güncel açıklaması ve seçilen sağlayıcının koşulları yanıtlamalıdır.
Kuantum sonrası anahtar oluşturma farklı bir riski ele alır: kaydedilmiş şifreli metne gelecekte yapılacak kriptanalitik saldırılar. Yetkili bir yapay zekâ alıcısının bugün açık metinle ne yaptığını belirlemez.
Özel konuşmalar için eğitim riski kontrol listesi
- Alıcıyı belirleyin. Özellik yerel mi, mesajlaşma hizmeti tarafından mı işletiliyor, yoksa başka bir sağlayıcı tarafından mı sunuluyor?
- Bağlamı sınırlandırın. Gereken en küçük metin parçasını veya dosyayı paylaşın; ilgisiz kişisel ayrıntıları çıkarın.
- İlgili politikayı okuyun. Özellikle eğitim, saklama, insan incelemesi, geri bildirim ve silme koşullarını arayın.
- Grubun beklentilerini kontrol edin. Bir grup konuşmasını okuma izni, onu başka bir hizmete gönderme izni anlamına otomatik olarak gelmez.
- Uç nokta erişimini gözden geçirin. Tarayıcı eklentileri, bildirim erişimi ve bağlı uygulamalar içeriğe ayrı yollar oluşturabilir.
- Kamusal ve özel alanları ayrı tutun. Gizli materyali kamuya açık bir kanala koyup özel sohbet şifrelemesinin onu korumasını beklemeyin.
E2EE, bir sunucu erişim yolunu kapatabilir. İstenmeyen yapay zekâ kullanımını önlemek, şifresi çözülmüş içeriği işleyen uç noktaların, izinlerin ve ifşaların kontrolünü de gerektirir.
