एंड-टू-एंड एन्क्रिप्शन किसी मैसेजिंग रिले को सुरक्षित चैट सामग्री पढ़ने से रोक सकता है। यह गारंटी नहीं देता कि किसी AI सिस्टम को वह सामग्री कभी नहीं मिलेगी: कोई अधिकृत प्रतिभागी उसकी प्रतिलिपि बना सकता है, अनुमति प्राप्त सुविधा उसे प्रोसेस कर सकती है, या समझौता किया गया डिवाइस उसे उजागर कर सकता है।
AI प्रशिक्षण के जोखिम का आकलन करने के लिए बातचीत से मॉडल तक डेटा के रास्ते को समझें। महत्वपूर्ण अंतर उस सिफरटेक्स्ट में है जिसे रिले खोल नहीं सकता और उस प्लेनटेक्स्ट में है जिसे जानबूझकर या गलती से किसी दूसरे एंडपॉइंट को दिया जाता है।
संदेश को प्रोसेस करना मॉडल को प्रशिक्षित करने जैसा नहीं है
कोई AI सुविधा सारांश बनाने के लिए पाठ को प्रोसेस कर सकती है, बिना उस पाठ से मॉडल के पैरामीटर अपडेट किए। कोई सेवा प्रॉम्प्ट रख भी सकती है, प्रतिक्रिया एकत्र कर सकती है या अलग नीति के तहत प्रशिक्षण की अनुमति दे सकती है। ये अलग-अलग क्रियाएँ हैं और इनके बारे में अलग-अलग जानकारी देना आवश्यक है।
पूछें कि क्या सुविधा केवल अनुरोधित कार्य करती है, क्या वह इनपुट या आउटपुट सहेजती है और क्या वह मॉडल सुधारने के लिए उनका उपयोग करती है। सिर्फ AI बटन की मौजूदगी इन प्रश्नों का उत्तर नहीं देती। न ही “एन्क्रिप्टेड” शब्द देता है।
एंड-टू-एंड एन्क्रिप्शन और AI के बारे में कैसे सोचें के शोधकर्ता इन सिस्टम का मूल्यांकन करते समय AI सहायता, प्रशिक्षण, जानकारी के प्रकटीकरण और सहमति में अंतर करते हैं। उनका विश्लेषण डेटा प्रवाह को ध्यान से जाँचने का कारण है, इस बात का प्रमाण नहीं कि हर प्रदाता हर निजी संदेश पर गुप्त रूप से प्रशिक्षण करता है।
चैट सामग्री किन रास्तों से AI तक पहुँच सकती है
| रास्ता | केवल E2EE इस प्रश्न का उत्तर क्यों नहीं देती |
|---|---|
| प्रतिभागी चैट को किसी सहायक में पेस्ट करता है | प्रतिभागी के पास पहले से प्लेनटेक्स्ट की पहुँच है |
| बातचीत में बॉट जोड़ा जाता है | बॉट अपनी प्रोसेसिंग नीति वाला अधिकृत प्राप्तकर्ता हो सकता है |
| डिवाइस पर चलने वाली सुविधा दिखाई दे रहे पाठ को पढ़ती है | प्रोसेसिंग एंडपॉइंट पर डिक्रिप्शन के बाद होती है |
| चुने हुए संदर्भ वाली क्लाउड सुविधा सक्षम की जाती है | उपयोगकर्ता अलग प्रकटीकरण या सुरक्षित प्रोसेसिंग रास्ते को अधिकृत कर सकता है |
| मैलवेयर या जरूरत से अधिक अनुमतियों वाला एक्सटेंशन ऐप पढ़ता है | एंडपॉइंट से समझौता हुआ है, ट्रांसपोर्ट सिफर से नहीं |
| सामग्री सार्वजनिक रूप से प्रकाशित होती है | सार्वजनिक वितरण गोपनीयता की एक अलग सीमा है |
किसी दूरस्थ AI मॉडल को सिर्फ AI मॉडल होने से मजबूत एन्क्रिप्शन को डिक्रिप्ट करने की सामान्य क्षमता नहीं मिल जाती। इसी तरह, कोई क्रिप्टोग्राफिक एल्गोरिदम प्राप्तकर्ता को पढ़ने योग्य प्रतिलिपि कहीं और जमा करने से नहीं रोक सकता।
मौजूदा उत्पाद अलग-अलग सीमाएँ दिखाते हैं
WhatsApp का AI मार्गदर्शन निजी संदेशों और AI के साथ साझा की गई सामग्री में अंतर करता है तथा तृतीय-पक्ष एजेंटों के लिए अलग व्यवहार बताता है। उसका ऑन-स्क्रीन AI मार्गदर्शन अलग से समझाता है कि इन सुविधाओं को अपनाने की सहमति देने पर दिखाई दे रहे संदेश और सूचनाएँ साझा हो सकती हैं।
ये उदाहरण दिखाते हैं कि पूरे ऐप के बारे में कोई व्यापक कथन अक्सर भ्रामक क्यों होता है। इस्तेमाल किए जा रहे विशिष्ट सहायक, मोड और अनुमति को जाँचें, किसी सामान्य गोपनीयता सूचना के पुराने स्क्रीनशॉट को नहीं।
Livara के बारे में क्या कहा जा सकता है?
Livara का सुरक्षा पृष्ठ समर्थित निजी बातचीत के लिए E2EE के साथ-साथ रखे जाने वाले परिचालन मेटाडेटा और सार्वजनिक चैनलों का वर्णन करता है। उसका सार्वजनिक AI पृष्ठ उपयोगकर्ता द्वारा चुने गए बातचीत के दायरे और चुना संदर्भ साझा करने से पहले अनुमति का भी वर्णन करता है, जिसमें यह दिखाई देने वाला संकेत शामिल है कि चुना पाठ किसी प्रदाता को भेजा जाएगा।
ये कथन इस पूर्ण दावे का समर्थन नहीं करते कि Livara कभी भी AI से चैट सामग्री प्रोसेस नहीं कर सकती। न ही ये अपने-आप मॉडल के हर संभावित रास्ते के लिए प्रशिक्षण न करने या कुछ भी न रखने का सार्वभौमिक वादा स्थापित करते हैं। सुविधा की वर्तमान जानकारी और चुने हुए प्रदाता की शर्तों में इन प्रश्नों के उत्तर होने चाहिए।
पोस्ट-क्वांटम कुंजी स्थापना एक अलग जोखिम का समाधान करती है: रिकॉर्ड किए गए सिफरटेक्स्ट पर भविष्य के क्रिप्टोविश्लेषणात्मक हमले। यह नियंत्रित नहीं करती कि कोई अधिकृत AI प्राप्तकर्ता आज प्लेनटेक्स्ट के साथ क्या करता है।
निजी बातचीत में प्रशिक्षण जोखिम की जाँच सूची
- प्राप्तकर्ता पहचानें। क्या सुविधा स्थानीय है, मैसेंजर द्वारा संचालित है या किसी दूसरे प्रदाता से मिलती है?
- संदर्भ सीमित रखें। आवश्यक सबसे छोटा अंश या फ़ाइल साझा करें; असंबंधित निजी विवरण हटा दें।
- संबंधित नीति पढ़ें। प्रशिक्षण, डेटा रखने, मानवीय समीक्षा, प्रतिक्रिया और मिटाने की शर्तें विशेष रूप से देखें।
- समूह की अपेक्षाएँ जाँचें। समूह की बातचीत पढ़ने की अनुमति अपने-आप उसे दूसरी सेवा में भेजने की अनुमति नहीं है।
- एंडपॉइंट की पहुँच की समीक्षा करें। ब्राउज़र एक्सटेंशन, सूचनाओं की पहुँच और जुड़े ऐप सामग्री तक अलग रास्ते बना सकते हैं।
- सार्वजनिक और निजी स्थान अलग रखें। गोपनीय सामग्री सार्वजनिक चैनल में डालकर यह उम्मीद न करें कि निजी चैट का एन्क्रिप्शन उसकी सुरक्षा करेगा।
E2EE सर्वर की पहुँच का एक रास्ता बंद कर सकती है। अनचाहे AI उपयोग को रोकने के लिए उन एंडपॉइंट, अनुमतियों और प्रकटीकरणों को भी नियंत्रित करना जरूरी है जो डिक्रिप्ट की गई सामग्री सँभालते हैं।
