הצפנה מקצה לקצה יכולה למנוע משרת ממסר של הודעות לקרוא תוכן צ׳אט מוגן. היא אינה מבטיחה ששום מערכת בינה מלאכותית לעולם לא תקבל את התוכן הזה: משתתף מורשה יכול להעתיק אותו, תכונה שהותרה יכולה לעבד אותו, או מכשיר שנפרץ יכול לחשוף אותו.
כדי להעריך את הסיכון לאימון בינה מלאכותית, עקבו אחר הנתונים מהשיחה אל המודל. ההבחנה החשובה היא בין טקסט מוצפן שהממסר אינו יכול לפענח לבין טקסט גלוי שנמסר בכוונה או בטעות לנקודת קצה אחרת.
עיבוד הודעה אינו זהה לאימון מודל
תכונת בינה מלאכותית עשויה לעבד טקסט כדי להפיק סיכום בלי להשתמש בו לעדכון פרמטרי המודל. שירות עשוי גם לשמור הנחיות, לאסוף משוב או להתיר אימון לפי מדיניות נפרדת. אלו פעולות שונות, והן מחייבות גילוי מידע נפרד.
שאלו אם התכונה מבצעת רק את המשימה שהתבקשה, אם היא שומרת קלט או פלט, ואם היא משתמשת בהם לשיפור המודל. עצם קיומו של כפתור AI אינו עונה על השאלות האלה. גם המילה ״מוצפן״ לא.
החוקרים ב־כיצד לחשוב על הצפנה מקצה לקצה ובינה מלאכותית מבחינים בין סיוע בבינה מלאכותית, אימון, חשיפה והסכמה בעת הערכת מערכות כאלה. הניתוח שלהם הוא סיבה לבחון בקפידה את זרימת הנתונים, ולא הוכחה שכל ספק מאמן בחשאי על כל הודעה פרטית.
באילו דרכים תוכן צ׳אט יכול להגיע לבינה מלאכותית
| מסלול | מדוע E2EE לבדה אינה מכריעה את השאלה |
|---|---|
| משתתף מדביק צ׳אט בעוזר | למשתתף כבר יש גישה לטקסט גלוי |
| בוט מצורף לשיחה | הבוט עשוי להיות נמען מורשה עם מדיניות עיבוד משלו |
| תכונה במכשיר קוראת טקסט גלוי | העיבוד מתרחש אחרי הפענוח בנקודת קצה |
| מופעלת תכונת ענן עם הקשר נבחר | המשתמש עשוי לאשר חשיפה נפרדת או מסלול עיבוד מוגן |
| נוזקה או הרחבה בעלת הרשאות עודפות קוראת את האפליקציה | נקודת הקצה נפרצה, לא צופן התעבורה |
| תוכן מתפרסם לציבור | הפצה ציבורית היא גבול סודיות אחר |
מודל בינה מלאכותית מרוחק אינו מקבל יכולת כללית לפענח הצפנה תקינה רק משום שהוא מודל בינה מלאכותית. באותה מידה, שום אלגוריתם קריפטוגרפי אינו יכול למנוע מנמען למסור עותק קריא במקום אחר.
מוצרים עכשוויים ממחישים גבולות שונים
ההנחיות של WhatsApp בנושא בינה מלאכותית מבחינות בין הודעות אישיות לחומר שמשותף עם בינה מלאכותית, ומתארות טיפול שונה בסוכנים של צדדים שלישיים. ההנחיות בנושא בינה מלאכותית על המסך מסבירות בנפרד שהסכמה לשימוש בתכונות האלה עשויה להביא לשיתוף הודעות והתראות גלויות.
הדוגמאות הללו מראות מדוע אמירה רחבה על אפליקציה שלמה היא לעיתים קרובות מטעה. בדקו את העוזר המסוים, המצב וההרשאה שבשימוש, ולא צילום מסך ישן של הודעת פרטיות כללית.
מה אפשר לומר על Livara?
דף האבטחה של Livara מתאר E2EE לשיחות פרטיות נתמכות, לצד מטא־נתונים תפעוליים שנשמרים וערוצים ציבוריים. דף הבינה המלאכותית הציבורי שלה מתאר גם היקף שיחה שהמשתמש בוחר והרשאה לפני שיתוף הקשר נבחר, כולל חיווי גלוי כאשר טקסט נבחר עומד להישלח לספק.
ההצהרות האלה אינן תומכות בטענה המוחלטת שלפיה Livara לעולם אינה יכולה לעבד תוכן צ׳אט בבינה מלאכותית. כשלעצמן, הן גם אינן מבססות הבטחה גורפת לאי־אימון או לאפס שמירה בכל מסלול אפשרי של מודל. הגילוי העדכני של התכונה ותנאי הספק שנבחר צריכים לענות על השאלות האלה.
כינון מפתחות פוסט־קוונטי מטפל בסיכון אחר: התקפות קריפטואנליטיות עתידיות על טקסט מוצפן שהוקלט. הוא אינו קובע מה נמען בינה מלאכותית מורשה עושה בטקסט גלוי כיום.
רשימת בדיקות לסיכון אימון בשיחות פרטיות
- זהו את הנמען. האם התכונה מקומית, מופעלת על ידי שירות המסרים או מסופקת על ידי ספק אחר?
- צמצמו את ההקשר. שתפו את הקטע או הקובץ הקטן ביותר שנחוץ; השמיטו פרטים אישיים שאינם קשורים.
- קראו את המדיניות הרלוונטית. חפשו במיוחד תנאים העוסקים באימון, בשמירה, בבדיקה אנושית, במשוב ובמחיקה.
- בדקו את ציפיות הקבוצה. רשות לקרוא שיחה קבוצתית אינה רשות אוטומטית למסור אותה לשירות אחר.
- בחנו את הגישה לנקודות הקצה. הרחבות דפדפן, גישה להתראות ואפליקציות מחוברות יכולות ליצור מסלולים נפרדים לתוכן.
- הפרידו בין מרחבים ציבוריים לפרטיים. אל תפרסמו חומר סודי בערוץ ציבורי ותצפו שהצפנת צ׳אט פרטי תגן עליו.
E2EE יכולה לסגור מסלול גישה של השרת. מניעת שימוש לא רצוי בבינה מלאכותית דורשת גם שליטה בנקודות הקצה, בהרשאות ובחשיפות שמטפלות בתוכן המפוענח.
