종단간 암호화는 메시지 중계 서버가 보호된 채팅 내용을 읽지 못하게 할 수 있습니다. 그러나 어떤 AI 시스템도 그 내용을 절대로 받지 않는다고 보장하지는 않습니다. 권한 있는 참여자가 복사하거나, 허용된 기능이 처리하거나, 침해된 기기에서 노출될 수 있습니다.
AI 학습 위험을 평가하려면 대화에서 모델까지 데이터의 흐름을 따라가세요. 핵심은 중계 서버가 열 수 없는 암호문과 의도적이거나 실수로 다른 엔드포인트에 전달되는 평문을 구분하는 것입니다.
메시지 처리와 모델 학습은 다릅니다
AI 기능은 모델 매개변수를 갱신하는 데 텍스트를 사용하지 않으면서 요약을 만들기 위해 텍스트를 처리할 수 있습니다. 서비스가 프롬프트를 보관하거나, 피드백을 수집하거나, 별도 정책에 따라 학습을 허용할 수도 있습니다. 이들은 서로 다른 작업이며 각각 별도의 고지가 필요합니다.
기능이 요청한 작업만 수행하는지, 입력이나 출력을 저장하는지, 모델 개선에 사용하는지 물어보세요. AI 버튼이 있다는 사실만으로는 답을 알 수 없습니다. ‘암호화됨’이라는 표현도 마찬가지입니다.
「종단간 암호화와 AI를 어떻게 생각할 것인가」의 연구자들은 이러한 시스템을 평가할 때 AI 지원, 학습, 공개, 동의를 구분합니다. 이 분석은 데이터 흐름을 주의 깊게 살펴볼 이유이지, 모든 제공업체가 모든 비공개 메시지로 몰래 학습한다는 증거가 아닙니다.
채팅 내용이 AI에 도달하는 경로
| 경로 | E2EE만으로 판단할 수 없는 이유 |
|---|---|
| 참여자가 채팅을 비서에 붙여 넣음 | 참여자는 이미 평문에 접근할 수 있음 |
| 대화에 봇이 추가됨 | 봇은 자체 처리 정책을 가진 승인된 수신자일 수 있음 |
| 기기 내 기능이 표시된 텍스트를 읽음 | 처리는 엔드포인트에서 복호화한 뒤 이루어짐 |
| 선택한 맥락을 다루는 클라우드 기능을 켬 | 사용자가 별도의 공개 또는 보호된 처리 경로를 허용할 수 있음 |
| 악성코드나 권한이 과도한 확장 프로그램이 앱을 읽음 | 침해된 대상은 전송 암호가 아니라 엔드포인트임 |
| 내용이 공개 게시됨 | 공개 배포는 다른 기밀성 경계에 해당함 |
원격 AI 모델은 AI라는 이유만으로 안전한 암호화를 일반적으로 해독하는 능력을 얻지 않습니다. 마찬가지로 수신자가 읽을 수 있는 사본을 다른 곳에 제출하지 못하게 하는 암호 알고리즘도 없습니다.
현재 제품들이 보여 주는 서로 다른 경계
WhatsApp의 AI 안내는 개인 메시지와 AI에 공유한 자료를 구분하며 제삼자 에이전트에 대한 다른 처리 방식을 설명합니다. 화면 AI 안내는 해당 기능을 선택해 사용하면 표시된 메시지와 알림이 공유될 수 있음을 별도로 설명합니다.
이 사례들은 앱 전체를 포괄하는 설명이 종종 오해를 낳는 이유를 보여 줍니다. 일반적인 개인정보 고지의 오래된 스크린샷 대신 실제로 사용하는 비서, 모드, 권한을 확인하세요.
Livara에 관해서는 무엇을 말할 수 있나요?
Livara의 보안 페이지는 지원되는 비공개 대화의 E2EE뿐 아니라 보관되는 운영 메타데이터와 공개 채널도 설명합니다. 공개된 AI 페이지도 선택한 맥락을 공유하기 전에 사용자가 대화 범위를 선택하고 허락하는 절차를 설명합니다. 선택한 텍스트가 제공업체로 전송될 때는 이를 눈에 보이게 알리는 표시도 포함됩니다.
이러한 설명은 Livara가 채팅 내용을 AI로 처리하는 일은 절대로 없다는 단정적인 주장을 뒷받침하지 않습니다. 또한 그 자체만으로 가능한 모든 모델 경로에 보편적인 학습 미사용이나 보관 없음 약속이 성립하지도 않습니다. 해당 기능의 현재 고지와 선택한 제공업체의 약관이 이 질문에 답해야 합니다.
양자내성 키 설정은 다른 위험, 즉 기록된 암호문에 대한 미래의 암호해독 공격을 다룹니다. 승인된 AI 수신자가 오늘 평문으로 무엇을 하는지는 규율하지 않습니다.
비공개 대화의 학습 위험 점검표
- 수신자를 파악하세요. 기능이 로컬에서 동작하나요, 메신저가 운영하나요, 아니면 다른 제공업체가 공급하나요?
- 맥락을 제한하세요. 필요한 최소한의 구절이나 파일만 공유하고 무관한 개인정보는 제외하세요.
- 관련 정책을 읽으세요. 학습, 보관, 사람의 검토, 피드백, 삭제 조건을 구체적으로 찾아보세요.
- 그룹의 기대를 확인하세요. 그룹 대화를 읽을 권한이 다른 서비스에 제출할 권한을 자동으로 뜻하지는 않습니다.
- 엔드포인트 접근을 검토하세요. 브라우저 확장 프로그램, 알림 접근, 연결된 앱은 내용에 이르는 별도 경로를 만들 수 있습니다.
- 공개 공간과 비공개 공간을 구분하세요. 기밀 자료를 공개 채널에 넣고 비공개 채팅 암호화가 보호하리라 기대하지 마세요.
E2EE는 서버 접근 경로를 차단할 수 있습니다. 원하지 않는 AI 사용을 막으려면 복호화된 내용을 다루는 엔드포인트, 권한, 공개도 통제해야 합니다.
