A encriptação ponta a ponta pode impedir que um servidor de retransmissão de mensagens leia o conteúdo protegido das conversas. Não garante que nenhum sistema de IA venha a receber esse conteúdo: um participante autorizado pode copiá-lo, uma funcionalidade permitida pode processá-lo ou um dispositivo comprometido pode expô-lo.
Para avaliar o risco de treino de IA, acompanhe os dados desde a conversa até ao modelo. A distinção importante é entre texto cifrado que o retransmissor não consegue abrir e texto simples fornecido deliberada ou acidentalmente a outro ponto terminal.
Processar uma mensagem não é o mesmo que treinar um modelo
Uma funcionalidade de IA pode processar texto para produzir um resumo sem o usar para atualizar os parâmetros do modelo. Um serviço também pode conservar instruções, recolher comentários ou permitir o treino segundo uma política separada. São operações diferentes que exigem informações diferentes.
Pergunte se a funcionalidade realiza apenas a tarefa pedida, se guarda entradas ou resultados e se os utiliza para melhorar o modelo. A presença de um botão de IA, por si só, não responde a estas perguntas. Nem a palavra «encriptado».
Os investigadores de How To Think About End-To-End Encryption and AI distinguem assistência de IA, treino, divulgação e consentimento ao avaliar estes sistemas. A análise justifica examinar cuidadosamente o fluxo de dados, não demonstra que todos os fornecedores treinam secretamente com todas as mensagens privadas.
Como o conteúdo das conversas pode chegar à IA
| Caminho | Porque o E2EE, por si só, não resolve a questão |
|---|---|
| Um participante cola uma conversa num assistente | O participante já tem acesso ao texto simples |
| É adicionado um bot à conversa | Um bot pode ser um destinatário autorizado com a sua própria política de processamento |
| Uma funcionalidade no dispositivo lê texto visível | O processamento ocorre após a desencriptação num ponto terminal |
| É ativada uma funcionalidade na nuvem com contexto selecionado | O utilizador pode autorizar uma divulgação separada ou um caminho de processamento protegido |
| Malware ou uma extensão com permissões excessivas lê a aplicação | O ponto terminal, e não a cifra de transporte, está comprometido |
| O conteúdo é publicado abertamente | A distribuição pública estabelece outro limite de confidencialidade |
Um modelo remoto de IA não adquire uma capacidade geral de decifrar encriptação robusta simplesmente por ser um modelo de IA. Da mesma forma, nenhum algoritmo criptográfico pode impedir um destinatário de enviar uma cópia legível para outro local.
Os produtos atuais ilustram limites diferentes
As orientações de IA do WhatsApp distinguem mensagens pessoais de material partilhado com uma IA e descrevem um tratamento diferente para agentes de terceiros. As suas orientações de IA no ecrã explicam separadamente que aderir a essas funcionalidades pode partilhar mensagens e notificações visíveis.
Estes exemplos mostram por que motivo uma afirmação abrangente sobre uma aplicação inteira é frequentemente enganadora. Verifique o assistente, o modo e a permissão específicos em utilização, não uma captura antiga de um aviso de privacidade genérico.
O que se pode dizer sobre a Livara?
A página de segurança da Livara descreve E2EE para conversas privadas suportadas, juntamente com metadados operacionais conservados e canais públicos. A sua página pública de IA descreve também o âmbito da conversa selecionado pelo utilizador e a permissão antes de partilhar contexto selecionado, incluindo uma indicação visível quando o texto selecionado seria enviado para um fornecedor.
Estas declarações não sustentam a afirmação absoluta de que a Livara nunca pode processar conteúdo de conversas com IA. Também não estabelecem, por si só, uma promessa universal de ausência de treino ou de retenção zero para todos os caminhos possíveis de modelos. As informações atuais da funcionalidade e os termos do fornecedor selecionado têm de responder a essas questões.
O estabelecimento de chaves pós-quântico aborda um risco diferente: futuros ataques criptoanalíticos a texto cifrado registado. Não rege o que um destinatário de IA autorizado faz hoje com texto simples.
Lista de verificação do risco de treino para conversas privadas
- Identifique o destinatário. A funcionalidade é local, operada pelo mensageiro ou fornecida por outro fornecedor?
- Limite o contexto. Partilhe o menor excerto ou ficheiro necessário; omita detalhes pessoais não relacionados.
- Leia a política relevante. Procure especificamente termos sobre treino, retenção, revisão humana, comentários e eliminação.
- Verifique as expectativas do grupo. A permissão para ler uma conversa de grupo não é automaticamente permissão para a enviar a outro serviço.
- Reveja o acesso aos pontos terminais. Extensões do navegador, acesso a notificações e aplicações ligadas podem criar caminhos separados para o conteúdo.
- Mantenha separados os espaços públicos e privados. Não coloque material confidencial num canal público esperando que a encriptação de conversas privadas o proteja.
O E2EE pode fechar um caminho de acesso do servidor. Impedir utilizações indesejadas pela IA exige também controlar os pontos terminais, as permissões e as divulgações que lidam com o conteúdo desencriptado.
