Lembra daquela conversa que você teve com um chatbot de IA às 2 da manhã sobre suas alergias? Ou sua pergunta sobre extratos bancários recentes? O que parece privado no momento muitas vezes não é nada.
Relatórios recentes mostraram que os prestadores de serviço da Meta, que a empresa contrata para revisar as interações de IA, às vezes veem dados pessoais não escritos, como informações de saúde, registros financeiros e até dados de identificação que a maioria das pessoas considera confidenciais.
Fundador e CEO da Redactable.
Esta é a questão menos pública no centro da corrida atual pela IA. Os chatbots estão sendo implantados em grande escala nos setores bancário, de saúde, governamental e muito mais. Eles são rápidos, convenientes e cada vez mais capazes de lidar com consultas complexas e, às vezes, sensíveis. Mas a conveniência nunca deve vir antes da segurança. Cada pergunta, cada transcrição e cada registro de back-end contém dados que podem durar muito mais tempo do que os usuários desejam.
Antes de me tornar um desenvolvedor de tecnologia, passei anos cercado por declarações fiscais, números de Seguro Social, relatórios de inspeção e demonstrações contábeis. Em seguida, desenharam caixas sobre o texto “proteções” e torceram para que fosse seguro. Essa frustração se transformou em oportunidade quando percebi que a verdadeira solução não era ocultar os dados, mas removê-los para sempre.
Chatbots e sistemas de IA são as áreas mais recentes onde esses problemas estão surgindo. Se quisermos proteger a privacidade e construir confiança nesta nova era, não podemos confiar em soluções cosméticas. Tanto as empresas como os utilizadores precisam de repensar o que significa comunicar com IA. Aqui estão cinco coisas para lembrar.
1. Não se esqueça dos chatbots
A maioria das pessoas conversa com a IA como se fosse uma conversa privada, mas esses registros permanecem por muito mais tempo do que pensamos. Essa rápida pergunta de saúde, registro de solução de problemas ou solicitação interna de TI pode ser salva, revisada e até usada para treinar modelos futuros. Caso as informações não sejam apagadas, elas podem permanecer nesses modelos por tempo indeterminado.
Para as empresas, isto significa que as políticas de retenção devem ser explícitas e não implícitas. Se as transcrições forem mantidas para um atendimento de qualidade ao cliente, elas deverão ter datas de validade claras. Se os registros forem usados para treinamento, os detalhes confidenciais deverão ser removidos antes que cheguem aos humanos.
Os usuários individuais também são vulneráveis. Para eles, a suposição mais segura é que nada compartilhado com um chatbot é verdadeiramente privado. Um pai pode pedir a um assistente virtual que escreva um e-mail para uma escola sobre a medicação de uma criança. Um corredor pode pedir conselhos a um aplicativo de bem-estar sobre como tratar uma torção no tornozelo.
Cada exemplo parece uma solicitação simples, mas cada palavra pode ser armazenada em servidores por meses ou anos. Nem todos os números são confidenciais, mas os números de contas, números de Segurança Social e outros identificadores são. Guarde-os para portais seguros ou chamadas telefônicas.
2. A redação não é opcional
O equívoco mais comum sobre proteção de dados é que ocultar informações é o mesmo que apagá-las. Na realidade, ocultar campos, mascarar entradas ou ocultar texto cobre apenas as informações na tela. Os dados subjacentes muitas vezes ainda existem em arquivo e podem ser facilmente encontrados.
Isso é especialmente perigoso em conversas de chatbot, pois detalhes confidenciais podem ser incorporados profundamente em transcrições ou registros de erros. As empresas que dependem de soluções superficiais criam uma ilusão de segurança diante de violações e vazamentos.
A verdadeira redação é removê-lo de uma vez por todas. Sem isso, as empresas correm o risco de perder o consenso e a confiança dos clientes.
3. Minimizar dados significa removê-los
Algumas organizações orgulham-se de recolher menos dados, o que é um bom começo. Mas menos dados não resolve o problema se os dados recolhidos forem armazenados indefinidamente.
As transcrições do chatbot são um exemplo perfeito. Muitos são contratados para retreinar modelos, analisar o sentimento do cliente ou resolver conflitos. Isto significa um arquivo cada vez maior de informações confidenciais que se torna um risco todos os dias.
Os reguladores estão a começar a responder, desde leis nacionais de protecção de dados infantis até quadros internacionais de privacidade. As empresas também devem ser proativas. As empresas que aceitarem a remoção permanente agora estarão à frente da inevitável curva de conformidade.
Os consumidores também precisam reduzir. Um usuário médio costuma compartilhá-los em conversas de chatbot, mesmo sem perceber. Por exemplo, um cliente que tenta entender uma conta de Internet pode digitar os números completos da conta, ou um paciente pode carregar um relatório de laboratório completo em vez de apenas alguns detalhes necessários.
As empresas podem ajudar incentivando os usuários a minimizar ou higienizar os dados antes de carregá-los, para que ambas as partes compartilhem a responsabilidade pela redução da exposição.
Antes de digitar em um chatbot, é útil fazer uma pausa e perguntar: isso é algo que eu me sentiria confortável em manter em um registro de pesquisa? Se não, não vale a pena o risco. Muitos aplicativos de mensagens e extensões de navegador agora permitem que os usuários limpem automaticamente seu histórico. Essas ferramentas não substituem a edição real, mas reduzem a exposição.
4. A transparência aumenta a confiança do usuário
É mais provável que a pessoa média use sistemas de IA sabendo como suas informações serão tratadas. Ocultar a mecânica da retenção de dados cria suspeitas e mina a confiança. Uma comunicação clara sobre o que é armazenado, por quanto tempo é armazenado e se detalhes confidenciais são tratados é muito útil.
Para as empresas, não se trata apenas de uma questão de ética, mas de vantagem competitiva. Os clientes recompensarão as empresas que explicam as suas práticas em linguagem simples e dão aos utilizadores um controlo significativo. A transparência torna-se uma função da privacidade.
Outra forma de construir confiança é sugerir ativamente que as empresas que criam ou usam chatbots limpem seus dados antes de carregá-los. Até mesmo um simples lembrete pode criar a expectativa certa. As empresas que ajudam a educar seus clientes sobre a privacidade de dados ganham uma vantagem competitiva no mercado atual.
5. A privacidade é uma vantagem competitiva
A suposição de que os usuários só se preocupam com a velocidade é míope. A verdade é que muitas pessoas se preocupam igualmente com a forma como seus dados são tratados. De acordo com uma pesquisa recente da Cisco, 75% dos entrevistados não comprariam de uma empresa na qual não confiassem seus dados.
Num mercado cada vez mais concorrido, a privacidade torna-se um diferencial da marca. As empresas que tratarem isso como um recurso se destacarão. Aqueles que a ignorarem correrão o risco de medidas regulatórias e perderão a fidelidade do cliente. Na tecnologia empresarial, a confiança se constrói mais rápido do que a novidade.
As empresas que higienizam os dados dos clientes e são sinceras e transparentes sobre isso se destacarão ainda mais.
O caminho a seguir
Os chatbots de IA e os modelos subjacentes a eles não irão desaparecer, nem deveriam. Esta tecnologia oferece eficiência, acessibilidade e escala reais. Mas as empresas e os utilizadores só prosperarão se reconhecerem os riscos que acompanham a conveniência e souberem como se proteger.
Como uma vez aprendi que impor limites a dados sensíveis não protegia os meus clientes, as empresas de hoje devem aprender que a verdadeira privacidade requer uma abordagem ponderada e adaptada às suas organizações. Menos desejo é desejo.
A maioria das empresas ainda responde aos vazamentos depois que o dano já está feito. A verdadeira mudança ocorrerá quando pararmos de tratar a privacidade como uma resposta de emergência e começarmos a projetar sistemas que sejam conscientes da privacidade desde o início. É assim que a IA ganha o direito de lidar com nossas conversas mais delicadas.
Confira nossa lista dos melhores softwares de chat ao vivo.
