O Slack, a popular plataforma de colaboração empresarial, causou uma grande controvérsia de privacidade ao revelar que tem usado dados de clientes, incluindo mensagens, arquivos e informações de uso, para desenvolver novos modelos de Inteligência Artificial (IA) e Machine Learning (ML).
Por padrão, e sem exigir que os usuários optem por participar, o Slack disse que seus sistemas têm analisado dados e informações de uso dos clientes (incluindo mensagens, conteúdo e arquivos) para construir modelos de IA/ML para melhorar o software.
A empresa insiste que possui controles técnicos para impedir o acesso ao conteúdo subjacente e promete que os dados não vazarão entre diferentes workspaces. Entretanto, apesar dessas garantias, os administradores corporativos do Slack estão correndo para não participar dessa coleta de dados.
Polêmica com o opt-out
O que gerou mais revolta foi o fato de que, para não ter seus dados usados nos modelos de IA do Slack, os usuários precisam solicitar ativamente o opt-out (não participar), enviando um e-mail para a equipe de suporte.
I'm sorry Slack, you're doing fucking WHAT with user DMs, messages, files, etc? I'm positive I'm not reading this correctly. pic.twitter.com/6ORZNS2RxC
— Corey Quinn (@QuinnyPig) May 16, 2024
“Sinto muito, Slack, você está fazendo o quê com mensagens diretas, mensagens, arquivos, etc. dos usuários? Tenho certeza de que não estou lendo isso corretamente.”
– Corey Quinn
Slack se defende das críticas
Em resposta às críticas nas redes sociais, o Slack afirmou que possui modelos de machine learning em nível de plataforma para coisas como recomendações de canais e emojis e resultados de pesquisa. A empresa insiste que os clientes podem excluir seus dados de ajudar a treinar esses modelos de ML (não generativos).
Já o Slack AI, que é uma experiência de IA generativa integrada ao Slack, é um complemento comprado separadamente que usa Large Language Models (LLMs), mas não treina esses LLMs nos dados dos clientes. “Como o Slack AI hospeda os modelos em sua própria infraestrutura, seus dados permanecem sob seu controle e exclusivamente para uso da sua organização. Eles nunca saem do limite de confiança do Slack e nenhum terceiro, incluindo o fornecedor do modelo, terá acesso a eles”, disse a empresa.
Preocupações com privacidade e segurança
Esse caso levanta importantes questões sobre privacidade e uso de dados de clientes por empresas de tecnologia. Embora seja uma prática comum usar informações dos usuários para treinar e melhorar seus sistemas de IA, a forma como isso é feito e comunicado ainda gera muita polêmica.
Especialistas recomendam que as empresas sejam transparentes sobre como os dados são coletados e usados, deem aos usuários controle sobre suas informações e implementem medidas de segurança robustas para proteger esses dados contra vazamentos e acessos não autorizados.
O tema deve continuar gerando debates, uma vez que cada vez mais empresas apostam em IA/ML para aprimorar seus produtos e serviços. Encontrar o equilíbrio entre inovação e respeito à privacidade será um dos grandes desafios.
O Que Você Pode Fazer
Se você é um usuário do Slack e está preocupado com a privacidade dos seus dados, aqui estão alguns passos que você pode tomar:
- Verifique as Políticas de Privacidade: Sempre revise as políticas de privacidade de qualquer serviço que você utiliza. No caso do Slack, fique atento às futuras atualizações prometidas.
- Envie um E-mail para Optar Pela Exclusão: Se você não deseja que seus dados sejam utilizados para o treinamento de IA do Slack, envie um e-mail para a empresa solicitando a exclusão.
- Use Ferramentas de Privacidade: Considere utilizar ferramentas adicionais de privacidade e segurança para proteger seus dados enquanto utiliza serviços online.
Fonte: Security Week
