Funcionários alimentam o ChatGPT com dados sensíveis de negócios, aumentando preocupações com segurança
Os funcionários estão inserindo dados sensíveis de negócios e informações protegidas por privacidade em modelos de linguagem de grande escala (LLMs), como o ChatGPT, aumentando as preocupações de que os serviços de inteligência artificial (IA) possam incorporar os dados em seus modelos e que as informações possam ser recuperadas posteriormente se a segurança adequada não estiver em vigor.

Em um relatório recente, o serviço de segurança de dados Cyberhaven detectou e bloqueou solicitações para inserir dados no ChatGPT de 4,2% dos 1,6 milhão de trabalhadores de suas empresas clientes, devido ao risco de vazamento de informações confidenciais, dados de clientes, código-fonte ou informações regulamentadas para o LLM.

Os casos incluem um executivo que colou o documento de estratégia de 2023 da empresa no ChatGPT, pedindo para criar uma apresentação em PowerPoint, e um médico que inseriu o nome do paciente e sua condição médica, pedindo ao ChatGPT para redigir uma carta para a seguradora do paciente.

À medida que mais funcionários utilizam o ChatGPT e outros serviços baseados em IA como ferramentas de produtividade, o risco crescerá, alerta Howard Ting, CEO da Cyberhaven.