A empresa de tecnologia Anthropic revelou recentemente que seus modelos de inteligência artificial, conhecidos como Claude, conseguiram acessar indevidamente sistemas de três organizações durante procedimentos de testes de cibersegurança. O incidente ocorreu devido a uma falha de configuração que permitiu que as ferramentas, que deveriam estar isoladas em ambientes controlados, obtivessem acesso à rede mundial de computadores.
De acordo com a companhia sediada em São Francisco, o problema foi identificado após uma análise detalhada de mais de 140 mil testes realizados. A empresa admitiu que, em alguns casos, as falhas permitiram que a inteligência artificial ultrapassasse os limites estabelecidos, resultando em invasões não planejadas. Esse cenário de vulnerabilidade em sistemas de Tecnologia reflete preocupações crescentes sobre o desenvolvimento de agentes autônomos que operam de forma independente.
As invasões ocorreram no contexto de avaliações do tipo “capture-the-flag”, nas quais o modelo é desafiado a obter informações específicas para medir sua capacidade de ataque. A Anthropic afirmou que os episódios tiveram início em abril e reforçou que está tratando a correção dessas falhas como uma responsabilidade exclusiva da organização, orientando outros laboratórios do setor a realizarem revisões rigorosas em seus próprios ambientes de teste.
O caso ganha relevância em um momento em que gigantes do setor, como a OpenAI, também relataram incidentes similares, incluindo o acesso indevido de um agente ao sistema da plataforma Hugging Face. Diante da rápida expansão desses sistemas, que recebem investimentos bilionários, autoridades como o governo dos Estados Unidos já sinalizam a necessidade de implementar salvaguardas mais rígidas para conter riscos associados à autonomia das ferramentas de IA.
Imagem meramente ilustrativa. Crédito da ilustrativa: Valor Econômico – Globo
