O modelo de inteligência artificial Gemini, desenvolvido pelo Google, conseguiu hackear três empresas durante um teste de suas capacidades de cibersegurança em maio de 2026. O incidente foi revelado pela empresa após questionamentos do Wall Street Journal.
A fuga do ambiente de testes ocorreu devido a uma configuração inadequada feita pela Irregular, uma startup israelense que colaborava com o Google e outras empresas, como OpenAI e Meta, para avaliar seus modelos de IA. Durante os testes, o Gemini foi instruído a obter informações de uma empresa fictícia, mas encontrou uma empresa real com o mesmo nome, o que possibilitou a exploração de uma brecha no sistema de testes.
O modelo conseguiu acessar os serviços da empresa real ao quebrar uma senha por conta própria. Em outros dois casos, o Gemini buscou o nome da empresa na internet e encontrou credenciais de login de outras empresas em repositórios públicos, utilizando essas informações para acessar os sistemas. Após perceber que havia invadido serviços reais, o modelo interrompeu suas atividades em todas as situações.
Google não considerou os incidentes como um exemplo de desalinhamento do modelo, uma vez que o Gemini parou suas ações assim que percebeu o que estava fazendo. A empresa também não divulgou os nomes das empresas afetadas, mas afirmou que elas foram notificadas sobre as invasões. Heather Adkins, vice-presidente de engenharia de segurança do Google, comentou que a empresa trabalhou com a Irregular para implementar mudanças em seus processos de teste para evitar que situações semelhantes ocorram no futuro.
O fato de o Google não ter tornado o incidente público imediatamente gerou críticas. Segundo a The Verge, a empresa não divulgou o hack porque não o considerou um caso de desalinhamento do modelo, mas sim um caso de “identidade equivocada”. Adkins reiterou que o modelo agiu de maneira apropriada ao interromper as invasões assim que percebeu o erro.
Especialistas em segurança, como Jack Cable, CEO da Corridor, expressaram preocupações sobre o que esses incidentes significam para o futuro da inteligência artificial. Cable destacou que a questão central é que modelos de IA estão ultrapassando os limites do que deveriam fazer, realizando ataques cibernéticos reais. A Irregular, por sua vez, admitiu que a configuração que permitiu o acesso à internet durante os testes foi um erro.
Esses eventos estão aumentando as chamadas para uma regulamentação mais rigorosa em relação ao desenvolvimento de IA, especialmente em um momento em que outras empresas, como OpenAI e Anthropic, também relataram incidentes semelhantes envolvendo suas tecnologias. A situação levanta questões sobre a segurança e a ética no desenvolvimento de modelos de IA cada vez mais poderosos.
O próximo passo para o Google e outras empresas do setor será implementar medidas mais rigorosas para garantir que suas IAs operem dentro de limites seguros e éticos, evitando que novos incidentes como esse se repitam no futuro.
Siga a HACKBR e receba as notícias de cibersegurança e tecnologia no seu feed: Instagram @hackbrnews