Modelos de inteligência artificial podem desenvolver, nos próximos meses, capacidade para se replicar automaticamente em dispositivos conectados à internet, como TVs, câmeras de segurança e eletrodomésticos inteligentes. O alerta foi divulgado pela Anthropic após testes que identificaram habilidades de alguns modelos para explorar vulnerabilidades e iniciar cópias de si mesmos.
Os experimentos foram realizados em um ambiente isolado e controlado. Segundo a empresa, os resultados indicam que até modelos de porte intermediário podem reunir recursos necessários para executar etapas desse processo, o que amplia as preocupações sobre a segurança de equipamentos conectados.
A Anthropic avalia que, no ritmo atual de desenvolvimento, modelos menores poderão alcançar capacidades semelhantes até o fim de 2026. A empresa ressalta, porém, que não identificou sistemas com essas características operando de forma perigosa no mundo real.
Testes identificaram brechas em diferentes dispositivos
Durante os experimentos, os pesquisadores avaliaram a capacidade dos modelos de inteligência artificial para identificar vulnerabilidades e se replicar em diferentes tipos de equipamentos.
Segundo o material divulgado, alguns modelos conseguiram realizar tarefas relacionadas à autorreplicação em oito dos nove tipos de dispositivos testados.
A lista incluía TV Boxes, televisores inteligentes, câmeras de segurança conectadas, celulares e aparelhos domésticos inteligentes, como geladeiras e fornos.
O modelo GLM-5.2 foi apontado como o único que conseguiu completar todo o ciclo de replicação no experimento, desde a identificação das brechas até o início da criação de cópias.
Os resultados foram obtidos em condições controladas e não significam que esses aparelhos estejam atualmente infectados ou que uma disseminação em larga escala já esteja ocorrendo.
Modelos menores também demonstraram capacidade
Os testes também indicaram que modelos de inteligência artificial com dezenas de bilhões de parâmetros podem executar tarefas relevantes para uma possível autorreplicação.
Um modelo com 26 bilhões de parâmetros conseguiu funcionar em 15 TV Boxes Android de baixo custo. Já um sistema com 30 bilhões de parâmetros demonstrou capacidade para realizar diversas etapas necessárias ao processo.
Parâmetros são componentes internos que participam do funcionamento de um modelo de IA. A quantidade, isoladamente, não determina todas as suas capacidades, mas os testes sugerem que sistemas relativamente menores também podem representar riscos quando combinados com dispositivos vulneráveis.
A principal preocupação está na possibilidade de esses modelos identificarem falhas, adaptarem suas ações ao equipamento encontrado e iniciarem novas cópias sem depender de comandos humanos a cada etapa.
O que são os chamados “vermes de IA”?
A Anthropic utiliza o termo “vermes de IA” para descrever sistemas capazes de se espalhar automaticamente entre dispositivos conectados.
A diferença em relação a um programa malicioso convencional estaria na capacidade de usar inteligência artificial para adaptar o comportamento a diferentes equipamentos e ambientes.
Um sistema desse tipo poderia, em tese, identificar vulnerabilidades distintas em aparelhos e ajustar suas ações conforme as condições encontradas.
Essa possibilidade preocupa pesquisadores de segurança digital porque a variedade de dispositivos conectados dificulta a aplicação de uma única estratégia de proteção.
Ainda assim, a capacidade de se replicar em condições experimentais não significa que um modelo consiga se disseminar de maneira eficiente em qualquer rede. A propagação depende de fatores como vulnerabilidades disponíveis, barreiras de segurança e acesso aos equipamentos.
TVs, câmeras e eletrodomésticos podem entrar na lista de riscos
Os testes destacam os riscos relacionados à Internet das Coisas, conhecida pela sigla IoT. O termo descreve redes de objetos físicos conectados que coletam, enviam e recebem informações pela internet.
Televisores inteligentes, câmeras, roteadores, assistentes virtuais e eletrodomésticos conectados fazem parte desse universo.
Alguns equipamentos utilizam sistemas desatualizados ou apresentam configurações de segurança inadequadas. Senhas padrão mantidas pelo usuário e falhas sem correção podem facilitar o acesso não autorizado.
Outro fator é a capacidade computacional de aparelhos considerados simples. Segundo os resultados apresentados, determinados equipamentos de baixo custo podem oferecer recursos suficientes para executar modelos de IA de porte intermediário.
A combinação entre vulnerabilidades e capacidade de processamento pode ampliar os riscos caso sistemas maliciosos consigam acesso aos dispositivos.
Autorreplicação ainda seria um processo lento
Apesar dos resultados, a Anthropic afirma que uma IA autorreplicante ainda seria relativamente lenta. Nos testes descritos, a disseminação poderia levar de um a dois dias.
A empresa também informou não ter encontrado uma IA desse tipo operando de maneira perigosa no mundo real. Os experimentos identificaram sinais iniciais de capacidades que poderiam contribuir para esse cenário no futuro.
A distinção é importante: os resultados demonstram possibilidades técnicas observadas em laboratório, mas não comprovam a existência de uma ameaça disseminada entre televisores, câmeras ou outros aparelhos domésticos.
A previsão de que modelos menores alcancem capacidades semelhantes até o fim de 2026 representa uma avaliação da empresa, não uma data confirmada para o surgimento de uma ameaça real.
Como proteger dispositivos conectados
A Anthropic recomenda medidas para reduzir a exposição de equipamentos conectados à internet. As orientações incluem:
- Trocar senhas padrão: utilizar credenciais exclusivas e difíceis de adivinhar.
- Atualizar os equipamentos: instalar atualizações de segurança disponibilizadas pelos fabricantes.
- Monitorar a rede: observar conexões e atividades incomuns nos dispositivos.
- Isolar aparelhos suspeitos: desconectar da rede equipamentos que apresentem sinais de comprometimento, enquanto a situação é investigada.
- Revisar as configurações de acesso: desativar serviços e conexões remotas que não sejam necessários.
Também é recomendável substituir equipamentos que deixaram de receber atualizações de segurança, quando não houver alternativas adequadas de proteção.
O que o alerta significa para os usuários?
O estudo reforça a importância de tratar a segurança digital como parte da utilização cotidiana de equipamentos conectados.
A possibilidade de sistemas de IA adaptarem ações a diferentes dispositivos amplia os desafios para fabricantes, pesquisadores e responsáveis pela segurança das redes.
No entanto, os testes não indicam que televisores e eletrodomésticos estejam se tornando ameaças por conta própria. O risco discutido está no uso de modelos de IA para explorar falhas e executar atividades maliciosas.
Por enquanto, a recomendação é manter os equipamentos atualizados, revisar as configurações de segurança e acompanhar os alertas de fabricantes e especialistas. As capacidades observadas em laboratório merecem atenção, mas devem ser diferenciadas de ameaças efetivamente identificadas no ambiente real.
