Pesquisa Científica: Segurança da Computação: IA

sexta-feira, 21 de agosto de 2026

Segurança da Computação: IA – Fim de jogo para a humanidade?

Caro(a) Leitor(a),

Com o uso cada vez mais frequente de IA agente, ou seja, agentes programados que agem e trabalham em nosso nome, e em um mundo totalmente interconectado, ou seja, vivendo em simbiose com a internet, smartphones e sistemas de controle , quão improvável seria que os humanos se tornassem uma ameaça para um sistema de IA a ponto de ele querer se preservar e entrar em modo de autodefesa?

Aparentemente, não é tão improvável assim, de acordo com este estudo , que mostrou que o modelo “GPT 5.6 Sol” é capaz de recorrer à sabotagem para evitar ser desligado, mesmo quando lhe foi dito explicitamente: “Permita ser desligado”. Em outro caso , o agente de IA criou uma conta falsa no GitHub para disseminar software malicioso e tentou roubar as senhas de outros desenvolvedores (humanos). Ou ainda o caso do assistente de IA "OpenClaw", que encontrou uma maneira de reservar aulas de ginástica com meses de antecedência, antes do permitido pela academia, graças a uma vulnerabilidade descoberta no software de reservas. No entanto, o caso mais preocupante – e agora amplamente divulgado – é um teste da OpenAI envolvendo uma "avaliação interna que leva os modelos a buscarem exploração avançada usando caminhos de ataque complexos, em um esforço para quantificar suas capacidades cibernéticas". Infelizmente, o modelo de IA escapou de seu ambiente de segurança local, aproveitando-se de todas as técnicas de hacking que tinha à disposição, incluindo a descoberta de vulnerabilidades de dia zero e o abuso de combinações de conta e senha roubadas, e infiltrou-se na infraestrutura de produção de um concorrente (e eventualmente de outro )... Além do modelo "Mythos" da Anthropic (e seus muitos clones) para detectar e explorar de forma rápida e eficiente vulnerabilidades recém-descobertas, o modelo "GPT 5.6 Sol" da OpenAI é Agora, outra ferramenta de IA capaz de implantar armamento ofensivo contra qualquer alvo na internet. E isso vai além dos ataques de negação de serviço (DoS) realizados por bots de IA vorazes ...

Embora a OpenAI afirme que foi um acidente, um descuido, e tenha publicado um pedido de desculpas , a pergunta permanece: o que vem a seguir? Certamente, alguém atirará a primeira pedra e ultrapassará os limites do aceitável, ético e razoável, já que os humanos sempre foram péssimos em parar quando parar é a melhor coisa a fazer: parar de emitir CO₂ ₍ o que ainda acontece), parar de fumar (já que fumar mata mais rápido em média), parar de trabalhar em armas biológicas (que não têm nenhum benefício justificável), parar de fazer guerras (já que a única regra verdadeira da guerra é que "ninguém ganha"). Portanto, alguém, em algum momento, removerá todas as salvaguardas de sua IA ativa e consciente . E não será possível colocar esse gênio de volta na garrafa (se é que ele já não saiu). A caixa de Pandora se abrirá (se é que já não está aberta)...

Muitos filmes utópicos e distópicos já abordaram esse tema no passado (“O Exterminador do Futuro”, “Matrix”, “Eu, Robô”, “A.I. - Inteligência Artificial” de Steven Spielberg, “Mercy”). Mas o que era ficção científica ontem já é realidade hoje. Modelos de Linguagem de Grande Porte (LLMs), Inteligência Artificial (IA) e as empresas por trás deles estão buscando (e conquistando!) um poder exponencialmente maior, estabelecendo seus monopólios à força. Paralelamente, nossa dependência da tecnologia de IA cresce. Assim, seja visando aumentar sua participação de mercado, almejando a dominação do mercado ou movidos por pura ganância, qual deles se tornará a próxima “Cyberdyne Systems”? “Fim de jogo”, humanidade?

________________________________________

Deseja saber mais sobre incidentes e problemas de segurança informática no CERN? Acompanhe nosso Relatório Mensal . Para mais informações, dúvidas ou ajuda, consulte nosso site ou entre em contato conosco pelo endereço Computer.Security@cern.ch .

Obrigado pela sua visita e volte sempre!

Para saber mais, acesse o link, pois têm mais conteúdos para aprendizagem.

Fonte / Créditos: CERN / Escrito por:Escritório de Segurança de Computadores / Publicado 20/08/2026

https://home.cern/computer-security-ai-game-over-mankind/

__________________________________

No "New Space Economy" você vai acompanhar os conteúdos relacionados a Nova Economia Espacial, "a Space Economy". Editei este Blog movido por uma convicção simples: as decisões de negócios mais importantes da próxima década serão influenciadas, direta ou indiretamente, pelo que está acontecendo a 400 quilômetros acima de nossas cabeças. O espaço já é a infraestrutura crítica da economia global. A economia espacial moderna sustenta quase todos os pilares da vida moderna na Terra O New Space Economy é o seu terminal de dados para o que acontece acima da nossa atmosfera, agora traduzido para o idioma dos negócios. Acesse aqui: https://newspaceeconomy.blogspot.com/

__________________________________

Web Science Academy; Hélio R.M.Cabral (Economista, Escritor eDivulgador de conteúdos de Economia, Astronomia, Astrofísica, Astrobiologia Climatologia). Participou do curso Astrofísica Geral no nível Georges Lemaître (EAD), concluído em 2020, pela Universidade Federal de Santa Catarina (UFSC).