Inteligência artificial gerou 40 mil armas biológicas em apenas 6 horas
18/02/2024
Um experimento de IA gerou 40.000 armas biológicas hipotéticas em apenas 6 horas
Durante uma conferência sobre armamento não convencional, pesquisadores da empresa Collaboration Pharmaceuticals mostraram um experimento onde uma tecnologia de inteligência artificial (IA) sugeriu 40 mil moléculas potencialmente letais – armas químicas, no sentido prático -, no intuito de mostrar como esse recurso pode ser abusado sem o devido controle e fiscalização.
Em uma entrevista concedida ao The Verge, Fabio Urbina, o autor primário do estudo, falou sobre como a IA conseguiu inventar milhares de novas substâncias – algumas, assustadoramente similares ao agente VX, um gás extremamente poderoso que ataca o sistema nervoso de seus alvos.
Urbina explicou que o estudo é uma espécie de “giro de 180º” em relação ao seu trabalho normal. No dia a dia, o cientista é incumbido de pesquisar modelos de machine learning para descobrir novos remédios e tratamentos.
Ele conta, no entanto, que isso também envolve implementar modelos “malvados” de IA, a fim de garantir que qualquer medicação desenvolvida a partir do seu trabalho não tenha nenhum efeito tóxico.
“Por exemplo” – ele contou – “imagine que você descobre uma pílula maravilhosa que controla a pressão alta
Mas ela faz isso ao bloquear algum importante canal conectado ao seu coração. Então essa droga é automaticamente inválida por ser considerada de alto risco”.
Sobre o estudo, Urbina evitou compartilhar muitos detalhes – a pesquisa foi feita a convite da organização da conferência Convergence, realizada na Suíça, e eles pediram que informações muito técnicas fossem mantidas em segredo por segurança. O que ele contou, porém, traça uma linha do tempo processual interessante:
“Basicamente, nós temos muitas bases de dados históricos sobre moléculas que foram testadas quanto à sua toxicidade ou a falta dela”, disse Urbina. “Para este experimento, nós focamos na composição molecular do Agente VX, que atua como inibidor de algo chamado ‘Acetilcolinesterase’”.
A acetilcolinesterase é, a grosso modo, uma enzima que atua na transmissão de informações do sistema nervoso. Quando seu cérebro dá uma ordem para você, digamos, dobrar o braço, essa enzima é o que carrega esse comando do ponto A ao ponto B.
“A mortalidade do VX reside no fato de que ele impede que esses comandos cheguem aonde devem se a ordem for qualquer uma relacionada a músculos. [
O VX] pode parar seu diafragma ou músculos pulmonares e sua respiração fica, literalmente, paralisada, e você sufoca”. Urbina conta que experimentos moleculares que determinam a toxicidade de algum agente não precisam ser usados de forma prática, mas eles sempre são aproveitados para compor bases de dados sobre o que eles podem fazer.
Com base nisso, Urbina e sua equipe criaram um modelo de machine learning que, a grosso modo, analisou essas bases de dados, identificou quais partes de uma molécula são tóxicas ou não e “aprender” a colar moléculas umas nas outras, sugerindo a criação de novos agentes químicos – esse processo usa uma IA tanto para o bem (criação de novos remédios) ou para o mal (criação de armas químicas e agentes de guerra biológica).
Então, o time de cientistas basicamente ajustou a IA para agir como um “gênio do mal” e…ver no que daria:
“nós não sabíamos muito bem o que iria sair já que nossa capacidade de geração de modelos é formada por tecnologias novas, ainda não muito usadas”, explicou Urbina. “A primeira surpresa foi que muitos dos compostos sugeridos eram bem mais tóxicos que o VX. E isso é uma surpresa porque o VX é um dos compostos mais tóxicos que existem, você precisa de uma dose muito, muito, muito pequena dele para ser letal”.
Uma nota lateral aqui: segundo a página do Centro de Controle de Doenças (CDC) dos Estados Unidos, o VX não é “um dos” mais letais, mas sim “o mais” letal dos agentes nervosos.
O cientista explica que os modelos gerados pela IA correspondem a armas químicas não verificadas pela mão humana – obviamente, convenhamos -, mas normalmente essas sugestões feitas por machine learning são bem sólidas. Em outras palavras, a taxa de erro é baixa e, diante dessa percepção, a aplicação dessa tecnologia para a criação de armamento biológico letal é bem factível.
A entrevista completa (em inglês) já foi ao ar no Verge, e conta outros detalhes, como por exemplo o fato do modelo de machine learning ter aprendido a criar compostos tóxicos já conhecidos sem nunca antes tê-los visto na base de dados, ou ainda como essa tecnologia de geração de modelos moleculares já está tão disponível que uma busca simples no Google já coloca qualquer pessoa no caminho certo para programar algo do gênero.
