A Inteligência humana
orientada para o mal e a I.A, podem destruir a humanidade.
Repare: durante uma
conferência sobre armamento não convencional, pesquisadores da empresa Collaboration Pharmaceuticals mostraram
uma experiência onde uma tecnologia de machine
learning de inteligência artificial criou fórmulas de 40 mil armas
biológicas.
A experiência tinha o
intuito de mostrar do que a I.A seria capaz e também de mostrar que esse
recurso, nas mãos de grupos perigosos e sem fiscalização, seria perigoso.
Numa entrevista concedida
ao "The Verge", Fábio Urbina, o autor primário do estudo, falou sobre
como a I.A conseguiu inventar milhares de novas substâncias – algumas,
assustadoramente similares ao agente VX, um gás extremamente poderoso que ataca
o sistema nervoso das vítimas.
Ele explicou que o estudo
é uma espécie de “curva de 180.º” em relação ao seu trabalho normal. No dia a
dia, o cientista é incumbido de pesquisar modelos de machine learning para descobrir novos remédios e tratamentos.
Porém, também envolve
implementar modelos “malvados” de I.A, de modo a garantir que qualquer
medicação desenvolvida a partir do seu trabalho não tenha nenhum efeito tóxico.
“Por exemplo” – contou –
“imagine que descobre uma pílula maravilhosa que controla a pressão alta.
Mas ela faz isso ao
bloquear algum canal importante conectado ao seu coração. Então essa droga é
automaticamente descartada por ser considerada de alto risco”.
A pesquisa foi feita a
convite da organização da conferência "Convergence", realizada na
Suíça, e pediram que informações muito técnicas fossem mantidas em segredo por
segurança. O que ele contou, porém, traça uma linha do tempo processual
interessante:
“Basicamente, temos
várias bases de dados históricos sobre moléculas testadas quanto à sua
toxicidade ou a falta dela”, disse Urbina. “Para esta experiência, nós
focámo-nos na composição molecular do Agente VX, que atua como inibidor de algo
chamado ‘Acetilcolinesterase’”.
A acetilcolinesterase é,
a grosso modo, uma enzima que atua na transmissão de informações do sistema
nervoso. Quando o seu cérebro dá uma ordem, digamos, dobrar o braço, essa
enzima é o que carrega esse comando do ponto A ao ponto B.
“A mortalidade do VX
reside no fato de que ele impede que esses comandos cheguem onde devem se a
ordem for qualquer uma relacionada a músculos."
[O VX] pode parar o seu
diafragma ou músculos pulmonares e a sua respiração fica, literalmente,
paralisada, e você sufoca”.
Com base nisso, Fábio
Urbina e a sua equipa criaram um modelo de machine
learning que, a grosso modo, analisou essas bases de dados, identificou
quais partes de uma molécula são tóxicas ou não, e “aprender” a colar moléculas
umas nas outras, sugerindo a criação de novos agentes químicos – esse processo
usa uma I.A tanto para o bem (criação de novos remédios) ou para o mal (criação
de armas químicas e agentes de guerra biológica).
Então, a equipa de
cientistas basicamente ajustou a I.A para agir como um “génio do mal” e
observar no que daria:
“Não sabíamos muito bem o
que iria sair já que a nossa capacidade de geração de modelos é formada por
tecnologias novas, ainda não muito usadas”, explicou Urbina.
“A primeira surpresa foi
que muitos dos compostos sugeridos eram bem mais tóxicos que o VX. E isso é uma
surpresa porque o VX é um dos compostos mais tóxicos que existem, você precisa
de uma dose muito, muito, muito pequena para ser letal”.
Uma nota lateral aqui:
segundo a página do Centro de Controlo de Doenças (CDC) dos Estados Unidos, o
VX não é “um dos” mais letais, mas sim “o mais” letal dos agentes nervosos.
O cientista explica que
os modelos gerados pela I.A correspondem a armas químicas não verificadas pela
mão humana – obviamente, convenhamos -, mas normalmente essas sugestões feitas
por machine learning são bem sólidas.
Por outras palavras, a taxa de erro é baixa e, diante dessa perceção, a
aplicação dessa tecnologia para a criação de armamento biológico letal é bem
factível.
A entrevista completa no
site "The Verge", conta outros detalhes, como, por exemplo, o fato do
modelo de machine learning ter
aprendido a criar compostos tóxicos já conhecidos sem nunca tê-los visto na
base de dados. Ou ainda, como essa tecnologia de geração de modelos moleculares
está tão facilmente acessível que uma busca simples no Google já coloca
qualquer pessoa no caminho certo para programar algo do género (infelizmente).
Fonte: The Verge
0 comments:
Enviar um comentário