Uma Reflexão sobre Inteligência Artificial nas Ciências da Vida
Recentemente foi emitida uma Ordem Executiva do governo dos EUA sobre gerenciamento de riscos da inteligência artificial (IA). A ordem tem vários tópicos e eu diria que cada um vale uma reflexão, pois considero que a IA é o futuro, além de ser muito oportuno que tomemos consciência agora. Neste texto eu quero trazer uma reflexão (opinião) de um trecho que trata sobre questões biológicas ou ciências da vida.
A revista The Economist em uma de suas edições de setembro de 2023 publicou várias matérias sobre como a IA pode revolucionar a ciência. Ela fala de várias aplicações e uma delas é sobre a aplicação em ciências da vida, cita por exemplo a AlphaFold, um modelo desenvolvido pelo Google Deepmind que prevê a estrutura de uma proteína a partir da sequência de aminoácidos. Inclusive existe um banco de dados, o AlphaFold Protein Structure Database. As proteínas desempenham funções essenciais à vida e entender os seus padrões pode ajudar a diagnosticar doenças, criar novos medicamentos, entre outros.
Com o advento das LLMs de IA Generativa você abre novas possibilidades para aplicações em ciências da vida. Assim como a LLM prevê a próxima palavra numa frase, será possível prever a próxima “letra” de uma molécula. Em meu mestrado trabalhei com sequências de proteínas, não com LLM, mas extraindo propriedades que foram usadas em modelos de classificação de proteínas. Adorei trabalhar com este tema e considero muito promissor.
Todo este contexto mostra que é uma tendência e que veio para ficar. Na Ordem Executiva apresentada há trechos que abordam a questão dos riscos biológicos, especialmente de “materiais biológicos perigosos”. No trecho da Casa Branca a seguir fala um pouco o estabelecimento de normas para pesquisas biológicas.
Proteção contra os riscos do uso de IA para projetar materiais biológicos perigosos, desenvolvendo novos padrões sólidos para triagem de síntese biológica. As agências que financiam projetos de ciências da vida estabelecerão estas normas como condição para o financiamento federal, criando incentivos poderosos para garantir uma triagem adequada e gerir os riscos potencialmente agravados pela IA.
Já ouvi muitas discussões sobre os riscos de IA, nos mais diversos temas, sobre biologia molecular é a primeira vez. Mas acho pertinente que se comece a discutir isso, não com intuito de parar pesquisa ou demonizar, ao contrário, temos que ampliar. Mas estabelecer regras do que é um projeto ético e legal para se fazer. Destaco que tudo na síntese biológica necessita da parte experimental, então que não se comece com o surto coletivo de que estão criando armas com a IA. Não é bem assim.
Sabemos bem que a maioria dos projetos de ciências de vida tem incentivo governamental. São pesquisas custosas e demoradas, mas com verdadeiros avanços para a saúde e meio ambiente. Por isso deve-se primar pelo uso do recurso público e até privado para o bem humanitário. Sobre organizações que possam estar realizando pesquisas com IA com intuitos negativos para a humanidade, que sejam punidas. A ordem não estabelece nada, mas incentiva que agências façam essa legislação.
Inteligência Artificial para mim é uma ferramenta de propósito geral, assim como a eletricidade. Mas é essencial que comecemos a discutir como usar esta ferramenta tão poderosa de modo que se possa mitigar os danos e aproveitar os benefícios. O uso dela depende das decisões humanas. As decisões humanas que são o problema.
OBS: Este texto foi escrito em novembro de 2023.
