Sobre Inteligência Artificial, cartas, intenções e razão
Há alguns dias, Elon Musk, Steve Wozniak, cofundador da Apple, e outros líderes do desenvolvimento da tecnologia, assinaram uma carta aberta sugerindo interromper o treinamento de modelos de Inteligência Artificial mais poderosos que o GPT-4.
Na carta, eles sugerem que “todos os laboratórios de IA parem imediatamente por pelo menos 6 meses o treinamento de sistemas de IA mais poderosos que o GPT-4”.
Por que isso é interessante?
Porque, quando o assunto é tecnologia meramente comercial, por uma lógica de mercado, nós temos uma tendência de logo incorporá-la ao nosso dia a dia sem pesar os pós e contras da sua aplicação.
Um exemplo disso nos últimos anos foi a forma como aderimos e incentivamos o uso de celulares e das redes sociais indiscriminadamente, inclusive para crianças, que hoje alguns estudos sugerem estar relacionado com o número crescente de jovens com transtornos mentais.
Sobre este tema, eu já escrevi alguma coisa nestes dois artigos abaixo:
Agora, neste caso, é interessante traçar um paralelo para pensar sobre este tema: analisar como a ciência (em oposição ao mercantilismo e à lógica de mercado) é tradicionalmente conservadora em aplicar as suas inovações; não porque não deseja avançar, mas por responsabilidade e ética.
Veja o caso da tecnologia CRISPR, uma verdadeira revolução em biogenética alcançada pela humanidade recentemente.
Esta tecnologia permite fazer modificações pontuais no DNA, podendo assim prevenir doenças genéticas e potencialmente evitar muito sofrimento às famílias; mas pode, ao mesmo tempo, dar início aos processos de eugenia, ou seja, escolher as características físicas das pessoas, como cor da pele, olhos, atributos físicos e intelectuais.
Esta tecnologia CRISPR já existe; inclusive as duas cientistas que fizeram a descoberta ganharam um Prêmio Nobel anos atrás por este trabalho.
Por que esta tecnologia genética não foi amplamente adotada? Uma razão é porque a ciência é fundamentalmente conservadora, que não visa apenas o avanço da tecnologia em si, mas também as possíveis consequências e impacto para as pessoas.
Neste sentido, é interessante este movimento sobre parcimônia no uso da tecnologia, não para que ela não seja adotada ou por uma razão reacionária, mas para que seja usada de forma ética e responsável.
Existe uma frase que diz que “Há quem passe pela floresta e só veja lenha para queimar”. Esta é uma visão essencialmente mercadológica. Cabe a nós, enxergarmos além.
A repercussão da carta
Após a carta ter sido divulgada, algo me chamou atenção novamente.
Quando citei a carta aberta acima, eu a uso como exemplo, não para falar propriamente da questão da inteligência artificial em si, mas para fazer um paralelo entre lógica de mercado (de visar sempre mais e mais, independente de qualquer coisa) e a forma como a ciência trabalha, que olha para o desenvolvimento tecnológico, mas se pauta também por princípios éticos e filosóficos; um bom exemplo disso é a CRISPR.
Em resposta à carta, aconteceu algo curioso também do ponto de vista filosófico.
Muitas respostas atacaram a carta buscando deslegitimar o argumento com base em quem havia patrocinado a carta, quem a escreveu e quem assinou, no caso Instituto Future of Life e Elon Musk, etc.
Por que isso é interessante?
Porque este é um comportamento bastante comum: ao invés de atacar o argumento, ataca-se a pessoa. Ao invés de contra argumentar o mérito da questão, especulam sobre a intenção.
A maioria das pessoas que assinaram a carta não tem nada a ver com o IFL ou com Elon Musk. A carta deve ser contestada por seu argumento, não por quem a escreveu.
Imagino que muitas críticas, diga-se de passagem, foram feitas por pessoas que sequer leram a carta ou tenham de fato tentado compreender os argumentos.
Na lógica, talvez a falácia mais comum — e imagino que seja a falácia mais conhecida popularmente justamente por ser muito utilizada -, é o “Argumentum ad hominem”, o argumento contra a pessoa. Ou seja, você “refuta” uma linha propositiva a partir da crítica que faz do seu autor, e não atacando o argumento, o conteúdo em si. Este é o ponto de vista filosófico que me chamou atenção no desdobramento da divulgação da carta: Não estamos muito interessados em discutir ideias, mas sim pessoas e suas intenções, como as concebemos.
Nada de novo sob o Sol, como a frase de Mário de Andrade, de 1922:
“Pensei que se discutiriam as minhas idéias (que nem são minhas): discutiram minhas intenções.”
