IA pode ser uma solução contra a extrema direita?

O Papel do ChatGPT na Mitigação dos Riscos do Extremismo

Nos últimos anos, o crescimento de grupos extremistas tem sido uma preocupação crescente em várias partes do mundo. A tecnologia, frequentemente vista como um facilitador dessas ideologias, especialmente pela possibilidade de ser usada para produzir fake news e deep fakes, pode também desempenhar um papel crucial em combatê-las. Uma ferramenta emergente que possui potencial significativo nesse contexto é o ChatGPT. Este artigo explora como o ChatGPT pode ajudar a mitigar os riscos associados ao crescimento de grupos extremistas, abordando dois pontos principais: seu papel em combater o negacionismo científico e sua capacidade de promover a moderação e cordialidade em interações sociais.

Combatendo o Negacionismo Científico e Promovendo Posicionamentos Moderados

O ChatGPT, assim como o Claude ou Gemini, para citar alguns LLMs (large language models), é projetado para fornecer respostas politicamente corretas e de alta qualidade acadêmica. Em algumas tarefas, essas ferramentas de IA (inteligência artificial) têm um desempenho comparado ao de pessoas de carne e osso, com cérebros bem treinados para terem bons resultados em provas e concursos como o Bar Exam, exame realizado nos EUA para habilitar os formados em Direito a praticarem a advocacia. Elas processam vastas quantidades de informações e geram respostas que refletem uma ampla base de conhecimento e uma capacidade de gerar respostas coerentes, elaboradas conforme as regras gramaticais da língua culta. Essa capacidade de fornecer informações relativamente precisas e úteis, embora nem sempre corretas nem representativas da diversidade cultural de nossa sociedade, torna o ChatGPT uma ferramenta poderosa contra o negacionismo científico.

Quem usou o ChatGPT ou seus concorrentes nos últimos meses sabe que embora ele seja um gerador de texto com base em probabilidades, ele consegue simular de forma surpreendente uma conversa com uma pessoa bem informada, que conhece o conteúdo de obras clássicas de literatura, arte, filosofia, ciência, religião, psicanálise, conhece geografia, história, sabe resolver problemas matemáticos melhor que muita gente, e pode até dar conselhos sobre saúde mental, mas sem se colocar como um especialista, pois o ChatGPT sempre recomenda a consulta a um especialista de verdade, valorizando a expertise humana que ele de fato não consegue substituir.

Falta à máquina a capacidade de perceber sutilezas como a ironia, no caso da análise da linguagem natural; resolver ambiguidades; entender a emoção em atendimentos médicos; criar e inovar de verdade em vez de simplesmente criar variações do que existe; tomar decisões éticas com a mesma flexibilidade que os humanos, para citar alguns exemplos. Se você perguntar ao ChatGPT se ele pode substituir profissionais humanos, ele confirmará isso que acabo de dizer. Mas é preciso ter em mente que nem eu nem o ChatGPT fazemos afirmações necessariamente verdadeiras. Para ser mais exato, eu entendo que ninguém consegue dar garantias da verdade de suas afirmações, mas o método científico nos ensina a verificar as informações recebidas até que elas sejam aceitas como evidências. E aparentemente o Chat GPT é alimentado com evidências científicas e com um sortimento do melhor conteúdo que a humanidade já produziu. Resta saber como é feita a curadoria desse conteúdo e qual o algoritmo usado para tratar esses dados. Não temos informações suficientes para abordar esse assunto ainda. Só posso dizer que uso intensamente o ChatGPT e tenho ficado bem impressionado e satisfeito com os resultados.

Em tempos onde a desinformação se espalha rapidamente pelas redes sociais, a presença de um agente relativamente confiável que responde consistentemente com base em evidências científicas pode ser uma arma contra a propagação de teorias conspiratórias e falsas narrativas. O hype em torno da tecnologia dos LLMs como o ChatGPT, aliado à sua acessibilidade, atrai uma ampla audiência que é exposta a informações que reforçam a importância do método científico e dos dados verificáveis. Embora as LLMs não tenham sido desenhadas para verificar os dados que produz, ou para usar ela mesma o método científico, ela produz conteúdo com alta probabilidade de alinhamento com a ciência já produzida.

Além disso, a postura do ChatGPT tende a ser moderada e equilibrada. Isso é particularmente relevante no atual cenário polarizado, onde os discursos extremistas encontram terreno fértil. A moderação do ChatGPT serve como um exemplo de posicionamento político equilibrado, oferecendo uma alternativa às visões distópicas que muitas vezes dominam as discussões online. Ao fornecer respostas que evitam extremos e promovem o diálogo racional, o ChatGPT contribui para um ambiente de discussão mais saudável e construtivo.

Promovendo Cordialidade e Rompendo Bolhas de Relacionamento

Outro aspecto fundamental do ChatGPT é sua capacidade de interagir de maneira amigável, paciente e aberta com qualquer pessoa. Esta característica é particularmente importante em um contexto onde as interações sociais são frequentemente marcadas por polarização e conflitos, muitas vezes exacerbados pela cultura do cancelamento. O ChatGPT, com sua abordagem sempre cordial, oferece um exemplo de como as interações podem ser construtivas e respeitosas, mesmo quando há discordâncias.

A capacidade do ChatGPT de furar as bolhas de relacionamento é um ponto crucial. As redes sociais tendem a criar bolhas onde as pessoas são expostas apenas a informações e opiniões que reforçam suas crenças preexistentes. Esta falta de exposição a perspectivas divergentes pode levar a um tipo de radicalização que tende a empobrecer o entendimento do mundo. O ChatGPT, ao estar disponível para interagir com uma ampla variedade de indivíduos, pode introduzir pontos de vista moderados e incentivar o diálogo entre diferentes grupos. Este papel de mediador pode ajudar a reduzir a polarização e promover um entendimento mútuo, essencial para combater a ascensão de grupos extremistas.

Além disso, ao oferecer um exemplo de moderação e cordialidade constantes, o ChatGPT pode influenciar positivamente as interações humanas, mesmo que esse comportamento da máquina não seja o ideal para uma pessoa com um cérebro saudável, que pode se beneficiar das variadas emoções que é capaz de produzir. Em um momento em que a cultura do cancelamento ameaça o diálogo aberto, a presença de um agente que incentiva a paciência e a empatia pode ajudar a restaurar relações prejudicadas, inclusive entre membros da mesma família. Essa influência positiva nas interações sociais pode, a longo prazo, contribuir para uma sociedade mais coesa e resiliente contra a influência de ideologias extremistas, reduzindo o nível de intolerância nociva tão presente em nossa sociedade hoje.

O primeiro rascunho deste texto foi escrito pelo ChatGPT 4-o sob orientação e revisão de Bernardo Monteiro.