Os perigos da Inteligência Artificial e de modelos mentais humanos desatualizados

E as habilidades pessoais importantes para cultivarmos

Há um tempo venho experimentando formas de utilizar a Inteligência Artificial (IA) para explorar informações ou me ajudar em tarefas.
Há vários casos úteis e interessantes, em diversos contextos.

Ao mesmo tempo, com a utilização da IA crescendo cada vez mais em diversos contextos, é importante considerarmos os riscos e desafios que ela pode trazer.

👉 Vieses em escala: treinamento dos modelos com pouca representatividade e diversidade continuará oferecendo riscos ao serem aplicados em escala para tomadas de decisões importantes como na medicina, sistema penal, contratações, empréstimos, entre outros.

👉 Apresentação de dados equivocados, se passando por dados corretos, com alto grau de confiança: alguns modelos de IA tem o potencial de convencer mesmo quando está equivocado. Se a pessoa tem pouco conhecimento no assunto e não faz uma dupla checagem, pode acabar sendo enganada, agir sobre essa informação e propagar algo equivocado.

Se observarmos, esses problemas já estão presentes nas formas de comunicação e organização humana, e nas diversas culturas, mesmo sem IA.
Contudo, os efeitos da IA têm uma escala muito maior, fazendo parte do dia a dia de muitas pessoas, mesmo de forma invisível, em nossas tecnologias.

Os modelos de IA, tanto quanto nossos modelos mentais humanos, precisarão continuamente ser desafiados, avaliados, complementados e atualizados.

Antes mesmo da popularização da Inteligência Artificial, já era importante desafiar crenças humanas que eram propagadas como verdades e mitigar vieses prejudiciais escalados em nossas culturas. Agora, com a presença crescente da IA no dia a dia, é ainda mais necessária a atenção.

De um lado há uma discussão sobre os treinamentos desses modelos e aplicação deles, de outro, há como ativamente termos atenção ao nosso processo de aprendizado e decisões.

Manter-se curioso(a), investigar profundamente, procurar ativamente por informações contrárias e fazer perguntas de aprofundamento para obter mais compreensão continuarão sendo habilidades críticas, talvez até mais relevantes do que antes.

—
Aviso: não sou especialista em IA, apenas um curioso questionando e explorando o assunto.