Photo by Federica Galli on Unsplash

Justificativa de Máquina

Tradução do artigo "Machine Justification" (nov/2017), de Martin Fowler.

Lembro que, quando era adolescente, falava-se sobre as maravilhas que a Inteligência Artificial (IA) poderia realizar dentro dos próximos anos. Hoje, muitas décadas depois, algumas já parecem estar ocorrendo. O triunfo mais recente foi o de computadores ensinando o jogo de Go uns aos outros, enquanto se enfrentavam, tornando-se logo mais hábeis do que qualquer ser humano e utilizando estratégias que experts humanos mal podem compreender. É natural se perguntar o que vai acontecer nos próximos anos: será que daqui a pouco os computadores serão mais inteligentes do que a humanidade? (Considerando-se certos resultados recentes nas eleições dos EUA, isso talvez não seja uma barreira muito difícil de ultrapassar.)

No entanto, escutando essas coisas, me vem o comentário de Pablo Picasso sobre computadores, de muitas décadas atrás: “Computadores são inúteis. Tudo o que eles podem nos dar são respostas.” O tipo de raciocínio que técnicas como Machine Learning (literalmente, aprendizado de máquina) conseguem alcançar é realmente impressionante e será útil para nós usuários e desenvolvedores de software. Mas, embora úteis, respostas nem sempre pintam um quadro completo. Nos meus tempos de escola aprendi que dar a resposta para uma equação matemática só me traria alguns pontos; para obter nota dez, teria que mostrar como cheguei àquele resultado. O raciocínio que levou à resposta valia mais do que a resposta em si. Essa é uma das limitações das IAs autodidatas no jogo de Go: embora sejam capazes de vencer, não conseguem explicar suas estratégias.

Tendo isso em mente, acredito que um dos grandes desafios da IA é que, mesmo tendo descoberto como utilizar o Aprendizado de Máquina para ensinar os computadores a obter respostas, não temos sistemas que empreguem uma Justificativa de Máquina para esses resultados. À medida em que as IAs pensarem mais e mais em nosso lugar, nos veremos frequentemente em situações onde a resposta não basta. Uma IA pode ser treinada para fornecer um veredicto no tribunal, mas será que podemos aceitar uma decisão legal cujo raciocínio de base não pode ser explicado pela IA?

Com isso, é provável que precisemos de um novo tipo de “programador” no futuro, alguém cujo trabalho seja o de descobrir por que as IAs deram as respostas que deram e deduzir o raciocínio por trás das habilidades dos computadores. Dá para imaginar uma série de áreas em que as IAs fariam julgamentos obscuros, embora acertados, o que nos obrigaria a buscar outra abordagem para realmente entender a teoria que fundamentou as decisões.

Esse problema é particularmente grave porque já vimos que é fácil demais para essas máquinas adquirirem comportamentos indesejáveis a partir dos seus dados de treinamento, como acontece quando cometem discriminação racial contra minorias ao realizarem análises de crédito.

Assim como muitas outras pessoas, eu vejo que grande parte do benefício oferecido por computadores está na sua colaboração com humanos. Fazer bom uso de computadores é entender no que eles são fortes (fazendo com rapidez trabalhos mecânicos e/ou repetitivos) e no que os humanos são melhores, e então usar uma combinação disso. Computadores são, na sua dimensão mais intelectual, um instrumento para a mente. Como programador, fico feliz de poder contar com o compilador para me ajudar a encontrar erros ou sugerir alternativas — uma prática que me rendeu broncas quando era iniciante na carreira. A fronteira entre as habilidades mais fortes de computadores e aquelas de seres humanos é fluida, e um dos aspectos mais fascinantes do futuro é o modo como melhor faremos uso de suas idas e vindas.

Like what you read? Give Claudia Crescente a round of applause.

From a quick cheer to a standing ovation, clap to show how much you enjoyed this story.