Use a IA só na máquina de lavar

Há 15 anos, num dia como hoje, eu estava tendo aulas de redes neurais no mestrado em Eletrônica, na Coppe UFRJ.

Naquela época, a melhor redes neural que conseguíamos fazer tinha 3 camadas e uma dúzia de neurônios por camada. Entretanto, já era um campo promissor, para visionários.

Perguntei ao meu professor: “Você confiaria numa rede neural para dirigir um carro ou fazer uma operação médica?”

A resposta foi algo como: “Colocar IA numa máquina de lavar, sem problemas. Agora, para situações importantes, não”.

A IA teve uma evolução exponencial desde então. Saiu do inverno para o verão, com avanços em pacotes computacionais (PyTorch, TensorFlow), novas técnicas (convolucional, transformer), e até em hardware (como GPU e TPU).

Entretanto, a resposta continua valendo.

A IA atual é uma caixa-preta: entra um monte de dados e sai uma decisão. Talvez seja uma caixa mais poderosa, mas a essência é a mesma.

O problema de uma caixa-preta é que ela vai funcionar extremamente bem, uns 98% dos casos, até o dia em que vai dar problema. E, se o dispositivo controlado for numa grande indústria, ou um carro autônomo, será um problema catastrófico, daqueles que põe em risco a confiança no trabalho todo.

Tanto é que uma das linhas de pesquisa mais importantes dos dias de hoje é o Explainable AI: abrir um pouco da caixa, entender de alguma forma o que está acontecendo, mesclar o poder da rede neural com regras explícitas.

E outra linha quente de pesquisas é a Ética em IA: de quem será a culpa, no caso de um atropelamento? Do fabricante? Do usuário que confiou no veículo? Da caixa-preta que ninguém sabe interpretar? Do engenheiro que treinou o algoritmo? Haverá auditoria de algoritmos, por parte do governo? São perguntas difíceis de responder.

De qualquer forma, é melhor seguir o conselho do meu professor: utilize AI em processos não críticos, no seu equivalente da máquina de lavar.

https://ideiasesquecidas.com/

Originally published at https://ideiasesquecidas.com on May 11, 2022.

--

--

--

Publicação sobre projetos, ideias e fundações de Advanced Analytics: Excel. Matemática. Simulação. Computação quântica.

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store
Arnaldo Gunzi

Arnaldo Gunzi

Project Manager on Analytics and Innovation. “Samurai of Analytics”. Passionate about Combinatorial Optimization, Philosophy and Quantum Computing.

More from Medium

Bring rigour to omnichannel marketing measurement with these three dimensions of attribution

Population Growth and Agriculture

It’s real: Data-Driven Product Authenticity with Machine Learning

A Brief History of Business Analytics (Part 3 of 8)