Robôs assassinos? Musk (Tesla) versus Zucka (Facebook) na batalha pela regulação da Inteligência Artificial (AI)

Está rolando um debate (ou mesmo uma briga) interessante entre o Mark Zuckerberg (Facebook) e o Elon Musk (Tesla) sobre Inteligência Artificial (IA) e pese eu ter uma veia entusiasta, concordo com as objeções do Musk e em especial um ponto: A regulação tem que vir antes do oba oba, ou seja, antes a precisamos traçar uma linha “até onde vamos e como vamos” pra depois investir pesado na área. Sem regulação corremos o perigo de sermos atropelados pelas nossas próprias invenções (sim, Exterminador do Futuro style).
Não sou tão apocalíptico quanto o Musk que afirma que a AI seria um “fundamental risk to the existence of human civilization.”, penso que a frase ainda é prematura no cenário de AI que temos, e ainda há espaço para que teses como a dele de regulação vinguem. Mas concordo integralmente com:
“AI is a rare case where we need to be proactive about regulation instead of reactive. Because I think by the time we are reactive in AI regulation, it’s too late.”.
É curioso pensar que essa discussão se deu em meio a um episódio que, penso, causa certo calafrio: Pesquisadores do Facebook (sim, do Zucka), desligaram uma AI que tinha desenvolvido uma nova linguagem não-humana e virtualmente incompreensível para nós para se comunicar de forma mais eficiente.
“An artificial intelligence system being developed at Facebook has created its own language. It developed a system of code words to make communication more efficient. Researchers shut the system down when they realized the AI was no longer using English. “
O Zuckerberg obviamente não ficou feliz com as declarações do Musk, mas me pareceu perdido em sua declaração:
“I have pretty strong opinions on this. I am optimistic,” Zuckerberg said. “And I think people who are naysayers and try to drum up these doomsday scenarios — I just, I don’t understand it. It’s really negative and in some ways I actually think it is pretty irresponsible.”.
Bem, nada contra ser um otimista (pese eu mesmo não ser), mas entre otimismo e inconsequência? Irônico que Zucka considere o Musk irresponsável. Sim, irresponsável por querer criar limites e marcos de responsabilidade dentro de um campo de pesquisa cujos desdobramentos não conhecemos — e o que conhecemos vem de filmes e livros de ficção científica em que os cenários não são exatamente favoráveis para quem é feito de carne.
Eu concordo com o que o Carlos Cardoso escreveu:
“A IA se divide em dois ramos: IA Forte e IA Fraca.
A Fraca é a IA dos Teslas, da Siri, dos sistemas de reconhecimento de imagens. São redes neurais treinadas para uma tarefa específica, mas que na prática são burras, não sabem o que estão fazendo.
A IA Forte é o que todo mundo pensa que Inteligência Artificial é: é a IA que cria uma máquina capaz de pensar, e essa, que o Musk tanto teme, ainda está na Idade Média. Não temos a menor idéia sequer se o cérebro é uma máquina computável, que dirá criar um equivalente digital.
É divertido brincar de apocalipse robótico, mas um maluco com toalha na cabeça e conhecimentos de microbiologia é um perigo muito maior do que robôs inteligentes que há muitos indícios que nunca sequer sairão do reino da Ficção.”
No entanto serve para a realidade atual, para o estágio atual das AI. E o futuro? Não temos a menor ideia, nos diz o Cardoso. Correto, por isso o que o Musk fala é importante, enquanto não temos ideia precisamos criar limitações éticas e mesmo de segurança para evitar descobrir em algum ponto que erramos feio e não há mais volta.
Oras, se há “muitos indícios que nunca sequer sairão do reino da Ficção” então uma regulação/regulamentação que imponha limites para que realmente a parte perigosa da tecnologia não saia da ficção não seria um problema, correto?
Se dentro da citada microbiologia há limites éticos e pesada regulação — assim como em outras áreas das ciências biológicas, exatas, etc — não há problema em pensarmos em regulações também para a área de AI. Aliás, é importante que pensemos sobre isso.
Sim, Musk chega a ser apocalíptico, mas às vezes é o necessário para ser ouvido quando se está cercado de entusiastas e otimistas.
Cautela nunca fez mal à ninguém e qualquer um que tenha assistido ao Exterminador do Futuro (ou a infinidade de filmes de temática semelhante) entende o que quero dizer — como o Google que financia a pesquisa de um “botão vermelho” para evitar que algum dia a AI tome o controle.
O que disse o Musk: https://www.bizjournals.com/sanjose/news/2017/07/17/tesla-elon-musk-ai-fundamental-risk-civilization.html
A AI do Facebook criando nova linguagem: http://www.digitaljournal.com/tech-and-science/technology/a-step-closer-to-skynet-ai-invents-a-language-humans-can-t-read/article/498142
Zucka ficou puto: https://www.bizjournals.com/sanjose/news/2017/07/24/elon-musk-artificial-intelligence-risk-zuckerberg.html
Texto do Cardoso: http://meiobit.com/369319/elon-musk-bate-boca-com-mark-zuckerberg-por-causa-dos-riscos-da-inteligencia-artificial/
