Robôs assassinos? Musk (Tesla) versus Zucka (Facebook) na batalha pela regulação da Inteligência Artificial (AI)

Imagem roubada do post do carlos cardoso

Está rolando um debate (ou mesmo uma briga) interessante entre o Mark Zuckerberg (Facebook) e o Elon Musk (Tesla) sobre Inteligência Artificial (IA) e pese eu ter uma veia entusiasta, concordo com as objeções do Musk e em especial um ponto: A regulação tem que vir antes do oba oba, ou seja, antes a precisamos traçar uma linha “até onde vamos e como vamos” pra depois investir pesado na área. Sem regulação corremos o perigo de sermos atropelados pelas nossas próprias invenções (sim, Exterminador do Futuro style).

Não sou tão apocalíptico quanto o Musk que afirma que a AI seria um “fundamental risk to the existence of human civilization.”, penso que a frase ainda é prematura no cenário de AI que temos, e ainda há espaço para que teses como a dele de regulação vinguem. Mas concordo integralmente com:

“AI is a rare case where we need to be proactive about regulation instead of reactive. Because I think by the time we are reactive in AI regulation, it’s too late.”.

É curioso pensar que essa discussão se deu em meio a um episódio que, penso, causa certo calafrio: Pesquisadores do Facebook (sim, do Zucka), desligaram uma AI que tinha desenvolvido uma nova linguagem não-humana e virtualmente incompreensível para nós para se comunicar de forma mais eficiente.

“An artificial intelligence system being developed at Facebook has created its own language. It developed a system of code words to make communication more efficient. Researchers shut the system down when they realized the AI was no longer using English. “

O Zuckerberg obviamente não ficou feliz com as declarações do Musk, mas me pareceu perdido em sua declaração:

“I have pretty strong opinions on this. I am optimistic,” Zuckerberg said. “And I think people who are naysayers and try to drum up these doomsday scenarios — I just, I don’t understand it. It’s really negative and in some ways I actually think it is pretty irresponsible.”.

Bem, nada contra ser um otimista (pese eu mesmo não ser), mas entre otimismo e inconsequência? Irônico que Zucka considere o Musk irresponsável. Sim, irresponsável por querer criar limites e marcos de responsabilidade dentro de um campo de pesquisa cujos desdobramentos não conhecemos — e o que conhecemos vem de filmes e livros de ficção científica em que os cenários não são exatamente favoráveis para quem é feito de carne.

Eu concordo com o que o Carlos Cardoso escreveu:

“A IA se divide em dois ramos: IA Forte e IA Fraca.

A Fraca é a IA dos Teslas, da Siri, dos sistemas de reconhecimento de imagens. São redes neurais treinadas para uma tarefa específica, mas que na prática são burras, não sabem o que estão fazendo.

A IA Forte é o que todo mundo pensa que Inteligência Artificial é: é a IA que cria uma máquina capaz de pensar, e essa, que o Musk tanto teme, ainda está na Idade Média. Não temos a menor idéia sequer se o cérebro é uma máquina computável, que dirá criar um equivalente digital.

É divertido brincar de apocalipse robótico, mas um maluco com toalha na cabeça e conhecimentos de microbiologia é um perigo muito maior do que robôs inteligentes que há muitos indícios que nunca sequer sairão do reino da Ficção.”

No entanto serve para a realidade atual, para o estágio atual das AI. E o futuro? Não temos a menor ideia, nos diz o Cardoso. Correto, por isso o que o Musk fala é importante, enquanto não temos ideia precisamos criar limitações éticas e mesmo de segurança para evitar descobrir em algum ponto que erramos feio e não há mais volta.

Oras, se há “muitos indícios que nunca sequer sairão do reino da Ficção” então uma regulação/regulamentação que imponha limites para que realmente a parte perigosa da tecnologia não saia da ficção não seria um problema, correto?

Se dentro da citada microbiologia há limites éticos e pesada regulação — assim como em outras áreas das ciências biológicas, exatas, etc — não há problema em pensarmos em regulações também para a área de AI. Aliás, é importante que pensemos sobre isso.

Sim, Musk chega a ser apocalíptico, mas às vezes é o necessário para ser ouvido quando se está cercado de entusiastas e otimistas.

Cautela nunca fez mal à ninguém e qualquer um que tenha assistido ao Exterminador do Futuro (ou a infinidade de filmes de temática semelhante) entende o que quero dizer — como o Google que financia a pesquisa de um “botão vermelho” para evitar que algum dia a AI tome o controle.

O que disse o Musk: https://www.bizjournals.com/sanjose/news/2017/07/17/tesla-elon-musk-ai-fundamental-risk-civilization.html

A AI do Facebook criando nova linguagem: http://www.digitaljournal.com/tech-and-science/technology/a-step-closer-to-skynet-ai-invents-a-language-humans-can-t-read/article/498142

Zucka ficou puto: https://www.bizjournals.com/sanjose/news/2017/07/24/elon-musk-artificial-intelligence-risk-zuckerberg.html

Texto do Cardoso: http://meiobit.com/369319/elon-musk-bate-boca-com-mark-zuckerberg-por-causa-dos-riscos-da-inteligencia-artificial/

Raphael Tsavkko Garcia

Written by

Journalist, PhD in Human Rights (University of Deusto). MA in Communication Sciences, BA in International Relations. www.tsavkko.com.br

Welcome to a place where words matter. On Medium, smart voices and original ideas take center stage - with no ads in sight. Watch
Follow all the topics you care about, and we’ll deliver the best stories for you to your homepage and inbox. Explore
Get unlimited access to the best stories on Medium — and support writers while you’re at it. Just $5/month. Upgrade