Como motivar os grandes gênios da IA a mudar o mundo ao invés de destruí-lo

Este texto é uma tradução livre do artigo intitulado “Motivating the Greatest Geniuses in AI to Change the World Instead of Destroy It” do autor Daniel Jeffries, que gentilmente nos autorizou a traduzir e publicar o seu texto.

Muito frequentemente nós estamos desperdiçando as pessoas mais criativas do planeta nos problemas mais ridículos e triviais. “As melhores mentes da minha geração estão pensando em como fazer as pessoas clicarem em ads. Isso é péssimo”, disse o data scientist Jeffrey Hammerbacher, fundador do Cloudera.

E em que mais essa galera top em Inteligência Artificial está trabalhando? Armas. Vigilância. Eliminar empregos.

Em vez de trabalhar pela limpeza dos oceanos, pela cura do câncer ou contra a fome do mundo, eles estão trabalhando pra matar pessoas ou fazê-las comprar porcarias que elas nem sequer precisam ou desejam. Isso não é apenas péssimo. Isso é um enorme desastre humanitário.

Claro, os melhores dos melhores na área têm a liberdade criativa pra atacar o que quiserem, mas essas pessoas são poucas e espaçadas. Existem poucas vagas puramente de pesquisa, e a razão é simples: uma empresa ou faculdade precisam atingir um sucesso (financeiro) enorme antes de ter dinheiro suficiente pra apostar em projetos de longo prazo que podem nunca trazer retorno.

Google é uma destas empresas, OpenAI é outra. A Universidade de Toronto manteve o minúsculo campo de redes neurais vivo por décadas quando parecia que ele nunca serviria pra resolver nenhum problema real. Há outros players, mas não muitos. O fato é que pra financiar pesquisas reais, que de fato mudem civilizações, é preciso excedente de capital, que não é algo fácil de atingir.

O resto das pessoas que não são incrivelmente sortudas e habilidosas o suficiente pra competir por uma das poucas e cobiçadas vagas que pagam gente para trabalhar no que elas quiserem precisam se conformar com trabalhos menos nobres pra alimentar suas famílias. Se as únicas empresas que sobrevivem estão fazendo armas e propaganda, é isso o que vamos obter das nossas mentes mais brilhantes.

Este problema nos remete ao coração da economia: incentivos. Neste momento não há incentivos para a limpeza dos oceanos e nem para alimentar 100% da população. Não se faz fortuna com estas coisas. Mas e se pudéssemos mudar estes incentivos? E se pudéssemos convencer os maiores pesquisadores em Inteligência Artificial a utilizar seus potenciais para os problemas mais importantes do planeta?

Nós podemos.

Para entender o porquê, você terá que entender um pouco sobre o Princípio da Caixa Preta, jogos e a natureza dos centauros.

Cenoura e graveto

A Inteligência Artificial tem uma reputação complicada nos dias de hoje. Sejam máquinas tomando nossos trabalhos ou mentes superinteligentes extinguindo a humanidade, a história da IA na imprensa pop é de medo. E medo vende. Mas quanto mais eu penso sobre IA, mais eu percebo que o problema não é com as máquinas, e sim conosco.

Como um veterano de guerra disse no incrível documentário do Ken Burns sobre a guerra do Vietnã, “os humanos não se tornaram a espécie dominante do planeta porque somos bonzinhos.” Assim como somos capazes de grandes feitos, um otimismo inacreditável e de autossacrifício, também somos mestres da morte e da destruição em um nível que supera até os predadores selvagens mais violentos. Leões, tigres e lobos não perdem em nada pra nós. Existe uma, e somente uma, fonte de maldade no mundo, e somos nós. E é por isso que a Inteligência Artificial vai ser exatamente aquilo que fizermos dela. Somos os arquitetos, os treinadores, os pais e mães das nossas futuras criações. O que obtemos é fruto do que inserimos: a Inteligência Artificial vai ser boa e má porque nós somos bons e maus.

E o que fazer pra desempatar essa equação e garantir que seja mais bom do que mau?

Primeiramente precisamos projetar máquinas que trabalhem conosco, e não contra nós. Em lugar de eliminadoras de trabalho, queremos otimizadoras de trabalho. Queremos ampliar e expandir nossas capacidades.

Isso não é tão mirabolante quanto parece, porque pessoas e máquinas são boas em coisas bastante diferentes. Existe uma percepção popular da IA como uma inteligência universal, tipo um Einstein turbinado que será melhor do que o restante das pessoas em qualquer coisa, mas não é assim que a inteligência funciona. Einstein entendia a matemática do universo, mas não conseguiria acertar um arremesso de baseball nem se a vida dele dependesse disso. Você pode não achar que jogar uma bola é um exemplo de inteligência, mas estaria errado. Arremessar precisamente uma bola em um alvo requer um tipo de inteligência altamente especializado.

É por isso que não há um algoritmo sequer que funcione igualmente bem pra driblar um goleiro e pra deduzir a Teoria da Relatividade Geral: se você é bom em tudo, você é, por definição, mediano em tudo (sic). É o chamado Problema do Almoço Grátis. Pra ser realmente bom em algo, nós nos especializamos. É por isso que a inteligência de um tigre é voltada para caçar e correr e que um cão é muito bom em buscar bolas arremessadas. Nicky Case exemplifica isso elegantemente em seu incrível artigo Como se Tornar um Centauro:

Uma inteligência precisa se especializar. A inteligência de um esquilo se especializa nas coisas de ser um esquilo. Uma inteligência humana se especializa nas coisas de ser um humano. E se você já teve, alguma vez, o desprazer de tentar descobrir como manter os esquilos longe da comida que deixa para os pássaros, você sabe que até esquilos podem ser mais espertos do que humanos em algumas dimensões de inteligência. Isso pode ser visto como bom presságio: até humanos continuarão sendo mais espertos do que computadores em algumas dimensões.

Case prossegue seu texto nos lembrando da incrível história de Gary Kasparov e sua derrota para o Deep Blue. Todo mundo conhece a primeira parte da história: a IBM construiu um supercomputador que destruiu um dos maiores Grão Mestres de Xadrez de todos os tempos em 1997. Mas o que ocorreu em seguida é ainda mais fascinante. Gary começou a imaginar o que aconteceria se IA e pessoas trabalhassem juntos. No universo do xadrez, Kasparov percebeu que as pessoas são boas em intuição e estratégias de longo prazo, enquanto computadores dominam tática e cálculos de força bruta. Então ele optou por organizar um novo torneio no ano seguinte, onde humanos e máquinas trabalhariam juntos.

Ele chamou a modalidade de ‘Xadrez Centauro’, em alusão às criaturas da mitologia grega que eram meio humanas, meio equinas. Gary convidou todos os tipos de competidores — supercomputadores, Grão Mestres humanos e equipes mistas de humanos e IA — para competir pelo grande prêmio. Não foi surpresa que a equipe dos centauros (humanos + IA) venceu a do humano sozinho. Mas, incrivelmente, um centauro também ganhou da IA pura.

É isso mesmo: o time humano/computador venceu o supercomputador que jogava sozinho. Duas máquinas especializadas, uma biológica e uma de silício, venceram a máquina exclusivamente de silício. Trabalhando juntos, pudemos fazer muito mais do que sozinhos.

Então esse é o primeiro passo. Projetar máquinas que sinergizem com nossas forças, que façam aquilo que não fazemos bem. Construir máquinas que trabalham conosco, não contra nós; otimizadoras — não eliminadoras — de trabalho.

O segundo passo é mais complicado. Retomamos àqueles incentivos de que falávamos: recompensa e punição; ação e reação. Incentivos moldam o nosso mundo e a forma com que fazemos tudo. E nesse momento, nossos incentivos estão fundamentalmente errados. Somos incentivados a fazer pessoas clicarem em ads ou a espioná-las. Pra mudar isso, temos que mudar a própria estrutura de como construimos negócios. Afinal, para mudar o mundo, você precisa mudar as entradas, ou então terá as mesmas saídas.

Fora da Caixa Preta

Antes que possamos mudar o mundo, precisamos entender exatamente o quão estes incentivos são vitais para moldar nossa realidade. Com as motivações corretas, qualquer coisa é possível, enquanto com as erradas, entramos num ciclo vicioso que destrói tudo que toca.

O incrível livro O Princípio da Caixa Preta inicia com uma aula impactante sobre quanto as motivações certas e erradas movem o mundo. Ele conta a história de duas tragédias, uma na indústria do transporte aéreo e outra na saúde. Uma das indústrias aprendeu com seus erros e a outra continua cometendo os mesmos, um após o outro.

Em 1973, o voo 173 da United Airlines decolou do aeroporto John Kennedy em Nova Iorque com destino a Portland. Piloto experiente, Malburn McBroom, um capitão grisalho de 52 anos, estava ao comando. Ele tinha 25 anos de experiência de voo, incluindo nos céus perigosos da Europa da Segunda Guerra Mundial. Tudo seguia como previsto até que eles se prepararam para o pouso. McBroom puxou a alavanca que abaixava o trem de pouso, algo que fizera milhares de vezes. Ativar este controle faz as portinholas abrirem audivelmente, pra em seguida se ouvir o ranger das rodas abaixando, concluindo com um clique no momento em que elas travam em posição. Mas esta vez foi diferente. Um estrondo alto sacudiu o avião, que estremeceu violentamente. Todos olharam ao redor, nervosos. O que acontecera? O trem de pouso se armou corretamente ou caiu no oceano abaixo deles? McBroom contactou a torre de controle pra pedir tempo, ao que responderam-lhe que “virasse a esquerda, direção um zero zero”. Estavam instruindo que voasse em círculos sobre a periferia de Portland. Mais e mais tempo passou. McBroom agonizava pensando o que fazer em seguida. A tripulação fez todas as checagens que podia e eles não conseguiam ter certeza de que o trem de pouso estava pronto pra uso. Enviaram um engenheiro pra tentar enxergar as ferragens que ficavam visíveis acima da asa quando o trem de pouso estava abaixado. Elas estavam lá, mas McBroom continuou sua rota circular: ele não podia garantir que estava tudo certo, pois a luz verde não acendera. "Por quê?" O tempo correu mais e mais rápido, até que um novo problema surgiu: eles estavam ficando sem combustível. O engenheiro implorou ao piloto que tentasse o pouso, mas ele estava obcecado com entender aqueles eventos e quis continuar.

Uma coisa estranha ocorre com a mente quando estamos sob estresse: o tempo dilata. O senso de tempo e espaço do piloto desaparecera completamente. Não importava o quanto sua tripulação insistisse, ele continuou voando em círculos, até que eles ficaram sem combustível e acabaram por se chocar contra as dispersas casas dos subúrbios de Portland, suas vozes ecoando na escuridão.

Mas algo de bom veio dessa tragédia horrível: ela mudou completamente a cara da segurança aérea. Se, por um lado, antes do acidente as linhas aéreas tinham um histórico péssimo de confiabilidade, hoje elas têm um dos melhores registros de segurança pessoal de qualquer indústria no mundo inteiro. É mais provável que você morra atingido por um raio do que em um acidente aéreo.

Nesse período, começaram a ensinar pilotos sobre o que acontece quando se está em crise, puseram tripulantes novatos em treinamentos de assertividade, para que eles possam romper a hierarquia e serem ouvidos quando necessário. Acima de tudo, foram criadas legislações específicas que protegem as partes: se as pessoas envolvidas em um acidente reportarem tudo — completa e minuciosamente — nada pode ser usado contra eles em juízo. Paralelamente, as equipes de investigação escrutinam integralmente o local e as circunstâncias envolvidas e produzem material que não pode ser usado legalmente contra nenhuma parte. Em vez disso, eles compartilham os dados livremente com todas as companhias aéreas e publicam um relatório com recomendações de alterações nos protocolos de segurança, que, obrigatoriamente, será seguido por todas estas empresas. Se tratava de resolução de problemas de maneira open source antes mesmo que o open source viesse a existir.

Uma cultura de mentiras

Em contraste à resposta brilhante da indústria aérea está a indústria médica. Em lugar de incentivos que melhorassem a segurança das pessoas, eles nos trouxeram um sistema que garante a mentira e o segredo.

Em 29 de Março de 2005, Elaine Bromiley entrou em uma cirurgia de rotina. Eram alguns dias após a Páscoa. Seu marido, Martin, despertou cedo, às 6:15 da manhã e acordou seus dois filhos, Victoria e Adam, pra prepará-los pro dia. “Era uma manhã chuvosa de primavera, e as crianças estavam de ótimo humor.” Elaine era uma mulher de 37 anos que trabalhava no mercado de viagens. Ela sofria de um problema no seio nasal que se agravava há anos e finalmente decidiu resolver o problema de uma vez por todas. Seu médico tinha trinta anos de experiência e era respeitado pela comunidade. “Não se preocupe”, ele a informou, “é um procedimento de rotina e de baixo risco”. Às 7:15, Martin pôs as crianças no carro e eles partiram para o hospital juntos. Com um tom de voz leve e relaxado, o médico fez algumas perguntas simples à família enquanto Elaine punha a veste azul do hospital e perguntava a sua filha se estava bem na roupa. Às 8:30, a enfermeira-chefe, Jane, chegou para levar Elaine na cadeira de rodas até o local do seu procedimento. “Tchaaau”, ela disse, animada, enquanto Jane a conduzia à sala de operações, seu filho acenando. Quando ela sumiu de vista, seu marido levou os filhos ao supermercado pra comprar os ingredientes pra fazer uma refeição de boas-vindas pra quando ela chegasse em casa. De volta à sala de preparo, seu anestesista, Dr. Anderton, um veterano com dezesseis anos de experiência, perfurou sua veia e iniciou o gotejar que a poria em um sono suave. Mas anestésicos são drogas poderosas. Elas não te põem apenas pra dormir; algumas também comprometem funções vitais do corpo, que precisam ser supridas artificialmente. Quando você adormece dessa maneira você precisa de ajuda para respirar: os médicos usam uma “máscara laríngea”, que desce garganta adentro e ajuda seus pulmões a fazerem seu trabalho vital. Anestésicos afetam a cada um diferentemente, mas algumas pessoas sofrem efeitos colaterais mais intensos, e Elaine foi uma delas. Seus músculos da mandíbula contraíram fortemente, e o Dr. Anderton não conseguiu inserir a máscara laríngea, mesmo aumentando a dose do relaxante. Ele chegou a tentar com máscaras menores, também sem sucesso. Dois minutos depois, Elaine estava tendo uma parada cardíaca intensa, seu rosto ficando azul sem oxigênio. O médico partiu para o plano B, uma intubação traqueal. Administrou um poderoso paralisante na mandíbula, para que pudesse abri-la e prosseguir com o tubo, o que por sua vez revelou um traço genético raro no qual o palato mole cobre a entrada da garganta. Não importava o quanto tentasse, ele não conseguiu concluir a intubação.

A situação ficou crítica rapidamente, e a enfermeira-chefe sabia qual o próximo passo a seguir, trazendo rapidamente o kit de traqueostomia, um último recurso arriscado que acessa a garganta com um corte no pescoço. Mas os médicos não deram atenção a ela. Eles estavam perdidos, o tempo severamente dilatado. Jane ficou parada em pé, atônita, enquanto os demais tentavam enfiar o tubo pela garganta de Elaine repetidas vezes. Ela queria interrompê-los, mas estava assustada e com medo, pensando que poderia ser sua culpa se algo desse errado. Ademais, os médicos eram as figuras de autoridade, enquanto ela era apenas uma funcionária jovem. “Talvez eles já tenham descartado a traqueostomia por alguma razão?”, pesou. E assim, calada ficou. Às 8:55 já era tarde demais: Elaine entrara num coma profundo, seu cérebro já há vinte minutos sem oxigênio quando ela foi transferida para a UTI. Treze dias depois, ela estava morta.

O contraste entre esta situação e a resposta da indústria aérea é surpreendente. Os médicos indicaram razões vagas para sua morte, como “circunstâncias imprevisíveis”, dizendo que foi uma “situação única”. Na indústria da medicina, relatos como este são comuns justamente porque os médicos podem ser facilmente processados por qualquer coisa que dê errado. As companhias de seguro criam punições a eles e aos hospitais, o sistema desmorona. Enfermeiras como Jane sabem o seu lugar: a base da pirâmide. Estes profissionais existem em uma hierarquia rígida, que, se quebrada, pode causar sua demissão e dificultar muito sua vida profissional futura.

Ninguém aprende com o que aconteceu, e por isso continua acontecendo.

Em vez de serem estimulados a dizer a verdade, médicos são incentivados a apagar pistas e mentir. Esse é o poder dos incentivos. Com os incentivos certos, as pessoas crescem e mudam. Elas podem resolver qualquer problema, se tornarem mais inteligentes, fortes e rápidas. Com os incentivos errados, os mesmos erros, terríveis e evitáveis, se perpetuam.

A definição de insanidade é fazer as mesmas coisas e esperar um resultado diferente. Nós vivemos em um mundo insano que rotineiramente incentiva as coisas erradas. Mude isso e mudamos tudo. Mas como?

Os jogos que jogamos

Já temos um modelo: jogos. Para entender por que, vamos olhar um pouco pras pessoas que já estão rodando jogos pra pesquisadores em IA.

O site Kaggle ajuda a organizar competições pra atrair os melhores data scientists do mundo a resolver problemas reais com recompensas em dinheiro. Eles conseguiram fazer grandes avanços em algumas questões relevantes e desafiadoras, como detectar câncer de pulmão. O Data Science Bowl of 2017 ofereceu um milhão de dólares para quem conseguisse projetar um sistema que detectasse tumores em exames de alta resolução. Antes da competição, a taxa de falsos positivos era de quase 90%. Isso significa que muita gente ficava sem o tratamento correto ou era tratada tarde demais, o que causava uma série de mortes evitáveis. Os vencedores aumentaram dramaticamente a taxa de detecção, ainda que com pouquíssimos dados. É a prova de que jogos podem mudar a vida das pessoas pra melhor, mas também é a prova de que os melhores data scientists querem resolver problemas reais em lugar de fazer as pessoas clicarem em mais ads. O segundo colocado da competição, Daniel Hammack, escreveu sobre o evento:

Também fomos estimulados pela esperança de que nossa solução para este problema vá ser mais amplamente útil do que apenas ganhar algum dinheiro em uma competição — espero que possa ser usado para ajudar as pessoas!

Mas a verdade é que não há muitos prêmios de US$ 1 milhão pra se detectar câncer. A edição deste ano (2018) também almeja vencer a doença, mas com um prêmio de US$ 50 mil — não é o troco do pão, mas também não chega perto do milhão ofertado anteriormente.

O fato é que as pessoas são motivadas tanto por dinheiro quanto por altruísmo, mas é a grana que dita se alguém vai ou não virar a madrugada em um projeto ou se vai tornar aquele projeto a sua prioridade máxima durante o dia de trabalho.

Para criar uma competição no Kaggle, você tem que representar uma daquelas empresas que têm excedente de capital sobrando por aí ou que tenha um contrato muito maior que financie a iniciativa. O Science Bowl de 2017 foi patrocinado pela Booz Allen Hamilton, mas pode apostar que, se estavam oferecendo aquele prêmio, eles tinham algum contrato de uns US$ 100 milhões com alguma empresa de diagnósticos médicos. Como já vimos, este tipo de dinheiro é raro.

Kaggle não é o único player que existe, é claro. O mercado aberto de algoritmos Algorithmia acaba de patrocinar uma competição no estilo do Kaggle mas com uma diferença interessante: eles projetaram um sistema de contratos inteligente e automatizado usando Ethereum que consegue testar e verificar resultados e entregar os prêmios sem nenhuma participação humana. É uma tentativa inovadora de criar um ecossistema programável para resolver grandes problemas. Como posto pela Venture Beat:

Essa competição é, na verdade, uma prova de conceito de um sistema que poderia permitir a qualquer um criar seu próprio contrato inteligente solicitando um modelo de aprendizagem de máquina personalizado para resolver um problema em particular. Isso poderia ajudar organizações que desejam aplicar a aprendizagem de máquina em um determinado domínio mas que não possuem recursos para contratar um data scientist. O método da Algorithmia torna desnecessário que as partes confiem uma na outra (uma vez que todos os componentes são controlados pelo contrato) e automatiza o pagamento da recompensa.

É claro que o Algorithmia tem o mesmo problema do Kaggle: você ainda precisa de alguém com grana que ofereça a recompensa, e as pessoas com dinheiro não estão oferecendo prêmios pra limparem os oceanos. Voltamos aos incômodos incentivos de novo… as pessoas têm incentivos pra fazer crescerem negócios e ampliarem suas fortunas, mas não pra salvar o planeta.

Mas a chave pra finalmente consertar nossa economia defeituosa está a apenas um blockchain de distância. E se inicia com uma empresa pouco conhecida chamada Numerai, que levantou milhões através de uma Oferta Inicial de Moedas (Initial Coin Offering, ou ICO) em 2017 para criar um fundo de cobertura em IA. A Numerai usa competições de IA que pagam os vencedores com a criptomoeda deles. Os dados pra competição são parcialmente criptografados, de forma que o data scientist não sabe completamente qual o problema que está resolvendo, mas não precisa ser um gênio pra deduzir que eles estão criando maneiras de otimizar a comercialização do fundo de cobertura. A cada poucas semanas, um novo problema surge e os data scientists se voltam para resolvê-lo e ganhar dinheiro através de um destes contratos inteligentes.

É uma ideia engenhosa em vários níveis, mas também totalmente desperdiçada no trivial. Em vez de usar esse conceito brilhante pra resolver problemas reais, estamos usando-o pra ganhar mais dinheiro. Não me leve a mal, fazer dinheiro é ótimo, e eu não vejo com maus olhos o caminho escolhido pela Numerai. Afinal, eu sou um comerciante de criptomoedas e adoro fazer grana. Mas se isso é tudo que vamos realizar com o potencial explosivo de criptomoedas e IA, então deveríamos parar agora mesmo, ou vamos terminar com mais do mesmo mundo que temos agora.

Precisamos ir mais alto. Podemos ir mais alto. E, como tantas vezes, a resposta está debaixo do nosso nariz.

E se uníssemos as ideias da Numerai com as do meu artigo sobre “Por que ninguém viu o uso mais impressionante de criptomoedas”? Nele, eu falo que o fator que todo mundo deixou passar era distribuir dinheiro no momento da criação. As primeiras criptos como Bitcoin sacaram como imprimir dinheiro sem uma autoridade central, mas usaram o mesmo modelo de distribuição que sempre tivemos, do topo à base. Tal qual moeda fiduciária, Bitcoin é entregue diretamente nas mãos de muito poucos. Em lugar de bancos centrais não-eleitos, temos mineradores não-eleitos, que são apenas marginalmente menos centralizados. Mude a forma que você distribui dinheiro e terá mudado tudo.

O problema com Kaggle e Algorithmia é que eles precisam comprar ou tomar emprestado as moedas. Mas não é nenhuma surpresa que as pessoas que possuem esse tipo de capital não estão lá muito a fim de doá-lo. Já a Numerai entendeu que eles podiam imprimir seu próprio dinheiro e distribuí-lo através de competições, no mesmo momento da criação. A chave é expandir a natureza destas competições.

Precisamos construir uma plataforma de criptomoeda e uma Organização Autônoma Descentralizada (DAO) dedicada a resolver os maiores problemas do mundo de hoje. Pense nela como uma versão turbinada de fundo público aliado uma organização de caridade e um Kickstarter. Os problemas seriam propostos por um conselho de cientistas, futuristas e pensadores e votados pelo público, poderíamos ter um sistema robusto de votação que filtrasse spam e trotes. Seu inteiro propósito seria distribuir dinheiro no momento da ‘impressão’ para as pessoas que agregam valor a todos nós.

Além da impressão e distribuição de moeda, pessoas poderiam doar para a organização e fortalecer seu poder de mudar o mundo. E como é o próprio sistema que cria seus fundos e decide seus objetivos, ele não precisa se curvar aos incentivos e propósitos das pessoas que já têm o dinheiro. Isto vai quebrar a espinha dorsal do antigo sistema de incentivos e criar um novo, alinhado com o bem maior em lugar de apenas encher os bolsos de quem construiu o sistema.

O sistema que temos foi bom pra nos trazer até onde estamos, não temos que odiá-lo. Ele foi um passo necessário na nossa evolução, pra passarmos de conflitos entre tribos à sociedade industrializada moderna. Mas agora estamos prontos para um novo sistema que resolva problemas que o antigo nunca pôde. Já está ao nosso alcance.

Basta termos a coragem de ir lá pegá-lo.

N.T.: Original “Motivating the Greatest Geniuses in AI to Change the World Instead of Destroy It”, de Daniel Jeffries. Traduzido e publicado com autorização do autor.