OpenAI: a nova receita para a tragédia

“History repeats itself, first as a tragedy, second as a farce”. (Karl Marx)

Na segunda a The Verge soltou uma notícia sobre como a Microsoft mandou embora todo seu time de Ética e Sociedade. Para mim o artigo é muito representativo desse período de "eficiência" que estamos vivendo. Um segundo ponto de atenção, o primeiro foi a demissão da Timnit Gebru pelo Google em 2020, na agressiva corrida do ouro do OpenAI que estamos vivenciando.

É fato estabelecido quando se fala à respeito de conduzir negócios de forma ética e sustentável: não adianta só acreditar que cada um vai fazer sua parte. Nós precisamos de leis, regras, auditorias, fiscalização governamental, e mesmo assim, com uma frequência maior do que deveríamos, vemos escândalos com as proporções recentes da Americanas.

Também é fato que a tecnologia anda numa velocidade muito mais rápida que nosso aparato jurídico mundial consegue acompanhar, e mesmo Facebook-Cambridge Analytica tendo ocorrido há 5 anos atrás, ainda permitimos que as empresas de tecnologia sigam fazendo o que bem entendem, do jeito que bem entendem. Não estou falando de legislação plenamente formada e abrangente, mas um mínimo inicial de supervisão da sociedade no desenvolvimento de novas tecnologias já poderia estar vigente.

Tenho plena consciência da dificuldade de estabelecer regulamentação para aquilo que ainda não foi criado, mas nós tornamos isso possível na medicina, um ramo que acredito que compartilhe conosco da mesma urgência por evolução versus exploração. O que falta para sermos mais ponderados, e preocupados com questões éticas no desenvolvimento tecnológico? Quase destruir a democracia não foi suficiente?

"Move fast and break things." (Mark Zuckerberg)

Estamos passando por um momento complicado. Milhares de pessoas estão sendo demitidas. Recebemos notícias de um novo layoff em algum lugar todos os dias. As pessoas estão ansiosas, preocupadas e com medo, mesmo quem sobra empregado está num momento especialmente mais propício para flexibilizar seus valores, ou não causar "problemas desnecessários" que possam atrasar um lançamento.

Essa combinação me assusta, o artigo da The Verge tem todas as sentenças do bingo da tragédia:

“People would look at the principles coming out of the office of responsible AI and say, ‘I don’t know how this applies,’” one former employee says. “Our job was to show them and to create rules in areas where there were none.”

“The pressure from [CTO] Kevin [Scott] and [CEO] Satya [Nadella] is very, very high to take these most recent OpenAI models and the ones that come after them and move them into customers hands at a very high speed,”

"But they also have the job of saying “no” or “slow down” inside organizations that often don’t want to hear it — or spelling out risks that could lead to legal headaches for the company if surfaced in legal discovery. And the resulting friction sometimes boils over into public view."

Não me entendam mal, a Microsoft nesse contexto só é um excelente exemplo de uma realidade que permeia todas as empresas, e está particularmente gritante nesse momento. Negócios não nasceram para serem auto-regulados, negócios possuem toneladas de incentivos perversos que não permitem que as melhores decisões de longo prazo - ou para a sociedade - sejam tomadas versus o resultado de curto prazo.

Entretanto, continuamos assistindo esse trem descarrilhado que se chama OpenAI, evoluindo de forma completamente desregulada e acelerada — versão GPT-4 já ficaria entre os top 10% no exame para advogados no EUA, a 3.5 que usamos hoje nem passava — sem nenhuma objeção de qualquer entidade. Como pode isso?