Em matemática, o termo singularidade se refere ao ponto em que um dado objeto matemático é indeterminado. Em física, os centros de buracos negros também são conhecidos como singularidades gravitacionais. Ambos representam, em suas respectivas áreas, o ponto em que as regras que desenvolvemos para lidar com elas não mais se aplicam. (crédito da imagem — Buraco negro na Via Láctea— : Ute Kraus, Universität Hildesheim)

A Singularidade tecnológica e como sobreviver na era pós-humana.

Um resumo do ensaio em que a Singularidade tecnológica foi definida pela primeira vez.

*texto original aqui*

Vernor Vinge é um autor americano de ficção científica e professor universitário aposentado que ensinava matemática e ciência da computação na San Diego State University. Vinge foi possivelmente o primeiro autor a incluir um “cyberespaço” em suas histórias, que viria a ser um elemento crucial na literatura cyberpunk de William Gibson (Neuromancer, 1984) e Neal Stephenson (Snow Crash,1992). Ele também é creditado como criador do conceito de Singularidade tecnológica, descrito por ele pela primeira vez no ensaio The Coming Techonological Singularity: How to Survive in the Post-Human Era (1993).

Nele, Vinge argumenta que a estamos à beira de uma mudança de impacto comparável à emergência de vida humana na Terra, e que o gatilho desta mudança será a criação por meio da tecnologia de uma inteligência sobre-humana. Sua estimativa, baseada na Lei de Moore, era de que este evento se daria em até trinta anos da publicação do ensaio. Os possíveis caminhos pelos quais pode-se atingir este ponto na história são:

“– O desenvolvimento de computadores que estão ‘acordados’ e possuem inteligência sobre-humana.”
– Grandes redes de computadores (e usuários associados) podem despertar como uma entidade de inteligência sobre-humana.
– “Interfaces humano/computador podem se tornar tão íntimas que os usuários podem ser considerados de inteligência sobre-humana.
– “As ciências biológicas descobrem meios de aprimorar o intelecto humano normal.” (tradução minha, original na página 12)

Para os propósitos deste resumo, o foco é na rota da Inteligência Artificial, logo, computadores e redes de computadores.

Vinge acredita que este ponto na história pode ser considerado uma Singularidade, pois a partir dele todos os modelos prévios de realidade são descartados por novas regras entram em vigor. Será uma mudança de tal magnitude acontecendo de forma tão rápida, talvez de aceleração exponencial, que não há sequer a esperança de controle humano. O momento em que uma inteligência artificial sobre-humana surgir é também o momento em que ela começa a aprimorar a si mesma ou produzir outras de capacidades ainda maiores, que farão o mesmo. Seria a última invenção da humanidade antes de sermos vendados e arrancados do assento do motorista de nosso destino coletivo. Esta noção foi introduzida pelo matemático britânico Irving John Good em 1960, dando corpo a uma sensação que já se alastrava em alguns círculos. A noção tem tamanha relevância que o filósofo Nick Bostrom dedicou um capítulo inteiro de seu influente livro Superintelligence: Paths, Dangers, Strategies a suas minúcias (The kinetics of an intelligence explosion).

Particularmente os escritores de ficção científica, diz Vinge, foram se apercebendo deste cataclismo vindouro ao longo dos anos 60,70 e 80. Cada vez menos eles eram capazes de extrapolar os efeitos do avanço científico-tecnológico futuro adentro. “Impérios galáticos podem já ter parecido um domínio sobre-humano. Hoje, infelizmente, até impérios interplanetários são.”

Vinge considera indícios de progresso rumo à Singularidade a automação substituindo cada vez mais formas de trabalho e o espalhamento cada vez mais veloz de ideia. “Quando comecei a escrever parecia muito fácil conceber ideias que demorariam décadas para entremear-se na consciência cultural; hoje, o tempo mais comum parece mais próximo de dezoito meses.”

E claro, o evento precipitador da Singularidade provavelmente será tão repentino, e seu progresso tão veloz, que até mesmo os responsáveis por sua chegada serão pegos de surpresa. Os pesquisadores hipotéticos de Vinge reagem assim: “Mas todos os nossos modelos anteriores eram catatônicos! Nós só estávamos otimizando alguns parâmetros…” Se as redes forem suficientemente abrangentes, num contexto de computação ubíqua (como AGORA), talvez pareça que nossos artefatos como um todo despertaram simultaneamente (qualquer semelhança com o conto Dial F for Frankenstein, de Arthur C. Clarke não é mera coincidência). Daí para a “Era Pós-Humana” é uma questão de pouquíssimo tempo, aproximadamente dois palitos. Baseado nisto tudo, Vinge afirma que se a Singularidade é, de fato, possível, é também inevitável. Assim, se não podemos impedi-la de acontecer, tampouco exercer qualquer controle sobre seus desdobramentos uma vez que ela já tenha acontecido, o que resta? A liberdade para definir as condições iniciais em que ela acontecerá.

***

Além de especular a respeito do quando, como e porquê da Singularidade, Vinge também dedica uma parte de seu influente ensaio a imaginar algumas das possibilidades que ela reserva para a espécie humana. Extinção é uma delas, mas talvez não a pior.

Outra possibilidade é a degeneração em ferramentas “equivalentes a humanos” em circunstâncias consideradas beneficiais pela(s) entidade(s) super-inteligente(s) no controle de nossa evolução. Estes “equivalentes a humanos” podem vir a ser componentes integrados a sistemas maiores ou subalternos nos níveis mais baixos de funcionamento de uma super-inteligência coletiva. Talvez a serventia deles se limite ao processamento de sinais digitais e nada mais, por exemplo (lembrando que Matrix só estreou nos cinemas 6 anos depois da publicação deste ensaio). Em constituição física estes “equivalentes” talvez se assemelhem mais a uma baleia que a uma pessoa. Podem ainda ser bem semelhantes a humanos, mas com uma dedicação tão focada a qualquer que seja seu propósito que em tempos pré-Singularidade seria motivo para interná-los em um hospital psiquiátrico.

Estes e outros exemplos podem ser derivados da forma nos relacionamos com o que percebemos como animais inferiores. Pugs não existiriam se não fossem as gerações de cruzamento seletivo entre animais que a princípio se assemelhavam mais a lobos. Uma granja avícola industrial é um lugar de pesadelo. A lista segue (exemplos meus).

Por outro lado, aquilo que Vinge chama de “o sonho Asimov”, em que regras implantadas nestas super-inteligências desde seus estágios iniciais de construção, os impedem de agir contra a humanidade de qualquer maneira, também é uma possibilidade:

“Imagine um escravo por boa vontade que tem 1000 vezes as suas capacidades em todos os sentidos. Imagine uma criatura capaz de satisfazer todos os seus desejos seguros (o que quer que isso seja) e ainda ter 99.9% de seu tempo livre para outras atividades. Haveria um novo universo que jamais compreendemos, mas cheio de deuses benevolentes (embora um de meus desejos possa ser tornar-me um deles).” (tradução minha, original na página 16)

Possível, mas improvável. Vinge argumenta que qualquer sistema algemado por restrições intrínsecas têm sua capacidade drasticamente reduzida em relação a um sistema livre, e que a competição entre os humanos por trás dos projetos de inteligência artificial favorece o desenvolvimento de modelos mais perigosos.

Além disso, mesmo num arranjo benéfico entre nós e nossos superiores artificiais há questões profundas e espinhosas. Suponhamos que a singularidade leva à extensão drástica da vida humana, ou mesmo à imortalidade. Isto tornaria a humanidade irreconhecível para quem somos hoje.

“Para viver indefinidamente, a própria mente deve crescer… e quando ela se torna suficientemente grande e olha para trás… que sentimento de ‘companheirismo’ (fellow feeling) ela pode ter com a alma que um dia foi?”

Alternativamente, “uma mente que permanece na mesma capacidade não pode viver para sempre. Após alguns milhares de anos ela se assemelharia mais com um loop de fita se repetindo do que com uma pessoa.

Aventadas todas estas possibilidades, Vinge reforça que no fim das contas, o novo mundo criado a partir da Singularidade será tão alienígena às nossas perspectivas prévias que talvez seja uma perda de tempo tentar classificar seus desdobramentos no clássico eixo do bem ou mal. É uma realidade fundamentalmente além da imaginação, mesmo que seu evento precipitador seja milimetricamente calculado e executado por nós.