Princípios para Tecnologia Humana

Esses princípios destinam-se a ajudar a explorar profundamente a responsabilidade de criar produtos verdadeiramente alinhados com os melhores interesses da humanidade

Todo o texto abaixo foi traduzido diretamente do site original Center for Humane Technology.

Fiz a primeira tradução no Google Translate e depois realizei refinamentos pontuais. Se você encontrar erro de tradução, deixe-me uma nota privada aqui no texto mesmo, por favor.

Promova esse conteúdo em suas redes. Vamos permitir que essas discussões alcancem líderes de Produto, Design, Dados e Tecnologia, e influenciem o desenvolvimento de produtos digitais.

VERSÃO ALFA — MAIO 2020

Nota importante: Este documento foi escrito antes da pandemia do COVID-19. Enquanto a sociedade está mudando rapidamente, a necessidade de princípios de produtos humanos nunca foi tão clara. Essa crise é um momento sem precedentes para os tecnólogos examinarem criticamente como seu trabalho está realmente servindo aos melhores interesses da humanidade.

A cada dia, a tecnologia desempenha um papel maior no funcionamento de nossas instituições e tecido social, incluindo verdade compartilhada, bem-estar, democracia e nossa capacidade de enfrentar desafios complexos globais como o COVID-19. Em muitos contextos, as empresas de tecnologia exercem ainda mais poder do que os governos.

A atual pandemia mundial revela o que sempre foi verdade: que nossas estruturas existentes não estão funcionando bem para a grande maioria dos cidadãos em muitos países. Mesmo antes da pandemia, apenas 41% dos americanos disseram que poderiam cobrir uma emergência de US $ 1.000 com suas economias, em vez de se endividarem.

Não devemos voltar aos negócios como de costume — precisamos urgentemente de novos sistemas, e a tecnologia é uma das nossas alavancas mais poderosas para construí-los rapidamente. Aqueles de nós que têm a sorte de moldar o grande alcance, capacidades e eficiência da tecnologia também devem adotar um nível proporcional de responsabilidade. Esses Princípios para Tecnologia Humana destinam-se a ajudá-lo a explorar profundamente essa responsabilidade de criar produtos verdadeiramente alinhados com os melhores interesses da humanidade.

Antes de mergulhar

Antes de mergulhar nos princípios, é útil entender o contexto que impulsiona nosso trabalho.

🤲🏼 A tecnologia nunca é neutra

Estamos construindo o mundo social.

Alguns tecnólogos acreditam que a tecnologia é neutra. Mas, na verdade, nunca é, por duas razões. Primeiro, nossos valores e suposições estão inseridos no que construímos. Sempre que você coloca opções de conteúdo ou interface na frente de um usuário, está influenciando-o; seja selecionando um padrão , escolhendo o conteúdo exibido e em que ordem ou fornecendo uma recomendação. Como é impossível apresentar todas as opções disponíveis com a mesma prioridade, o que você escolhe enfatizar é uma expressão de seus valores.

A segunda maneira pela qual a tecnologia não é neutra é que toda interação que uma pessoa tem, seja com pessoas ou produtos, as altera. Até um martelo, que parece uma ferramenta neutra, fortalece nosso braço quando o usamos. Assim como a arquitetura do mundo real e o planejamento urbano influenciam como as pessoas se sentem e interagem, a tecnologia digital nos molda online. Por exemplo, um ambiente de mídia social de curtidas, comentários e compartilhamentos molda o que escolhemos postar, e reações ao nosso conteúdo moldam como nos sentimos em relação ao que postamos.

A neutralidade é um mito .

As crises atuais e futuras da humanidade precisam de suas mãos no volante.

🧠 Ver em termos da natureza humana

O cérebro humano é inerentemente vulnerável.

Para ver todas as implicações da tecnologia carregada de valores, devemos considerar as vulnerabilidades do cérebro humano. Muitos livros foram escritos sobre a miríade de preconceitos cognitivos que a evolução nos deixou e nossa tendência a superestimar nossa atuação sobre eles. Para entender isso rapidamente, pense na última vez em que assistiu a mais um vídeo do YouTube do que pretendia. O algoritmo de recomendação do YouTube é especialista em descobrir o que faz você continuar assistindo — ele não se importa com o que pretende fazer nos próximos minutos da sua vida, e muito menos em ajudá-lo a honrar essa intenção.

Métricas simples de engajamento, como tempo de exibição ou cliques, geralmente não revelam a verdadeira intenção do usuário, devido aos nossos muitos vieses cognitivos. Quando você ignora esses preconceitos ou otimiza o engajamento aproveitando-os, surge uma cascata de danos.

O viés de confirmação nos leva a envolver-nos mais com o conteúdo que apoia nossas opiniões, levando a filtrar bolhas e a proliferação de notícias falsas. O viés atual, que prioriza os ganhos de curto prazo, nos leva a observar compulsivamente como automedicação quando estamos estressados, em vez de abordar a fonte do estresse. A necessidade de aceitação social nos leva a adotar comportamentos tóxicos que vemos outros usando em um grupo on-line, mesmo quando normalmente não nos comportaríamos dessa maneira.

A otimização agressiva das métricas de engajamento é como tirar a mão do volante. Ela coloca os cérebros paleolíticos e inerentemente vulneráveis ​​dos usuários encarregados de determinar o que é valioso para o seu produto. Essa abordagem, combinada com as mais recentes técnicas de aprendizado de máquina e teste A/B, resulta em uma ampla série de danos desencadeados em escala, que chamamos de desatualização humana .

🧭 Mudança da cultura do produto

Mudança de cultura é necessária e difícil.

Nossa visão é substituir as atuais suposições prejudiciais que moldam a cultura de desenvolvimento de produtos por uma nova mentalidade que irá gerar tecnologia humana. Integrar esse novo paradigma significará mudanças de processo, tempo, recursos e energia dentro da organização do produto e além.

Percebemos que a mudança cultural sistêmica nunca é uma tarefa fácil, com muitas forças opostas. Entre em contato se tiver idéias sobre como ajudar a avançar essa alteração ou solicitações específicas que você acha que a CHT pode estar posicionada para atender.

🛒 Criando condições de mercado para tecnologia humana

Essa mudança de paradigma requer um mercado que recompense a tecnologia humana.

A CHT e muitas outras organizações estão criando essas condições por meio de uma combinação de pressões da mídia, pais, filhos, regulamentação, investidores, acionistas, funcionários de tecnologia como você e muito mais.

Para mais informações, leia sobre Nosso trabalho .

Os princípios

Este novo paradigma é para os tecnólogos que aceitam que a tecnologia está cada vez mais moldando nosso tecido social e desejam aplicar suas habilidades excepcionais para realinhar a tecnologia com a humanidade.

✨ Obcecado por valores

Em vez de obcecado por métricas de engajamento.

Quando você fica obcecado com as métricas de engajamento, cai na armadilha de supor que está dando às pessoas o que elas querem, quando você pode realmente estar explorando vulnerabilidades inerentes. Manchetes ultrajantes nos fazem clicar mesmo quando sabemos que deveríamos estar fazendo outra coisa. Ver alguém com mais seguidores do que nós nos faz sentir inferiores. Saber que nossos amigos estão juntos sem nós nos faz sentir deixados de fora. E informações falsas, uma vez que acreditamos, são muito difíceis de deslocar.

Em vez disso, você pode ser orientado por valores enquanto ainda é informado pelas métricas. Você pode gastar seu tempo pensando nos valores específicos (por exemplo, saúde, bem-estar, conexão, produtividade, diversão, criatividade…) que pretende criar com seu produto ou recurso. Esses valores podem ser uma fonte de inspiração e priorização. Você pode medir seu sucesso diretamente investindo em mecanismos de entendimento que correspondam à complexidade do que você valoriza, por exemplo, pesquisa qualitativa e trazendo especialistas externos.

Perguntas a serem feitas

• Quais são os principais valores do seu produto? Se você ainda não possui, procure inspiração na sua visão.
• Se você centralizasse seu processo de design em torno dos valores do seu produto, como seus recursos e processos poderiam ser diferentes?
• Que tipo de mudança de atitude ou mudança de comportamento esse produto pode criar? Essas mudanças estão alinhadas com seus valores principais?
• Qual é uma medida direta de sucesso que você pode usar em vez de depender de cliques / tempo gasto / usuários ativos diariamente?
• Como você pode priorizar recursos usando valores como critério?
• Como você pode aprofundar sua compreensão dos valores que escolheu para o seu produto? Existe uma pesquisa acadêmica da qual você possa tirar proveito?
• Onde está o seu produto aparentemente “dando aos usuários o que eles querem”? Que preconceitos cognitivos podem estar por baixo?

🌱 Reforçar o brilho existente

Em vez de assumir que mais tecnologia é sempre a resposta.

Nem tudo precisa de uma atualização. Sob as condições certas, os seres humanos são altamente capazes de atingir objetivos, se conectar com os outros, se divertir e fazer muitas outras coisas que a tecnologia procura ajudar. A tecnologia pode dar espaço para esse brilho prosperar, ou pode substituí-lo e atrofiá-lo. Em cada opção de design, você pode suportar as condições nas quais o brilho ocorre naturalmente.

Por exemplo, o Living Room Conversations foi criado com o entendimento de que, quando as pessoas encontram semelhanças entre si e se conectam como seres humanos, elas podem encontrar mais facilmente um terreno comum e uma perspectiva compartilhada. Outro exemplo é a tecnologia de grupo on-line como o MeetUp, que incentiva as pessoas a aprofundar as conexões.

Perguntas a serem feitas:

• Quais capacidades ou recursos internos fazem as pessoas se sentirem bem? Como a tecnologia pode fortalecer essas capacidades sem dominar a vida das pessoas?
• Para os valores que você escolheu como equipe de produto (por exemplo, conexão, comunidade, oportunidade ou entendimento), onde no mundo real você pode encontrar inspiração?
• Como a tecnologia pode nos ajudar a superar algumas das maiores divisões da nossa sociedade (desigualdade, polarização etc.)?

🤝 Torne o invisível parte de si

Em vez de assumir que os danos são casos extremos.

Idealmente, sua organização entenderia claramente os danos que cria e incentivaria perfeitamente a atenuá-los. Na prática, esses danos são complexos, instáveis ​​e difíceis de entender. Por isso, é importante criar uma conexão visceral e empática entre as equipes de produtos e os usuários que eles servem.

Embora muitas das práticas recomendadas de hoje usem personas, grupos focais ou “Jobs To Be Done” para obter empatia pelo usuário, a tecnologia humana exige que você internalize a dor que seus usuários experimentam, como se fossem seus. Imagine os seguintes cenários:

• Seu parceiro deve estar a bordo para o primeiro voo do avião que você projetou.
• Sua mãe ignora as recomendações de saúde pública devido aos vídeos recomendados por um algoritmo que você projetou.
• Seu aluno do ensino médio é alvo de bullying no seu aplicativo de mídia social.

Essa mentalidade leva a uma busca por compreensão e cautela mais profundas. É uma mentalidade que seus tomadores de decisão e equipe de produto devem compartilhar, para muitas pessoas afetadas por seu trabalho: seus usuários, as pessoas ao seu redor (amigos, familiares, colegas etc.), diferentes populações socioeconômicas (idade, nível de renda, deficiências, culturas etc.) e assim por diante.

Perguntas a serem feitas

• Quais são as partes interessadas do seu aplicativo ou serviço além dos usuários existentes?
• Quem está usando seu aplicativo ou serviço está sendo impactado negativamente? O que você sabe sobre eles?
• Como você pode dar às pessoas com experiência direta nas comunidades em que está servindo poder no seu processo de tomada de decisão?
• Se sua solução é global, como você pode entender como a experiência do usuário difere em outros países?
• Que experiência externa você pode trazer para ajudá-lo com o espaço de problema escolhido?

🧘 Possibilite escolhas sábias

Em vez de assumir que mais opções é sempre melhor.

À medida que o mundo se torna cada vez mais complexo e imprevisível, nossa capacidade de entender nossa realidade emergente e fazer escolhas significativas pode rapidamente ficar sobrecarregada. Como tecnólogo, você pode ajudar as pessoas a fazer escolhas de maneira informada, ponderada e alinhada com seus valores, bem como com os frágeis sistemas sociais e ambientais em que habitam.

Por exemplo, ao apresentar novas informações, o enquadramento apropriado pode ajudar as pessoas tomarem boas decisões. A mesma informação é diferente quando enquadrada em um contexto mais relacionável. Ouvir que o Covid-19 tem uma taxa de mortalidade de 1% pode não significar muito para você. Mas ouvir que o Covid-19 é várias vezes mais mortal que a gripe ajuda qualquer pessoa a entendê-la imediatamente em relação a algo que já sabe. Quando as pessoas são apresentadas às informações de maneira intuitiva, elas são capacitadas para fazer escolhas sábias.

Perguntas a serem feitas :

• Quais opções você oferece a seus usuários? Qual enquadramento você está usando? Como um enquadramento diferente pode levar os usuários a fazer escolhas diferentes?
• Como as informações podem ser apresentadas de maneira a promover a solidariedade social?
• Como podemos ajudar as pessoas a equilibrar o cuidado de se manterem informadas?
• Como podemos ajudar as pessoas a encontrar com eficiência o apoio de que precisam?

♻ Cultive a atenção plena

Em vez de procurar atenção.

Em um mundo em que os aplicativos competem constantemente por nossa atenção, nossa atenção está sob ataque. A atenção plena é estar consciente, de maneira calma e equilibrada, do que está acontecendo em nossa mente, em nosso corpo e ao nosso redor. A atenção plena nos permite agir com intenção e evitar uma vida que se torna uma série de ações e reações automáticas, frequentemente baseadas no medo e na mentalidade de escassez. Mas, como qualquer outra capacidade, a atenção plena é uma que pode ser desenvolvida. Você pode ajudar seus usuários a recuperar e aumentar sua capacidade de conscientização, em vez de correr para ganhar mais atenção.

Por exemplo, um aplicativo de email que, por padrão, emite um som e envia uma notificação quando o email é recebido, pode permitir que o usuário escolha ativar as notificações. Outro exemplo é o aplicativo Apple Watch Breathe, que auxilia as pessoas periodicamente a tirar um momento para simplesmente se concentrarem na respiração.

Perguntas a serem feitas:

• Como a tecnologia pode ajudar a aumentar as capacidades de concentração, clareza e equanimidade?
• Como a tecnologia pode promover um senso de agência e comunidade?
• Quando você está disputando a atenção do usuário pelo benefício do seu produto e não pelo benefício dele?

⚖️ Amarre crescimento à responsabilidade

Em vez de simplesmente maximizar o crescimento.

A tecnologia de hoje tem um poder assimétrico crescente sobre os seres humanos que a utilizam. Aprendizado de máquina, micro-segmentação, mecanismos de recomendação, falsificações profundas são exemplos de tecnologias que aumentam drasticamente a oportunidade de criar danos, especialmente em escala. Para atenuar isso, você pode investir na compreensão dos delicados sistemas cognitivos, sociais, econômicos e ecológicos nos quais sua tecnologia opera, o que prejudica o seu produto pode estar gerando e as maneiras de atenuar esses danos.

Por exemplo, um produto originalmente destinado apenas a adultos será quase inevitavelmente exposto a crianças à medida que é dimensionado; uma plataforma originalmente destinada ao entretenimento pode se tornar alvo de desinformação; e um produto que beneficia principalmente pessoas em um país industrializado pode causar danos em um país do terceiro mundo. O que parece uma possibilidade remota quando você lança pela primeira vez se torna uma garantia à medida que você escala para milhões de pessoas.

E mesmo coisas “boas”, quando feitas ao extremo, terão conseqüências não intencionais. À primeira vista, o Likes parece ser um ótimo sinal sobre o que o usuário deseja ver mais. Mas, em escala, acaba criando bolhas de filtro e a fragmentação da verdade compartilhada.

Perguntas a serem feitas

• Como você pode prever danos causados ​​por escala? Quais sistemas e processos ajudarão você a entender o impacto do seu produto nos usuários e em seus sistemas sociais, econômicos e ecológicos maiores (por exemplo, testando o produto com um amplo conjunto de partes interessadas)?
• O teste A/B geralmente é atraente porque fornece feedback rápido aos tomadores de decisão do produto. Você pode encontrar soluções semelhantes para rastrear danos criados por escala?
• Se você é uma plataforma para conteúdo gerado pelo usuário, como evitar os erros cometidos pelas plataformas anteriores que levaram à desinformação generalizada e a outros conteúdos tóxicos?
• Se você é extremamente bem-sucedido ao criar o valor que está tentando criar, qual é o modo de falha que acompanha isso? Como você pode se proteger disso? Como você pode encontrar aqueles que você perdeu?
• No final de cada episódio da Vila Sésamo, Elmo incentiva as crianças a se levantarem e dançarem para não assistirem a outro episódio. Como você pode fornecer filas de parada para que os usuários não usem demais o produto de uma maneira que prejudique o que você valoriza?

Promova esse conteúdo em suas redes sociais. Vamos permitir que essas discussões alcancem líderes de Produto, Design, Dados e Tecnologia, e influenciem o desenvolvimento de produtos digitais.