Direito como metatecnologia: A importância do “by design” em um mundo tecnorregulado
Por Eduardo Magrani
Para que o Direito atue adequadamente como metatecnologia, deve estar lastreado por diretrizes éticas condizentes com a era da hiperconectividade.
“Estamos entrando na Era do Design e devemos fazer de tudo para que seja a Era do ‘bom’ design”, declarou recentemente o filósofo e eticista italiano Luciano Floridi. Anos antes, na obra Code 2.0, o professor de Harvard e especialista em tecnologia Lawrence Lessig já havia decretado: “Code is Law”. Ambas as declarações possuem uma mesma linha de argumentação: somos hoje regulados e influenciados pela arquitetura das plataformas digitais (pelo seu design) tanto quanto por outras regulações como, por exemplo, o Direito, as normas sociais e a economia.
Nesse novo cenário, constituído por um mundo de dados processados por diferentes tipos de agentes, algoritmos e arquiteturas digitais conseguem influenciar a esfera pública, desempenhando um novo papel na indução de comportamentos e tomadas de decisão. Segundo o teórico italiano de Direito e Tecnologia Ugo Pagallo, estamos vivenciando hoje um cenário de mercantilização de dados pessoais que trafegam online e de forte tecnorregulação sem que haja um balizamento ético-jurídico satisfatório para a proteção dos direitos constitucionais. Apesar de regulações da Internet, como o Marco Civil, e da privacidade, como a LGPD no Brasil, tentarem valorizar o potencial da Internet e regular práticas que busquem proteger direitos constitucionais, a autorregulação tecnológica baseada no design do código simplesmente se sobrepõe à regulação pelo Direito, subvertendo a tradicional lógica do “dever ser” típica do Estado de Direito, que salvaguarda o livre-arbítrio dos indivíduos, e estabelece uma lógica de “pode/não pode”, sem deixar nenhuma alternativa de ação para cidadãos ou governos. Por isso devemos entender melhor o papel que o Direito deve desempenhar nesse contexto, como ferramenta regulatória e indutora de comportamentos visando à paz social.
Há hoje uma discrepância entre o papel que o Estado de Direito deveria representar nas sociedades contemporâneas e o recrudescimento da prática de tecnorregulação dos cidadãos. O fato de que nos tornamos reféns dos algoritmos que nos influenciam dentro de filtros-bolha digitais caracteriza uma das mudanças contemporâneas mais drásticas, por ser muitas vezes imperceptível. Em um contexto tecnorregulado regido pela lógica binária de algoritmos de “pode/não pode”, o potencial democrático da esfera pública conectada e até mesmo a influência do Rule of Law (ou Estado de Direito) podem ser dramaticamente reduzidos. Para evitar nos tornarmos meramente um recurso cognitivo e base de dados para os ambientes digitais, devemos descobrir como eles estão nos antecipando, interagindo conosco e nos regulando.
Em um cenário tecnorregulatório, no qual ferramentas tecnológicas não normativas dominam o ambiente regulatório, parecemos estar sujeitos à regra da tecnologia e não ao Estado de Direito. A tecnorregulação sinaliza o desaparecimento de nossa capacidade de argumentar e resistir, e, assim, pode resultar em um desvio ainda maior dos valores que nos tornam humanos, afetando as esferas de verdade e justiça regidas pelo Estado de Direito.
Devemos estar conscientes de que a tecnorregulação através do código está crescendo mais rapidamente do que a nossa capacidade de garantir os direitos fundamentais dos usuários, como, por exemplo, segurança e privacidade. No entanto, não deve ser a intenção da lei governar este processo de forma a minar o avanço da tecnologia. É necessário um enquadramento legal adequado para responder a esses novos desafios jurídicos. A reflexão profunda que devemos ter sobre isso engloba indagar sobre a possibilidade de irmos além do tradicional “dever ser” dos sistemas legais para pensarmos no Direito como uma técnica de regulação também capaz de regular através do design, de códigos e arquiteturas.
A ordem jurídica, diferentemente de outras ordens sociais, regulamenta o comportamento humano por meio de uma técnica específica. Uma vez que essa técnica regula outras técnicas que orientam os comportamentos e, além disso, os processos de inovação tecnológica, podemos, portanto, conceber a lei como uma metatecnologia.
Para evitar um cenário de tecnorregulação (onde ‘code is law’) que se sobreponha às regulamentações jurídicas vigentes, bem como ao norteamento ético que se pretende na esfera pública e na produção de novos artefatos e plataformas, devemos buscar uma regulação mais efetiva destas tecnologias, a partir de uma perspectiva metatecnológica do Direito.
As maneiras diferentes em que podemos entender os propósitos normativos da lei como uma metatecnologia nos levam a expandir nossa visão jurídica tradicional. Por exemplo, uma abordagem metarregulatória no campo da automação legal deve nos permitir determinar se, e até que ponto, os legisladores não devem (ou não podem) delegar decisões a sistemas automatizados. Além disso, o enfoque deve ser sobre o impacto da tecnologia no Estado de Direito, no próprio papel da lei e em como a tecnologia compete com outros sistemas regulatórios.
Devemos também prestar atenção aos princípios e valores que estão em jogo ao delegarmos a tomada de decisões a sistemas automatizados, nomeadamente com questões de interpretação e deliberação. Por fim, a distinção entre decisões automáticas e não automáticas da lei e sua legitimidade podem implicar o advento de novos problemas legais, por exemplo, novos hard cases.
Tendo em mente a importância da lei como uma ferramenta para regular comportamentos, bem como considerando que seus critérios também levam em conta a necessidade de garantir os direitos fundamentais, preservando simultaneamente a autonomia humana, o Estado de Direito deve orientar a tecnologia e não o oposto.
Portanto, diante dos crescentes riscos impostos pelo avanço da tecnorregulação, ampliados pela disseminação do ambiente de Internet das Coisas (IoT) e inteligência artificial, o Rule of Law deve ser visto como a premissa para o desenvolvimento tecnológico, ou como uma metatecnologia, que deve orientar a maneira como a tecnologia molda os comportamentos e não o contrário — o que muitas vezes resulta na violação de direitos humanos e fundamentais.
Para que o direito atue adequadamente como metatecnologia, deve estar lastreado por diretrizes éticas condizentes com a era da hiperconectividade. Nesse sentido, deve-se compreender a capacidade de influência dos agentes não humanos, visando atingir uma melhor regulação, principalmente para as tecnologias mais autônomas, pensando na preservação dos direitos fundamentais dos indivíduos e na preservação da espécie humana.
O Direito, lastreado por um embasamento ético adequado, servirá como um canalizador do processamento de dados e demais materialidades tecnológicas evitando uma tecnorregulação nociva à humanidade. Nesse novo papel, é importante que o Direito oriente a produção e desenvolvimento de Coisas (artefatos técnicos) de forma a serem sensíveis a valores, por exemplo, regulando privacidade, segurança e ética by design. Em metáfora explicitada por Luciano Floridi, o Direito como metatecnologia funcionaria como tubulações adequadas à era digital, por onde todo o conteúdo e ações passariam.
Em resumo, com a tecnologia passando de simples ferramenta a agente influenciador e tomador de decisões, o direito deve se reconstruir no mundo tecnorregulado, incorporando esses novos elementos a partir de um viés meta (como uma metatecnologia), construindo as bases normativas para uma regulação ética das novas tecnologias através do design. Para tanto, devemos aprimorar e fomentar modelos de design de tecnologia centrados no ser humano (human-centered design) e sensíveis a valores constitucionais (design sensível a valores).
Eduardo Magrani é Advogado especialista em Direito Digital e Professor da CESAR School, FGV, IBMEC e PUC-Rio, autor dos livros “Entre dados e Robôs”, “Democracia Conectada” e “A Internet das Coisas”.
