Perspectivas para um futuro inteligente
Análise da Consulta Pública sobre a Estratégia Brasileira de Inteligência Artificial
O avanço tecnológico foi um dos temas de destaque do World Economic Forum (“WEF”), cuja rodada de 2020 foi realizada nas últimas semanas em Davos, na Suíça. O encontro, que vem se firmando como um dos principais espaços de debate acerca de temas fundamentais da atualidade, apresentou entre pautas relevantes a inteligência artificial (“IA”). Tamanha a importância atribuída à tecnologia que, em outubro de 2019, o WEF divulgou white paper com diretrizes para o desenvolvimento de estratégias nacionais de IA.
Como efeito, a elaboração de estratégias nacionais para tratar do tema da IA aparece como tendência global destinada a fomentar o desenvolvimento desta tecnologia, como se verifica no Canadá (considerado o primeiro país a elaborar uma estratégia nacional de IA), Finlândia, Índia e México. A mesma proposta vem sendo adotada por diversas organizações internacionais, com foco na apresentação de diretrizes principiológicas sobre IA, dentre as quais destacamos o OECD Principles on AI (2019), o Ministerial Statement on Trade and Digital Economy — Human-centered Artificial Intelligence (AI) do G20 (2019), a Ethics Guidelines for Trustworthy Artificial Intelligence e a Communication Artificial Intelligence for Europe, ambos da União Europeia (2018).
Acompanhando essa tendência internacional, o governo brasileiro publicou em dezembro de 2019 o Aviso de Consulta Pública nº 2/DETEL/SETEL, para informar o início da Consulta Pública sobre a Estratégia Brasileira de Inteligência Artificial, cujo prazo para contribuições se encerra em 2 de março de 2020. A escolha brasileira, tal qual mencionado no documento base da consulta, desenvolve-se na esteira da Estratégia Brasileira para a Transformação Digital (“EBTD”), aprovada pelo Decreto nº 9.319/2018 e pela Portaria MCTIC nº 1.556/2018, e de iniciativas positivas relacionadas à IA, como o surgimento de centros de pesquisa especializados em IA.
Entretanto, a falta de maior aprofundamento técnico sobre o tema pelo poder público e pela própria sociedade põem em xeque a conveniência da publicação do documento e o seu real impacto no fomento à IA no país.
Tendência global na regulação de IA: grandes pretensões, poucas conclusões
Compreendida como a automatização de atividades normalmente associadas ao pensamento humano (tais quais o aprendizado e a tomada de decisões), através do uso de modelos computacionais capazes de executar funções que exigem inteligência quando executadas por pessoas[1], a IA vem permeando cada vez mais ativamente os mais diversos setores da economia e da vida em sociedade. Por essa razão, os benefícios e riscos decorrentes da sua utilização passaram a ser fortemente questionados por governos, pelo mercado, pelas instituições e pela própria população a nível internacional.
Nesse sentido, o já mencionado white paper do WEF procura auxiliar os governos no desenvolvimento de estratégias nacionais para a IA e, com isso, demonstrar a sua responsabilidade na proteção de direitos dos cidadãos e na promoção de bens e serviços decorrentes desta tecnologia. De acordo com esse documento, uma estratégia nacional de IA deve ser iniciada com a avaliação das prioridades estratégicas, potenciais e fraquezas do país.[2] Em seguida, as estratégias devem contemplar entre seus elementos centrais leis de proteção de dados dotadas inclusive de preocupações éticas, um ambiente robusto de pesquisa e integração entre indústria e academia, a preparação da força de trabalho para a economia da IA, o investimento primário em setores estratégicos, e o engajamento para fins de colaboração internacional.
Para a eficácia dessas estratégias nacionais, sugere-se ainda a definição de um plano de implementação com a devida atribuição de responsabilidades para o governo, as organizações independentes, o setor privado e a academia, através da fixação de fases, etapas, cronogramas e respectivos papéis desses atores. Esse plano deve envolver também uma alocação orçamentária e uma estrutura administrativa adequada para sua implementação.
Além do white paper produzido pelo WEF, boa parte das leis ou orientações existentes indicam uma série de princípios básicos para o desenvolvimento de sistemas de IA, além de apresentarem medidas específicas para cada contexto nacional ou regional. Nesse sentido, o estudo “Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights based Approaches to Principles for AI”, desenvolvido por pesquisadores da Universidade de Harvard, comparou documentos principiológicos voltados a promover orientações normativas para sistemas baseados em IA, e apresentou como temas fundamentais: privacidade, prestação de contas, segurança e proteção, transparência e explicabilidade, equidade e não discriminação, controle humano da tecnologia, responsabilidade profissional e promoção dos valores humanos.
Além disso, outras iniciativas destacam a relevância na desburocratização de investimentos em pesquisa e desenvolvimento para IA, e a promoção de formação contínua da população. Por exemplo, é sugerido o incentivo à cooperação entre países e setores para desenvolvimento de sistemas de IA seguros, confiáveis e fundamentados em valores alinhados aos direitos humanos, bem como a necessidade de criação de espaços de deliberação multissetoriais de governança (que contem com a colaboração e o engajamento do setor privado, da academia e de parceiros internacionais).
Nota-se, portanto, que as estratégias nacionais e diretrizes voltadas à IA já publicados internacionalmente são dotados de caráter eminentemente principiológico. Também se destacam orientações voltadas a práticas cooperativas adequadas ao caráter multidisciplinar da IA. Por outro lado, medidas mais drásticas, como a fixação de regulações especificamente voltadas à IA, ainda são pauta em debate nas principais jurisdições.
Perspectivas para a IA no Brasil
Como mencionado, os debates sobre regulação de IA no Brasil se mostram ainda incipientes e com pouca capacidade de reverberação. Antes mesmo do anúncio da Consulta Pública, discussões sobre a possibilidade de regulação da IA já se manifestavam no Congresso Federal, especialmente através de dois projetos de lei do Senado, de autoria do Senador Styvenson Valentim (PODEMOS/RN).
O Projeto de Lei do Senado n° 5.051/2019 estabelece princípios para o uso da IA no Brasil e apresenta polêmica proposta segundo a qual sistemas decisórios baseados em inteligência artificial deverão sempre ser auxiliares à tomada de decisão humana. Já o Projeto de Lei do Senado n° 5.691/2019 busca instituir a Política Nacional de Inteligência Artificial, apresentando alguns critérios que devem estar presentes em soluções de IA, como a preservação da privacidade e o fornecimento de ferramentas de segurança que permitam a intervenção humana sempre que necessária.
No entanto, essas iniciativas não se mostram alinhadas às melhores práticas internacionais, restringindo de maneira genérica as capacidades de desenvolvimento de IA. Por essa razão, a formulação de estratégias nacionais fundamentadas em estudos robustos capazes de potencializar o desenvolvimento e a utilização da IA rumo ao avanço científico e à solução de problemas concretos do país figura como opção mais vantajosa.
Com isso em mente, a Fundação de Amparo à Pesquisa do Estado de São Paulo (“Fapesp”) e a empresa IBM anunciaram em outubro de 2019 a seleção de consórcio de instituições liderado pela Universidade de São Paulo (“USP”) para receber investimentos para o fomento a estudos e desenvolvimento de soluções em inteligência artificial.
As atividades financiadas envolvem pesquisas básicas e aplicadas, estratégias de transferência de tecnologia para a sociedade, e foco em análises de algoritmos e sistemas de inteligência artificial, com destaque para temas como saúde, agronegócio e meio ambiente. No mesmo sentido, em novembro de 2019, o Ministério da Ciência, Tecnologia, Inovações e Comunicações (“MCTIC”) divulgou a criação de oito laboratórios de inteligência artificial no país, alguns deles diretamente vinculados a políticas de Internet das Coisas (IoT).
Estima-se, todavia, que o país conte apenas com aproximadamente 600 profissionais com formação direcionada à AI, número absolutamente insuficiente para colocar o país no patamar internacional de inovação mediante a utilização dessa tecnologia. No entanto, o número se mostra compreensível em face da disparidade entre a colocação do Brasil em rankings internacionais referentes à produção científica em ciência da computação e à inovação.
Trata-se de um quadro que evidencia fortemente a necessidade de esforços consideráveis por parte do poder público antes mesmo de fixar uma estratégia nacional sobre o tema.
Além disso, tendo em vista que o desenvolvimento de soluções de IA baseia-se em boa parte no processamento de dados em grande quantidade, os debates sobre o tema inevitavelmente se relacionam com a legislação aplicável à proteção de dados pessoais.
Com a iminência da entrada em vigor da Lei nº 13.709/2018 (Lei Geral de Proteção de Dados ou “LGPD”), prevista para agosto deste ano, acompanhar os diálogos referentes à aplicação da LGPD a sistemas de IA será crucial para discutir a segurança jurídica em relação a essa tecnologia e definir os contornos do seu desenvolvimento. Uma das principais razões para essa interface envolve a relevância dos dados pessoais no desenvolvimento de soluções de IA, especialmente aquelas baseadas em machine learning, no qual a própria lógica interna do algoritmo (bem como a sua própria acurácia) é alterada com base no aprendizado decorrente dos dados de treino.[3]
Há que se considerar também que, embora sejam inúmeros os benefícios inerentes ao desenvolvimento da IA no país, estas iniciativas requerem bastante cautela pelo fato de envolverem temas extremamente sensíveis aos interesses do país, tendo em vista que pesquisas em IA voltadas a áreas como saúde e meio ambiente abrangem dados delicados para a própria soberania nacional, a exemplo de dados genéticos e dados de biodiversidade.
Diante disso, é recomendável que as discussões sobre IA sejam conduzidas de maneira transversal ao governo e mediante processo multistakeholder, em decorrência da sua intrínseca interdisciplinaridade. Vale pontuar que outros países e instituições internacionais delegaram a elaboração das suas estratégias nacionais a comissões de especialistas compostas por setores diversos o setor privado, governos e academia[4], ressaltando a importância da realização de trabalhos técnicos prévios, do multissetorialismo na fixação das orientações dessas estratégias, e da sua efetividade a longo prazo.
Nesse sentido, o Brasil já conta com experiência exitosa ao congregar diversos setores na formulação de um plano nacional — no caso, para o fomento e regulação de soluções de internet das coisas (“IoT”). Isso porque, em 2016, foi realizada a chamada pública do estudo “Internet das Coisas: um plano de ação para o Brasil”, promovido pelo Banco Nacional de Desenvolvimento Econômico e Social (“BNDES”), em parceria com o Ministério da Ciência, Tecnologia, Inovações e Comunicações (“MCTIC”).
Desenvolvido por um consórcio formado por McKinsey & Company, CPQD e Pereira Neto | Macedo Advogados, o estudo teve como um dos seus principais méritos a possibilidade de abordar o tema da IoT por meio de ambientes priorizados (cidades inteligentes, saúde e rural), e através de horizontais regulatórias de maior destaque (telecomunicações, privacidade e proteção de dados e segurança da informação) — isto é, ressaltando a transversalidade temática tão cara ao assunto. Como consequência do estudo, foi publicado, em junho de 2019, o Decreto nº 9.854/2019, responsável por instituir o Plano Nacional de Internet das Coisas no país.
Lições para uma adequada regulação da IA no Brasil
Embora seja louvável o esforço do governo federal destinado colher contribuições por parte da sociedade em relação à IA, fato é que o desenho de estratégia nacional sobre tema tão complexo pressupõe maior fomento à reflexão acadêmica e ao desenvolvimento científico de soluções baseadas nesta tecnologia. Além disso, exemplos internacionais demonstram que estratégias nacionais devem endereçar as perguntas adequadas, identificar e envolver os atores corretos e criar o devido conjunto de indicadores de resultados[5] a fim de organizar de maneira mais efetiva os esforços para estimular a implantação de soluções de IA no país.
Além disso, com a fixação de dispositivos legais e/ou regulatórios demasiadamente prescritivos em relação à IA, a exemplo dos propostos pelos Projetos de Lei em tramitação sobre o tema, corre-se o risco de torná-los rapidamente obsoletos, prejudicando sua aplicabilidade[6] e a segurança jurídica em prol do desenvolvimento desta tecnologia. Mais que isso, trata-se de iniciativa que ameaça impor uma camisa de força ao desenvolvimento da tecnologia no país.
Portanto, considera-se recomendável que o desenvolvimento de estratégia nacional para a IA no Brasil seja precedido da composição de estruturas organizacionais multidisciplinares destinadas a tratar do tema, bem como seja respaldado em estudos técnicos capazes de identificar tanto os campos prioritários e as potencialidades oferecidas pela tecnologia, quanto as principais limitações e ameaças ao pleno desenvolvimento da IA em âmbito nacional.
Busca-se, dessa forma, direcionar os esforços rumo à implementação da IA no país de maneira mais adequada e eficaz, para que, ao fim e ao cabo, seja possível desenvolver uma estratégia nacional voltada à melhoria na qualidade de vida da população e à inserção do país na economia mundial de forma competitiva.
[1] RUSSELL, Stuart; NORVIG Peter. Inteligência artificial. Rio de Janeiro: Elsevier, 2013.
[2] A identificação de potenciais e fraquezas pautam-se em parâmetros como força de trabalho, digitalização e infraestrutura, colaboração entre indústria e academia, capacidade de treinamento e regulação. Por outro lado, as oportunidades e ameaças devem observar o ecossistema de inovação, a adoção pela indústria e pelo setor público, e a colaboração internacional.
[3] BURRELL, Jenna. How the machine ‘thinks’: Understanding opacity in machine learning algorithms. Big Data & Society, v.3, n.1, p. 1–12, 2016. Disponível em: https://journals.sagepub.com/doi/pdf/10.1177/2053951715622512. Acesso em: 31/01/2020.
[4] Lawgorithm. Estratégias nacionais de inteligência artificial. 12/09/2019. Disponível em: https://lawgorithm.com.br/estrategias-ia/. Acesso em: 31/01/2020.
[5] Centre for Fourth Industrial Revolution. A Framework for Developing a National Artificial Intelligence Strategy. World Economic Forum, agosto de 2019.
[6] GSMA. Smart Data Privacy Laws: Achieving the Right Outcomes for the Digital Age. Junho de 2019. Disponível em https://www.gsma.com/publicpolicy/wp-content/uploads/2019/06/GSMA_Smart-Data-Privacy-Laws_Report_June-2019.pdf. Acesso em: 31/01/2020.
