IA e a Google : Nossos Princípios
[Este artigo foi publicado originalmente por Sundar Pichai(CEO da Google) em 7/06/2018, e traduzido pela equipe do Tecs em 10/06/2018.]
Fundamentalmente, IA é um programa de computador que aprende e se adapta. Ela não pode resolver todos os problemas, mas possui um enorme potencial para melhorar nossas vidas. Na Google, utilizamos IA para deixar nossos produtos mais úteis — desde um serviço de e-mail sem spam e que facilita a escrita, um assistente digital com o qual você pode falar naturalmente, até um gerente de imagens que te ajuda a ir logo pra parte divertida.
Além dos nossos produtos, estamos usando a IA para ajudar as pessoas a resolver problemas urgentes. Um par de alunos do ensino médio estão desenvolvendo sensores baseados em IA para prever o risco de incêndios naturais. Fazendeiros estão utilizando-a para monitorar a saúde de seus rebanhos. Médicos estão começando a usar IA para ajudar no diagnóstico de câncer e na prevenção da cegueira. Esses benefícios óbvios são os motivos dos investimentos massivos a Google em pesquisa e desenvolvimento de IAs, além de disponibilizar a IA para um grande número de pessoas através das nossas ferramentas e projetos de código aberto.
Reconhecemos que uma tecnologia tão poderosa traz a tona questionamentos igualmente profundos sobre seu uso. A maneira como a IA é desenvolvida e utilizada terá um impacto significativo na sociedade por muitos anos. Como uma das líderes em IA, sentimos uma enorme responsabilidade de fazer as coisas do jeito certo. Então, hoje estamos anunciando 7 princípios que guiarão nosso trabalho no futuro. Esses não são conceitos teóricos, são padrões concretos que irão ativamente guiar nossas pesquisas e desenvolvimento de produtos, além de impactar nossas decisões de negócios.
Nós temos consciência de que essa é uma área dinâmica e em evolução, e abordaremos nosso trabalho com humildade, um comprometimento com o engajamento interno e externo, e a disposição de adaptar nossa abordagem ao longo do tempo, conforme formos aprendendo.
Objetivos Para Aplicações de IA
Iremos analisar aplicações em IA conforme os seguintes objetivos. Acreditamos que a IA deve:
1. Ser socialmente benéfica.
O alcance estendido das novas tecnologias impacta cada vez mais a sociedade como um todo. Avanços em IA terão um impacto transformador em inúmeras áreas, incluindo saúde, segurança, energia, transporte, produção e entretenimento. Ao considerar potenciais desenvolvimentos e usos de tecnologias de IA, nós levaremos em consideração uma ampla gama de fatores sociais e econômicos, procedendo aonde nós acreditemos que os prováveis benefícios superem excessivamente os riscos e prejuízos previsíveis.
2. Evitar criar ou reforçar vieses injustos.
Algoritmos de IA e conjuntos de dados podem refletir, reforçar, ou reduzir preconceitos. Reconhecemos que distinguir entre vieses justos e injustos não é sempre simples, com variações entre culturas e sociedades. Nós buscaremos evitar impactos não justificáveis as pessoas, em particular aqueles relacionados a características sensíveis como raça, etnia, gênero, nacionalidade, renda, orientação sexual, habilidade, e crenças políticas ou religiosas.
3. Ser construída e testada para ser segura.
Continuaremos a desenvolver e aplicar medidas rigorosas de seguridade e segurança para evitar resultados não intencionais que criem o risco de danos. Pensaremos nossos sistemas de IA de forma a serem apropriadamente cautelosos, e buscaremos desenvolvê-los de acordo com as melhores práticas em pesquisa de segurança de IAs. Em casos apropriados, testaremos tecnologias de IA em ambientes restritos, e monitoraremos sua operação após o lançamento.
4. Ser responsabilizável pelas pessoas.
Criaremos sistemas de IA que proverão oportunidades apropriadas para feedback, explicações relevantes e apelos. Nossas tecnologias de IA estarão sujeitas a um direcionamento e controle humano apropriado.
5. Incorporar princípios de privacidade em seu design.
Iremos incorporar princípios de privacidade no desenvolvimento e no uso de nossas tecnologias de IA. Daremos oportunidades de notificação e consentimento, encorajaremos arquiteturas com salvaguardas de privacidade, e proveremos transparência e controle sobre o uso de dados de maneira apropriada.
6. Assegurar padrões altos de excelência científica.
A inovação tecnológica tem como raiz o método científico, além de um compromisso com o questionamento aberto, rigor intelectual, integridade e cooperação. Ferramentas de IA podem elevar a pesquisa e o conhecimento científicos a novos patamares em áreas fundamentais como biologia, química, medicina e ciências ambientais. Aspiramos manter altos padrões de excelência científica enquanto trabalhamos no desenvolvimento da IA.
Trabalharemos com uma variedade de acionistas para promover uma liderança positiva nessa área, aplicando abordagens científicas rigorosas e multidisciplinares. Ademais, iremos compartilhar de forma responsável conhecimento em IA por meio da publicação de materiais educacionais, melhores práticas, e pesquisas que possibilitem que mais pessoas desenvolvam aplicações úteis de IA.
7. Ser feita disponível para usos que estejam de acordo com esses princípios.
Muitas tecnologias possuem múltiplos usos. Vamos trabalhar para limitar aplicações potencialmente danosas ou abusivas. Durante o desenvolvimento e lançamento de tecnologias de IA, iremos avaliar usos prováveis levando em conta os seguintes fatores:
- Propósito e uso primário : O propósito e uso provável primários de uma tecnologia e aplicação. incluindo a similaridade ou possível adaptação da situação para um uso nocivo.
- Natureza e unicidade: Se estamos disponibilizando tecnologias únicas ou que tem uma disponibilidade mais geral.
- Escala: Se o uso dessa tecnologia terá um impacto significativo.
- Natureza do envolvimento da Google: Se estamos provendo ferramentas de propósito geral, integrando ferramentas para consumidores ou desenvolvendo soluções customizadas.
Aplicações de IA que não iremos perseguir
Além dos objetivos acima, não iremos desenvolver ou lançar IA nas seguintes áreas:
- Tecnologias que causam ou que provavelmente causarão dano em geral. Aonde houver um risco material de danos, procederemos apenas aonde acreditamos que os benefícios superam de maneira significativa os riscos, e incorporaremos restrições de segurança.
- Armamentos e outras tecnologias cujo propósito ou implementação principal seja infligir ou facilitar diretamente a agressão a outras pessoas.
- Tecnologias que recolhem ou utilizam informações para vigilância, que estejam em violação de normas internacionais.
- Tecnologias cujos propósitos contradizem princípios amplamente reconhecidos de direitos humanos e justiça internacional.
Queremos deixar claro que, embora não estejamos desenvolvendo IA para uso em armamentos, continuaremos a trabalhar com governos e as forças armadas em diversas outras áreas. Essas incluem cibersegurança, treinamento, recrutamento militar, cuidados médicos para veteranos, além de buscas e resgates. Essas colaborações são importantes e iremos ativamente buscar mais maneiras de incrementar o trabalho critico dessas organizações e manter seus servidores e membros da sociedade civil em segurança.
IA para o longo prazo
Mesmo essa sendo a maneira que escolhemos abordar IA, entendemos que existe lugar para muitas vozes nesse diálogo. Conforme tecnologias de IA progridem, trabalharemos com uma variedade de interessados para promover uma liderança positiva nessa área, aplicando abordagens científicas rigorosas e multidisciplinares. E continuaremos compartilhando o que aprendemos, com o intuito de melhorar tecnologias de IA e práticas.
Acreditamos que esses princípios são a fundação certa para nossa empresa e o desenvolvimento futuro da IA. Essa abordagem é consistente com nossa Carta dos Fundadores original, de 2004. Lá deixamos clara nossa intenção de adotar uma perspectiva a longo prazo, ainda que isso signifique alguns sacrifícios no curto prazo. Dissemos isso, e ainda acreditamos.
