A análise de Big Data levanta uma série de questões éticas, especialmente quando as empresas começam a monetizar seus dados externamente para finalidades diferentes daquelas para as quais os dados foram inicialmente coletados.
A escala e a facilidade com que as análises podem ser conduzidas hoje mudam completamente a estrutura ética da área de dados.
Agora podemos fazer coisas que eram impossíveis alguns anos atrás, e as estruturas éticas e legais existentes não podem prescrever o que devemos fazer.
Embora ainda não haja preto ou branco, os especialistas concordam em 5 principais princípios de ética em Big Data:
1. Os dados e a identidade de clientes devem permanecer privados
Privacidade não significa sigilo, pois os dados privados podem precisar ser auditados com base em requisitos legais. Porém, os dados privados obtidos de uma pessoa com seu consentimento não devem ser expostos para uso por outras empresas ou indivíduos com quaisquer vestígios de sua identidade.
2. Informações privadas compartilhadas devem ser confidenciais
Empresas terceirizadas compartilham dados confidenciais — médicos, financeiros ou locais — e precisam ter restrições sobre se e como essas informações podem ser compartilhadas posteriormente.
3. Clientes devem ter uma visão transparente do processo
As pessoas na posição de cliente devem ver claramente como os dados estão sendo usados ou vendidos. O gerenciamento do fluxo de suas informações privadas deve ser feito por meio de sistemas analíticos de terceiros.
4. O Big Data não deve interferir na vontade humana
A análise de Big Data pode moderar e até determinar quem somos antes de tomarmos uma decisão. As empresas precisam começar a pensar sobre os tipos de previsões e inferências que devem ser permitidos (e quais não devem).
5. O Big Data não deve institucionalizar questões preconceituosas
Os algoritmos de Machine Learning podem absorver tendências inconscientes em uma população e amplificá-las por meio de amostras de treinamento. Certifique-se que seu Big Data não institucionaliza questões como racismo e sexismo.
Certamente, há mais princípios que precisamos desenvolver à medida que uma tecnologia mais poderosa se torna disponível.
Cientistas de dados, engenheiros e engenheiras de dados, administradores(as) de bancos de dados e qualquer pessoa envolvida no tratamento de Big Data devem ter voz na discussão ética sobre a forma como os dados são usados.
As empresas devem discutir abertamente sobre esses dilemas em fóruns formais e informais. Quando as pessoas não veem a ética atuando em sua organização, elas percebem que ela acaba realmente não existindo.
