A área de dados é realmente encantadora! Bom, pelo menos para mim, e se você acompanha os meus artigos acredito que deve pensar o mesmo também. Há muitos projetos já interessantes que produzem resultados incríveis! Existem projetos que utilizam dados para tornar a agricultura mais eficiente, outros são aplicados à área da saúde, ajudando na prevenção de doenças, e outros ainda ajudam no tráfego e mobilidade urbana. Projetos como estes são benéficos para algumas empresas, mas também são benéficos para a população em geral. No entanto, também existem diversos projetos de dados que utilizam os dados sem se preocupar com o impacto negativo que podem causar na sociedade ou no meio ambiente. Neste artigo eu vou falar um pouco sobre os perigos da utilização de técnicas e tecnologias da área de dados sem que haja uma preocupação com o impacto que o projeto possa causar.

Talvez você já tenha ouvido falar que algumas IAs de reconhecimento facial tem grandes dificuldades de reconhecer rostos de pessoas negras. Há diversas reportagens onde foram testados rostos de pessoas com diferentes tons de pele e quanto mais escura era a pele da pessoa, mais a IA tinha dificuldade de realizar o reconhecimento facial. Isto acontece por um motivo simples, as equipes de cientistas de dados não se atentaram em treinar a IA com rostos de pessoas com diferentes tons de pele. Porém, o que levou as equipes de cientistas de dados a não se atentarem para este fato é um tema mais complexo. É muito provável que o time fosse formado inteiramente por homens brancos, que infelizmente ainda é o padrão do mercado de trabalho da área da tecnologia. Além disso, é muito provável que eles não tenham recebido nenhum treinamento sobre diversidade étnica e cultural. Contudo, é muito importante que se tenha em mente que aplicações como esta serão utilizadas por diversas pessoas na sociedade e, por isso, é importante que a equipe de cientistas de dados tenha o mínimo de consciência de como construir o algoritmo sem que este acabe por excluir parte dos seus usuários.

Um ponto que está sendo muito discutido atualmente são as bets. Empresas de apostas têm se tornado muito populares e muito lucrativas e elas dependem muito de algoritmos capazes de analisar os dados gerados pelos usuários e encontrar formas eficientes de manter o usuário preso na aplicação o máximo possível. Não vou ficar aqui tentando passar uma imagem neutra como muitos profissionais fazem. Sou totalmente contra as empresas de bets e recomendo a qualquer profissional que não trabalhe em empresas deste ramo. Já está mais que provado o impacto negativo que estas empresas geram nas camadas mais pobres da sociedade. E o que estas empresas mais precisam é de profissionais da área de dados.

Falando agora sobre as redes sociais, esta é um negócio totalmente voltado para os dados. A Netflix possui um documentário bastante conhecido chamado O dilema das redes que fala sobre como as redes sociais passaram de plataformas para o compartilhamento espontâneo de informações (como era na época do MySpace, Orkut e o Flogão brasileiro) para algoritmos projetados para viciar e explorar os seus usuários. Em outro documentário da Netflix, Privacidade hackeada, é mostrado como as redes sociais foram utilizadas por uma empresa chamada Cambridge Analytica para manipular o referendo do Brexit, influenciando votos em favor da saída do Reino Unido da União Européia, algo que comprovadamente causou um enorme prejuízo financeiro tanto para o Reino Unido quanto para a União Européia. No documentário, o principal cientista de dados do projeto fala como eles usaram os dados dos usuários para tentar manipular os votos e como ele se tornou um ativista pela conscientização do uso da ciência de dados após ver os resultados do seu próprio trabalho.

Existe um livro bastante conhecido que trata sobre este tema, Armas de destruição matemática. Neste livro a autora relata algumas das suas primeiras experiências atuando como cientista de dados e outros casos em que ela pesquisou onde haviam sérias questões éticas envolvidas. Me recordo de alguns casos que me chocaram, como um jovem que possuía um transtorno mental específico que era detectado pelos algoritmos de recrutamento das empresas, fazendo-o ser eliminado imediatamente por decisão do algoritmo. O caso só foi descoberto após muita investigação e um longo período onde o jovem não conseguia um emprego. Outro caso que me chocou foi o do programa Predpol (atualmente chamado de Geolitica), que buscava realizar previsões de crimes puramente baseando-se em estatísticas. O problema é que os dados históricos utilizados para gerar as estatísticas estavam contaminados por diversos casos de racismo e outros preconceitos cometidos pelos policiais. O resultado é que o algoritmo previa os crimes baseando-se em visões estereotipadas, enviando constantemente viaturas para bairros negros pobres de forma a oprimir constantemente grupos minoritários.

Talvez você nunca tenha presenciado algo na área de dados que fizesse você ter sérias preocupações éticas. No início da minha carreira eu assisti uma palestra de um CEO de uma empresa de analytics onde ele disse abertamente, para uma platéia de mais de cem pessoas, que o algoritmo da empresa dele usava diversas características dos usuários para analisar a concessão de crédito. Entre as caracteristicas que ele citou estavam o sexo, a cor de pele e a região em que o usuário mora. Na mesma hora eu olhei ao redor para ver a reação das pessoas e ninguém parecia perceber o quão problemático era aquilo que ele havia dito. Por isso, eu acredito que nós, profissionais da área de dados, precisamos sempre pensar na ética e nas consequências que são resultados das nossas atividades.