A presentation at Campus Party Goiás in in Goiânia, State of Goiás, Brazil by Carla Vieira
GOIÁS A caixa preta da Carla Vieira @carlaprvieira Ilustração: Hanne Mostard Inteligência Artificial
Graduanda de Sistemas de Informação pela USP Aluna Especial pela USP Professora de Desenvolvimento Web na Habits Mestrado (em breve) Professora de introdução a IA e ML FORMAÇÃO ENSINO Desenvolvedora Coordenadora Perifacode TRABALHO Carla Vieira Developer, Speaker and Artificial Intelligence Evangelist @carlaprvieira
https://www.slideshare.net/DataStax/netflix-recommendations-using-spark-cassandra
dados viés privacidade ética legislação
Precisamos falar menos sobre o hype da Inteligência Artificial… … e mais sobre como estamos usando a tecnologia.
Google Photos (2015)
Google Photos (2015)
Twitter (2017)
Como estou combatendo o viés algorítmico TED (2018) Joy Buolamwini
Estudo Gender Shades (2018)
Estudo Gender Shades (2018) http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf
“Qualquer tecnologia que criamos reflete tanto nossas aspirações quanto nossas limitações. Se formos limitados na hora de pensar em inclusão, isso vai ser refletido e incorporado na tecnologia que criamos”. Joy Buolamwini
Google Detecção de discurso de ódio (2019)
• 46% de falsos positivos para afro-americanos • 1.5 mais chances das postagens serem rotuladas como ofensivas https://homes.cs.washington.edu/~msap/pdfs/sap2019risk.pdf
COMPAS Software (2016)
Algoritmos não conseguem fazer COMPAS Software (2016) análises subjetivas O que determina se um algoritmo é justo quando o que está em jogo é uma sentença criminal?
Algoritmos não conseguem fazer COMPAS Software (2016) análises subjetivas O que determina se um algoritmo é justo quando o que está em jogo é uma sentença criminal?
JUSTIÇA MATEMÁTICA
Como remover o viés? Preconceito humano Tecnologia
Quem está desenvolvendo Inteligência Artificial? “Only 22% of AI professionals globally are female, compared to 78% who are male.” (The Global Gender Gap Report 2018 - p.28)
DIVERSIDADE Preconceito humano Tecnologia
A inteligência artificial precisa aprender com o mundo real. Não basta criar um computador inteligente, é preciso ensinar a ele as coisas certas. https://about.google/stories/gender-balance-diversity-important-tomachine-learning/?hl=pt-BR
https://www.research.ibm.com/artificial-intelligence/trusted-ai/diversity-in-faces/
Estes casos ilustram um problema maior: os algoritmos de I.A. são uma caixa-preta, opaca e cheia de segredos.
INPUT CAIXA PRETA OUTPUT
INPUT CAIXA PRETA OUTPUT
Por que abrir a caixa preta? ética viés privacidade dados legislação
França (2019)
“Esse tipo de lei é uma desgraça para uma democracia. A Justiça é usada em nome do povo, tentar esconder informações de agentes da lei ou de cidadãos nunca será a coisa certa a fazer.” Louis Larret Chahine Co-fondateur de PREDICTICE
Estados Unidos (2019)
Brasil (2019)
“ (…) diferentemente do que foi apontado, não realiza reconhecimento facial, mas, sim, detecção facial, por meio do qual estima apenas o gênero, a faixa etária e o humor dos consumidores, de forma anônima”. Gerente de Marca Hering
Como abrir a caixa preta? EXPLICABILIDADE Entender a lógica por trás de cada decisão TRANSPARÊNCIA CONFIANÇA
explicabilidade Refere-se à capacidade do sistema de explicar porque chegou a determinado resultado em linguagem compreensível para um ser humano.
Dados explicáveis Predições explicáveis Quais os dados utilizados para treinar o modelo e por quê? Quais as características e pesos utilizados para essa predição? Algoritmos explicáveis Quais são as camadas e processos internos desse algoritmo?
As soluções de Inteligência Artificial não são e não serão infalíveis. Mas, a explicabilidade pode ajudar…
“O sucesso na criação da IA será o maior acontecimento na história da humanidade. Infelizmente, também poderá ser o último, a menos que aprendamos como evitar os riscos.” Stephen Hawking
http://www.portaltransparencia.gov.br/download-de-dados
Desafios Acessibilidade de dados Explicabilidade dos algoritmos Diversidade nos talentos
https://serenata.ai/ https://brasil.io/home https://colaboradados.github.io/
Se a tecnologia quiser ajudar na construção de uma sociedade mais justa, ela tem que ser aberta e transparente.
Antes de falar sobre futuro… … precisamos falar sobre o que está acontecendo hoje, agora.
Obrigada! Carla Vieira @carlaprvieira carlaprv@hotmail.com bit.ly/goias-carla
Referências − Relatórios do AI NOW − Racial and Gender viés in Amazon Rekognition − Diversity in faces (IBM) − Google video – Machine Learning and Human viés − Visão Computacional e Vieses Racializados − Estudo Machine viés on Compas − Machine Learning Explainability Kaggle − Predictive modeling: striking a balance between accuracy and interpretability
Referências − Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação em código − Metrics for Explainable AI: Challenges and Prospects − The Mythos of Model Interpretability − Towards Robust Interpretability with Self-Explaining Neural Networks − The How of Explainable AI: Post-modelling Explainability
Os algoritmos de Inteligência Artificial trazem possibilidades de otimização do trabalho e personalização de experiência, mas também trazem riscos e desafios que precisam ser conhecidos e considerados antes de sua adoção. Os algoritmos que nos avaliam, deveriam sujeitar-se aos critérios de avaliação justa que buscamos. Mas isso não é bem o que acontece, seja porque consideramos que eles são mais precisos do que realmente são, seja porque permitimos que sigam nos julgando obscuramente. É fundamental questionar, assim, se é esse o objetivo que esperamos encontrar nas inovações. Devemos automatizar pela simples automação? Ou cabe aqui uma reflexão ética sobre injustiças algorítmicas?
for free. You
can too.