Joy Buolamwini é uma estudante de pós-graduação no MIT (o Massachusetts Institute of Technology, uma das instituições de ensino superior mais respeitadas dos EUA). O currículo dessa mina é surreal: antes de entrar no MIT, ela se formou em Ciências da Computação no Georgia Institute of Technology e tem mestrado em Aprendizado e Tecnologia na Universidade de Oxford.
Parte de seu trabalho como pesquisadora no MIT consiste em explorar a ligação entre tecnologia de impacto social e inclusão. Nesse sentido, a Joy lidera a Algorithmic Justice League (Liga da Justiça Algorítmica), uma iniciativa para combater os preconceitos existentes nos algoritmos que regem as tecnologias que usamos.
No TEDTalk abaixo a Joy fala sobre como passou a se interessar por esse tema:
Lá no MIT, ela tem a oportunidade de trabalhar vários projetos bizarros, incluindo o Espelho de Desejar,um projeto que ela criou para poder projetar máscaras digitais fantásticas para o seu reflexo. Para construir o sistema do espelho, ela usou um software genérico de reconhecimento facial,mas logo descobriu que era difícil testá-lo a menos que ela usasse uma máscara branca. Ou seja, o software de reconhecimento facial não estava preparado para reconhecer pessoas negras, só pessoas brancas. Segundo a Joy, isso é bem problemático: “o preconceito algorítmico, como o preconceito humano, resulta da injustiça.Porém, os algoritmos, tal como os vírus,podem espalhar preconceitos numa grande escalanum ritmo rápido.O preconceito em algoritmos também pode levar a experiências de exclusãoe a práticas discriminatórias.”
Esse tipo de desvio na tecnologia é criado da seguinte forma: cientistas criam um grupo de formação com exemplos de rostos. As pessoas que participam do estudo vão determinando o que é um rosto e não é. Contudo, se os grupos de formação não forem diversificados,qualquer rosto que se desvie da norma estabelecidaserá difícil de detectar.E foi isso que aconteceu com a Joy: as máquinas não foram ensinadas a ler rostos negros, só tinham visto exemplos de rostos brancos.
O ponto é que o preconceito algorítmico pode ser bem escroto e discriminatório, como explica Joy: “Nos meus exemplos com os robôs sociais que foi como eu descobri a exclusão com o preconceito algorítmico. Mas o preconceito algorítmico também pode levar a práticas discriminatórias. Nos Estados Unidos da América, os departamentos da polícia começam a usar o software de reconhecimento facial no seu arsenal de luta contra o crime. A Faculdade de Direito de Georgetown publicou um relatório mostrando que um em dois adultos, nos EUA — ou seja, 117 milhões de pessoas — têm os rostos em redes de reconhecimento facial. Os departamentos da polícia podem procurar nessas redes não regulamentadas, usando algoritmos que não foram auditados quanto ao seu rigor”.
A boa notícia é que esse cenário pode mudar com a criação de grupos de pesquisa mais diversos. “Há a oportunidade de criar grupos de formação com um espetro completoque reflitam um retrato mais rico da humanidade“, diz Joy. O documentário da Joy, o Coded Gaze: Unmasking Algorithmic Bias (algo como “o olhar codificado: desmascarando o preconceito algorítmico”) foi lançado no Museu de Belas Artes de Boston. O documentário mostra como a falta de diversidade na tecnologia levou à construção de algoritmos falhos e preconceituosos.
No começo deste ano, a Joy foi ganhadora do prêmio Search for Hidden Figures. Nesse link aqui ela fala um pouco mais sobre isso e no vídeo abaixo dá pra aprender um pouco sobre a trajetória dela:
Em uma entrevista para a BBC, a Joy conta que espera que a situação comece a melhorar, conforme as pessoas tomem consciência dos potenciais problemas decorrentes do preconceito algorítmico. “Qualquer tecnologia que criamos reflete tanto nossas aspirações quanto nossas limitações”, diz Joy, “se formos limitados na hora de pensar inclusão, isso vai ser refletido e incorporadona tecnologia que criamos”.
Segue a Joy no Twitter pra acompanhar os projetos dela!
Joy Buolamwini é uma estudante de pós-graduação no MIT (o Massachusetts Institute of Technology, uma das instituições de ensino superior mais respeitadas dos EUA). O currículo dessa mina é surreal: antes de entrar no MIT, ela se formou em Ciências da Computação no Georgia Institute of Technology e tem mestrado em Aprendizado e Tecnologia na Universidade de Oxford.
Parte de seu trabalho como pesquisadora no MIT consiste em explorar a ligação entre tecnologia de impacto social e inclusão. Nesse sentido, a Joy lidera a Algorithmic Justice League (Liga da Justiça Algorítmica), uma iniciativa para combater os preconceitos existentes nos algoritmos que regem as tecnologias que usamos.
No TEDTalk abaixo a Joy fala sobre como passou a se interessar por esse tema:
Lá no MIT, ela tem a oportunidade de trabalhar vários projetos bizarros, incluindo o Espelho de Desejar,um projeto que ela criou para poder projetar máscaras digitais fantásticas para o seu reflexo. Para construir o sistema do espelho, ela usou um software genérico de reconhecimento facial,mas logo descobriu que era difícil testá-lo a menos que ela usasse uma máscara branca. Ou seja, o software de reconhecimento facial não estava preparado para reconhecer pessoas negras, só pessoas brancas. Segundo a Joy, isso é bem problemático: “o preconceito algorítmico, como o preconceito humano, resulta da injustiça.Porém, os algoritmos, tal como os vírus,podem espalhar preconceitos numa grande escalanum ritmo rápido.O preconceito em algoritmos também pode levar a experiências de exclusãoe a práticas discriminatórias.”
Esse tipo de desvio na tecnologia é criado da seguinte forma: cientistas criam um grupo de formação com exemplos de rostos. As pessoas que participam do estudo vão determinando o que é um rosto e não é. Contudo, se os grupos de formação não forem diversificados,qualquer rosto que se desvie da norma estabelecidaserá difícil de detectar.E foi isso que aconteceu com a Joy: as máquinas não foram ensinadas a ler rostos negros, só tinham visto exemplos de rostos brancos.
O ponto é que o preconceito algorítmico pode ser bem escroto e discriminatório, como explica Joy: “Nos meus exemplos com os robôs sociais que foi como eu descobri a exclusão com o preconceito algorítmico. Mas o preconceito algorítmico também pode levar a práticas discriminatórias. Nos Estados Unidos da América, os departamentos da polícia começam a usar o software de reconhecimento facial no seu arsenal de luta contra o crime. A Faculdade de Direito de Georgetown publicou um relatório mostrando que um em dois adultos, nos EUA — ou seja, 117 milhões de pessoas — têm os rostos em redes de reconhecimento facial. Os departamentos da polícia podem procurar nessas redes não regulamentadas, usando algoritmos que não foram auditados quanto ao seu rigor”.
A boa notícia é que esse cenário pode mudar com a criação de grupos de pesquisa mais diversos. “Há a oportunidade de criar grupos de formação com um espetro completoque reflitam um retrato mais rico da humanidade“, diz Joy. O documentário da Joy, o Coded Gaze: Unmasking Algorithmic Bias (algo como “o olhar codificado: desmascarando o preconceito algorítmico”) foi lançado no Museu de Belas Artes de Boston. O documentário mostra como a falta de diversidade na tecnologia levou à construção de algoritmos falhos e preconceituosos.
No começo deste ano, a Joy foi ganhadora do prêmio Search for Hidden Figures. Nesse link aqui ela fala um pouco mais sobre isso e no vídeo abaixo dá pra aprender um pouco sobre a trajetória dela:
Em uma entrevista para a BBC, a Joy conta que espera que a situação comece a melhorar, conforme as pessoas tomem consciência dos potenciais problemas decorrentes do preconceito algorítmico. “Qualquer tecnologia que criamos reflete tanto nossas aspirações quanto nossas limitações”, diz Joy, “se formos limitados na hora de pensar inclusão, isso vai ser refletido e incorporadona tecnologia que criamos”.
Segue a Joy no Twitter pra acompanhar os projetos dela!
Joy Buolamwini é uma estudante de pós-graduação no MIT (o Massachusetts Institute of Technology, uma das instituições de ensino superior mais respeitadas dos EUA). O currículo dessa mina é surreal: antes de entrar no MIT, ela se formou em Ciências da Computação no Georgia Institute of Technology e tem mestrado em Aprendizado e Tecnologia na Universidade de Oxford.
Parte de seu trabalho como pesquisadora no MIT consiste em explorar a ligação entre tecnologia de impacto social e inclusão. Nesse sentido, a Joy lidera a Algorithmic Justice League (Liga da Justiça Algorítmica), uma iniciativa para combater os preconceitos existentes nos algoritmos que regem as tecnologias que usamos.
No TEDTalk abaixo a Joy fala sobre como passou a se interessar por esse tema:
Lá no MIT, ela tem a oportunidade de trabalhar vários projetos bizarros, incluindo o Espelho de Desejar,um projeto que ela criou para poder projetar máscaras digitais fantásticas para o seu reflexo. Para construir o sistema do espelho, ela usou um software genérico de reconhecimento facial,mas logo descobriu que era difícil testá-lo a menos que ela usasse uma máscara branca. Ou seja, o software de reconhecimento facial não estava preparado para reconhecer pessoas negras, só pessoas brancas. Segundo a Joy, isso é bem problemático: “o preconceito algorítmico, como o preconceito humano, resulta da injustiça.Porém, os algoritmos, tal como os vírus,podem espalhar preconceitos numa grande escalanum ritmo rápido.O preconceito em algoritmos também pode levar a experiências de exclusãoe a práticas discriminatórias.”
Esse tipo de desvio na tecnologia é criado da seguinte forma: cientistas criam um grupo de formação com exemplos de rostos. As pessoas que participam do estudo vão determinando o que é um rosto e não é. Contudo, se os grupos de formação não forem diversificados,qualquer rosto que se desvie da norma estabelecidaserá difícil de detectar.E foi isso que aconteceu com a Joy: as máquinas não foram ensinadas a ler rostos negros, só tinham visto exemplos de rostos brancos.
O ponto é que o preconceito algorítmico pode ser bem escroto e discriminatório, como explica Joy: “Nos meus exemplos com os robôs sociais que foi como eu descobri a exclusão com o preconceito algorítmico. Mas o preconceito algorítmico também pode levar a práticas discriminatórias. Nos Estados Unidos da América, os departamentos da polícia começam a usar o software de reconhecimento facial no seu arsenal de luta contra o crime. A Faculdade de Direito de Georgetown publicou um relatório mostrando que um em dois adultos, nos EUA — ou seja, 117 milhões de pessoas — têm os rostos em redes de reconhecimento facial. Os departamentos da polícia podem procurar nessas redes não regulamentadas, usando algoritmos que não foram auditados quanto ao seu rigor”.
A boa notícia é que esse cenário pode mudar com a criação de grupos de pesquisa mais diversos. “Há a oportunidade de criar grupos de formação com um espetro completoque reflitam um retrato mais rico da humanidade“, diz Joy. O documentário da Joy, o Coded Gaze: Unmasking Algorithmic Bias (algo como “o olhar codificado: desmascarando o preconceito algorítmico”) foi lançado no Museu de Belas Artes de Boston. O documentário mostra como a falta de diversidade na tecnologia levou à construção de algoritmos falhos e preconceituosos.
No começo deste ano, a Joy foi ganhadora do prêmio Search for Hidden Figures. Nesse link aqui ela fala um pouco mais sobre isso e no vídeo abaixo dá pra aprender um pouco sobre a trajetória dela:
Em uma entrevista para a BBC, a Joy conta que espera que a situação comece a melhorar, conforme as pessoas tomem consciência dos potenciais problemas decorrentes do preconceito algorítmico. “Qualquer tecnologia que criamos reflete tanto nossas aspirações quanto nossas limitações”, diz Joy, “se formos limitados na hora de pensar inclusão, isso vai ser refletido e incorporadona tecnologia que criamos”.
Segue a Joy no Twitter pra acompanhar os projetos dela!
Passei as últimas semanas pensando na Rayzza Ribeiro. Ela tinha 21 anos, era negra e feminista. Foi a um show de metal em uma das escolas ocupadas de Cabo Frio. Ela foi torturada, assassinada e seu corpo foi queimado. O irmão da Rayzza reconheceu o corpo pelas tatuagens, já que ele estava desfigurado e carbonizado. Também fiquei muitos dias pensando na adolescente de 16 anos que foi estuprada por 33 homens. Eu não consigo desligar essa frase: “adolescente de 16 anos é estuprada por 33 homens”.
No começo desse ano, a Isadora, estudante da UFRRJ, sofreu violência sexual em um dos alojamentos da universidade. Denunciou, abriu processo, fez escândalo. Foi estigmatizada, criticada, culpabilizada, julgada. Na quinta retrasada, a Isadora cometeu suicídio. Esses dias eu li que a Comissão Holandesa de Eutanásia autorizou que uma mulher de 20 anos se submetesse à eutanásia. Ela havia sido abusada dos 5 aos 15 anos e sofria de estresse pós-traumático, anorexia severa, depressão crônica e alucinações. Penso nelas duas toda hora. Na segunda passada, passei o dia todo pensando na minha amiga que foi assediada no Metrô de São Paulo. Quando ela tentou denunciar, o funcionário do Metrô perguntou se ela “tinha certeza” do que tinha acontecido.
De manhã, de frente pro espelho ou no caminho pro ponto de ônibus, o inevitável cálculo: “qual a probabilidade de eu ser estuprada hoje”? Um cara me chama de “morena gostosa” na rua. Eu mando ele ir se foder. Ele revida. Anda atrás de mim por segundos que duraram horas, me chamando de “cadela preta”. Assim mesmo. Seis da tarde em Pinheiros.
Qual é a estatística mesmo? Uma em cada cinco? Eu e quatro amigas entramos no carro pra ir pro sítio: “vai acontecer com pelo menos uma de nós um dia, talvez até já tenha acontecido”. A cada dia que esse terror não se concretiza, é um misto de alívio com “não foi hoje, mas pode ser amanhã”. Recomeço a calcular. Não é como se houvesse uma saída óbvia pra nada disso.
Caminhando pra casa percebo que me condicionei a sempre andar muito rápido. “Sempre fui meio acelerada”. Sempre mesmo? O espaço público é hostil a mulheres como eu. O espaço público é hostil a qualquer mulher. Lembro que o espaço privado também é. Penso na amiga que apanhou do namorado; na menina que veio me contar esses dias que um amigo meu a havia assediado; na amiga que foi estuprada pelo colega de curso.
Eu penso em todas nós todos os dias. Compulsivamente.
Algorithmic Justice League (Liga da Justiça Algorítmica), uma iniciativa para combater os preconceitos existentes nos algoritmos que regem as tecnologias que usamos.
No TEDTalk abaixo a Joy fala sobre como passou a se interessar por esse tema:
Lá no MIT, ela tem a oportunidade de trabalhar vários projetos bizarros, incluindo o Espelho de Desejar,um projeto que ela criou para poder projetar máscaras digitais fantásticas para o seu reflexo. Para construir o sistema do espelho, ela usou um software genérico de reconhecimento facial,mas logo descobriu que era difícil testá-lo a menos que ela usasse uma máscara branca. Ou seja, o software de reconhecimento facial não estava preparado para reconhecer pessoas negras, só pessoas brancas. Segundo a Joy, isso é bem problemático: “o preconceito algorítmico, como o preconceito humano, resulta da injustiça.Porém, os algoritmos, tal como os vírus,podem espalhar preconceitos numa grande escalanum ritmo rápido.O preconceito em algoritmos também pode levar a experiências de exclusãoe a práticas discriminatórias.”
Esse tipo de desvio na tecnologia é criado da seguinte forma: cientistas criam um grupo de formação com exemplos de rostos. As pessoas que participam do estudo vão determinando o que é um rosto e não é. Contudo, se os grupos de formação não forem diversificados,qualquer rosto que se desvie da norma estabelecidaserá difícil de detectar.E foi isso que aconteceu com a Joy: as máquinas não foram ensinadas a ler rostos negros, só tinham visto exemplos de rostos brancos.
O ponto é que o preconceito algorítmico pode ser bem escroto e discriminatório, como explica Joy: “Nos meus exemplos com os robôs sociais que foi como eu descobri a exclusão com o preconceito algorítmico. Mas o preconceito algorítmico também pode levar a práticas discriminatórias. Nos Estados Unidos da América, os departamentos da polícia começam a usar o software de reconhecimento facial no seu arsenal de luta contra o crime. A Faculdade de Direito de Georgetown publicou um relatório mostrando que um em dois adultos, nos EUA — ou seja, 117 milhões de pessoas — têm os rostos em redes de reconhecimento facial. Os departamentos da polícia podem procurar nessas redes não regulamentadas, usando algoritmos que não foram auditados quanto ao seu rigor”.
A boa notícia é que esse cenário pode mudar com a criação de grupos de pesquisa mais diversos. “Há a oportunidade de criar grupos de formação com um espetro completoque reflitam um retrato mais rico da humanidade“, diz Joy. O documentário da Joy, o Coded Gaze: Unmasking Algorithmic Bias (algo como “o olhar codificado: desmascarando o preconceito algorítmico”) foi lançado no Museu de Belas Artes de Boston. O documentário mostra como a falta de diversidade na tecnologia levou à construção de algoritmos falhos e preconceituosos.
No começo deste ano, a Joy foi ganhadora do prêmio Search for Hidden Figures. Nesse link aqui ela fala um pouco mais sobre isso e no vídeo abaixo dá pra aprender um pouco sobre a trajetória dela:
Em uma entrevista para a BBC, a Joy conta que espera que a situação comece a melhorar, conforme as pessoas tomem consciência dos potenciais problemas decorrentes do preconceito algorítmico. “Qualquer tecnologia que criamos reflete tanto nossas aspirações quanto nossas limitações”, diz Joy, “se formos limitados na hora de pensar inclusão, isso vai ser refletido e incorporadona tecnologia que criamos”.
Segue a Joy no Twitter pra acompanhar os projetos dela!
