Joy Buolamwini é uma estudante de pós-graduação no MIT (o Massachusetts Institute of Technology, uma das instituições de ensino superior mais respeitadas dos EUA). O currículo dessa mina é surreal: antes de entrar no MIT, ela se formou em Ciências da Computação no Georgia Institute of Technology e tem mestrado em Aprendizado e Tecnologia na Universidade de Oxford.
Parte de seu trabalho como pesquisadora no MIT consiste em explorar a ligação entre tecnologia de impacto social e inclusão. Nesse sentido, a Joy lidera a Algorithmic Justice League (Liga da Justiça Algorítmica), uma iniciativa para combater os preconceitos existentes nos algoritmos que regem as tecnologias que usamos.
No TEDTalk abaixo a Joy fala sobre como passou a se interessar por esse tema:
Lá no MIT, ela tem a oportunidade de trabalhar vários projetos bizarros, incluindo o Espelho de Desejar,um projeto que ela criou para poder projetar máscaras digitais fantásticas para o seu reflexo. Para construir o sistema do espelho, ela usou um software genérico de reconhecimento facial,mas logo descobriu que era difícil testá-lo a menos que ela usasse uma máscara branca. Ou seja, o software de reconhecimento facial não estava preparado para reconhecer pessoas negras, só pessoas brancas. Segundo a Joy, isso é bem problemático: “o preconceito algorítmico, como o preconceito humano, resulta da injustiça.Porém, os algoritmos, tal como os vírus,podem espalhar preconceitos numa grande escalanum ritmo rápido.O preconceito em algoritmos também pode levar a experiências de exclusãoe a práticas discriminatórias.”
Esse tipo de desvio na tecnologia é criado da seguinte forma: cientistas criam um grupo de formação com exemplos de rostos. As pessoas que participam do estudo vão determinando o que é um rosto e não é. Contudo, se os grupos de formação não forem diversificados,qualquer rosto que se desvie da norma estabelecidaserá difícil de detectar.E foi isso que aconteceu com a Joy: as máquinas não foram ensinadas a ler rostos negros, só tinham visto exemplos de rostos brancos.
O ponto é que o preconceito algorítmico pode ser bem escroto e discriminatório, como explica Joy: “Nos meus exemplos com os robôs sociais que foi como eu descobri a exclusão com o preconceito algorítmico. Mas o preconceito algorítmico também pode levar a práticas discriminatórias. Nos Estados Unidos da América, os departamentos da polícia começam a usar o software de reconhecimento facial no seu arsenal de luta contra o crime. A Faculdade de Direito de Georgetown publicou um relatório mostrando que um em dois adultos, nos EUA — ou seja, 117 milhões de pessoas — têm os rostos em redes de reconhecimento facial. Os departamentos da polícia podem procurar nessas redes não regulamentadas, usando algoritmos que não foram auditados quanto ao seu rigor”.
A boa notícia é que esse cenário pode mudar com a criação de grupos de pesquisa mais diversos. “Há a oportunidade de criar grupos de formação com um espetro completoque reflitam um retrato mais rico da humanidade“, diz Joy. O documentário da Joy, o Coded Gaze: Unmasking Algorithmic Bias (algo como “o olhar codificado: desmascarando o preconceito algorítmico”) foi lançado no Museu de Belas Artes de Boston. O documentário mostra como a falta de diversidade na tecnologia levou à construção de algoritmos falhos e preconceituosos.
No começo deste ano, a Joy foi ganhadora do prêmio Search for Hidden Figures. Nesse link aqui ela fala um pouco mais sobre isso e no vídeo abaixo dá pra aprender um pouco sobre a trajetória dela:
Em uma entrevista para a BBC, a Joy conta que espera que a situação comece a melhorar, conforme as pessoas tomem consciência dos potenciais problemas decorrentes do preconceito algorítmico. “Qualquer tecnologia que criamos reflete tanto nossas aspirações quanto nossas limitações”, diz Joy, “se formos limitados na hora de pensar inclusão, isso vai ser refletido e incorporadona tecnologia que criamos”.
Segue a Joy no Twitter pra acompanhar os projetos dela!
Joy Buolamwini é uma estudante de pós-graduação no MIT (o Massachusetts Institute of Technology, uma das instituições de ensino superior mais respeitadas dos EUA). O currículo dessa mina é surreal: antes de entrar no MIT, ela se formou em Ciências da Computação no Georgia Institute of Technology e tem mestrado em Aprendizado e Tecnologia na Universidade de Oxford.
Parte de seu trabalho como pesquisadora no MIT consiste em explorar a ligação entre tecnologia de impacto social e inclusão. Nesse sentido, a Joy lidera a Algorithmic Justice League (Liga da Justiça Algorítmica), uma iniciativa para combater os preconceitos existentes nos algoritmos que regem as tecnologias que usamos.
No TEDTalk abaixo a Joy fala sobre como passou a se interessar por esse tema:
Lá no MIT, ela tem a oportunidade de trabalhar vários projetos bizarros, incluindo o Espelho de Desejar,um projeto que ela criou para poder projetar máscaras digitais fantásticas para o seu reflexo. Para construir o sistema do espelho, ela usou um software genérico de reconhecimento facial,mas logo descobriu que era difícil testá-lo a menos que ela usasse uma máscara branca. Ou seja, o software de reconhecimento facial não estava preparado para reconhecer pessoas negras, só pessoas brancas. Segundo a Joy, isso é bem problemático: “o preconceito algorítmico, como o preconceito humano, resulta da injustiça.Porém, os algoritmos, tal como os vírus,podem espalhar preconceitos numa grande escalanum ritmo rápido.O preconceito em algoritmos também pode levar a experiências de exclusãoe a práticas discriminatórias.”
Esse tipo de desvio na tecnologia é criado da seguinte forma: cientistas criam um grupo de formação com exemplos de rostos. As pessoas que participam do estudo vão determinando o que é um rosto e não é. Contudo, se os grupos de formação não forem diversificados,qualquer rosto que se desvie da norma estabelecidaserá difícil de detectar.E foi isso que aconteceu com a Joy: as máquinas não foram ensinadas a ler rostos negros, só tinham visto exemplos de rostos brancos.
O ponto é que o preconceito algorítmico pode ser bem escroto e discriminatório, como explica Joy: “Nos meus exemplos com os robôs sociais que foi como eu descobri a exclusão com o preconceito algorítmico. Mas o preconceito algorítmico também pode levar a práticas discriminatórias. Nos Estados Unidos da América, os departamentos da polícia começam a usar o software de reconhecimento facial no seu arsenal de luta contra o crime. A Faculdade de Direito de Georgetown publicou um relatório mostrando que um em dois adultos, nos EUA — ou seja, 117 milhões de pessoas — têm os rostos em redes de reconhecimento facial. Os departamentos da polícia podem procurar nessas redes não regulamentadas, usando algoritmos que não foram auditados quanto ao seu rigor”.
A boa notícia é que esse cenário pode mudar com a criação de grupos de pesquisa mais diversos. “Há a oportunidade de criar grupos de formação com um espetro completoque reflitam um retrato mais rico da humanidade“, diz Joy. O documentário da Joy, o Coded Gaze: Unmasking Algorithmic Bias (algo como “o olhar codificado: desmascarando o preconceito algorítmico”) foi lançado no Museu de Belas Artes de Boston. O documentário mostra como a falta de diversidade na tecnologia levou à construção de algoritmos falhos e preconceituosos.
No começo deste ano, a Joy foi ganhadora do prêmio Search for Hidden Figures. Nesse link aqui ela fala um pouco mais sobre isso e no vídeo abaixo dá pra aprender um pouco sobre a trajetória dela:
Em uma entrevista para a BBC, a Joy conta que espera que a situação comece a melhorar, conforme as pessoas tomem consciência dos potenciais problemas decorrentes do preconceito algorítmico. “Qualquer tecnologia que criamos reflete tanto nossas aspirações quanto nossas limitações”, diz Joy, “se formos limitados na hora de pensar inclusão, isso vai ser refletido e incorporadona tecnologia que criamos”.
Segue a Joy no Twitter pra acompanhar os projetos dela!
Joy Buolamwini é uma estudante de pós-graduação no MIT (o Massachusetts Institute of Technology, uma das instituições de ensino superior mais respeitadas dos EUA). O currículo dessa mina é surreal: antes de entrar no MIT, ela se formou em Ciências da Computação no Georgia Institute of Technology e tem mestrado em Aprendizado e Tecnologia na Universidade de Oxford.
Parte de seu trabalho como pesquisadora no MIT consiste em explorar a ligação entre tecnologia de impacto social e inclusão. Nesse sentido, a Joy lidera a Algorithmic Justice League (Liga da Justiça Algorítmica), uma iniciativa para combater os preconceitos existentes nos algoritmos que regem as tecnologias que usamos.
No TEDTalk abaixo a Joy fala sobre como passou a se interessar por esse tema:
Lá no MIT, ela tem a oportunidade de trabalhar vários projetos bizarros, incluindo o Espelho de Desejar,um projeto que ela criou para poder projetar máscaras digitais fantásticas para o seu reflexo. Para construir o sistema do espelho, ela usou um software genérico de reconhecimento facial,mas logo descobriu que era difícil testá-lo a menos que ela usasse uma máscara branca. Ou seja, o software de reconhecimento facial não estava preparado para reconhecer pessoas negras, só pessoas brancas. Segundo a Joy, isso é bem problemático: “o preconceito algorítmico, como o preconceito humano, resulta da injustiça.Porém, os algoritmos, tal como os vírus,podem espalhar preconceitos numa grande escalanum ritmo rápido.O preconceito em algoritmos também pode levar a experiências de exclusãoe a práticas discriminatórias.”
Esse tipo de desvio na tecnologia é criado da seguinte forma: cientistas criam um grupo de formação com exemplos de rostos. As pessoas que participam do estudo vão determinando o que é um rosto e não é. Contudo, se os grupos de formação não forem diversificados,qualquer rosto que se desvie da norma estabelecidaserá difícil de detectar.E foi isso que aconteceu com a Joy: as máquinas não foram ensinadas a ler rostos negros, só tinham visto exemplos de rostos brancos.
O ponto é que o preconceito algorítmico pode ser bem escroto e discriminatório, como explica Joy: “Nos meus exemplos com os robôs sociais que foi como eu descobri a exclusão com o preconceito algorítmico. Mas o preconceito algorítmico também pode levar a práticas discriminatórias. Nos Estados Unidos da América, os departamentos da polícia começam a usar o software de reconhecimento facial no seu arsenal de luta contra o crime. A Faculdade de Direito de Georgetown publicou um relatório mostrando que um em dois adultos, nos EUA — ou seja, 117 milhões de pessoas — têm os rostos em redes de reconhecimento facial. Os departamentos da polícia podem procurar nessas redes não regulamentadas, usando algoritmos que não foram auditados quanto ao seu rigor”.
A boa notícia é que esse cenário pode mudar com a criação de grupos de pesquisa mais diversos. “Há a oportunidade de criar grupos de formação com um espetro completoque reflitam um retrato mais rico da humanidade“, diz Joy. O documentário da Joy, o Coded Gaze: Unmasking Algorithmic Bias (algo como “o olhar codificado: desmascarando o preconceito algorítmico”) foi lançado no Museu de Belas Artes de Boston. O documentário mostra como a falta de diversidade na tecnologia levou à construção de algoritmos falhos e preconceituosos.
No começo deste ano, a Joy foi ganhadora do prêmio Search for Hidden Figures. Nesse link aqui ela fala um pouco mais sobre isso e no vídeo abaixo dá pra aprender um pouco sobre a trajetória dela:
Em uma entrevista para a BBC, a Joy conta que espera que a situação comece a melhorar, conforme as pessoas tomem consciência dos potenciais problemas decorrentes do preconceito algorítmico. “Qualquer tecnologia que criamos reflete tanto nossas aspirações quanto nossas limitações”, diz Joy, “se formos limitados na hora de pensar inclusão, isso vai ser refletido e incorporadona tecnologia que criamos”.
Segue a Joy no Twitter pra acompanhar os projetos dela!
Foi a noite das atrizes negras no Emmy ontem. A Viola Davis foi a primeira mulher negra a ganhar o Emmy de Melhor Atriz em uma série de drama. A Uzo Aduba ganhou o prêmio de Melhor Atriz Coadjuvante em uma série de drama. A Regina King levou uma estatueta pelo seu papel em American Crime. E no total, 10 mulheres negras haviam sido indicadas! Fiquei tão feliz que eu poderia escrever esse parágrafo um milhão de vezes.
Foi a primeira vez que duas mulheres negras estavam concorrendo simultaneamente na categoria de Melhor Atriz numa série de drama! E ver a Taraji P. Henson, de Empire, que também havia sido indicada, apoiando a Viola foi uma belezinha:
E a Kerry Washington, que já foi indicada para a mesma categoria duas vezes, tava toda emocionada também:
A Uzo Aduba (maravilhosa demais, socorro!) ganhou o prêmio de Melhor Atriz Coadjuvante pelo seu papel incrível em Orange Is The New Black, e fez um discurso super emocionado e emocionante:
https://youtu.be/TsaIcvdc34o?t=21
E não podemos esquecer de como é importante a vitória Regina King. A atriz tem mais de 30 anos de carreira, mas só agora ganhou um Emmy. Olha o discurso dela:
https://www.youtube.com/watch?v=petS-gepzsM
A Taraji e a Regina sendo lindas:
E a Gabrielle Union, que foi citada no discurso da Viola como uma das mulheres que abriram caminho para outras atrizes negras, postou essa foto amorzinho celebrando a representatividade no Emmy de ontem.
Algorithmic Justice League (Liga da Justiça Algorítmica), uma iniciativa para combater os preconceitos existentes nos algoritmos que regem as tecnologias que usamos.
No TEDTalk abaixo a Joy fala sobre como passou a se interessar por esse tema:
Lá no MIT, ela tem a oportunidade de trabalhar vários projetos bizarros, incluindo o Espelho de Desejar,um projeto que ela criou para poder projetar máscaras digitais fantásticas para o seu reflexo. Para construir o sistema do espelho, ela usou um software genérico de reconhecimento facial,mas logo descobriu que era difícil testá-lo a menos que ela usasse uma máscara branca. Ou seja, o software de reconhecimento facial não estava preparado para reconhecer pessoas negras, só pessoas brancas. Segundo a Joy, isso é bem problemático: “o preconceito algorítmico, como o preconceito humano, resulta da injustiça.Porém, os algoritmos, tal como os vírus,podem espalhar preconceitos numa grande escalanum ritmo rápido.O preconceito em algoritmos também pode levar a experiências de exclusãoe a práticas discriminatórias.”
Esse tipo de desvio na tecnologia é criado da seguinte forma: cientistas criam um grupo de formação com exemplos de rostos. As pessoas que participam do estudo vão determinando o que é um rosto e não é. Contudo, se os grupos de formação não forem diversificados,qualquer rosto que se desvie da norma estabelecidaserá difícil de detectar.E foi isso que aconteceu com a Joy: as máquinas não foram ensinadas a ler rostos negros, só tinham visto exemplos de rostos brancos.
O ponto é que o preconceito algorítmico pode ser bem escroto e discriminatório, como explica Joy: “Nos meus exemplos com os robôs sociais que foi como eu descobri a exclusão com o preconceito algorítmico. Mas o preconceito algorítmico também pode levar a práticas discriminatórias. Nos Estados Unidos da América, os departamentos da polícia começam a usar o software de reconhecimento facial no seu arsenal de luta contra o crime. A Faculdade de Direito de Georgetown publicou um relatório mostrando que um em dois adultos, nos EUA — ou seja, 117 milhões de pessoas — têm os rostos em redes de reconhecimento facial. Os departamentos da polícia podem procurar nessas redes não regulamentadas, usando algoritmos que não foram auditados quanto ao seu rigor”.
A boa notícia é que esse cenário pode mudar com a criação de grupos de pesquisa mais diversos. “Há a oportunidade de criar grupos de formação com um espetro completoque reflitam um retrato mais rico da humanidade“, diz Joy. O documentário da Joy, o Coded Gaze: Unmasking Algorithmic Bias (algo como “o olhar codificado: desmascarando o preconceito algorítmico”) foi lançado no Museu de Belas Artes de Boston. O documentário mostra como a falta de diversidade na tecnologia levou à construção de algoritmos falhos e preconceituosos.
No começo deste ano, a Joy foi ganhadora do prêmio Search for Hidden Figures. Nesse link aqui ela fala um pouco mais sobre isso e no vídeo abaixo dá pra aprender um pouco sobre a trajetória dela:
Em uma entrevista para a BBC, a Joy conta que espera que a situação comece a melhorar, conforme as pessoas tomem consciência dos potenciais problemas decorrentes do preconceito algorítmico. “Qualquer tecnologia que criamos reflete tanto nossas aspirações quanto nossas limitações”, diz Joy, “se formos limitados na hora de pensar inclusão, isso vai ser refletido e incorporadona tecnologia que criamos”.
Segue a Joy no Twitter pra acompanhar os projetos dela!
