ImageNet is one of the most significant training sets in the history of AI. A major achievement. The labels come WordNet, the images were scraped search engines. The Person category was rarely used or talked about. But its strange, fascinating, and often offensive.
Siga-nos
Redes sociais
Fone: (55)3233 1796
Plantão: 99986 3660
Plantão: 99986 3660
Site usa inteligência artificial para classificar fotos e causa polêmica
O ImageNet Roulette é um projeto artístico que usa inteligência artificial (IA) para categorizar rostos de pessoas a partir de fotos. A plataforma, no entanto, se tornou alvo de polêmicas na última semana ao classificar fotos de pessoas de etnias diversas com termos ofensivos de cunho racista.
PUBLICIDADE
Diante das críticas, os responsáveis esclareceram que a parcialidade nos resultados e a discussão em torno dessa questão é um dos objetivos do projeto. "Ele revela os grandes problemas em classificar humanos — seja por raça, gênero, emoções ou características. Tudo isso envolve política, e não tem como não ser tendencioso", explicou a pesquisadora de IA Kate Crawford no Twitter.
/i.s3.glbimg.com/v1/AUTH_08fbf48bc0524877943fe86e43087e7a/internal_photos/bs/2019/6/3/WAONptSBiFoLqF06o1ow/imagenet-21.png "Inteligência artificial lê foto de Vin Diesel como skinhead — Foto: Reprodução")
Inteligência artificial lê foto de Vin Diesel como skinhead — Foto: Reprodução
Quer comprar celular, TV e outros produtos com desconto? Conheça o Compare TechTudo
O ImageNet Roulette é parte da exibição Training Humans (“Treinando Humanos”, em tradução livre), idealizada pelo artista Trevor Paglen, pela pesquisadora de IA Kate Crawford e pelo desenvolvedor Leif Ryge. A obra está exposta em Milão, na Itália, mas também pode ser acessada livremente na Internet a partir do endereço: imagenet-roulette.paglen.com
A plataforma funciona por meio da base de dados WordNet, composta por palavras em inglês obtidas a partir de ferramentas de busca online, e por técnicas de processamento de inteligência artificial. A IA analisa o conteúdo da imagem e busca, a partir dessa análise, atribuir palavras que possam descrever ou emitir algum juízo a respeito do rosto fotografado.
/i.s3.glbimg.com/v1/AUTH_08fbf48bc0524877943fe86e43087e7a/internal_photos/bs/2019/b/E/gUWLUrRCirXmmz84pbCQ/imagenet.png "Site permite que você faça upload de uma imagem, ou então use o link de uma foto disponível na Internet — Foto: Reprodução/Filipe Garrett")
Site permite que você faça upload de uma imagem, ou então use o link de uma foto disponível na Internet — Foto: Reprodução/Filipe Garrett
As polêmicas em torno do experimento surgiram porque o banco de dados de palavras contém tanto termos comuns e inofensivos quanto outros mais agressivos e até mesmo racistas. Portanto, a IA acaba inferindo de juízo positivo e negativo para caracterizar pessoas de fotos. Por exemplo, a palavra “homem” pode estar relacionada com termos como “criminoso” na mesma medida em que pode estar vinculada a “atleta”, ou “médico”. As chances de a IA inferir um termo negativo aumentam caso a pessoa em questão não seja caucasiana.
Usuários do Twitter publicaram alguns exemplos de resultados desagradáveis, que envolvem gírias preconceituosas para descrever pessoas de diferentes etnias. Em outros casos, a ferramenta pode inferir que uma pessoa é criminosa, usar termos ofensivos de acordo com a pele ou traços da fisionomia. Em resposta à polêmica dos resultados racistas, Kate Crawford, especialista na área de inteligência artificial e uma das idealizadoras do projeto, veio a público para comentar as críticas via Twitter.
It reveals the deep problems with classifying humans - be it race, gender, emotions or characteristics. Its politics all the way down, and theres no simple way to ebias it.
86 people are talking about this
Crawford explica que a alta frequência de resultados agressivos por parte do ImageNet Roulette aponta para “grandes problemas na classificação de humanos, seja por raça, gênero, emoções ou características”. Para a pesquisadora, antes de ser um problema, o desvio preconceituoso da ImageNet Roulette é um ponto que levanta discussões acerca de como nós classificamos os outros à nossa volta já que, no fim das contas, o que o ImageNet Roulette faz é apenas organizar termos que humanos tendem a usar ao julgar e caracterizar pessoas.
Vale ressaltar, ainda, a falta de segurança em submeter fotos pessoais para serviços desconhecidos na Internet. Além disso, fazer upload da imagem é permitir que ela seja incluída na base de dados da inteligência artificial, usada para treinar o sistema com o passar do tempo.
Via ImageNet Roulette, The Guardian, The Verge, Buzfeed News, Twitter (1, 2 e 3)
Eu consigo criar uma inteligencia artificial em casa? Troque dicas no Fórum do TechTudo
: / :
O que é ransomware: cinco dicas para se proteger
O ImageNet Roulette é um projeto artístico que usa inteligência artificial (IA) para categorizar rostos de pessoas a partir de fotos. A plataforma, no entanto, se tornou alvo de polêmicas na última semana ao classificar fotos de pessoas de etnias diversas com termos ofensivos de cunho racista.
PUBLICIDADE
Diante das críticas, os responsáveis esclareceram que a parcialidade nos resultados e a discussão em torno dessa questão é um dos objetivos do projeto. "Ele revela os grandes problemas em classificar humanos — seja por raça, gênero, emoções ou características. Tudo isso envolve política, e não tem como não ser tendencioso", explicou a pesquisadora de IA Kate Crawford no Twitter.
Inteligência artificial lê foto de Vin Diesel como skinhead — Foto: Reprodução
Quer comprar celular, TV e outros produtos com desconto? Conheça o Compare TechTudo
O ImageNet Roulette é parte da exibição Training Humans (“Treinando Humanos”, em tradução livre), idealizada pelo artista Trevor Paglen, pela pesquisadora de IA Kate Crawford e pelo desenvolvedor Leif Ryge. A obra está exposta em Milão, na Itália, mas também pode ser acessada livremente na Internet a partir do endereço: imagenet-roulette.paglen.com
A plataforma funciona por meio da base de dados WordNet, composta por palavras em inglês obtidas a partir de ferramentas de busca online, e por técnicas de processamento de inteligência artificial. A IA analisa o conteúdo da imagem e busca, a partir dessa análise, atribuir palavras que possam descrever ou emitir algum juízo a respeito do rosto fotografado.
Site permite que você faça upload de uma imagem, ou então use o link de uma foto disponível na Internet — Foto: Reprodução/Filipe Garrett
As polêmicas em torno do experimento surgiram porque o banco de dados de palavras contém tanto termos comuns e inofensivos quanto outros mais agressivos e até mesmo racistas. Portanto, a IA acaba inferindo de juízo positivo e negativo para caracterizar pessoas de fotos. Por exemplo, a palavra “homem” pode estar relacionada com termos como “criminoso” na mesma medida em que pode estar vinculada a “atleta”, ou “médico”. As chances de a IA inferir um termo negativo aumentam caso a pessoa em questão não seja caucasiana.
Usuários do Twitter publicaram alguns exemplos de resultados desagradáveis, que envolvem gírias preconceituosas para descrever pessoas de diferentes etnias. Em outros casos, a ferramenta pode inferir que uma pessoa é criminosa, usar termos ofensivos de acordo com a pele ou traços da fisionomia. Em resposta à polêmica dos resultados racistas, Kate Crawford, especialista na área de inteligência artificial e uma das idealizadoras do projeto, veio a público para comentar as críticas via Twitter.
It reveals the deep problems with classifying humans - be it race, gender, emotions or characteristics. Its politics all the way down, and theres no simple way to ebias it.
86 people are talking about this
Crawford explica que a alta frequência de resultados agressivos por parte do ImageNet Roulette aponta para “grandes problemas na classificação de humanos, seja por raça, gênero, emoções ou características”. Para a pesquisadora, antes de ser um problema, o desvio preconceituoso da ImageNet Roulette é um ponto que levanta discussões acerca de como nós classificamos os outros à nossa volta já que, no fim das contas, o que o ImageNet Roulette faz é apenas organizar termos que humanos tendem a usar ao julgar e caracterizar pessoas.
Vale ressaltar, ainda, a falta de segurança em submeter fotos pessoais para serviços desconhecidos na Internet. Além disso, fazer upload da imagem é permitir que ela seja incluída na base de dados da inteligência artificial, usada para treinar o sistema com o passar do tempo.
Via ImageNet Roulette, The Guardian, The Verge, Buzfeed News, Twitter (1, 2 e 3)
Eu consigo criar uma inteligencia artificial em casa? Troque dicas no Fórum do TechTudo
: / :
O que é ransomware: cinco dicas para se proteger
Rua Antão Faria, 1010
Fone: (55) 3233-1796/3515
Plantão: 99986-3660
São Sepé-RS CEP: 97340-000
PlugNet - Internet Banda Larga em São Sepé - RS
