MIT apagou base de dados popular que ensinou IA a ser racista e sexista

O Instituto de Tecnologia de Massachusetts (MIT), nos Estados Unidos, viu-se obrigado apagar uma base de dados de treinamento de Inteligência Artifical (IA) depois de esta ensinar vários algoritmos a usar insultos racistas e sexistas.

Tal como recorda o portal Futurism, a qualidade de um algoritmo é definida segundo a qualidade da sua própria base de dados. Por esse mesmo motivo, este popular conjunto de dados utilizados pelo MIT teve de ser apagado.

O banco de dados ofensivo, que reunia cerca de 80 milhões de imagens minúsculas, teve de ser eliminado para bem do algoritmos que são treinados, escreve The Register.

Apesar de ser utilizada para treinar IA no âmbito do reconhecimento de imagens desde 2008, a base numa foi investigada por causa de conteúdos racistas ou misógnios, o que significa que muitos dos algoritmos criados podem ter um viés ofensivo.

A IA aprende a interpretar e a identificar objetos nas imagens depois de analisar milhares de imagens que já foram categorizadas. No conjunto de dados do MIT, milhares de fotos de pessoas negras e de macacos foram rotuladas com a tag “N-word”.

Na mesma base, imagens de mulheres foram rotuladas com insultos misóginos. Depois de treinada e de absorver estes algoritmos, a IA pode perpetuar estes preconceitos para o mundo real, explica ainda o Futurism.

“Está claro que devíamos ter analisado a base manualmente”, disse ao The Register o cientista da computação e engenheiro elétrico Antonio Torralba. “Por isso, pedimos as mais sinceras desculpas. De factos, colocamos o conjunto de dados [em causa] offline, para que as imagens e categorias ofensivas possam ser removidas”.

ZAP //

PARTILHAR

RESPONDER

Feitos de estrelas. Os nossos ossos são compostos por estrelas que explodiram

Uma nova investigação concluiu que metade do cálcio do nosso Universo é oriundo de uma supernova rica em cálcio, que explodiu há milhões de anos. O novo estudo, cujos resultados foram esta semana publicados na revista …

"Monarquia criminosa". Parlamento declara Catalunha republicana e não reconhece o rei

O Parlamento catalão aprovou esta sexta-feira uma resolução na qual declara que “a Catalunha é republicana e, portanto, não reconhece nem quer ter um rei”, rotulando a monarquia de “criminosa”. A resolução foi aprovada em sessão …

Novo método deteta metais tóxicos em alimentos e água em apenas algumas horas

Uma equipa de cientistas da Universidade de Joanesburgo, na África do Sul, desenvolveu um método sensível para detetar níveis perigosos de metais pesados em alguns alimentos e água. Os vestígios de metais como chumbo (Pb), arsénico …

Meghan Markle vence primeira batalha judicial contra jornal britânico

A Duquesa de Sussex conseguiu que o Tribunal Superior de Londres optasse por manter anónima a identidade das suas cinco amigas, como parte da ação legal que está a ser levada a cabo. O 39º aniversário …

Cientistas obrigados a rebatizar dezenas de genes humanos. A culpa é do Excel

Só no ano passado, os cientistas viram-se obrigados a mudar os nomes de 27 genes humanos por causa de um erro de leitura do Microsoft Excel. Tal como explica o portal The Verge, que avança …

"Vai continuar a queimar". Covid-19 é mais parecida com um fogo florestal do que com ondas e picos

Com o surgimento do novo coronavírus no mundo, vários especialistas previam que este iria surgir em ondas e picos. Agora a visão de futuro é outra e os especialistas dizem que a pandemia se compara …

Mudanças climáticas podem vir a causar mais mortes do que a covid-19, alerta Bill Gates

  As mudanças climáticas podem custar muito mais vidas nas próximas décadas do que a pandemia do novo coronavírus (covid-19). O alerta é do co-fundador da Microsoft, Bill Gates, que, através de uma reflexão no seu …

Descoberta a primeira disrupção gigante nas nuvens de Vénus

Uma equipa internacional de cientistas, que incluiu um investigador do Instituto de Astrofísica e Ciências do Espaço (IA), descobriu a "primeira disrupção gigante" nas nuvens de Vénus que tem fustigado as zonas profundas da atmosfera …

TVI aposta em estúdio a Norte. Nuno Santos quer Informação mais ao estilo da SIC Notícias do que da CMTV

O diretor-geral da TVI, Nuno Santos, afirmou, em entrevista ao jornal Público, que a estação de Queluz de Baixo vai apostar num estúdio no Norte, revelando ainda que pretende mudar a Informação do canal mais …

Fair-play financeiro. UEFA mantém restrições ao FC Porto

A UEFA informou, esta sexta-feira, que o FC Porto "cumpriu parcialmente as metas estabelecidas para a época 2019/20" a nível do fair-play financeiro e que vai manter as restrições impostas ao clube azul e branco. "O …