Novo
Agora IDGNow! é IT Midia.com
Fazer login no IT Mídia Redefinir senha
Bem-vindo de volta,
Digite seu e-mail e clique em enviar
Ainda não tem uma conta? Cadastre-se
Logo ITMidia
Logo ComputerWorld
Logo PCWorld
Logo CIO
Logo ITForum
Salvar em Nova pasta de favoritos

+

Criar pasta
Últimos favoritos Ver todos
Últimas notícias do conteúdo : Ver todos
Google usa IA em projeto contra comentários abusivos na Internet
Google usa IA em projeto contra comentários abusivos na Internet
Home > Internet

Google usa IA em projeto contra comentários abusivos na Internet

Chamado de Perspective, novo projeto foi feito em parceria com a Jigsaw e só está disponível em inglês por enquanto.

PC World / EUA

24/02/2017 às 10h17

GOOGLEHQ_625.jpg
Foto:

A Internet é um lugar complicado para ter uma conversa. Os abusos on-line já fizeram com que muita gente abandonasse as redes sociais que não são bem equipadas para lidar com isso, e alguns sites de notícias desabilitaram as suas seções de comentários.

É por isso que o Google e a Jigsaw (uma empresa incubada pela empresa mãe do Google, a Alphabet) estão trabalhando em um novo projeto chamado Perspective, que usa Inteligência Artificial (IA) para tentar identificar comentários tóxicos - e reduzi-los. Liberada nesta sexta-feira, 24/2, a API do Perspective fornecerá aos desenvolvedores uma pontuação de quão provável é que os usuários percebam um documentário como tóxico.

Em troca, essa pontuação poderia ser usado para desenvolver recursos como filtragem automática de posts ou fornecer feedback ao usuários sobre o que estão escrevendo antes que eles enviem para publicação. Desde ontem, 23/2, os desenvolvedores podem solicitar acesso à API para uso em projetos que estejam trabalhando, e a Jigsaw irá aprová-los com o tempo.

Muitos sites de notícias não possuem a disposição ou o tempo para passar o tempo moderando agressivamente os comentários em suas reportagens e, por isso, decidiram desabilitá-los completamente e liberar a discussão nas redes sociais. O The New York Times, que ajudou no desenvolvimento do Perspective, por exemplo, abre os comentários em apenas 10% das suas reportagens por conta do esforço necessário para moderá-los manualmente.

O Google também tem um interesse velado em um filtro melhor contra abusos. Suas seções de comentários no YouTube podem ficar cheias de ódio, deixando os criadores de conteúdos com mais uma tarefa pesada nas mãos. Usar a API do Perspective para filtrar os comentários pode ajudar a aliviar isso.

No entanto, a interpretação dos comentários pelo Perspective ainda está longe de ser perfeita. Uma série de afirmações profanas feita com a intenção de aprovar algo foi marcada como provavelmente tóxica. Por exemplo, o sistema classificou a frase “This is some kick-ass music right here” como 85% similar a comentários que outras pessoas afirmaram ser tóxicos.

A Jigsaw, por sua vez, reconhece os potenciais problemas. O site do Perspective dá aos usuários uma maneira de testar comentários e dizer se eles são tóxicos ou não. A implicação aí é que a equipe da empresa vai levar esse feedback em conta com interações posteriores na tecnologia de reconhecimento de abuso.

“Ainda estamos no começo e vamos entender muita coisa errada”, afirmou a empresa em seu site.

Por enquanto, o Perspective só está disponível em inglês, apesar de aparentemente conseguir compreender contextualmente alguns comentários tóxicos em outros idiomas.

Tags
Junte-se a nós e receba nossas melhores histórias de tecnologia. Newsletter por e-mail Newsletter por e-mail
Vai um cookie?

A IT Mídia usa cookies para personalizar conteúdo e anúncios, para melhorar sua experiência em nosso site. Ao continuar, você aceitará o uso. Para mais detalhes veja nossa Política de Privacidade.

Este anúncio desaparecerá em:

Ir para o site