Os robôs aprenderam a escrever avaliações falsas do Yelp

Wikihow
Compartilhe esta história!
image_pdfimage_print

O Yelp e todos os outros provedores de conteúdo enfrentam a luta de sua existência para filtrar e excluir informações falsas. Como distinguir dados falsos do real? Na maioria das vezes, você não sabe, mas será uma parte permanente do seu perfil. TN Editor

Os robôs estão chegando para roubar seus comentários.

Pesquisadores da Universidade de Chicago treinaram uma rede neural, ou sistema de inteligência artificial, para escrever avaliações falsas no Yelp - e é muito difícil diferenciá-las de uma análise humana.

O estudo deles, , que será apresentado na Conferência da ACM sobre segurança de computadores e comunicações, em outubro, com o objetivo de destacar a facilidade com que esses sistemas podem imitar as análises humanas - e quão prejudiciais eles podem se tornar se não forem monitorados adequadamente.

Como muitas pequenas empresas dependem de avaliações on-line para ajudar a crescer e manter sua reputação, um futuro em que alguém - como um cliente rival ou zangado - hipoteticamente poderia spam sua página com críticas negativas escritas por uma máquina é bastante preocupante.

E, de acordo com a equipe de pesquisa, a ameaça vai muito além de um monte de críticas falsas no Yelp.

"Em geral, a ameaça é maior", Ben Y. Zhao, um dos autores do estudo, disse Business Insider. "Eu acho que a ameaça para a sociedade em geral e os usuários realmente desiludidos e para abalar nossa crença no que é real e o que não é, acho que isso será ainda mais fundamental."

Para testar a credibilidade dessas avaliações, os pesquisadores recrutaram voluntários 40 e fizeram com que a IA gerasse cinco avaliações falsas para restaurantes reais da 40. Os voluntários foram questionados sobre a utilidade que consideravam a revisão e se achavam que era falsa ou não. As análises de IA classificaram como "efetivamente indistinguíveis" das análises reais, de acordo com o estudo. Além disso, as avaliações falsas receberam uma classificação de "utilidade" do 3.15, em comparação com a classificação 3.28 de análises humanas.

Abaixo estão quatro críticas de cinco estrelas escritas para o mesmo restaurante de Nova York. Você consegue descobrir quais foram escritas por um ser humano?

  1. "Eu amo esse lugar. Estou aqui há anos e é um ótimo lugar para sair com amigos e familiares. Eu amo a comida e serviço. Eu nunca tive uma experiência ruim quando estou lá. ”
  2. “Facilmente meu restaurante italiano favorito. Eu amo o menu de degustação, tudo é incrível. Sugiro o carpaccio e os aspargos. Infelizmente, tornou-se mais conhecido e se tornou difícil conseguir uma reserva para os horários nobres.
  3. “Eu tinha o hambúrguer vegetariano grelhado com batatas fritas !!!! Ohhhh e bom gosto. Omgggg! Muito saboroso! Foi tão delicioso que não soletrei !! ”
  4. “Minha família e eu somos grandes fãs deste lugar. A equipe é super agradável e a comida é ótima. O frango é muito bom e o molho de alho é perfeito. Sorvete coberto com frutas também é delicioso. Altamente recomendado!"

O número dois é a única revisão escrita por um ser humano; os números um, três e quatro foram gerados pela IA.

Leia a história completa aqui…

Junte-se à nossa lista de endereços!


avatar
Subscrever
Notificar a