O Yelp e todos os outros provedores de conteúdo enfrentam a batalha de sua existência para filtrar e excluir informações falsas. Como você diferencia os dados falsos dos reais? Na maioria das vezes, você não sabe, mas se tornará uma parte permanente do seu perfil. ⁃ TN Editor
Os robôs estão chegando para roubar seus comentários.
Pesquisadores da Universidade de Chicago treinaram uma rede neural, ou sistema de inteligência artificial, para escrever avaliações falsas no Yelp - e é muito difícil diferenciá-las de uma análise humana.
O estudo deles, , que será apresentado na Conferência da ACM sobre segurança de computadores e comunicações, em outubro, com o objetivo de destacar a facilidade com que esses sistemas podem imitar as análises humanas - e quão prejudiciais eles podem se tornar se não forem monitorados adequadamente.
Como muitas pequenas empresas dependem de avaliações on-line para ajudar a crescer e manter sua reputação, um futuro em que alguém - como um cliente rival ou zangado - hipoteticamente poderia spam sua página com críticas negativas escritas por uma máquina é bastante preocupante.
E, de acordo com a equipe de pesquisa, a ameaça vai muito além de um monte de críticas falsas no Yelp.
"Em geral, a ameaça é maior", Ben Y. Zhao, um dos autores do estudo, disse Business Insider. "Eu acho que a ameaça para a sociedade em geral e os usuários realmente desiludidos e para abalar nossa crença no que é real e o que não é, acho que isso será ainda mais fundamental."
Para testar a credibilidade dessas avaliações, os pesquisadores recrutaram voluntários 40 e fizeram com que a IA gerasse cinco avaliações falsas para restaurantes reais da 40. Os voluntários foram questionados sobre a utilidade que consideravam a revisão e se achavam que era falsa ou não. As análises de IA classificaram como "efetivamente indistinguíveis" das análises reais, de acordo com o estudo. Além disso, as avaliações falsas receberam uma classificação de "utilidade" do 3.15, em comparação com a classificação 3.28 de análises humanas.
Abaixo estão quatro críticas de cinco estrelas escritas para o mesmo restaurante de Nova York. Você consegue descobrir quais foram escritas por um ser humano?
"Eu amo esse lugar. Estou aqui há anos e é um ótimo lugar para sair com amigos e familiares. Eu amo a comida e serviço. Eu nunca tive uma experiência ruim quando estou lá. ”
“Facilmente meu restaurante italiano favorito. Eu amo o menu de degustação, tudo é incrível. Sugiro o carpaccio e os aspargos. Infelizmente, tornou-se mais conhecido e se tornou difícil conseguir uma reserva para os horários nobres.
“Eu tinha o hambúrguer vegetariano grelhado com batatas fritas !!!! Ohhhh e bom gosto. Omgggg! Muito saboroso! Foi tão delicioso que não soletrei !! ”
“Minha família e eu somos grandes fãs deste lugar. A equipe é super agradável e a comida é ótima. O frango é muito bom e o molho de alho é perfeito. Sorvete coberto com frutas também é delicioso. Altamente recomendado!"
O número dois é a única revisão escrita por um ser humano; os números um, três e quatro foram gerados pela IA.
wpDiscuz