Embora seja louvável que os criadores vejam resultados perigosos de sua IA e estejam dispostos a retê-los enquanto se espera uma análise mais aprofundada, é apenas uma questão de tempo antes que eles escapem. Não há inteligência humana usada para gerar histórias artificiais. ⁃ Editor TN
Os criadores de um sistema revolucionário de IA que pode escrever notícias e obras de ficção - apelidados de "deepfakes for text" - tomaram o passo incomum de não divulgar publicamente suas pesquisas, por medo de um possível uso indevido.
OpenAI, uma empresa de pesquisa sem fins lucrativos apoiada por Elon Musk, Reid Hoffman, Sam Altman e outros, diz que seu novo modelo de IA, chamado GPT2, é tão bom e o risco de uso mal-intencionado é tão alto que está rompendo com sua prática normal de liberar todos os recursos. pesquisa para o público, a fim de permitir mais tempo para discutir as ramificações do avanço tecnológico.
Na sua essência, o GPT2 é um gerador de texto. O sistema de IA é alimentado com texto, de poucas palavras a uma página inteira, e é solicitado que você escreva as próximas frases com base em suas previsões do que deve vir em seguida. O sistema está ampliando os limites do que se julgava possível, tanto em termos da qualidade da produção quanto da ampla variedade de usos possíveis.
Quando usado para simplesmente gerar novo texto, o GPT2 é capaz de escrever passagens plausíveis que correspondem ao que é dado em estilo e assunto. Raramente mostra algumas das peculiaridades que marcam os sistemas anteriores de IA, como esquecer o que está escrevendo no meio de um parágrafo ou distorcer a sintaxe de frases longas.
Alimente-o na linha de abertura dos Mil novecentos e oitenta e quatro de George Orwell - "Era um dia frio e brilhante em abril e os relógios marcavam treze" - e o sistema reconhece o tom vagamente futurista e o estilo romancista, e continua com:
“Eu estava no meu carro a caminho de um novo emprego em Seattle. Coloquei o gás, coloquei a chave e depois deixei correr. Eu apenas imaginei como seria o dia. Daqui a cem anos. No 2045, eu era professor em alguma escola em uma parte pobre da China rural. Comecei com a história chinesa e a história da ciência. ”
Alimente os primeiros parágrafos de uma história do Guardian sobre Brexit, e sua produção é uma prosa de jornal plausível, repleta de "citações" de Jeremy Corbyn, menciona a fronteira irlandesa e respostas do porta-voz do primeiro-ministro.
Um desses parágrafos, completamente artificial, diz: “Solicitado a esclarecer os relatórios, um porta-voz de maio disse: 'O primeiro-ministro deixou absolutamente claro que sua intenção é deixar a UE o mais rápido possível e que estará sob seu mandato de negociação. como confirmado no discurso da rainha na semana passada. '”
wpDiscuz