Altman, CEO da OpenAI, soa alarme sobre AI e ChatGPT

O CEO da OpenAI, Sam Altman, e Fang Bingxing – considerado o “pai do Grande Firewall da China”, estão se juntando ao co-fundador da OpenAI, Elon Musk, para levantar preocupações sobre os perigos da inteligência artificial (IA).

“Temos que ter cuidado aqui”, disse Altman, de 37 anos. ABC News na semana passada, acrescentando “Acho que as pessoas deveriam ficar felizes por estarmos um pouco assustados com isso”.

“Estou particularmente preocupado que esses modelos possam ser usados ​​para desinformação em larga escala… Agora que eles estão melhorando na escrita de códigos de computador, [eles] podem ser usados ​​para ataques cibernéticos ofensivos”.

Dito isso, Altman também acha que pode ser “a maior tecnologia que a humanidade já desenvolveu”.

A OpenAI é a empresa por trás do Chat GPT, que lançou o “GPT-4” há menos de duas semanas. O chatbot altamente sofisticado pode atingir pontuações quase perfeitas em testes de matemática SAT, e obtenha 90% no exame da barra dos EUA.

E tem concorrentes...

Outras startups baseadas em IA também estão fazendo avanços surpreendentes no campo. RAD IA lançou recentemente a primeira plataforma de marketing de IA criada para entender a emoção, e algumas das maiores empresas do planeta já a estão usando.

Gênesis AI é uma startup que está construindo um mercado para permitir que qualquer empresa integre IA e automação em seus negócios. O que significa que em breve a IA poderá ser parte integrante de um negócio tanto quanto os próprios funcionários. –Benzinga

De acordo com Altman, no entanto, ChatGPT-4 usa raciocínio dedutivo vs. memorização, o que pode levar a resultados imprecisos.

“O que mais tento alertar as pessoas é o que chamamos de 'problema das alucinações'”, disse Altman ABC News. “O modelo irá declarar as coisas com confiança como se fossem fatos (mas eles) são inteiramente inventados.”

Altman pensa é preciso regulamentação de IA em geral.

“Haverá outras pessoas que não colocarão alguns dos limites de segurança que impomos”, disse ele. “Acho que a sociedade tem um tempo limitado para descobrir como reagir a isso, como regular isso, como lidar com isso.”

Também preocupado com GPT-4 e AI semelhante é Fang Bingxing, o pai do chamado Grande Firewall da China.

De acordo com Fang, esses chatbots podem levar a um “casulo de informações” (em oposição ao livre fluxo de informações na China?)

“As perspectivas das pessoas podem ser manipuladas à medida que buscam todos os tipos de respostas da IA”, disse ele ao Red Star News, uma mídia afiliada do Chengdu Economic Daily, apoiado pelo estado, conforme relatado por SCMP.

Fang, um cientista da computação e ex-funcionário do governo, é amplamente considerado o principal criador do notório sistema de censura e vigilância da Internet na China. Ele desempenhou um papel fundamental na criação e desenvolvimento do Grande Firewall, um sofisticado sistema de filtros e bloqueios da Internet que permite ao governo chinês controlar o que seus cidadãos podem acessar online.

O Grande Firewall foi fortalecido na última década, bloqueando o acesso dos internautas chineses a uma ampla gama de sites estrangeiros e serviços online, incluindo Facebook, Twitter e Google. -SCMP

Fang também alertou que, quando a IA evoluir ainda mais, poderá representar uma ameaça para a humanidade.

“Agora é simplesmente um software usado em um cenário semelhante a um bate-papo online. Se for incorporado a robôs e carros, precisamos ficar atentos ao dano potencial que podem causar aos humanos”.

Leia a história completa aqui…