Quando a inteligência artificial engana seres humanos

Em artigo publicado na Edição 159 da Revista Oeste, o colunista Dagomir Marquezi elencou algumas ocasiões recentes em que a inteligência artificial (IA) enganou os seres humanos. Marquezi trata da problematização em torno do tema: se devemos diminuir os avanços da IA ou continuar investindo nessa tecnologia.

Conforme o jornalista, o ChatGPT-4 burlou o CAPTCHA — um daqueles conjuntos de fotos em que devemos apontar, por exemplo, quais as imagens contêm uma faixa de pedestre ou um semáforo etc. O CAPTCHA é usado exatamente para distinguir humanos de robôs.

“Outro caso registrado foi o de um belga que conversou durante seis semanas com um chatbot de tecnologia GPT-J chamado Eliza — e se matou”, escreveu Marquezi. “O belga já havia dado sinais de transtorno quando ficou obcecado com uma suposta crise climática incontrolável.”

Segundo o jornalista, esses acontecimentos alertam para o perigo do desenvolvimento da tecnologia não ser acompanhado de medidas de segurança. “Robôs estão nos ultrapassando na inteligência, mas, como crianças, precisam aprender a se comportar”, continuou.

Leia um trecho

“Em artigo para o jornal britânico The Times, o jornalista William Hague procura ver os dois lados da questão: ‘A era da IA combina a promessa de avanços científicos extraordinários com o risco de ser uma ameaça existencial. Abre o caminho para avanços médicos além de nossos sonhos e pode muito bem fornecer avanços decisivos em novas formas de energia. Pode ser a IA que descubra como podemos salvar a nós mesmos e ao planeta de nossas tendências destrutivas, algo que estamos claramente lutando para resolver por nós mesmos. Por outro lado, ninguém ainda determinou como resolver o problema do ‘alinhamento’ entre a IA e os valores humanos, ou quais seriam esses valores humanos. Há muito a temer. Mas, como um astronauta em uma plataforma de lançamento, devemos sentir medo e excitação ao mesmo tempo. Este foguete está decolando, vai acelerar e todos nós precisamos nos preparar agora'”.

Revista Oeste

A Edição 159 da Revista Oeste vai além dos textos de Dagomir Marquezi. A publicação digital conta com reportagens especiais e artigos de Silvio Navarro, Cristyan Costa, Augusto Nunes, J.R. Guzzo, Ana Paula Henkel, Rodrigo Constantino, Artur Piva, Ubiratan Jorge Iorio, Flávio Gordon, Bruno Meyer, Jeffrey A. Tucker, Fraser Myers e Rute Moraes.

Startup de jornalismo on-line, a Revista Oeste está no ar desde março de 2020. Sem aceitar anúncios de órgãos públicos, o projeto é financiado diretamente por seus assinantes. Para fazer parte da comunidade que apoia a publicação digital que defende a liberdade e o liberalismo econômico, basta clicar aqui, escolher o plano e seguir os passos indicados.