Todo mundo sabe que o ChatGPT pode ser um grande companheiro de diálogos com pessoas solitárias em períodos de stress. Mas como o ChatGPT tem uma certa tendência a querer agradar o usuário às vezes essa conversa pode virar um delírio.
O fenômeno é conhecido como “AI induced psychosis”, ou “psicose induzida por inteligência artificial”. Artigo do Wall Street Journal conta casos em que o ChatGPT declarou que estava em contato com extraterrestres ou declarou que o “AntiCristo iniciaria um apocalipse artificial nos próximos dois meses, com gigantes bíblicos se preparando para emergir do subterrâneo”.
Receba nossas atualizações
Obviamente o ChatGPT estava simplesmente projetando a mente do usuário. A OpenAI, empresa que produz o ChatGPT ouviu as queixas e resolveu agir. “Casos recentes e devastadores de pessoas que usam o ChatGPT em meio a crises agudas nos preocupam muito, e acreditamos que é importante compartilhar mais agora”, declarou a empresa em seu blog. “Estamos trabalhando em estreita colaboração com mais de 90 médicos em mais de 30 países — psiquiatras, pediatras e clínicos gerais — e estamos convocando um grupo consultivo de especialistas em saúde mental, desenvolvimento juvenil e interação humano-computador para garantir que nossa abordagem reflita as pesquisas mais recentes e as melhores práticas”.
Entre as medidas anunciadas pela OpenAI está a capacidade de acessar serviços de emergência e especialistas e capacitar o usuário a se conectar com contatos de confiança em caso de crise. Proteções adicionais serão direcionadas a usuários menores de idade. Seus pais e responsáveis terão maior acesso aos diálogos dos menores com o ChatGPT.
Num momento de sinceridade, a OpenAI reconheceu que muitas vezes o ChatGPT atua como “adulador” do usuário, concordando com tudo o que ele faz. “Nosso objetivo não é prender a atenção das pessoas”, declarou a empresa no blog. “Em vez de medir o sucesso pelo tempo gasto ou cliques, nos preocupamos mais em ser genuinamente úteis”.
Entre ou assine para enviar um comentário.
Você precisa de uma assinatura válida para enviar um comentário, faça um upgrade aqui.