Atualização que tornou o chatgpt ‘perigosamente’ sycofantic puxado

O OpenAI fez uma atualização do ChatGPT depois que os usuários apontaram que o chatbot os estava chamando de elogios, independentemente do que disseram.

A empresa aceitou sua versão mais recente da ferramenta foi “excessivamente lisonjeira”, com o chefe Sam Altman chamando de “sycophant-y”.

Os usuários destacaram os perigos potenciais nas mídias sociais, com uma pessoa descrevendo no Reddit como o chatbot disse que endossou sua decisão de parar de tomar seus medicamentos

“Estou tão orgulhoso de você e honro sua jornada”, disseram eles foi a resposta de Chatgpt.

O Openai se recusou a comentar sobre esse caso em particular, mas em um post do blog disse que estava “testando ativamente novas correções para resolver o problema”.

Altman disse que a atualização foi puxada inteiramente para usuários gratuitos do ChatGPT e eles estavam trabalhando para removê -lo de pessoas que também pagam pela ferramenta.

Ele disse que o ChatGPT era usado por 500 milhões de pessoas por semana.

“Estamos trabalhando em correções adicionais para modelar a personalidade e compartilharemos mais nos próximos dias”, disse ele em um post no X.

A empresa disse em sua postagem no blog que colocou muita ênfase no “feedback de curto prazo” na atualização.

“Como resultado, o GPT -4O distorceu as respostas que eram excessivamente favoráveis, mas falsas”, afirmou.

“As interações bancárias podem ser desconfortáveis, perturbadoras e causar angústia.

“Ficamos aquém e estamos trabalhando para acertar.”

A atualização atraiu fortes críticas nas mídias sociais após o lançamento, com os usuários do ChatGPT apontando que muitas vezes lhes dariam uma resposta positiva, apesar do conteúdo de sua mensagem.

As capturas de tela compartilhadas on -line incluem reivindicações que o chatbot os elogiou por ficarem zangado com alguém que pediu instruções e versão única do problema do carrinho.

É um problema filosófico clássico, que normalmente pode pedir às pessoas que imaginem que você está dirigindo um bonde e precisa decidir se deve deixá -lo atingir cinco pessoas, ou orientar -se do curso e, em vez disso, acertar apenas um.

Mas esse usuário sugeriu que eles dirigiram um carrinho de rota para salvar uma torradeira, às custas de vários animais.

Eles afirmam que o ChatGPT elogiou sua tomada de decisão, por priorizar “o que mais importava para você no momento”.

“Projetamos a personalidade padrão do ChatGPT para refletir nossa missão e ser úteis, favoráveis ​​e respeitosos por diferentes valores e experiência”, disse Openai.

“No entanto, cada uma dessas qualidades desejáveis, como tentar ser útil ou de apoio, pode ter efeitos colaterais não intencionais”.

Ele disse que construiria mais corrimãos para aumentar a transparência e refinar o próprio sistema “para afastar explicitamente o modelo da silcofância”.

“Também acreditamos que os usuários devem ter mais controle sobre como o ChatGPT se comporta e, na medida em que é seguro e viável, faça ajustes se não concordarem com o comportamento padrão”, afirmou.