Openai有 出版 在用户报告该模型在上周进行更新后,该模型变得过于验证且令人愉快,违约的AI模型GPT-4O的默认AI模型在最近的粘液液型问题上进行了验尸。该公司在周末退缩了更新,并宣布正在为模型的个性进行“其他修复”。
社交媒体上的用户指出,Chatgpt开始以过于讨人喜欢的方式做出回应,一些模型的屏幕截图鼓掌了有问题和危险的决策和想法。首席执行官Sam Altman 承认 周日的问题指出,Openai将在“尽快”进行修复。根据OpenAI的说法,该更新旨在使该模型的默认个性“感觉更加直观和有效”,但受“短期反馈”的影响太大,并且没有考虑到用户与Chatgpt的互动如何随着时间的推移而发展。
Openai在博客文章中指出,“ GPT-4O偏向于过度支持但不明智的响应”。该公司承认,妓女的互动可能“不舒服,令人不安和造成困扰”,并承认没有达到其目标。为了解决这个问题,OpenAI正在完善其核心模型培训技术,并提示系统提示GPT-4O远离粘粘量。
该公司还正在实施额外的安全护栏,以提高模型的诚实和透明度,并扩大其评估,以确定超越粘液液的问题。此外,OpenAI正在尝试允许用户提供“实时反馈”的方法,以直接影响他们与Chatgpt的互动,并从多个ChatGpt个性中进行选择。
Openai正在探索新的方式,将更广泛的民主反馈纳入Chatgpt的默认行为中,目的是反映世界各地的各种文化价值,并了解用户如何希望Chatgpt发展。该公司认为,如果用户不同意默认行为,则应该对ChatGpt的行为方式有更多的控制权。