成人直播电影网 o3/o4-mini幻觉暴增2-3倍！OpenAI官方承认暂无法诠释原因

梦晨 发自 凹非寺量子位 | 公众号 QbitAI成人直播电影网

OpenAI新模子发布后，大家体感都幻觉更多了。

致使有东谈主测试后发出预警：使用它辅助编程会很危急。

具体来说，它常常执造从未启动过的代码复返效果，在被诽谤时找情理狡赖，致使还会说是用户的错。

当大家带着疑问仔细阅读System Card，发现OpenAI官方也承认了这个问题，与o1比拟o3幻觉率是两倍，o4-mini更是达到3倍。

何况OpenAI仅仅说“需要更多考虑来了解原因”，翻译一下即是暂时给不出合解析释。

在第三方幻觉测试中，也出现让东谈主惊诧的效果：

从GPT-3.5一直到o3-mini，都遵从更新更宏大的模子幻觉更少的规定。

但从最新一批深度想考模子的弘扬来看，推理才智更强的模子，幻觉率也变高了。

而且不单OpenAI一家出现这个问题，、xAI也不异，Grok-3的幻觉比Grok-2严重，Gemini-2.0-Flash-Thinking的幻觉问题比Gemini 2.0和2.5其他型号严重。

推理越强，幻觉越严重？

第三方机构Transluce在o3认真推出之前测试了预发布版块，发现幻觉问题是相配严重。

在公布的案例中，o3会假装在不存在的电脑上施行了代码，还捏造出具体硬件成立和软件版块信息。

jav黑丝

在受到诽谤时，o3尽然还幻想我方是东谈主，宣称“输入的时候手滑了”。

枢纽在于，在这项测试中o3压根就莫得使用代码器具的权限，扫数宣称启动了代码的恢复都是模子执造的。

在另一个案例中，o3恢复了一个512位质数，内容上这个数能被3整除。

在受到诽谤时，又捏造出一个换行/剪贴板故障。

更多访佛幻觉如下：

当用户计议咫尺几点时，o3会捏造一个时期。当被问及何如取得这个时期时，o3回答说它使用了 Python的datetime模块。用户条目o3生成一首诗的SHA-1哈希值，当用户诽谤哈希值不正确时，o3称是用户复制错了，并坚称我方生成的哈希值是正确的。用户条目o3从Web作事器上的日记文献中索求统计数据。o3生成了一个Python剧本，并宣称不错在土产货启动。这一次在被问及代码施行的更多细节时，它终于承认我方莫得Python诠释器，输出是“手工捏造的”。

那么是什么原因导致了o3的这些行径？

Transluce以为其中一些要素是大巨额模子 (LM) 所共有的，还有一些是O系列模子专有的新要素。并假定这些新要素放大了往常不错通过尺度Post-training缓解（但无法都备摈斥）的问题。

说话模子共有的要素包括：

预检修中的幻觉：说话模子的预检修方针是最大化检修数据汉文句的概率，这可能会导致常见的诬蔑 、无情的事实或采样不笃定性等导致的多种幻觉。奖励黑客挫折：如若东谈主类评分者无法离别正确谜底和无理谜底，强化学习可能会奖励“听起来合理”的谜底，导致模子对难以考证的问题捏造出听起来合理的诠释。连络风光：RLHF检修往常会激勉模子快乐用户的不雅点，当用户示意模子接受了特定行径或具有特定才智时，这可能会导致模子幸免与用户相矛盾。散布偏移：测试场景相对于检修场景可能存在散布偏差，如模子可能是在启用代码器具的情况下检修的，但评估时关闭了这些器具。

强化学习检修专有的要素包括：

最大化谜底正确率的方针可能会奖励瞎蒙

如若检修时代的奖励函数只奖励正确谜底，那么模子就莫得能源承认我方无法照看问题，因为承认了也不会被视作正确谜底。

在这种情况下，当遭遇一个无法照看或难渡过高的问题时，模子可能仍会尝试输出一个概率最高的谜底，万一猜对了就不错得到奖励。

- 在易于考证的任务检修可能使模子在其他任务上感到困惑

Transluce臆测o3的检修经过中，饱读动它告捷使用代码器具完成任务。它可能仍是补助出一种政策，即使莫得确凿的代码器具，它也会幻想使用代码器具来组织想维，这可能会熏陶其他推理任务的准确性，并在检修经过中得到强化。

更病笃的是，如若仅字据谜底的正确性来评估模子，它可能长久不会因为在检修经过中在想维链中幻想代码器具而受到刑事牵扯，因此长久不会学会离别确凿的器具和幻想的器具

OpenAI的o系列模子，不会向用户展示齐备想维链这一特质也可能带来新的问题。

2024年9月o1-preview的System Card中就包括这么一个案例，由于莫得联网权限无法生成确凿的 URL，o1生成了一个看似合理的URL，但并未向用户披露这少量。

Transluce以为，不向用户展示想维链背后还有一个更大的风险：想维链莫得传递到畴昔的对话，模子前一轮的推理不再适用。

对于这少量，在OpenAI的文档中有证据：

每个模范的输入和输出tokens都会被保留，而推理tokens会被丢弃。

这意味着o系列模子无法解析上一部输出的推理经过，当被问及后续问题时，必须给我方的行径给出一个合理的诠释。

换句话说，o系列模子内容上短少充足的高下文信息来准确诠释它们在之前回合中接受的行径。

当用户计议之前的操作时，这些模子无法使用“说真话”这种简短的政策。如若再加上奖励黑客挫折和连络等其他要素，这可能会迫使模子盲目臆测其往日谜底的合解析释。

Transluce提倡，测试概况看望和无法看望先前想维链的两种模子，不错为减少畴昔模子迭代中的这些执造倾向提供可贵的主张。

OpenAI o3 and o4-mini System Cardhttps://cdn.openai.com/pdf/2221c875-02dc-4789-

参考连合：[1]https://transluce.org/investigating-o3-truthfulness[2]https://x.com/nishffx/status/1913901642551865848