OpenAI爆出硬伤,强化学习是祸首!o3越强越「疯」,幻觉率狂飙o3编码直逼全

烨华聊商业 2025-04-21 08:48:08

OpenAI爆出硬伤,强化学习是祸首!o3越强越「疯」,幻觉率狂飙

o3编码直逼全球TOP 200人类选手,却存在一个致命问题:幻觉率高达33%,是o1的两倍。Ai2科学家直指,RL过度优化成硬伤。

Deepseek也有幻觉飙升的现象,网络上已经一堆它编的数据。强化学习容易提升表现,探索接近答案。

AI算法让它很容易宣称自己办成了什么事。编造一个东西就能让人满意,让自己满意输出,何必苦苦生成乱七八糟?

幻觉真的是大模型的死穴,很难消除,就是AI的本能。

0 阅读:86
烨华聊商业

烨华聊商业

感谢大家的关注