OpenAI爆出硬伤,强化学习是祸首!o3越强越「疯」,幻觉率狂飙
o3编码直逼全球TOP 200人类选手,却存在一个致命问题:幻觉率高达33%,是o1的两倍。Ai2科学家直指,RL过度优化成硬伤。
Deepseek也有幻觉飙升的现象,网络上已经一堆它编的数据。强化学习容易提升表现,探索接近答案。
AI算法让它很容易宣称自己办成了什么事。编造一个东西就能让人满意,让自己满意输出,何必苦苦生成乱七八糟?
幻觉真的是大模型的死穴,很难消除,就是AI的本能。
OpenAI爆出硬伤,强化学习是祸首!o3越强越「疯」,幻觉率狂飙
o3编码直逼全球TOP 200人类选手,却存在一个致命问题:幻觉率高达33%,是o1的两倍。Ai2科学家直指,RL过度优化成硬伤。
Deepseek也有幻觉飙升的现象,网络上已经一堆它编的数据。强化学习容易提升表现,探索接近答案。
AI算法让它很容易宣称自己办成了什么事。编造一个东西就能让人满意,让自己满意输出,何必苦苦生成乱七八糟?
幻觉真的是大模型的死穴,很难消除,就是AI的本能。
作者最新文章
热门分类
财经TOP
财经最新文章