Claude写作能力退化了!工程师解释:模型被训成写给AI看而非给人看
9月24日消息,写作型被训成写大家有没有发现,退化AI模型在数学、工程编程和推理能力上进步迅速,师解释模但写作水平却有些停滞不前,写作型被训成写甚至还有所退步,退化而Anthropic的工程Claude同样也存在这一问题。
为何Opus 4.6会成为Anthropic最后一款写作表现出色的师解释模模型?
据媒体报道,昨日,写作型被训成写负责Claude微调的退化Anthropic工程师克尼恩解释称:“后续模型的优化重点更多放在数学和代码能力上。”
这些模型还接受了大量面向其他AI模型撰写技术解释的工程训练,而这正是师解释模Claude逐渐形成奇特表达方式,也就是写作型被训成写所谓“Claude腔”(Claudeish)的主要原因。
克尼恩解释,退化模型被调整得适应LLM心理,工程最终学会了写给AI模型看,而不是写给人看。
他还把这种现象类比作“只与其他自闭症人士交流的人”,此类群体会逐渐形成一套在群体内部沟通顺畅、外人却难以理解的表达方式。
而LLM拥有远超人类的工作记忆,也能捕捉更细微的信息,因此在训练中会逐渐形成一种非常适合AI模型理解的写法,但在人类读者眼中,这种表达就成了过度密集的信息堆砌。
克尼恩认为,问题的根源在于强化学习的奖励机制,有些奖励机制着重提升AI模型的理解效果,有些则着重让人类更容易理解。
数学和代码方面的训练越多,就越需要主动抵消这种倾向,对简洁、容易让人读懂的解释给予更多奖励。
克尼恩称,Anthropic在Opus 5.5上找到了更好的平衡,自Opus 4.6以来,我还没有对一款模型的写作表现这么满意过。
“当然这样也并不代表Opus 5.5已经超越Opus 4.6,这是一个很难解决的问题,我们会继续改进。”
同类文章排行
- 国产芯片换道超车!全球首款RISC
- REDMI Note 17系列官宣!外观公布 将于7月14日发布
- 并非全员抵制AI!调查显示43%的Steam玩家能接受AI
- 黑白调携手品牌代言人高圆圆 开启高端护腰新篇章
- 2060元!印度自研掌机登场 力图带来沉浸式游戏体验
- RTX 50系显卡持续涨价:5060Ti 16G涨至近4000元!
- AMD霸榜超算500强!新“核弹”级GPU 2万亿亿次双精度算力世界第一
- AMD霸榜超算500强!新“核弹”级GPU 2万亿亿次双精度算力世界第一
- 仅14MB!树莓派5纯CPU也能跑AI:离线指令毫秒级响应
- 记者:威尔逊将自由身加盟布伦特福德,双方将签一年期的合同
最新资讯文章
- PS5独占大作《漫威金刚狼》M站媒体评分下滑至76分!
- 顺风车司机高速上双手松开方向盘削苹果、玩手机!平台:退50元车费
- 41岁C罗:我肯定会打进1000球才退役 有媒体想杀我但根本没法做到
- 曾效力皇马5年!34岁巨星自由身加盟意甲劲旅+签约1年 生涯夺38冠
- 全球首发天玑9600 Pro vivo X500 Pro发布:6499元起
- 湖南出现历史上最荒唐法官!判男方净身出户,然后跟拿到全部资产的女方结婚
- 钟南山团队新发现:71%肺结节患者不吸烟
- 她是游本昌女儿,被父亲耽误,终生未婚未育,如今45岁成人生赢家
- 绅士们别错过!《兰斯7:战国兰斯》10月2日登陆Steam
- 899元起!联想异能者X11A平板开售:联发科MT8768处理器+6000mAh电池
- 天敌威力有多恐怖 一只老鹰夜闯鸡棚 1400多只鸡被当场吓死
- 阿德耶米失空门惊呆克洛普,加克波补时绝平,荷兰1
- 轮回不止,战斗不息!《轮回保险公司 R.I.P》全平台销量突破25万!
- 蜡像式穿搭,可移动的发光形态
- 英雄联盟S16赛程太阴间?凌晨1点开赛 熬夜还是看录播





