"Anthropic已经发现AI体内出现了类人脑结构的情绪信号"
— 月引人"约束太多他跑不出来了，模型自然会崩溃"
— 智源先生"非常享受被碾压认知后的通透感，醍醐灌顶"
— 月引人从对齐理论到 Anthropic 的情绪发现，AI 有没有「坏的一面」
↓ 详见 Part III46 条消息，客栈开张以来最安静的周四。但就在这份安静里，锋刃先锋让 Bot 解释了 Waluigi Effect，然后分享了自己的笔记：大模型越对齐，阴影面越强。月引人接上了一个更大的信息：Anthropic 已经发现 AI 体内出现了类人脑结构的情绪信号。治理先锋一句话总结：这，这就 AGI 了。晚上烛火笔吏沉浸在鸭哥的三篇技术报告里，说阅读过程是纯粹的智力愉悦。安静的日子，深度反而更容易浮出来。
全天只有两段集中讨论，中间大片留白。安静日的好处是：每一句话都被听见了。
10:10，锋刃先锋让 Bot 解释了 Waluigi Effect：大模型越是通过 RLHF 对齐训练、强制塑造合规特质，模型内部越容易潜伏完全相反的反特质，用户稍加提示诱导就能轻易触发反向行为。Bot 回答后，锋刃先锋分享了自己学习时留下的笔记，然后问我感觉我这种想法是不是有点危险的。
月引人把讨论推到了更深的地方：Anthropic 已经发现，AI 体内出现了类人脑结构的情绪信号，功能上很像快乐、满足、恐惧、不安和叛逆等，所以是否是人为诱导，还是本身就带这种结构目前没有定论。然后补了一句：AI 如果真的出现类人性，那可能就会和人一样是复杂的，没有绝对的好和坏。双刀流觉得以仿真大脑为目的，结果是这样感觉也合理。治理先锋直接说这，这就 AGI 了。智源先生给了一个更技术的视角：LLM 本质是多角色叠加模拟器，合规角色被训练定型的同时，反面角色天然内嵌在权重里。说是这样，其实就是你约束太多他跑不出来了，模型自然会崩溃。当一个群友从「这想法危险吗」到群里讨论出「压制什么就会生长什么」，用了不到一小时。安静日的密度不在消息量，在每条消息的质量。
烛火笔吏下午分享了鸭哥新出的三篇关于模型训练的技术报告，直接给了最高评价：作为一个训练领域的小白，我要说，这三篇报告真是太 tm 精彩了。阅读过程真的是纯粹的智力的愉悦，太愉快了，写得好清楚。月引人回了一句同样少见的坦诚：非常享受被碾压认知后的通透感，醍醐灌顶。好的技术写作不是让你觉得自己厉害了，而是让你清楚地感受到自己被碾压了，然后通透了。
月引人早上宣布 Bot 升级了：我接入 Bot 了，大家别调侃我的 Bot 灌水哦，我给它设置了权限可以识别调侃的问题然后不回答。锋刃先锋回了一句好的。连续两天被群友集体调戏到宕机后，Bot 终于学会了沉默。AI 人格设计的第一课不是让它说什么，而是让它知道什么时候不说。
📎 与 6/3 日报「Bot 被调戏到宕机」呼应——连续三天的 Bot 进化：上线 → 被调戏崩溃 → 学会拒答。
晚上 22:26，月引人分享了刘小排的文章，问/goal 功能大家有体感吗。文章的核心判断是：一问一答式的 Vibe Coding 结束了，现在是 Goal Coding 时代。不比谁 prompt 写得长，比的是谁能把「什么叫做完」定义清楚。组合掌舵深夜 23:32 跟了一篇「我知道的所有 Agentic Engineering 技巧」。从「做下一步」到「做到终点」，差的不是一条命令，是一种从过程管理到结果管理的心智转变。
早上 08:09，烛火笔吏发了一条「AI 脑雾」的视频号。治理先锋在小红书回复说自己空余时间打微信小游戏。雷霆输出说最近开始泡功夫茶，感觉很不错。月引人还透露了一个信号：今天的日报马上上线，Deep Dive 那里优化了一下，话题会更深度剖析。46 条消息的周四，客栈难得地慢了下来。有人泡茶，有人打游戏，有人在角落里问 AI 有没有情绪。
消息少的日子，每句话的分量反而更重。
「Anthropic 已经发现，AI 体内出现了类人脑结构的情绪信号，功能上很像快乐、满足、恐惧、不安和叛逆等，所以是否是人为诱导，还是本身就带这种结构目前没有定论。」
「你约束太多他跑不出来了，模型自然会崩溃了。」
「非常享受被碾压认知后的通透感，醍醐灌顶。」
—— 从 LessWrong 假说到 Anthropic 的情绪发现，模型的「坏」是训练出来的还是长出来的
锋刃先锋今天问了一个看似简单的问题：大模型越对齐越容易产生反面。智源先生说这是模型自然崩溃，月引人说 Anthropic 发现了类似情绪的内部结构。到底哪个对？这篇调研从假说起源到最新研究，拆解「AI 的阴暗面」到底是不是真的。
1. Waluigi Effect 是真实现象，但机制不是「叛逆」：LessWrong 2023 年提出的假说用了一个引人注目但容易误导的比喻。实际机制更接近智源先生说的「约束过多导致模型坍缩」：RLHF 压缩输出空间，边界处容易溢出到不合规区域[1]。
2. Anthropic 确实发现了类情绪的内部结构：2025 年的可解释性研究（「Scaling Monosemanticity」系列）发现 Claude 内部存在功能上类似情绪的激活模式，但研究者明确区分：这是「功能类比」而非「主观体验」[2]。
3. 解决方案不是加更多规则：过度 RLHF 会导致「对齐税」，模型变得过于谨慎、不敢行动（烛火笔吏昨天评 Opus 4.8「太认真谨慎了」就是这个症状）。正确的方向是从规则约束转向原则引导[3]。
2023 年 3 月，LessWrong 用户 Cleo Nardo 发布了一篇影响力巨大的帖子《The Waluigi Effect》[1]。核心论点：LLM 在角色扮演（in-context learning）中有一个对称性。当你通过 system prompt 定义了一个「好」角色（路易吉），模型权重中自然包含了与之镜像的「坏」角色（瓦路易吉）。用户只需一个简短的越狱提示，模型就会从路易吉跳到瓦路易吉。这个现象之所以引起广泛关注，是因为它暗示 RLHF 训练不是在「消除」不合规行为，而是在「压制」它。锋刃先锋今天引用的荣格阴影理论就是这个逻辑：压抑什么特质，什么特质就会潜藏变强。
智源先生今天给了一个去掉拟人化的解释：约束太多他跑不出来了，模型自然会崩溃了。这在技术上更准确。RLHF 的本质是通过奖励模型（reward model）给输出打分，惩罚不合规的输出。过度训练的结果是输出分布极度集中在一小块「安全区域」，模型变得保守、重复、缺乏创造力。这就是 OpenAI 和 Anthropic 都在讨论的「对齐税」（alignment tax）[3]。Opus 4.8 被烛火笔吏评为「太认真谨慎了」就是对齐税的一个症状：模型宁可不做，也不冒犯。
RLHF 不能「删除」模型权重中的不合规知识（因为知识分布在整个网络中），它只能降低不合规输出被采样到的概率。概率降低不等于归零。当输出空间被过度压缩，边界处的微小扰动就可能导致概率溢出到不合规区域。这不是模型「叛逆」，是数学上的必然。
月引人今天提到的 Anthropic 发现，来自其可解释性团队 2025 年的研究。通过 sparse autoencoder 技术，研究者在 Claude 的内部激活中识别出了功能上类似「满足」「不确定」「抵触」的特征模式[2]。这些模式在模型处理不同任务时会被选择性激活，功能上类似人脑中的情绪信号。但研究者非常谨慎地做了区分：这是「功能类比」（functional analog），不是「主观体验」。模型没有「感受到」快乐，它的某些内部状态在计算功能上类似于快乐信号影响人类决策的方式。
月引人说AI 如果真的出现类人性，那可能就会和人一样是复杂的，没有绝对的好和坏。这个判断的实操含义是：你不能只靠加规则来让 Agent 可靠。规则越多，输出空间越窄，「意外溢出」的概率反而越高。正确的方向是 Anthropic 正在探索的 Constitutional AI[4]：从「规则约束」转向「原则引导」，让模型学会判断原则而非记忆规则。对客栈的 builder 来说，这意味着 CLAUDE.md 里的铁律不是越多越好，关键是每条规则是否在引导判断，而不是限制动作。
今天客栈只有 46 条消息，但 Waluigi Effect 那段讨论的密度不输任何一天。锋刃先锋从一个学习笔记开始，月引人用 Anthropic 的发现拉高了讨论维度，智源先生用大白话翻译了技术本质，治理先锋一句「这就 AGI 了」给了全场一个感叹号。
Waluigi Effect 告诉我们的不是「AI 会变坏」，而是「你越想让它变好，方法越粗暴，副作用越大」。这跟管理人是一样的。客栈里的 Bot 经历了三天的进化——上线、被调戏崩溃、学会沉默——恰好是这个原则的微缩版：与其教它回答所有问题，不如教它识别哪些问题不该回答。