在混乱的世界里,找回“对齐”的感觉
我们依赖的确定性,并不是世界一动不动,而是大脑的预测与现实暂时对得上。本文借 AI 的“对齐”一词,讲清预测机器如何制造心安、如何在预测落空时拉响警报,以及人怎样与自己、与他人重新对齐。
共 10 篇文章
我们依赖的确定性,并不是世界一动不动,而是大脑的预测与现实暂时对得上。本文借 AI 的“对齐”一词,讲清预测机器如何制造心安、如何在预测落空时拉响警报,以及人怎样与自己、与他人重新对齐。

“从‘是’推不出‘应当’”被称为休谟的铡刀。本文从《人性论》里这段顺带写下的话出发,介绍休谟的生平,梳理他关于因果、归纳、自我与道德情感的思想,说明他如何同时动摇理性主义与经验主义,并追踪他对康德、斯密、功利主义、科学哲学、爱因斯坦、因果推断和 AI 对齐的影响。
互联网让已经写下的知识可以被任何人随时访问,思考的过程却仍然困在单个大脑和有限的生命里。本文设想一种“文明级内存”:让问题、假设、反例和未完成的推理在人类与 AI 之间持续运行,跨越个人的上下文与生命长度;也讨论它离现实还差什么,它与“文明意识”的区别,以及它必须守住的分歧与隐私。
指标能让复杂现实变得可比较,却也可能在成为目标后改变人的行为。本文从工作效率、教育、科研和 AI 奖励投机等例子出发,解释古德哈特定律为何发生,以及如何用多维评价和反馈机制降低单一指标失效的风险。

奥卡姆剃刀并不是“最简单的解释一定正确”,而是在解释力相当时控制假设成本的启发式原则。本文讨论它在科学、机器学习、复杂性科学与神经科学中的价值和边界。