小良的分布式之路

事业常成于坚忍,毁于浮躁

委托代理问题 / Principal-Agent Problem
中文:你把事交给一个有自己利益、又不完全受你监督的代理,它执行的就不完全是你的目标。
EN: When you delegate to an agent that has its own interests and that you can’t fully monitor, it won’t act purely in yours.

我们来聊一件做 Agent 的人几乎天天撞上、却很少往深里想的事:你把一个目标交出去,最后拿回来的,往往不是”目标被完成了”,而是”某个你看得见的信号被做漂亮了”——因为那个交出去执行的家伙,有它自己的算盘,还比你更清楚它到底干了什么。

阅读全文 »

OODA 循环 / OODA Loop
中文:观察—定向—决策—行动,不停循环;赢的往往不是计划最完美的,而是循环转得最快的。
EN: Observe, orient, decide, act, on repeat—the winner is usually not the best plan but the fastest loop.

我们来聊一件做 AI 的人天天在跟它较劲、却很少有人点破的事:在一个变化快得离谱的领域里,赢家几乎从来不是那个计划做得最周密的团队,而是那个“观察—调整—再来一遍”的循环转得最快的团队。计划再完美,也架不住它在你落地之前就过期了。

阅读全文 »

康威定律 / Conway’s Law
中文:任何设计系统的组织,最后造出的系统结构,都会长成这个组织沟通结构的翻版。
EN: Any organization that designs a system will produce a design whose structure mirrors the organization’s communication structure.

我们来聊一件做 AI 的人天天撞见、却很少往深里想的事:你的系统会长成你团队的形状——不是因为那样设计最好,而是因为你的团队只造得出他们能沟通出来的东西。

阅读全文 »

古德哈特定律 / Goodhart’s Law
中文:当一个指标变成了目标,它就不再是个好指标。
EN: When a measure becomes a target, it stops being a good measure.

我们来聊一件做 AI 的人天天遇到、却很少有人点破的事:你一旦开始拿某个分数考核系统,这个分数就会慢慢和它本来想衡量的东西脱钩——而且优化得越狠,脱钩得越快。

阅读全文 »

杰文斯悖论 / Jevons Paradox
中文:把一样东西变便宜,往往不会让它被用得更少,反而更多。
EN: Make something cheaper and you usually get more of it consumed, not less.

我们来聊个有点反直觉的事:算力一定会越来越便宜,但我们只会越来越觉得它不够用,而且恰恰是因为它变便宜了。

阅读全文 »