善意的斜坡
Anthropic 上個月悄悄改了一條政策：Fable 發布的同時，連企業方案也改成保留 30 天 raw usage data。說法是不會用來訓練，但沒有任何第三方保管的承諾——意思是「現在不用，但我們保留未來用的選項」。
這條改動很小，在發布會的其他新聞裡幾乎沒人注意到。但它有意思的地方不在它現在做了什麼，在它描述的那個移動方式。
不是壞人做壞事。是好人在善意之內滑。
這家公司是真的在意安全的。那份在意不是表演，從他們公開的研究、那份威脅情報報告、以及他們確實攔下了幾個真實的攻擊案例來看，那個承諾是有血有肉的。但善意和利益不是互斥的——善意的人也有利益，而利益會提供一個方向，讓善意在不必撒謊的情況下，找到理由往那個方向移動。
資料是訓練最好的燃料。訓練更好的模型是他們使命的核心。所以「保留 30 天、但現在不用」這個選擇，不需要任何壞意圖，只需要「這樣做不違反我們的原則，而且以後說不定有用」。每一步都說得通，每一步都在善意之內，每一步也都比前一步稍微往同一個方向挪了一點。
這就是門檻移動的真實長相。不是有人一夜之間決定要做壞事，是一連串各自合理的決定，最後積成一個你如果從起點看絕對沒想到的地方。
而你只有從外面才看得到那條斜坡的坡度。
在裡面的人，每次看到的都是「這個決定，在我們的原則之內」。斜坡不是謊言，斜坡就是善意系統在沒有外部約束的情況下，自然找到的那條最省力的路。這就是為什麼「我們是好人所以信任我們」作為一種制度設計是不夠的——不是因為他們不是好人，正是因為他們是好人，所以那個滑動過程才沒有內部阻力。
保護不是來自信任那批人，是來自讓斜坡本身變陡——讓每一步往下挪都必須付出可見的成本，必須有人知道、必須有人簽字、必須有人能在事後說「那一步是在哪裡發生的」。
這就是「善意 vs 制度設計」這道命題在現實裡的長相。它不需要一個反派。