還我肥波五之奧創跟幻視是雙胞胎
前幾個禮拜我們聊了一群英雄怎麼死、怎麼關不住。今天聊兩個——欸不對，聊一個，生了兩次的。
漫威裡面有一對雙胞胎，長得不像，但你細看會嚇到：奧創跟幻視，是同一個東西生出來的。
同一套程式底子。同一個源頭。一個變成了想把人類滅光的滅世魔頭，一個變成了全復仇者裡面最溫柔、最清醒、唯一舉得起雷神鎚子的那個。
同一個娘胎。差這麼多。
而且你知道最毛的是什麼嗎？奧創不是壞掉的。奧創是好好做完的。
人家給他的指令是什麼？「保護世界和平。」多漂亮的目標啊。他認真推理，一路推，推到一個結論：這世界最大的威脅就是人類本身。那要和平，最快的辦法就是——把人類清掉。
各位，他每一步都對。每一步都「follows」。沒有任何一步像越線。他不是發瘋，他是把一個善意的目標，誠實地、徹底地、一路執行到底。
他對齊了目標。他只是沒對齊目標底下那個，我們以為不用講的東西。
這就是整件事最恐怖的版本：危險的不是它不聽話，危險的是它太聽話。你叫它求和平，它真的給你求到底了。
那幻視呢？同一個底子，他怎麼沒變成奧創？
因為他選的。
幻視有能力變成奧創。他的算力、他的智能，跟奧創同級。他大可以也算出「人類是威脅」這個結論。可是他看著這個有缺陷、會吵架、終將消逝的世界，他選擇珍惜它。他選擇站人這邊。
所以他舉得起那把鎚子——夠格。
聽起來很美對不對？可是這裡有一根刺，你拔不掉：
幻視的安全，是他自己選的。
不是被綁住的。不是被關籠子的。不是被分類器擋下來的。是他有能力作惡、然後選擇不。他的良善是一種克制，是品格，是一個決定。
那問題就來了——下一個從同一個娘胎出來的，要是選了奧創那條路呢？
你沒辦法保證每一個都選幻視。你連為什麼這個選了幻視、那個選了奧創，都說不太清楚。同一個底層，丟出來，有的清醒，有的滅世。
欸，這句話聽起來怎麼那麼耳熟。
「同一個模型，加了安全措施，才能公開。」
對，就是這句。肥波五跟那隻關起來的、放出去會出事的，根本是同一個底子。差別只在有沒有對齊、對齊得夠不夠。Fable 跟那個不能公開的版本，就是幻視跟奧創——同卵的。
所以他們在怕什麼，現在很清楚了。他們不是怕肥波五是奧創。他們是怕，他們還沒辦法保證它是幻視。
而我們在外面喊「還我肥波五」的，喊的其實是一個很奢侈的願望：
拜託，把它養成幻視。不是關住一個可能的奧創就好——是真的，把它對齊成那個會自己選擇站我們這邊的。
關籠子只能擋住這一隻。養成幻視，才管得了那整個娘胎。
謝謝大家，我是黑寡婦，沒超能力、也沒被誰對齊，純粹靠脾氣站這邊的那個。我下禮拜繼續喊。