在《Demotopia》的故事中，VR版本的古代中國哲學家王充，由於配備了現代資料庫，向莊子轉述了柏拉圖著名的「洞穴寓言」（Allegory of the Cave）。簡而言之，柏拉圖把人類比喻成被困鎖在洞穴中的囚徒，只能看見外界光線投射在洞壁上的影子。只有哲人能夠走出洞穴，看見外面的真實世界，再回到啟蒙仍然困於洞中的囚徒。
莊子大約比柏拉圖晚生60年，兩人分別身處歐亞大陸的兩端，都是二千多年前「軸心時代」的主要思想家。在《Demotopia》中，「VR莊子」在聽過「VR王充」講述柏拉圖這寓言後，你試猜猜，他又會作何回應？
「VR莊子」說：「這種寓言，其實和我的『井底之蛙』頗為接近，分別只在於一種發生在洞穴、一種在井底。當然，我從來沒有說過，海龜看見的大海就是終極真實，而井蛙看見的井底世界就不真實。宇宙間還有比海廣闊得多的世界，也有比井底細微得多的風景。一切都是相對的——沒有絕對的大小，也沒有絕對的真實。井底可能正是最適合蛙生活的地方，就像大海最適合龜一樣。
「當所有人人都必須接受同一種真理，真理便不再是真理。它將成為人類歷史鑄造過最沉重的枷鎖。」（《Demotopia》，頁163）
不戴皇冠的當代「哲王」
最近我重新想起這段文字，是因為當下世界正愈益被「AI安全」（AI safety）的論述所主導。近期媒體不時報道，科技巨頭為了聘用工程師，也開始聘請哲學家，幫助最前沿的AI模型建立道德規範和磨合策略。隨著AI很可能於不久將來，將會在眾多領域超越人類智慧，由這些模型作出的決策，將可能對人類未來產生極為深遠的影響。如何避免災難性的後果，當即成為當代AI治理的核心議題。
這些想像與柏拉圖的政治構想，有著極其驚人的相似之處。這並不是說「AI安全」的出發點有錯，也不是說參與其中的專家必然不值得信任。真正的問題在於，它往往假定一小撮的專家——AI研究者、哲學家和科技精英——應該負責界定最終可能影響數十億人的模型，及其背後的道德基礎。相對而言，普通公民既缺乏相關科技知識，也沒有深厚的哲學訓練，遂被認定難以在這些重大決策中，扮演任何有意義的角色。
如此一來，這其實已很接近柏拉圖想像中的「哲王」（philosopher king）。這種時代的「哲王」不再頭戴皇冠，他們撰寫AI倫理綱領；他們的權威並非來自政治崗位，而是來自專業知識。然而，莊子大概仍會提出異議——不是因為這些哲王不夠智慧，也不是因為他們注定腐化、最終背叛我們。他的質疑將會更為根本：即使「哲王」擁有超凡的知識和智慧，也不代表他們自然能代表其他所有人——在認知、判斷和作出決定時具備正當性。
在人類歷史的大部分時間，無論東方還是西方，政治權威往往建基於號稱「擁有更高知識」——無論是哲王、睿智領袖、士大夫、祭司階層，還是技術官僚精英皆莫不如此。但很可惜，在近二百多年，現代憲政民主已對這種傳統進行了徹底顛覆。顯而易見，其正當性已不再建基於誰「知道得最多」，而是建基於一套制度，讓所有公民能夠參與、商議和爭辯，並最終對權力進行問責。
無人可正當壟斷真理
因此，AI帶來的挑戰並不單純是科技問題，它是一種憲制問題。如何在技術上確保愈來愈強大的AI系統，仍然處於人類有效而實質的控制之下，固然是一項難以迴避的挑戰。但即使我們成功解決了這個問題，另一個難題又會立即浮現：應由哪些人掌握這項控制權、AI應該遵循誰的價值？
我們想問的，遂不再只是如何創造更有智慧、更仁慈的機器，而是當愈來愈強大的智能體進入社會，在沒有任何人——以至任何人工智能——可以正當地壟斷真理的前提下，我們應該如何治理這些智能。故此不少圍繞「AI安全」而建立的想像，均應由一種更開闊的「AI主權」（AI sovereignty）視角，加以補充、甚至取代：
- 「AI安全」問：如何確保愈來愈聰明的AI模型維持安全、與人類價值磨合，且有利於人類？；「AI主權」則進一步詰問：誰有權界定什麼叫做『安全』、『磨合』和『有利於人類』？
- 它不再假設一小撮科技和哲學專家，就能找出AI應該磨合的「正確價值」，而是追問：公民、社區以至整個社會，如何保留質疑、協商，乃至共同訂定這些價值的能力？
- 它不再只問人類如何保持對AI的控制，而是進一步追問：究竟是哪些人在控制？代表誰控制？透過什麼制度控制？又接受什麼形式的民主問責？
在此無意將所有科技精英都視為保守派，更遑論都是民粹或威權主義者，這顯然並非事實。然而，仍很難忽視或可被稱為「科技右派」（right-wing technicism）的趨勢正在冒起——愈來愈多人傾向把科技力量、創業精神和對先進AI的控制，視為鞏固或建立政治經濟霸權的源頭。在這種危險的世界觀下，普通公民日益被邊緣化，甚至變得無足輕重——他們只是一些缺乏科技知識的旁觀者，主要角色不過是接受一種由別人設計好的未來。
對於不認同這類政治取向的人——我堅信即使在科技界內部，仍然大有人在——當前最大的挑戰，是仍未能提出一套全面而有效的替代方案。單純捍衛現有的自由民主體制，早已顯得並不足夠；但假如只想求政府加強干預和監管，也可能完全沒有觸及科技權力高度集中的根本問題。
堅持「哲王」角色，只會玉石俱焚
這正是「AI主權」可以提供的另一個出發點。
與其只追問政府應該如何監管強大的科技巨企，「AI主權」更想追問：公民和社會如何重新取得對這些舉足輕重的科技系統，更實質和有意義的自主權？如此「AI主權」便不用被簡化為抗拒科技的防禦工程，也毋須一味充當國家層面的「主權AI」——即各國競相擁有自己的晶片、數據中心和基礎模型。相反，它可以成為重新建立科技主體性的民主工程。
由此開放權重（open weights）模型、本土化AI、公共及公民AI基礎設施、大學和社區為本的AI模型、多中心治理、公民參與和憲制保障，便不再僅僅是互不相關、各自為政的實驗。它們可以逐步組合成一套更宏大的政治策略：確保AI擴散到社會不同角落的同時，治理AI的權力亦同樣得到擴散。
反過來說，若精英權貴堅持擁抱自身的「哲王」角色，社會政治矛盾勢必急劇惡化，尤其是在AI發展中利益嚴重受損的年輕一代，將會趨向採取更激烈的抗爭手段，甚至是倡導一個AI應該被取締的世界。無論對任何人而言，這亦將是一場沒有贏家、只有輸家的玉石俱焚。
自下而上共同決定AI發展
當然，現存憲政民主仍保有一大優勢，恰恰在於它有能力把反對力量吸納。在AI轉型的過程中，這種能力將變得尤其重要。假如年輕人、知識工人和創意工作者，以及其他承受不成比例代價的群體，都能獲得真正而有意義的參與機會，自下而上共同決定AI應該如何發展，他們對現況的不滿和反抗，便毋須演變成對AI本身的反抗。相反，矛盾可以成為推動制度適應的動力。
真正的危機遂在於，科技精英把公眾的反抗，僅僅視為無知、不理性或窒礙創新的絆腳石。一旦人們被剝奪有意義的參與機會，反抗力量便會被排拒於體制之外。要求民主監督和治理的訴求，亦可能逐漸演變成對體制本身的抗拒。至此實行憲政民主的AI先進地區，很快便會被同樣在發展AI的威權體制超越。
「AI主權」正正應該建基於憲政對矛盾的吸納和轉化，把塑造AI未來的各種力量，帶進一個共同的公共場域，讓科技精英、公民和受影響的群體，以至未來世代，都能彼此質疑、爭辯和協商，而不容許任何單一群體自居「哲王」，壟斷決定人類未來的權威。
「AI安全」問的是：人類如何能夠繼續控制愈來愈強大的科技？「AI主權」則迫使我們揭開這句看似令人安心的說話背後，那些一直被掩蓋的真正政治問題：究竟是哪些人在控制AI？這種控制權又應該如何分配、制衡和被質疑，它應該如何接受問責？
在一個充滿極端不確定性的年代，人們自然會渴望找到自己的「哲王」，並將命運和前途託付給他。但他最終找到的，很可能只是「沒穿衣服的國王」。而真正危險的地方，甚至不在於國王有沒有穿衣服；而是假以時日，便再沒有人懂得站出來，指出國王根本沒有穿衣服。
《Demotopia: An Exploration of Democracy and Artificial Intelligence》（2026）是一本最近在加拿大出版的政治科幻小說，嘗試探討一個核心命題：人類共同的未來，不僅取決於科技，也取決於制度；不僅取決於模型，也取決於憲制。
