本文章圍繞去中心化加速(d/acc)理念,探討 d/acc 對構建更安全美好世界的重要性及未來發展的機遇與挑戰。本文源自 Vitalik Buterin 所著文章,由 Foresight News 整理、編譯。
(前情提要: V神大讚「X平台社群筆記」遭質疑被操控!馬斯克:是去中心化且開源,我都無法控制)
(背景補充: V神點燃「網路國家」討論熱潮!社群拋構想:用獨立稅收與法律實驗打造長期網路節點)
本文章圍繞去中心化加速(d/acc)理念展開,探討其在技術發展中的應用及面臨的挑戰,包括人工智慧安全與監管、與加密貨幣的關聯以及公共物品資助等方面,強調了 d/acc 對構建更安全美好世界的重要性及未來發展的機遇與挑戰。
深入闡述 d/acc 的內涵,通過對比不同策略分析其在應對人工智慧風險等方面的作用,同時論述加密貨幣在其中的價值及公共物品資助機制的探索,最後展望未來技術發展雖有挑戰但人類仍有機會憑藉現有工具和理念構建更優世界。
前言
特別感謝 Liraz Siri、Janine Leger 和 Balvi 等志願者的回饋與審閱。
大約一年前,我撰寫了一篇關於技術樂觀主義的文章,文中闡述了我對技術所持的總體熱忱,以及技術能夠帶來的巨大效益,同時也表達了我對一些特定問題的審慎態度,這些問題主要聚焦於超級智慧人工智慧,以及倘若這項技術構建不當,便可能引發的毀滅風險,或者導致人類不可逆轉地喪失權力的風險。
我在那篇文章中的一個核心觀點是秉持一種理念:去中心化、民主且差異化的防禦性加速。既要加速技術發展,又要有區別地聚焦於那些能夠提升我們防禦能力而非造成傷害能力的技術,並且致力於推動權力分散,而非讓權力集中在少數精英手中,避免由這些精英代表所有人去判定是非善惡。
防禦的模式應如同民主的瑞士,以及歷史上準無政府主義的佐米亞地區那般,而非中世紀封建主義下領主和城堡所代表的模式。
自那時起的一年間,這些理念和想法經歷了顯著的發展與成熟。我在「80,000 小時」(注:一個專注於職業選擇的組織)這一平臺上分享了這些想法,收穫了諸多回應,其中大部分是積極的,當然也存在一些批評的聲音。
這項工作本身持續推進並取得了切實成果:在可驗證開源疫苗領域,我們目睹了進展;人們對健康室內空氣價值的認知不斷深化;「社群筆記」持續發揮著積極效用;預測市場作為一種資訊工具迎來了突破之年;零知識簡潔非互動式知識論證(ZK – SNARKs)在政府身份識別和社交媒體領域得以應用(並且通過帳戶抽象確保了以太坊錢包的安全);開源成像工具在醫學和腦機介面(BCI)領域獲得應用,等等。
在去年秋季,我們迎來了首個重要的 d/acc 活動:於 Devcon 舉辦的「d/acc 發現日」(d/aDDy),活動匯聚了來自 d/acc 各個支柱領域(生物、物理、網路、資訊防禦,以及神經技術)的演講者,活動持續了整整一天。多年來致力於這些技術的人們愈發瞭解彼此的工作,而外部人士也越發意識到這一更為巨集大的願景:推動以太坊和加密貨幣發展的相同價值觀能夠拓展至更廣闊的世界。
d/acc 的內涵與外延
時光流轉至 2042 年。你在媒體報導中看到一則訊息,稱你所在的城市可能爆發新的疫情。對於此類訊息,你已然司空見慣:人們往往會對每一種動物疾病突變反應過度,而絕大多數情況下,這些突變最終都不會引發實際危機。
此前的兩次潛在疫情,均通過廢水監測以及對社交媒體的開源分析得以在早期察覺,並成功被遏制在萌芽狀態。然而,此次情況有所不同,預測市場顯示出現至少 10,000 例病例的概率高達 60%,這讓你憂心忡忡。
就在昨天,該病毒的基因序列已被確定。用於你口袋中空氣測試儀的軟體更新隨即推出,藉助這一更新,測試儀能夠檢測新病毒(無論是通過一次呼吸檢測,還是在房間內暴露於室內空氣 15 分鐘後檢測)。
與此同時,使用全球任何現代醫療設施都能獲取的裝置來生成疫苗的開源指令和程式碼,預計將在幾周內釋出。大多數人目前尚未採取任何行動,他們主要依賴廣泛採用的空氣過濾和通風措施來保護自身安全。
由於你自身存在免疫問題,所以行事更為謹慎:你所使用的開源本地執行個人助理人工智慧,除了承擔導航、餐廳和活動推薦等常規任務外,還會綜合考慮即時空氣測試資料和二氧化碳資料,從而僅向你推薦最為安全的場所。這些資料由成千上萬的參與者和裝置提供,藉助 ZK – SNARKs 和差分隱私技術,最大限度地降低了資料被洩露或濫用於其他目的的風險(如果你有意為這些資料集貢獻資料,還有其他個人助理人工智慧會驗證這些加密工具是否確實有效)。
兩個月後,疫情奇蹟般地消散了:似乎 60% 的人遵循了基本防疫協議,即當空氣測試儀發出警報並顯示存在病毒時便佩戴口罩,若個人檢測結果呈陽性則居家隔離。正是這一舉措,足以將由於被動強力空氣過濾而已經大幅降低的傳播率進一步降至 1 以下。一場模擬結果顯示可能比二十年前的新冠疫情嚴重五倍的疾病,如今卻未造成嚴重影響。
Devcon 的 d/acc 日
Devcon 舉辦的 d/acc 活動取得了一項極為積極的成果,那就是 d/acc 理念成功地將來自不同領域的人們凝聚在一起,並切實激發了他們對彼此工作的濃厚興趣。
舉辦一場具有「多樣性」的活動並非難事,但要讓不同背景和興趣的人真正建立起緊密的聯絡卻殊為不易。我至今仍對初中和高中時期被迫觀看冗長歌劇的經歷記憶猶新,當時我個人覺得這些歌劇枯燥乏味。我深知自己「理應」欣賞它們,因為若不如此,便會被視為沒有文化的電腦科學懶蟲,但我卻未能在更深層次上與歌劇內容產生共鳴。然而,d/acc 日的活動氛圍卻截然不同:感覺人們真心喜愛了解不同領域的各類工作。
倘若我們渴望構建一個比統治、減速和毀滅更為光明的未來,就必然需要開展這種廣泛的聯盟建設。d/acc 在這方面似乎取得了顯著成效,僅此一點便足以彰顯這一理念的寶貴价值。
d/acc 的核心思想簡潔明瞭:去中心化、民主且差異化的防禦性加速。構建能夠促使攻防平衡向防禦傾斜的技術,並且在實施過程中不依賴於將更多權力交予中央權威機構。
這兩個方面之間存在著內在的緊密聯絡:任何一種去中心化、民主或自由的政治結構,在防禦易於實施時往往能夠蓬勃發展,而在防禦面臨重重困難時則會遭遇嚴峻挑戰 —— 在那些情況下,更有可能出現的結果是一段所有人相互對抗的混亂時期,最終達成由最強者統治的平衡狀態。
理解嘗試同時實現去中心化、防禦性和加速性的重要意義的一種方式,是將其與放棄這三個方面中的任意一個所產生的理念進行對比。
去年《我的技術樂觀主義》中的圖表
去中心化加速,但忽視「差異化防禦」部分
從本質上講,這類似於成為一名有效加速主義者(e/acc),但同時追求去中心化。有許多人採取這種方式,其中一些人自稱 d/acc,但他們有益地將自身重點描述為「進攻」。此外,還有許多其他人對「去中心化人工智慧」及類似話題表現出更為溫和的熱情,但在我看來,他們對「防禦」層面的關注明顯不足。
在我看來,這種方式或許能夠避免特定群體對全球人類實施獨裁統治的風險,但它卻未能解決潛在的結構性問題:在一個有利於進攻的環境中,始終存在著災難降臨的持續風險,或者有人會將自己定位為保護者,並永久性地佔據統治地位。就人工智慧而言,它也無法妥善解決人類整體相對於人工智慧被削弱權力的風險。
差異化防禦加速,但忽略「去中心化和民主」
為了實現安全目標而接受集中控制,這對一部分人始終具有一定的吸引力,讀者無疑已經熟知眾多此類事例,以及它們所帶來的弊端。近期,一些人擔憂極端集中控制可能是應對未來極端技術的唯一途徑:例如,設想這樣一個假設情景,「每個人都佩戴一個『自由標籤』—— 這是當今更為有限的可穿戴監控裝置的後續產品,類似於幾個國家用作監獄替代方案的腳踝標籤…… 加密的視訊和音訊被持續上傳,並即時由機器進行解讀」。然而,集中控制存在一個程度的問題。
一種通常被忽視但仍然有害的相對溫和的集中控制形式,體現在生物技術領域(例如食品、疫苗)對公眾監督的抵制,以及允許這種抵制行為不受挑戰的閉源規範。
這種方式的風險顯而易見,那就是中心本身往往會成為風險的源頭。我們在新冠疫情期間便已見證了這一點,由多個主要世界政府資助的功能獲得性研究可能是疫情的根源所在,集中的認識論導致世界衛生組織多年來拒絕承認新冠病毒是通過空氣傳播的,而強制性的社交距離和疫苗強制令則引發了可能持續數十年的政治反彈。
類似的情況極有可能在與人工智慧或其他風險技術相關的任何風險情境中再次發生。相比之下,去中心化的方式將更有效地應對來自中心自身的風險。
去中心化防禦,但排斥加速
從本質上來說,這是試圖減緩技術進步或推動經濟衰退。
這種策略面臨著雙重挑戰。首先,總體而言,技術和經濟增長對人類而言是極為有益的,任何對其的延遲都會帶來難以估量的代價。其次,在一個非極權主義的世界中,停滯不前是不穩定的:那些「作弊」最多,能夠找到看似合理的方式繼續推進發展的人或群體將會佔據優勢。
減速主義策略在某些特定情境下能夠在一定程度上發揮作用:例如歐洲食物比美國食物更為健康,這便是一個例證;核不擴散到目前為止取得的成功也是如此。然而,這些策略不可能永遠奏效。
通過 d/acc,我們致力於實現以下目標:
- 在當今世界日益部落化的趨勢下堅守原則,而不僅僅是盲目地構建各種事物 —— 相反,我們期望構建特定的事物,從而使世界變得更加安全、美好。
- 認識到指數級的技術進步意味著世界將變得極為奇特,並且人類在宇宙中的總體「足跡」必然會不斷增加。我們保護脆弱的動物、植物和人群免受傷害的能力必須持續提升,而唯一的出路便是勇往直前。
- 構建能夠切實保護我們的技術,而不是基於「好人(或好的人工智慧)掌控一切」的假設。我們通過構建在用於構建和保護時自然比用於破壞時更為有效的工具來達成這一目標。
思考 d/acc 的另一種視角是迴歸到 21 世紀 00 年代末歐洲海盜黨運動的一個框架:賦權。
我們的目標是構建一個能夠保留人類能動性的世界,實現消極自由,即避免他人(無論是普通公民、政府,還是超級智慧機器人)對我們塑造自身命運的能力進行積極干預,同時實現積極自由,即確保我們擁有知識和資源去踐行這一能力。
這呼應了一個延續數世紀的古典自由主義傳統,其中涵蓋了斯圖爾特・布蘭德對「工具獲取」的關注,以及約翰・斯圖爾特・密爾對教育與自由並列作為人類進步關鍵要素的強調 —— 或許還可以補充巴克敏斯特・富勒期望全球解決問題的過程是參與式和廣泛分佈的願景。鑑於 21 世紀的技術格局,我們可以將 d/acc 視為實現這些相同目標的一種途徑。
第三維度:生存與繁榮的協同發展
在我去年的文章中,d/acc 特別聚焦於防禦性技術:物理防禦、生物防禦、網路防禦和資訊防禦。然而,單純的去中心化防禦並不足以構建一個偉大的世界:我們還需要一個具有前瞻性的積極願景,明確人類在獲得新的去中心化和安全性之後能夠實現何種目標。
去年的文章在兩個方面確實包含了一個積極的願景:
1、在關注超級智慧的挑戰時,我提出了一條路徑(這對我來說並非原創),即我們如何在不喪失權力的情況下實現超級智慧:
- 當下,構建人工智慧作為工具,而非高度自主的智慧體。
- 未來,運用虛擬現實、肌電技術和腦機介面等工具,在人工智慧與人類之間建立更為緊密的回饋機制。
- 隨著時間的推移,逐步邁向最終的結局,即超級智慧是機器與人類緊密融合的產物。
2、在談及資訊防禦時,我也曾順便提及,除了那些旨在幫助社群在面對攻擊者時保持凝聚力並進行高品質討論的防禦性社會技術之外,還存在進步性社會技術,能夠助力社群更輕鬆地做出高品質判斷:Pol.is 便是一個例項,預測市場亦是如此。
但當時這兩點感覺與 d/acc 的核心論點存在脫節:「這裡有一些關於在基礎層面構建一個更民主、更有利於防禦的世界的想法,順便說一下,這裡還有一些關於我們如何實現超級智慧的不相關想法」。
然而,我認為在現實中,上述被標記為「防禦性」和「進步性」的 d/acc 技術之間存在著一些至關重要的聯絡。讓我們擴展套件去年文章中的 d/acc 圖表,通過在圖表中新增這個軸(同時將其重新標記為「生存與繁榮」),來看看會呈現出怎樣的結果:
在各個領域中存在著一個一致的模式,即那些能夠幫助我們在某一領域「生存」的科學、思想和工具,與能夠助力我們「繁榮」的科學、思想和工具密切相關。以下是一些具體例子:
- 眾多近期的抗新冠研究聚焦於病毒在體內的持續存在,這被視為長新冠問題的一個關鍵機制。近來,也有跡象表明病毒持續存在可能是阿爾茨海默病的致病因素 —— 倘若這一觀點成立,那麼解決所有組織型別中的病毒持續存在問題,或許將成為攻克衰老難題的關鍵所在。
- 低成本和微型成像工具,如 Openwater 正在研發的那些,在治療微血栓、病毒持續存在、癌症等方面具有強大的潛力,同時也可應用於腦機介面領域。
- 推動構建適用於高度對抗性環境的社會工具(如社群筆記)和合理合作環境的社會工具(如 Pol.is)的理念極為相似
- 預測市場在高合作和高對抗環境中均具有重要價值。
- 零知識證明及類似技術在保護隱私的同時對資料進行計算,既增加了可用於科學研究等有益工作的資料量,又增強了隱私保護。
- 太陽能和電池對於推動下一波清潔經濟增長意義非凡,同時在去中心化和物理彈性方面也表現出色。
除此之外,不同學科領域之間還存在著重要的相互依存關係:
- 腦機介面作為一種資訊防禦和協作技術至關重要,因為它能夠實現我們思想和意圖的更精細交流。腦機介面不僅僅是機器人與意識之間的連線:它還可以是意識 – 機器人 – 意識之間的互動。這與多元性理念中腦機介面的價值相呼應。
- 許多生物技術依賴於資訊共享,而在諸多情況下,人們只有在確信資訊僅會用於特定應用時才願意共享。這依賴於隱私技術(如零知識證明、全同態加密、混淆技術等)。
- 協作技術能夠用於協調對其他任何技術領域的資助。
難題:人工智慧安全、緊迫時間線與監管困境
不同的人有截然不同的人工智慧時間表。圖表來自 2023 年黑山的 Zuzalu。
去年我的文章所收到的最具說服力的反對觀點來自人工智慧安全社群。其論點為:
「當然,如果我們有半個世紀的時間來發展強人工智慧,我們可以集中精力構建所有這些有益的事物。但實際上,看起來我們可能僅有三年時間發展到通用人工智慧,再過三年發展到超級智慧。因此,如果我們不想讓世界陷入毀滅或以其他方式陷入不可逆轉的困境,我們不能僅僅加速有益技術的發展,還必須減緩有害技術的發展,這意味著需要通過可能會觸怒權勢階層的強有力監管措施」。
在我去年的文章中,除了含糊地呼籲不要構建具有風險的超級智慧形式之外,我確實未曾提出任何具體的「減緩有害技術發展」的策略。所以在此,有必要直接探討這個問題:如果我們身處最不理想的世界,人工智慧風險極高且時間線可能僅有五年之短,我會支援何種監管措施呢?
對新監管持謹慎態度的理由
去年,主要的人工智慧監管提案是加利福尼亞州的 SB – 1047 法案。SB – 1047 要求最強大模型(即那些訓練成本超過 1 億美元,或微調成本超過 1000 萬美元的模型)的開發者在釋出前採取一系列安全測試措施。
此外,如果人工智慧模型開發者未能足夠謹慎,將對其追究責任。許多批評者認為該法案「對開源構成威脅」;我對此持有異議,因為成本閾值意味著它僅影響最強大的模型:即使是 Llama3 模型可能也低於該閾值。
然而,回顧過去,我認為該法案存在一個更為嚴重的問題:如同大多數監管措施一樣,它過度適應了當前的情況。對訓練成本的關注在面對新技術時已被證明是脆弱的:近期最先進的 DeepSeek v3 模型的訓練成本僅為 600 萬美元,而且在像 o1 這樣的新模型中,成本通常從訓練更多地轉移到了推理階段。
最有可能對人工智慧超級智慧毀滅場景負責的行為者
實際上,最有可能對人工智慧超級智慧毀滅場景負責的行為者是軍隊。正如我們在過去半個世紀的生物安全(及更早時期)中所目睹的那樣,軍隊願意採取一些可怕的行動,而且他們極易犯錯。
如今,人工智慧在軍事領域的應用正在迅速發展(如在烏克蘭、加沙地區的應用)。並且,任何政府通過的安全監管措施,預設情況下都會豁免本國軍隊以及與軍隊密切合作的公司。
應對策略
儘管如此,這些論點並非讓我們束手無策的理由。相反,我們可以將它們作為指引,嘗試制定引發這些擔憂最少的規則。
策略 1:責任
如果某人的行為以某種方式造成了可依法追究的損害,他們可能會被起訴。這並不能解決來自軍隊和其他「凌駕於法律之上」的行為者所帶來的風險問題,但這是一種非常通用的方法,可避免過度擬合,正因如此,傾向於自由意志主義的經濟學家通常支援這種做法。
到目前為止所考慮的主要責任目標如下:
- 使用者:即使用人工智慧的人。
- 部署者:為使用者提供人工智慧服務的中間人。
- 開發者:構建人工智慧的人。
將責任歸於使用者似乎最符合激勵機制。雖然模型的開發方式與最終使用方式之間的聯絡往往不明確,但使用者決定了人工智慧的具體使用方式。對使用者追究責任會產生一種強大的壓力,促使人們以我認為正確的方式使用人工智慧:專注於為人類思維構建機械套裝,而非創造新的自我維持的智慧生命形式。
前者會定期響應使用者意圖,因此除非使用者希望,否則不會導致災難性行動。而後者則存在最大的風險,即可能失控並引發經典的「人工智慧失控」場景。
將責任儘可能靠近最終使用端的另一個好處是,它最大限度地減少了責任導致人們採取在其他方面有害的行動的風險(例如閉源、瞭解你的客戶(KYC)和監控、國家 / 企業勾結祕密限制使用者,如銀行拒絕為某些客戶提供服務,將世界上大片地區排除在外)。
有一種經典的反對僅將責任歸於使用者的觀點:使用者可能是普通個人,沒有太多錢,甚至可能是匿名的,這樣就沒有人能夠實際為災難性的損害買單。
這種觀點可能被誇大了:即使有些使用者太小而無法承擔責任,人工智慧開發者的普通客戶卻不是,因此人工智慧開發者仍然會受到激勵,去構建能夠讓使用者確信他們不會面臨高責任風險的產品。
也就是說,這仍然是一個有效的觀點,需要加以解決。你需要激勵管道中的某個有資源採取適當謹慎措施的人這樣做,而部署者和開發者都是容易找到的目標,他們仍然對模型的安全性有很大影響。
部署者責任似乎是合理的。一個常見的擔憂是它對開源模型不起作用,但這似乎是可以管理的,特別是因為最強大的模型很有可能是閉源的(如果結果是開源的,那麼雖然部署者責任最終可能不是非常有用,但也不會造成太大危害)。
開發者責任也存在同樣的擔憂(儘管對於開源模型,需要微調模型以使其做一些原本不被允許的事情存在一定障礙),但同樣的反駁理由也適用。作為一般原則,對控制施加一種「稅」,本質上是說「你可以構建你無法控制的東西,或者你可以構建你能夠控制的東西,但如果你構建你能夠控制的東西,那麼 20% 的控制權必須用於我們的目的」,這似乎是法律體系應有的合理立場。
一個似乎尚未得到充分探索的想法是將責任歸於管道中的其他行為者,這些行為者更有可能擁有充足的資源。一個非常符合 d/acc 理念的想法是,對人工智慧在執行某些災難性有害行動過程中所接管(例如通過駭客攻擊)的任何裝置的所有者或操作者追究責任。這將創造一種非常廣泛的激勵,促使人們努力使世界(特別是計算和生物領域)的基礎設施儘可能安全。
策略 2:工業規模硬體上的全球「軟暫停」按鈕
如果我確信我們需要比責任規則更「強有力」的措施,我會選擇這個策略。目標是在關鍵時期具備將全球可用計算能力降低約 90% – 99% 的能力,持續 1 – 2 年,為人類爭取更多準備時間。1 – 2 年的價值不應被高估:一年的「戰時模式」在自滿的情況下很容易抵得上一百年的常規工作。實現「暫停」的方法已經在探索中,包括一些具體的提案,如要求硬體註冊和驗證位置。
一種更先進的方法是使用巧妙的加密技術手段:例如,生產出來的工業規模(但非消費級)人工智慧硬體可以配備一個可信硬體晶片,只有在每週獲得來自主要國際機構(包括至少一個非軍事附屬機構)的 3/3 簽名時,才允許其繼續執行。
這些簽名將與裝置無關(如果需要,我們甚至可以要求在區塊鏈上釋出零知識證明),所以這將是全有或全無的:沒有實際方法可以授權一個裝置繼續執行而不授權所有其他裝置。
這在最大化利益和最小化風險方面似乎「符合要求」:
- 這是一項有用的能力:如果我們收到跡象表明接近超級智慧的人工智慧開始做出可能導致災難性損害的事情,我們會希望更緩慢地進行過渡。
- 在這樣的關鍵時刻到來之前,僅僅擁有軟暫停的能力對開發者造成的危害很小。
- 專注於工業規模硬體,並且僅將目標設定為 90% – 99%,將避免一些反烏托邦的做法,如在消費級膝上型電腦中植入間諜晶片或強制關閉開關,或強迫小國違背其意願採取嚴厲措施。
- 專注於硬體似乎對技術變化具有很強的適應性。我們在多代人工智慧中已經看到,品質在很大程度上取決於可用計算能力,尤其是在新正規化的早期版本中。因此,將可用計算能力降低 10 – 100 倍很容易使失控的超級智慧人工智慧在與試圖阻止它的人類的快速戰鬥中產生勝負之分。
- 每週需要上線獲取簽名的內在麻煩性將強烈抑制將該方案擴展套件到消費級硬體的想法。
- 可以通過隨機檢查進行驗證,並且在硬體層面進行操作將使豁免特定使用者變得困難(基於法律強制關閉而非技術手段的方法不具備這種全有或全無的屬性,這使得它們更容易滑向對軍隊等的豁免)。
硬體監管已經在被強烈考慮,儘管通常是在出口管制的框架內,這本質上具有一種「我們信任自己一方,但不信任另一方」的理念。利奧波德・阿申布倫納曾著名地主張美國應該競相取得決定性優勢,然後迫使中國簽署一項協議,限制他們可以執行的裝置數量。
在我看來,這種方法似乎有風險,並且可能結合多極競賽和集中化的缺陷。如果我們必須限制人們,似乎更好的做法是平等地限制每個人,並努力實際合作來組織實施,而不是一方試圖支配所有人。
d/acc 技術在人工智慧風險中的作用
這兩種策略(責任和硬體暫停按鈕)都存在漏洞,並且很明顯它們只是暫時的權宜之計:如果在時間 T 時在超級電腦上能夠做某事,那麼在時間 T + 5 年時在膝上型電腦上也很可能能夠做到。因此,我們需要更穩定的措施來爭取時間。許多 d/acc 技術在這裡是相關的。我們可以如下看待 d/acc 技術的作用:如果人工智慧接管世界,它會如何做到?
- 它入侵我們的電腦→網路防禦
- 它製造超級瘟疫→生物防禦
- 它說服我們(要麼信任它,要麼不信任彼此)→資訊防禦
如上文簡要提到的,責任規則是一種自然符合 d/acc 理念的監管方式,因為它們可以非常有效地激勵世界各地採用這些防禦措施並認真對待。臺灣最近一直在試驗對虛假廣告追究責任,這可以被視為利用責任來鼓勵資訊防禦的一個例子。
我們不應過於熱衷於到處施加責任,並且要記住普通的自由在使小人物能夠參與創新而無需擔心訴訟方面的好處,但是在我們確實希望更強有力地推動安全的地方,責任可以相當靈活和有效。
加密貨幣在 d/acc 中的作用
d/acc 的很多方面遠遠超出了典型的區塊鏈主題:生物安全、腦機介面和協作話語工具似乎與加密貨幣人士通常談論的內容相去甚遠。然而,我認為加密貨幣和 d/acc 之間存在一些重要聯絡,特別是:
- d/acc 是加密貨幣的基本價值(去中心化、抗審查、開放的全球經濟和社會)向其他技術領域的延伸。
- 因為加密貨幣使用者是自然的早期採用者,並且存在價值觀的一致性,加密貨幣社群是 d/acc 技術的自然早期使用者。對社群的高度重視(包括線上和線下,例如活動和快閃活動),以及這些社群實際上做高風險事情而不僅僅是相互交談的事實,使得加密貨幣社群成為 d/acc 技術特別有吸引力的孵化器和試驗場,這些技術從根本上是基於群體而非個人運作的(例如大部分資訊防禦和生物防禦技術)。加密貨幣人士就是一起做事。
- 許多加密貨幣技術可以用於 d/acc 主題領域:區塊鏈用於構建更強大和去中心化的金融、治理和社交媒體基礎設施,零知識證明用於保護隱私等。如今,許多最大的預測市場建立在區塊鏈上,並且它們正逐漸變得更加複雜、去中心化和民主。
- 在與加密貨幣相鄰的技術方面也存在雙贏的合作機會,這些技術對加密貨幣專案非常有用,同時也是實現 d/acc 目標的關鍵:形式驗證、電腦軟體和硬體安全以及具有對抗性的穩健治理技術。這些使以太坊區塊鏈、錢包和去中心化自治組織(DAO)更加安全和穩健,並且它們還實現了重要的文明防禦目標,例如降低我們對網路攻擊(包括可能來自超級智慧人工智慧的攻擊)的脆弱性。
Cursive 是一款使用全同態加密技術(FHE)的應用程式,它允許使用者識別與其他使用者共同感興趣的領域,同時保護隱私。清邁的 Edge City(Zuzalu 的眾多分社之一)就使用了這款應用。
d/acc 與公共物品資助
我一直感興趣的一個問題是想出更好的機制來資助公共物品:即對非常大的群體有價值但沒有自然可及商業模式的專案。我過去在這方面的工作包括我對二次方資金資助及其在 Gitcoin 贈款、追溯性公共物品資金(retro PGF)以及最近的深度資金資助中的貢獻。
許多人對公共物品這個概念持懷疑態度。這種懷疑通常來自兩個方面:
- 公共物品在歷史上一直被用作政府對社會和經濟進行強硬中央計劃和干預的理由。
- 一種普遍的看法是公共物品資助缺乏嚴謹性,並且是基於社會期望偏差運作的 —— 即聽起來好的東西,而不是真正好的東西 —— 並且有利於能夠玩轉社交遊戲的內部人士。
這些都是重要的批評,而且是合理的批評。然而,我認為強大的去中心化公共物品資助對於 d/acc 願景至關重要,因為 d/acc 的一個關鍵目標(最小化中央控制點)本身就阻礙了許多傳統商業模式。
在開源基礎上建立成功的企業是可能的 —— 幾個 Balvi 受資助者正在這樣做 —— 但在某些情況下這足夠困難,以至於重要專案需要額外的持續支援。因此,我們必須做困難的事情,即弄清楚如何以一種解決上述兩個批評的方式進行公共物品資助。
第一個問題的解決方案基本上是可信的中立性和去中心化。中央計劃是有問題的,因為它將控制權交給了可能變得濫用權力的精英,並且因為它經常過度適應當前情況,隨著時間推移變得越來越無效。二次方資金資助和類似機制正是關於以儘可能可信的中立和(在架構和政治上)去中心化的方式資助公共物品。
第二個問題更具挑戰性。對於二次方資金資助,一個常見的批評是它很快就變成了一場人氣競賽,要求專案資助者花費大量精力進行公開宣傳。
此外,那些「在人們眼前」的專案(例如終端使用者應用程式)得到資助,而那些更在幕後的專案(典型的「由內布拉斯加州的一個人維護的依賴項」)根本得不到任何資助。
樂觀主義追溯性資金依賴於較少數量的專家徽章持有者;在這裡,人氣競賽效應減少了,但與徽章持有者有密切個人關係的社會效應被放大了。
深度資金資助是我自己為解決這個問題所做的最新努力。深度資金資助有兩個主要創新:
依賴關係圖。我們不是問每個陪審員一個全球性問題(「專案 A 對人類的價值是什麼?」),而是問一個區域性問題(「專案 A 或專案 B 對結果 C 更有價值?價值多少?」)。人類在回答全球性問題方面是出了名的糟糕:在一項著名的研究中,當被問及他們願意花多少錢來拯救 N 只鳥時,受訪者對 N = 2000、N = 20000 和 N = 200000 的回答大致都是 80 美元。區域性問題更容易處理。然後,我們通過維護一個「依賴關係圖」將區域性答案組合成一個全域性答案:對於每個專案,哪些其他專案對其成功有貢獻,貢獻多少?
人工智慧作為提煉後的人類判斷。陪審員每人只被分配所有問題中的一小部分隨機樣本。有一個開放競賽,任何人都可以提交人工智慧模型,試圖有效地填補圖中的所有邊。最終答案是與陪審團答案最相容的模型的加權總和。有關程式碼示例,請參閱此處。這種方法允許機制擴展套件到非常大的規模,同時要求陪審團只提交少量的「資訊位」。這減少了腐敗的機會,並確保每個資訊位都是高品質的:陪審員可以在每個問題上花很長時間思考,而不是快速點選瀏覽數百個問題。通過使用人工智慧的開放競賽,我們減少了來自任何單一人工智慧訓練和管理過程的偏差。人工智慧的開放市場作為引擎,人類作為方向盤。
但深度資金資助只是最新的例子;之前還有其他公共物品資助機制的想法,未來也會有更多。allo.expert 在對它們進行編目方面做得很好。
根本目標是建立一個社會工具,能夠以至少接近市場資助私人物品的準確性、公平性和開放准入水平來資助公共物品。它不必完美;畢竟,市場本身也遠非完美。但它應該足夠有效,使得從事對每個人都有益的高品質開源專案的開發者能夠繼續這樣做,而不會覺得需要做出不可接受的妥協。
如今,大多數 d/acc 主題領域的領先專案:疫苗、腦機介面、像手腕肌電和眼動追蹤這樣的「邊緣腦機介面」、抗衰老藥物、硬體等,都是專有專案。這在確保公眾信任方面有很大的缺點,正如我們在上述許多領域已經看到的那樣。
它還將注意力轉向競爭動態(我們的團隊必須贏得這個關鍵行業!),而遠離了確保這些技術足夠快地出現以在超級智慧人工智慧的世界中保護我們的更大競爭。出於這些原因,強大的公共物品資助可以成為開放性和自由的有力推動者。這是加密貨幣社群可以幫助 d/acc 的另一種方式:通過認真努力探索這些資助機制,並使其在自身背景下良好運作,為更廣泛地應用於開源科學和技術做好準備。
未來
未來幾十年帶來了重要挑戰。最近我一直在思考兩個挑戰:
- 強大的新技術浪潮,尤其是強人工智慧,正在迅速到來,這些技術伴隨著我們需要避免的重要陷阱。「人工超級智慧」可能需要五年時間到來,也可能需要五十年。無論哪種情況,預設結果是否自動積極並不清楚,正如在這篇文章和上一篇文章中所描述的,有多個陷阱需要避免。
- 世界變得越來越不合作。許多以前似乎至少有時會基於高尚原則(世界主義、自由、共同人性…… 等等)行事的強大行為者,現在更加公開和積極地追求個人或部落的自身利益。
然而,這些挑戰中的每一個都有一線希望。首先,我們現在擁有非常強大的工具來更快地完成我們的剩餘工作:
- 當前和近期的人工智慧可以用於構建其他技術,並且可以作為治理中的一個要素(如在深度資金資助或資訊金融中)。它與腦機介面也非常相關,腦機介面本身可以提供進一步的生產力提升。
- 大規模協調現在比以前在更大的規模上成為可能。網際網路和社交媒體擴展套件了協調的範圍,全球金融(包括加密貨幣)增強了其力量,現在資訊防禦和協作工具可以提高其品質,也許很快腦機介面以人 – 電腦 – 人的形式可以增加其深度。
- 形式驗證、沙盒技術(網路瀏覽器、Docker、Qubes、GrapheneOS 等等)、安全硬體模組和其他技術正在改進,使得更好的網路安全成為可能。
- 編寫任何型別的軟體都比兩年前容易得多。
- 最近關於理解病毒如何工作的基礎研究,特別是對最重要的傳播形式是空氣傳播的簡單理解,為如何改善生物防禦展示了更清晰的路徑。
- 生物技術的最新進展(例如 CRISPR、生物成像的進展)使得各種生物技術,無論是用於防禦、長壽、超級幸福、探索多種新的生物假設,還是僅僅做非常酷的事情,都更容易獲得。
- 計算和生物技術的共同進步正在使合成生物工具成為可能,你可以使用這些工具來適應、監測和改善你的健康。網路防禦技術,如密碼學,使這種個性化維度更加可行。
其次,現在許多我們珍視的原則不再被舊勢力的少數特定部分所佔據,它們可以被一個歡迎世界上任何人加入的廣泛聯盟所重新奪回。這可能是最近世界各地政治「重新調整」的最大好處,值得加以利用。加密貨幣已經出色地利用了這一點並找到了全球吸引力;d/acc 也可以做到同樣的事情。
獲取工具意味著我們能夠適應和改善我們的生物特性和環境,而 d/acc 中的「防禦」部分意味著我們能夠做到這一點而不侵犯他人同樣做的自由。自由多元主義原則意味著我們在如何做到這一點上可以有很大的多樣性,而我們對共同人類目標的承諾意味著它應該得以實現。
我們人類仍然是最耀眼的明星。擺在我們面前的任務,即構建一個更加光明的 21 世紀,在我們邁向星辰的過程中保護人類的生存、自由和能動性,是一項具有挑戰性的任務。但我相信我們能夠勝任。
📍相關報導📍
V神對AI發展感到恐懼:人類應打造便利工具,而非創造智慧生命