原文標題：《My techno-optimism》

原文作者：vitalik

原文編譯：Luccy，BlockBeats

編按：

科技進步對未來會產生什麼樣的影響已是老生常談。上個月，Marc Andreessen 發表的「技術樂觀主義宣言」明確反對害怕技術進步的狀態，加之本月 OpenAI 引發爭端，該話題又再次引發熱議。

Vitalik Buterin 反對「優先考慮維持世界現如今狀態」的心態，同時指出，科技發展不僅需要注重力度，也要注重方向。他在最新的文章中深刻探討了人工智慧和區塊鏈的交會點，並提出了「d/acc」（decentralized acceleration）的概念。他認為，隨著科技的加速發展，人工智慧的出現可能成為人類面臨的最大挑戰之一，但也提出了更人性化、更去中心化的發展道路。

文章涉及的主題涵蓋了資訊防禦、社會技術、人機合作等多個層面，突顯了對技術發展方向進行積極引導的重要性。在不同的哲學背景下，Vitalik 推崇一種既積極又慎重的態度，呼籲開發者在建構科技的同時更注重選擇和意圖，以確保科技的發展符合人類的價值觀和長遠利益。

特別感謝Morgan Beller、Juan Benet、Eli Dourado、Sriram Krishnan、Nate Soares、Jaan Tallinn、Vincent Weisser、Balvi 志工等人提供的回饋與審查。

上個月，Marc Andreessen 發表了他的「技術樂觀主義(techno-optimist) 宣言」，呼籲重新對技術保持熱情，同時主張透過市場和資本主義的手段來建構技術，推動人類走向更光明的未來。該宣言明確反對所謂的停滯思想，即害怕技術進步，並優先考慮保持今天世界的狀態。這份宣言受到了廣泛關注，包括 Noah Smith、Robin Hanson、Joshua Gans（持正面態度）、Dave Karpf、Luca Ropek、Ezra Klein（更消極態度）等人的回應文章，以及許多其他人。雖然與該宣言無直接關係，但類似的主題還有 James Pethokoukis 的“保守主義未來派”和 Palladium 的“是時候為善建設了”。本月，透過 OpenAI 爭端，我們看到了類似的辯論，許多討論集中在超級智慧人工智慧的危險和 OpenAI 可能進展過快的可能性上。

我對技術樂觀主義的感覺是溫暖而充滿細膩的差異。我相信未來會因為徹底改變的技術而變得比現在更光明，我同時也相信人類和人性。我反對那種認為我們應該努力保持世界基本上與今天相同，只是減少貪婪，增加公共醫療的心態。然而，我認為不僅程度重要，方向也至關重要。有某些類型的技術更能可靠地使世界變得更好，而有些技術類型如果發展，可能會減輕其他技術類型的負面影響。世界在某些技術發展方向上過度投入，在其他方向上則不足。我們需要有意識地選擇我們想要的方向，因為「最大化利潤」的公式不會自動導向這些方向。

在這篇文章中，我將探討科技樂觀主義對我的意義。這包括激發我在某些類型的區塊鏈和密碼學應用、社會技術以及我表達了興趣的其他科學領域上的工作的更廣泛的世界觀。但對於這個更廣泛的問題的不同看法也對人工智慧以及許多其他領域有著重要的影響。我們在技術上的快速進步很可能會成為 21 世紀最重要的社會議題，因此認真思考它們是很重要的。

科技真是令人驚嘆，而延遲其發展可能會付出極高的代價。

在某些領域，人們普遍低估科技的益處，將其主要視為烏托邦和潛在風險的源頭。過去半個世紀，這種看法往往源自於環境問題，或擔心科技的好處只會流向富人，進而鞏固他們對窮人的權力。最近，我還注意到一些自由主義者對某些技術感到擔憂，擔心這些技術會導致權力的集中。本月，我進行了一些調查，問了以下問題：如果某項技術因為太危險而需要受到限制，他們會更希望它被壟斷還是推遲十年？令我驚訝的是，在三個平台和三個關於壟斷者身分的選項中，人們一致而強烈地選擇了延遲。

因此，我有時擔心我們可能已經過度糾正，很多人忽略了辯論的另一方面：科技的好處確實巨大，在我們能夠衡量的領域中，正面效應遠遠超過負面效應，即使是延後十年的成本也是難以估量的。

舉一個具體的例子，讓我們來看看壽命預期圖：

「成長的極限」理論是在70 年代論提出的一個觀點，認為不斷增長的人口和工業最終會耗盡地球有限的資源，結果導致了中國的獨生子女政策和印度大規模的強制絕育。在早期，對人口過剩的擔憂曾被用來為大規模屠殺辯護。而這些自 1798 年以來一直被提出的觀點在很長一段時間裡都被證明是錯誤的。

正是因為這些原因，作為一個起點，我對減緩技術或人類進步的論點感到非常不安。考慮到各個領域之間的緊密聯繫，即使是領域性的減速也是危險的。因此，當我寫下像我將在這篇文章後面說的那些東西時，遠離了對進步無論形式如何都持開放態度的立場，這是我懷著沉重的心情發表的言論- 然而，21 世紀是如此不同和獨特，以至於這些細微之處是值得考慮的。

話雖如此，就更廣泛的問題而言，特別是當我們超越“技術整體上是好的”並轉向“哪些具體技術是好的？」這個主題時，有一個重要的細微差別需要指出：環境。

環境和協調意願的重要性

過去一百年裡，幾乎所有方面都在取得進步，唯一的例外是氣候變遷：

即使對於正在上升的溫度的悲觀情景，也遠遠不會導致人類的實際滅絕。但這樣的情景可能導致的死亡人數可能比重大戰爭更多，並可能嚴重損害那些已經最困擾的地區的人們的健康和生計。瑞士再保險研究所的一項研究表明，最糟糕的氣候變遷情境可能會使世界上最貧困國家的國內生產毛額下降高達 25%。這項研究還指出，印度農村的預期壽命可能會比原本的預期低十年，而類似這項研究和這項研究表明，氣候變遷可能導致本世紀末多出一億的死亡人數。

這些問題是非常嚴重的。我為什麼對我們克服這些挑戰的能力感到樂觀的答案有兩面。首先，在經過幾十年的誇大和一廂情願的思考之後，太陽能終於迎來了轉機，而像電池這樣的支持技術也在取得類似的進展。其次，我們可以看一下人類在解決先前的環境問題方面的記錄。以空氣污染為例。見過去的反烏托邦：1952 年倫敦的倫敦大霧。

自那時以來發生了什麼？我們再向Our World In Data 詢問：

/quality,q_50/format,webp">

1952 年甚至不是空氣污染的高峰：在19 世紀晚期，甚至存在更高濃度的空氣污染物，被認為是正常且可接受的。從那時以來，我們見證了一個世紀的持續而迅速的下降。我親身經歷了這個過程，2014 年訪問中國時，空氣中高濃度的煙霧，估計將壽命縮短五年以上，是正常的，但到了 2020 年，空氣往往看起來和許多西方城市一樣清潔。這並不是我們唯一的成功故事。在世界許多地方，森林面積正在增加。酸雨危機正在改善。臭氧層幾十年來一直在恢復。

對我來說，這個故事告訴我們的是，通常情況下，我們文明技術的第N 版確實會引起問題，而第N+1版會解決它。然而，這並不是自動發生的，需要有意識的人類努力。臭氧層正在恢復，是因為透過國際協議如蒙特婁議定書，我們使其恢復。空氣污染正在改善，是因為我們使其改善。同樣，太陽能電池板之所以取得了巨大的進步，並不是因為這是能源技術樹上註定的一部分；太陽能電池板之所以取得了巨大的進步，是因為幾十年來對解決氣候變遷的重要性的認識激發了工程師致力於解決這個問題，並且公司和政府資助了他們的研究。解決這些問題是有意識的行動，透過公共討論和文化塑造政府、科學家、慈善家和企業的觀點，而不是不可阻擋的「技術資本機器」所取得的。

人工智慧與其他技術有根本的不同，需要特別小心

我看到的許多對人工智慧的不屑一顧觀點來自這樣的角度，即它只是「另一種技術」：與社交媒體、加密、避孕、電話、飛機、槍支、印刷術和輪子等相同類型的事物。這些事物顯然在社會上有重大影響。它們不僅僅是對個體幸福的孤立改善：它們從根本上改變了文化，改變了權力平衡，並傷害了那些嚴重依賴先前秩序的人。許多人反對它們。總的來說，悲觀主義者無一例外地被證明是錯誤的。

但有一種不同的看待人工智慧的方式：它是一種正在迅速提高智力水平的新型思維，它有嚴重的機會超越人類的智力能力，並成為地球上的新型頂級物種。在那個類別中的事物要少得多：我們可能合理地包括人類超越猴子、多細胞生物超越單細胞生物、生命本身的起源，也許還有工業革命，在這個過程中機械設備在體力上超過了人類。突然之間，感覺就像我們正走在一個遠不那麼熟悉的領域。

重要的是存在風險

AI 出現問題可能使世界變得更糟的一種方式是（幾乎是）最糟糕的方式：它可能真的導致人類滅絕。這是一個極端的說法：儘管氣候變遷、人工大流行或核戰的最壞情況可能會造成很大的傷害，但仍有許多文明的「島嶼」將保持完好，以拾起殘骸。但是，如果一個超級智慧的 AI 決定反對我們，很可能不會留下任何倖存者，從而永久終結人類。甚至連火星都可能不安全。

一個令人擔憂的原因集中在工具收斂性：對於一個超級智慧實體可能擁有的非常廣泛的目標類別，AI 為更好地實現這些目標可能採取的兩個非常自然的中間步驟是（i）消耗資源和（ii）確保自身的安全。地球包含大量資源，而人類對這樣一個實體的安全構成可預測的威脅。我們可以嘗試給 AI 一個明確的目標，即熱愛和保護人類，但我們不知道如何以一種方式實現這一目標，即在 AI 遇到意外情況時不會完全崩潰。因此，我們面臨一個問題。

FVcWHxjVIAA2Pyl< /blockquote>

MIRI 研究員Rob Bensinger 試圖通過圖示來說明不同人對人工智能要么殺死所有人要么做一些幾乎同樣糟糕的事情的概率估計。許多立場是基於人們的公開聲明的粗略近似，但還有許多其他人已經公開給出了他們的精確估計；相當多的人對「毀滅的機率」超過 25%。

2022 年對機器學習研究人員的調查顯示，研究人員平均認為人工智慧會真的殺死我們所有人的機率在5-10% 之間，大致上與你死於非生物原因（如受傷）的統計預期機會相當。

這只是一個推測性的假設，我們都應該對牽涉到複雜多步驟故事的推測性假設保持警惕。然而，這些論點已經經歷了十多年的審查，因此，似乎值得至少略微擔憂。但即使你不擔心真正的滅絕，還有其他一些令人害怕的原因。

即使我們倖存下來，超級智慧人工智慧的未來是否是我們想要生活的世界？

許多現代科幻小說都描繪了反烏托邦的場景，並將人工智慧描繪得很糟糕。即使是非科幻作品試圖探討可能的人工智慧未來，答案通常也相當令人不滿。因此，我四處打聽了一個問題：有關包含超級智慧人工智慧的未來的描繪，無論是科幻小說還是其他形式，我們是否願意生活在其中。遠遠最常見的答案是伊恩·班克斯的《文明系列》。

《文明系列》描繪了一個遙遠的星際文明，主要由兩種角色組成：普通人類和被稱為「心靈」的超級智慧人工智慧。人類經過輕微改良：儘管醫學技術理論上允許人類無限壽命，但大多數選擇只活約 400 年，似乎是因為在那時他們對生活感到無聊。

從表面上看，作為人類的生活似乎不錯：舒適，健康問題得到解決，有豐富的娛樂選擇，並且人類與“心靈”之間存在積極且協同的關係。然而，深入觀察發現一個問題：似乎「心靈」完全掌控，而人類在故事中的唯一角色就是充當「心靈」的棋子，代表它們執行任務。

引用加文·利奇的《反對文明》中的內容：

即使書中似乎有人類主人公，做著重大而嚴肅的事情，但人類並不是故事的主角，實際上他們是人工智慧的代理人。 （Zakalwe 是僅有的例外之一，因為他能做那些Minds 不願意做的不道德之事。）「文明系列中的Minds 並不需要人類，但人類卻需要被需要。」（我認為只有少數人類需要被需要，或者說只有其中少數人足夠需要，以放棄許多舒適。大多數人類生活不在這個層次上。這仍然是一個很好的批評。）

人類承擔的專案存在不真實的風險。幾乎任何事情，機器都能做得更好。你能做什麼呢？你可以命令 Mind 在你從攀爬懸崖時不要抓住你；你可以刪除大腦備份，使自己真正面臨風險。你也可以離開文明並加入一些老式、不自由的「強烈評價」的文明。另一個選擇是透過加入 Contact 來宣揚自由。

我認為即使在文明系列中賦予人類的「有意義」角色也是一種牽強附會；我問過ChatGPT（還能問誰？）為什麼人類被賦予他們所扮演的角色，而不是Minds 完全自己做所有事情，我個人覺得它的回答相當令人失望。在一個由「友善」的超級智慧人工智慧主導的世界中，似乎很難讓人類成為除了寵物以外的任何角色。

在更深層次上，"政治和意識形態工作以及戰時動員"要求任何發動戰爭的人都必須有一個正當的理由。擁有正當理由的重要性，這個概念已經幾千年來制約人類社會中戰爭的合法性，不應被低估。任何想要發動戰爭的人都必須找到至少一個看似合理的理由或藉口。你可能會說這種約束是薄弱的，因為在歷史上，它經常只是一種藉口。例如，十字軍東徵背後的真正動機是搶劫和領土擴張，然而，它們是以上帝的名義進行的，即使目標是君士坦丁堡的虔誠者。然而，即使是最薄弱的約束仍然是一種約束！這個純粹的藉口實際上阻止了好戰者完全放開他們的目標而不受約束。即使是像希特勒這樣邪惡的人也不能毫不保留地發動戰爭；他不得不花費多年的時間說服德國人民，認為貴族雅利安種族有必要為他們的生存空間而戰。

今天，「人在循環」作為對獨裁者發動戰爭或在國內壓迫公民權力的重要限制。在循環中的人們阻止了核戰爭，使柏林圍牆開放，並在大屠殺等暴行期間拯救了生命。如果軍隊由機器人組成，這個限制將完全消失。一個獨裁者可能在晚上 10 點喝醉，11 點因為有人在 Twitter 上對他們不友好而發火，然後在午夜前，機器人入侵艦隊可能越過邊境對鄰國的平民和基礎設施進行毀滅性打擊。

與以前的時代不同，以前總有一些遙遠的角落，天高皇帝遠，在那裡，一個政權的反對者可以重新組織、隱藏，並最終找到改善事物的方法。但是，隨著 21 世紀人工智慧的發展，一個極權主義政權可能透過對世界的足夠監控和控製而保持足夠的「封鎖」，永遠不會改變。

d/acc：防禦（或分散，或差異）加速主義

在過去在的幾個月裡，「e/acc」（「effective accelerationist」，有效加速主義者）運動取得了巨大的進展。由“Beff Jezos”在這裡總結，e/acc 基本上是對技術進步帶來的真正巨大好處的認可，以及加速這一趨勢以更早獲得這些好處的願望。

在許多情境中，我發現自己對 e/acc 的觀點表示同情。有許多證據表明FDA 在延遲或阻止藥物批准方面過於保守，而生物倫理學總體上似乎經常遵循這樣一個原則：「實驗中20 人死於錯誤，是一場悲劇，但因延遲導致20 萬人死於拯救生命的治療措施，那隻是一則統計數據。」批准COVID 測試和疫苗，以及瘧疾疫苗的延誤似乎進一步證實了這一點。然而，可能過於推崇這一觀點。

除了我對 AI 相關的擔憂外，我對 e/acc 對軍事技術的熱情感到特別矛盾。在當前 2023 年的情境中，這項技術是由美國製造並立即應用於保衛烏克蘭，很容易看出它可以是善的力量。然而，從更廣泛的視角來看，對現代軍事技術的熱情似乎要求相信主導技術力量將在大多數衝突中始終是好人，無論是現在還是將來：軍事技術是好的，因為軍事技術是由美國建造和控制的，而美國是好的。是 e/acc 就要成為美國至上主義者嗎？要將所有籌碼押在政府現在和未來的道德以及國家未來的成功上嗎？

另一方面，我看到了需要思考如何降低這些風險的新方法。 OpenAI 的治理結構就是一個很好的例子：它似乎是一個出於善意的努力，旨在平衡為了滿足提供初始資本的投資者而需要盈利的需求，同時又希望透過設立一種制衡機制來抵制那些可能使OpenAI 毀滅世界的舉動。然而，在實踐中，他們最近試圖解僱Sam Altman 的嘗試使這個結構看起來像是一個徹底的失敗：它將權力集中在一個不民主、不負責任的五人董事會中，他們基於秘密信息做出關鍵決定，並拒絕在受到威脅之前提供有關推理的任何詳細資訊。不知何故，非營利董事會表現得如此糟糕，以至於公司的員工創建了一個即興的事實上的工會來支持億萬富翁 CEO 而不是他們。

在各方面，我看到了太多拯救世界的計劃都涉及賦予極少數人極端且不透明的權力，並希望他們能明智地使用這種權力。因此，我發現自己傾向於一種不同的哲學，這種哲學對如何處理風險有著詳細的想法，但它尋求創建和維護一個更民主的世界，並試圖避免將權力集中化作為解決問題的首選方案。這種哲學也涉及的領域遠不止 AI，我會用 d/acc 這個名字來指稱這種哲學。

國旗山也是如此的優點。

在詹姆斯·C·斯科特的新書《不被統治的藝術》中，被廣泛關注的Zomia 的無政府社會是另一個例子：他們在很大程度上保持了自己的自由和獨立，主要得益於多山的地形。同時，歐亞大草原則是治理烏托邦的反例。莎拉·佩恩關於海上大國與大陸大國的論述也提到了類似的觀點，儘管她更注重將水視為一種防禦屏障，而不是山脈。事實上，易於自願貿易和難以強迫入侵的結合，在瑞士和島國都很常見，似乎是人類繁榮的理想條件。

當我在以太坊生態系統內為 Gitcoin Grants 資金輪提供建議時，我發現了一個相關的現象。在第 4 輪中，一場小丑鬧劇爆發了，因為一些最賺錢的受益者是 Twitter 影響者，他們的貢獻被一些人認為是積極的，而被其他人認為是消極的。我對這現象的解讀是存在一種不平衡：二次資金允許你表明你認為某事是公共利益，但它沒有提供一種表明某事是公共害的方式。在極端情況下，一個完全中立的二次資金系統會資助戰爭的雙方。因此，在第5 輪中，我提議Gitcoin 應包含負面的捐款：你支付1 美元來減少某個項目收到的資金金額（並隱式地將其重新分配給所有其他項目），結果很多人對此感到不滿。

許多第五輪流傳的眾多第五輪之一。

這對我而言好像是一個更大模式的微觀體現：為了應對負面外部性而創建去中心化治理機制在社會上是一個非常艱難的問題。去中心化治理走錯的經典例子通常是群眾司法。有關人類心理有一些東西，使得應對負面問題更加棘手，也更有可能出現嚴重問題，而不是應對正面的事物。這也是為什麼即使在其他方面高度民主的組織中，決定如何應對負面問題的權力通常留給了一個中央委員會的原因。

在許多情況下，這個兩難是「自由」概念如此有價值的深層原因之一。如果有人說了令你不悅的話，或者過上了你認為令人討厭的生活方式，你感到的痛苦和厭惡是真實的，甚至你可能覺得被人動手打擊也不如暴露在這些事物面前糟糕。但試圖就社會上可行的冒犯和討厭的行為達成一致可能會帶來更多的成本和危險，而不如提醒自己，某些怪人和混蛋是我們生活在一個自由社會的代價。

然而，在其他時候，「忍氣吞聲」的方法是不切實際的。在這種情況下，有時值得考慮的另一個答案是防禦性技術。網路越安全，我們就越不需要侵犯人們的隱私，採取不正當的國際外交手段來對付每個單一的駭客。我們越能夠建立個人化的工具，用於阻止 Twitter 上的人，瀏覽器內用於檢測詐欺的工具以及用於區分謠言和真相的集體工具，我們就越不必爭論言論審查。我們疫苗生產速度越快，就越不必對付超級傳播者。這些解決方案並非在所有領域都適用 - 我們當然不希望看到每個人都不得不穿著真正的防彈衣的世界 - 但在我們可以利用技術使世界更加偏向防禦的領域，這樣做具有巨大的價值。

這個核心思想，即一些技術對防禦有利，值得推廣，而其他技術對進攻有利，應該被抑制，有其根源於以不同名稱出現的有效利他主義文獻：差異技術發展。 2022 年，牛津大學的研究人員對這項原則做了很好的闡述：

圖1：差異化技術發展減少負面社會影響的機制。

在將技術分類為進攻、防禦或中立時，不可避免地會存在不完美之處。就像「自由」一樣，人們可以辯論社會民主政府政策是否透過徵收重稅和強迫雇主降低了自由，還是透過減少普通人對許多種風險的擔憂來增加了自由，就像「自由」一樣，「防禦」也有一些技術可能在譜系的兩端。核武有利於進攻，但核能有益於人類繁榮，而且在進攻和防禦之間是中立的。不同的技術可能在不同的時間範圍內發揮不同的作用。但就像「自由」（或「平等」或「法治」）一樣，邊緣的模糊之處不是反對原則的論點，而是更好地理解其微妙之處的機會。

現在，讓我們來看看如何將這項原則應用到更全面的世界觀中。我們可以將防禦技術視為其他技術一樣，分為兩個領域：原子世界和位元世界。原子世界又可以分為微觀（即生物學，後來是奈米技術）和宏觀（即我們傳統上認為的「防禦」，但也包括有彈性的物理基礎設施）。我將比特世界分割在不同的軸上：原則上很容易達成共識，攻擊者是誰？有時很容易；我稱之為網路防禦。在其他時候，這更加困難；我稱之為資訊防禦。

宏觀物理防禦

>

在宏觀領域中最被低估的防禦技術甚至不是鐵穹（包括烏克蘭的新系統）和其他反技術和反飛彈軍事硬件，而是具有彈性的物理基礎設施。核戰中的大多數死亡可能來自供應鏈中斷，而不是最初的輻射和衝擊，而像星鏈這樣的低基礎設施的互聯網解決方案在過去一年半中對維護烏克蘭的連接至關重要。

建構幫助人們在長時間國際供應鏈的獨立或半獨立生存甚至舒適生活的工具似乎是一種有價值的防禦技術，並且對於用於進攻的風險較低。

努力使人類成為多行星文明的任務也可以從d/acc 的角度來看：至少有一些人能夠在其他行星上自給自足地生活，可以增加我們對地球上發生可怕事件的韌性。即使完整的願景目前看來不可行，為實現這一計畫而需要開發的自給自足的生活形式很可能也可以用來幫助提高我們在地球上的文明韌性。

微觀物理防禦（又稱生物防禦）

特別是由於其長期健康影響，Covid 仍然是一個令人擔憂的問題。但Covid 遠非我們將面臨的最後一次大流行；現代世界的許多方面使更多的大流行很可能即將到來：

更高的人口密度使空氣傳播的病毒和其他病原體傳播變得更加容易。流行性疾病在人類歷史上相對較新，大多數始於數千年前的城市化。正在進行的快速城市化意味著在未來半個世紀內人口密度將進一步增加。

航空旅行的增加意味著空氣傳播的病原體會在全球範圍內迅速傳播。人們迅速變得更富有意味著空中旅行可能在未來半個世紀內會大幅增加；複雜建模表明，即使是小幅增加也可能產生嚴重影響。氣候變遷可能會進一步增加此風險。

動物馴化和工廠養殖是主要的風險因子。麻疹可能是不到 3000 年前由牛病毒演化而來的。現今的工廠養殖也正在培養新的流感病毒株（以及助長抗生素抗藥性，對人類先天免疫系統產生影響）。

現代生物工程使得創造新的、更具毒性的病原體變得更容易。 Covid 可能是從進行有意的「功能增強」研究的實驗室洩漏出來的，也可能不是。無論如何，實驗室洩漏時有發生，而且工具正在迅速改進，使有意創造極其致命的病毒，甚至是朊病毒（殭屍蛋白質），變得更容易。人工瘟疫特別令人擔憂，部分原因是與核武不同，它們是不可歸因的：你可以釋放一個病毒，而沒有人能夠判斷是誰創造的。現在有可能設計一個基因序列，送到濕實驗室進行合成，並在五天內將其寄送到您手中。

這是 CryptoRelief 和 Balvi 兩個組織在 2021 年因 Shiba Inu 幣的大筆意外財富而成立和資助的領域之一。 CryptoRelief 最初專注於應對眼前的危機，最近一直在印度建立一個長期的醫學研究生態系統，而 Balvi 一直專注於改善我們檢測、預防和治療 Covid 和其他空氣傳播疾病的能力的超前項目。 ++Balvi 堅持由其資助的專案必須採用開源方式++。它汲取了19 世紀水利工程運動的靈感，該運動戰勝了霍亂和其他水傳播的病原體，它資助了整個技術領域的項目，這些項目可以使世界在默認情況下更加抵禦空氣傳播的病原體，包括：

Far-UVC 輻射研發

在印度、斯里蘭卡、美國等地的空氣過濾和品質監測，以及空氣品質監測

便宜且有效的分散式空氣品質測試設備

長期Covid 病因和潛在治療選擇的研究（主要原因可能很簡單，但澄清機制並找到治療方案更加困難）

疫苗（例如RaDVaC、PopVax）和疫苗傷害研究

一套全新的非侵入性醫療工具

利用開源資料分析進行流行病的早期檢測（例如EPIWATCH）

測試，包括非常便宜的分子快速測試

在其他方法失敗時適用的生物安全口罩

其他有希望的研究領域包括對病原體進行廢水監測，改善建築物的過濾和通風，以及更好地了解和緩解由空氣污染引起的風險。

有機會建構一個在預設情況下更加抵禦自然和人工空氣傳播流行病的世界。這個世界將具有一個經過高度優化的流程，我們可以從流行病爆發開始，自動檢測到，全球人民可以在一個月內獲得定向、可在本地製造和可驗證的開源疫苗或其他預防措施，透過霧化或鼻噴給藥（即：需要時可自行給藥，無需注射）。同時，更好的空氣品質將大幅減少傳播速率，並防止許多流行病在發生初期就被扼殺。

設想一種未來，不必求助於社會強制的鐵槌——沒有mandates 和更糟糕的情況，也沒有風險較大的、設計和實施不善的mandates，這可能會使情況變得更糟——因為公共衛生基礎設施已經融入文明的結構之中。這樣的世界是可能的，透過對生物防禦的適度投資，它就可以實現。如果這些發展是開源的、免費提供給用戶並作為公共物品受到保護，工作將更加順利。

網路防禦、區塊鏈和密碼學

安全專業人員普遍認為，當前的計算機安全狀況相當糟糕。儘管如此，很容易低估已經取得的進展。數百億美元的加密貨幣可以被任何能夠侵入用戶錢包的人匿名竊取，雖然失竊或被盜的比例遠遠超出我所願，但事實上，大部分加密貨幣在過去十多年裡一直沒有被盜。最近有了一些改進：

設備內建受信任的硬體晶片，實際上在用戶的手機內創建一個更小的高安全性作業系統，即使手機的其餘部分被駭客攻擊也能保持安全。這些晶片越來越被探討為創建更安全的加密錢包的一種方式，是許多用例中的一部分。

瀏覽器作為事實上的作業系統。在過去的十年裡，從可下載應用程式到基於瀏覽器的應用程式發生了悄無聲息的轉變。這在很大程度上得益於 WebAssembly（WASM）。即使是長期以來被認為是許多人因為其必要性和與 Linux 不相容而無法實際使用 Linux 的主要原因之一的 Adobe Photoshop，現在也因為嵌入瀏覽器而對 Linux 友好。這也是一大安全優勢：雖然瀏覽器確實存在缺陷，但總體上它們提供了比安裝應用程式更多的沙箱化：應用程式無法存取電腦上的任意檔案。

強化作業系統。行動端的 GrapheneOS 存在，並且非常可用。桌面端的 QubesOS 也存在；根據我的經驗，目前它的可用性比 Graphene 稍差，但它正在改進。

嘗試超越密碼。密碼很難保護，因為它們難以記憶，而且容易被竊聽。最近，有一個越來越大的運動，減少對密碼的依賴，並使基於硬體的多因素身份驗證真正起作用。

然而，其他領域缺乏網路防禦也導致了重大挫折。保護免受垃圾郵件的需求導致電子郵件在實踐中變得非常寡頭化，很難自行託管或建立新的電子郵件提供者。許多線上應用程序，包括 Twitter，要求用戶登入才能存取內容，並阻止使用 VPN 的 IP 位址，使以保護隱私的方式存取網路變得更加困難。軟體的集中化也存在風險，因為存在「武器化的相互依賴」：現代技術傾向於透過集中化的瓶頸傳輸，這些瓶頸的運營者利用這一權力收集資訊、操縱結果或排除特定行為者，這種策略甚至似乎正在被用於針對區塊鏈產業本身。

這些趨勢令人擔憂，因為它威脅到了歷史上我對未來自由和隱私前景的一個重大希望。在他的書《未來的不完美》中，大衛·弗里德曼預測我們可能會迎來一個折衷的未來：現實中的世界將越來越受到監視，但透過密碼學，線上世界將保留甚至改善其隱私。不幸的是，正如我們所見，這樣的反向趨勢遠非確定無疑。

這就是我對密碼學技術的強調，例如區塊鏈和零知識證明。區塊鏈使我們能夠創建具有「共享硬碟」的經濟和社會結構，而無需依賴集中的行為者。加密貨幣使個人能夠儲存和進行財務交易，就像在互聯網之前使用現金一樣，而無需依賴可能隨意更改規則的可信任第三方。它們還可以充當備用的反 Sybil 機制，使攻擊和垃圾郵件對那些沒有或不想透露其實體身分的用戶變得昂貴。帳戶抽象化，尤其是社交恢復錢包，可以保護我們的加密資產，以及未來可能的其他資產，而不過度依賴中心化的中介機構。

零知識證明可以用於隱私，允許使用者在不透露私人資訊的情況下證明有關自己的事實。例如，將數位護照簽名包裝在 ZK-SNARK 中，證明您是某個國家的唯一公民，而不洩露您是哪個公民。類似的技術可以讓我們保持隱私和匿名性的好處 - 這些特性被廣泛認為是應用程式（如投票）所必需的 - 同時仍然獲得安全性保證並對抗垃圾郵件和不良行為者。

社群註解的實際應用。

我也是預測市場的粉絲，它可以在事態尚未明朗、尚未就事態的發展方向達成共識之前實時揭示事件的重要性。例如，關於Sam Altman 的Polymarket 在逐小時的事件揭示和談判中提供了非常有用的摘要，為那些只看到單一新聞項目而不了解每個項目的重要性的人提供了非常必要的背景。

預測市場經常有缺陷，但那些願意自信地表達他們認為在未來一年內會發生的事情的Twitter 意見領袖通常會更有缺陷。預測市場仍有很大的改進空間。例如，預測市場在除了最高知名事件外的其他事件上的交易量普遍較低；解決這個問題的自然方向是推出由人工智慧參與的預測市場。

在區塊鏈領域，我認為我們需要更多一種特定類型的信息防禦。也就是說，錢包應該在幫助用戶確定他們簽署的事物的含義，並保護他們免受欺詐和詐騙方面更具見解和主動性。這是一個中間案例：什麼是騙局和什麼不是騙局比起對有爭議的社會事件的觀點更不主觀，但比起區分合法使用者和DoS 攻擊者或駭客更主觀。Metamask 已經有一個詐騙資料庫，並自動阻止使用者存取詐騙網站。

目前我看到的主要實際問題是，人們似乎並不真正信任任何特定的治理機制擁有建造這樣一個東西的權力。當你看到我最近在Twitter 上的投票結果時，人們被問及是否希望看到人工智慧被一個提前十年起步的單一實體壟斷，還是讓所有人的人工智慧延遲十年，這一事實變非常明顯：

，但在廣泛的資訊來源和選項中，這些投票的一致性結果彌補了規模的不足。在九次投票中，九次中的九次，大多數人寧願看到高度先進的人工智慧被直接推遲十年，而不是被單一團體壟斷，無論是公司、政府還是跨國機構。在九次中的七次中，延遲勝出的比例至少為兩比一。這似乎是任何追求人工智慧監管的人都應該理解的重要事實。目前的方法一直在致力於創建許可方案和監管要求，試圖將人工智慧的發展限制在較少的人手中，但由於人們不希望看到任何人壟斷如此強大的東西，這些方法受到了普遍的反對。即使這樣的自上而下的監管提案減少了滅絕的風險，它們也增加了永久陷入集中式極權主義的機會。矛盾的是，完全禁止極其先進的人工智慧研究的協議（也許對生物醫學人工智慧有例外），再加上採取強制開源的措施，對於那些未被禁止的模型，作為一種減少利潤動機同時進一步提高訪問平等性的方式，會更受歡迎嗎？

對於「讓一個全球性機構來處理人工智慧並確保其治理非常好」這一途徑的反對者首選的主要方法是多神論人工智能：有意確保有許多人和公司開發大量的人工智慧，以便其中沒有一個變得比其他人更強大。這樣，理論認為，即使人工智慧變得超級智能，我們仍然可以保持權力的平衡。

這種哲學很有趣，但我在嘗試確保以太坊生態系統內的「多神論」時的經驗讓我擔心這是一個本質上不穩定的均衡。在以太坊中，我們有意試圖確保在許多方面去中心化：確保沒有一個代碼庫控制超過半數的權益證明網絡，試圖抵制大型權益池的主導地位，改善地理去中心化等。基本上，以太坊實際上正在嘗試執行一個基於市場的社會的舊自由主義夢想，該社會使用社會壓力而不是政府作為反壟斷監管機構。在某種程度上，這已經取得了成效：Prysm 客戶端的主導地位從 70% 以上下降到 45% 以下。但這並不是某種自動的市場過程：這是人類意願和協調行動的結果。

我在以太坊的經驗與整個世界的學習經驗一致，在那裡許多市場已被證明是自然壟斷。隨著超級智慧人工智慧獨立於人類行動，情況變得更加不穩定。由於遞歸自我改進，最強大的人工智慧可能會迅速領先，一旦人工智慧比人類更強大，就沒有力量可以使事物重新平衡。

此外，即使我們確實建立了一個穩定的超級智慧人工智慧的多神論世界，我們仍然面臨另一個問題：我們得到了一個人類成為寵物的宇宙。

一個幸福的路徑：與人工智慧合併？

最近我聽說的另一個選擇是更少地將人工智慧視為與人類分離的東西，而更多地將重點放在增強人類認知而非取代它的工具上。

一個近期的例子是 AI 繪圖工具。如今，製作 AI 生成影像最突出的工具只有一個步驟需要人類提供輸入，之後 AI 完全接管。另一種選擇是更專注於像 Photoshop 的 AI 版本：藝術家或 AI 可能製作圖片的早期草稿，然後兩者合作透過即時回饋的過程來改進它。

來源，2023 年Photoshop 生成AI 填充。我體驗了一下，需要時間來適應，但實際上效果很好！

在類似的精神中另一個方向是開放機構架構，該架構提議將AI「思維」的不同部分（例如製定計劃、執行計劃、解釋外在世界的資訊）分成單獨的組件，並在這些部分之間引入多樣化的人類回饋。

到目前為止，這聽起來很平凡，幾乎每個人都可以同意這將是一件好事。經濟學家達龍·阿塞莫格魯的工作遠非這種類型的 AI 未來主義，但他的新書《權力與進步》暗示著希望看到更多這些類型的人工智慧。

但是，如果我們想要將人工智慧與人類的合作思想進一步推廣，我們就會得出更激進的結論。除非我們創建一個足夠強大的世界政府來檢測並制止每個使用筆記型電腦上的個別GPU 進行黑客攻擊的小團體，否則最終會有人創造出超級智能人工智能- 一個可以思考比我們快一千倍的AI - 而任何一組使用手中工具的人都無法與之抗衡。因此，我們需要更深入、更遠地思考這種人機合作的概念。

第一個自然的步驟是腦-電腦介面。腦-電腦介面可以使人類更直接地存取越來越強大的計算和認知形式，將人與機器之間的雙向通訊循環從幾秒鐘縮短到毫秒。這也將大大降低取得電腦幫助你收集事實、提供建議或執行計畫的「思維努力」成本。

這一路線圖的後期階段確實變得奇怪。除了腦-電腦介面，還有透過生物學創新直接改進我們的大腦的各種途徑。融合這兩條路線的最終步驟可能涉及將我們的思維上傳到電腦上直接運行。這也將成為對實體安全的最終解決方案：保護自己免受傷害將不再是保護不可避免的柔軟人體的複雜問題，而是一個更簡單的問題，即製作資料備份。

這樣的方向有時會引起擔憂，部分原因在於它們是不可逆的，部分原因在於它們可能使強大的人比我們其他人更具優勢。尤其是腦機介面存在危險——畢竟，我們談論的是直接讀取和書寫人們的思想。正是出於這些擔憂，我認為最好由一個以安全為重點的開源運動在這條路徑上扮演主導角色，而不是由封閉的專有公司和創投基金扮演。此外，所有這些問題在獨立於人類運作的超智慧 AI 方面比與人類密切聯繫的增強部分更為嚴重。由於 ChatGPT 的使用限制，今天已經存在「增強」和「非增強」之間的分歧。

如果我們想要一個既超智能又「人性化」的未來，一個人類不僅是寵物而且實際保留對世界有意義的代理權的未來，那麼像這樣的選擇似乎是最自然的。還有很多支持這種方法的理由：透過在決策過程的每個步驟都涉及人類回饋，我們減少了將高層規劃責任轉嫁給AI 本身的動機，從而減少了AI 獨立於人類價值觀執行某些完全不符合的可能性。

支持這一方向的另一個論點是，與其僅僅大聲呼喊“暫停 AI”，不如提供一個相應的提供替代前進道路的信息。這將需要從當前的心態中進行哲學上的轉變，即觸及人類的技術進步是危險的，但與人類無關的進步基本上是安全的。但它有一個巨大的對抗性好處：它給了開發者一些事情要做。今天，AI 安全運動對 AI 開發者的主要訊息似乎是「你應該停下來」。可以進行對齊研究，但今天這缺乏經濟誘因。與此相比，普遍的 e/acc 訊息「你已經是一位英雄，就如你現在的樣子」顯然非常吸引人。一個 d/acc 訊息，即「你應該構建，並構建有利於你和人類繁榮的東西，但在確保你構建的東西有助於繁榮時，要更加選擇和有意識」，可能是一個勝利者。

d/acc 是否與你現有的理念相符呢？

如果你是 e/acc，那麼 d/acc 就是 e/acc 的亞種，只是更有選擇性和有意識。

如果你是一位有效利他主義者，那麼 d/acc 就是有效利他主義思想的一次重新包裝，儘管更強調自由和民主價值。

如果你是自由主義者，那麼d/acc 就是技術自由主義的亞種，儘管更加務實，對「技術資本機器」更加批判，而且願意接受政府的干預，至少在今天（至少，如果文化幹預無效的話），以防止更糟的非自由未來。

如果你是多元主義者，按照格倫·韋爾的定義，那麼d/acc 是一個框架，可以輕鬆包容多元主義強調的更好的民主協調技術。

如果你是公共衛生倡導者，那麼d/acc 的思想可以為更廣泛的長期願景提供靈感，並為你提供與你可能在其他方面不一致的「科技人員」找到共同點的機會。

如果你是區塊鏈倡導者，那麼d/acc 是一個比十五年前強調通貨膨脹和銀行的更現代、更廣泛敘述，將區塊鏈放入一個具體策略的背景中，以朝著更光明的未來發展。

如果你是太陽龐克，那麼 d/acc 是太陽龐克的亞種，並且包含著類似的強調有意識和集體行動。

如果你是月球朋克，那麼你會欣賞 d/acc 對資訊防禦的強調，透過保持隱私和自由。

我們是最明亮的星星

我熱愛技術，因為科技擴展了人類的潛力。一萬年前，我們只能製作一些簡單的手工工具，改變一小片土地上的植物生長，建造基本的房屋。而今天，我們可以建造高800 公尺的塔樓，在手中的設備中儲存著人類知識的全部內容，可以即時在全球範圍內通訊，延長我們的壽命，過著幸福充實的生活，不再擔心我們最好的朋友會因疾病而經常死去。

我們需要建置與加速。但有一個非常現實的問題要問：我們正在加速邁向什麼？ 21 世紀很可能是人類的關鍵世紀，決定我們未來幾千年的命運。我們是陷入無法擺脫的陷阱之一，還是找到一條保留自由和代理權的未來之路？這是一個具有挑戰性的問題。但我期待著觀察並參與我們物種為找到答案而進行的宏偉集體努力。

「原文連結」