歡迎來到 DAVID888 Daily 每日放送,今天我們將帶你深入探討從極速 JavaScript 新星 Ant、去中心化 AI 算力網絡 Mesh LLM、硬體開源掌機 RISCBoy,到 Nvidia 背後的金融魔術、26億張草圖揭示的文化差異,以及 PgBouncer 突破單核瓶頸的黑科技。
挑戰 Bun 與 Deno!全新極速 JavaScript 執行期環境 Ant 橫空出世
5.4 毫秒的冷啟動神話與硬體級沙箱
在 Node.js、Deno 與 Bun 三強鼎立的 JavaScript 執行期環境(Runtime)戰場中,突然殺出了一個名為 Ant 的新挑戰者。這個僅用了一個月開發完成的專案,主打極致的冷啟動速度與硬體級安全。
在導入 Hono 框架並註冊兩個路由的測試中,Ant 的冷啟動時間僅需驚人的 5.4 毫秒,遠快於 Bun(12.8 毫秒)、Deno(24.8 毫秒)與 Node.js(31.1 毫秒)。此外,它的二進位檔體積僅有 8.6 MB,套件安裝速度更宣稱比 npm 快上 40 倍(安裝 hono 僅需 155 毫秒)。
最引人注目的是其內建的 ant:sandbox 模組。不同於傳統的權限提示,Ant 在 Linux 上基於 KVM、在 macOS 上基於 Hypervisor.framework,實現了真正的硬體級虛擬化隔離(VM-isolated),並支援唯讀掛載與預設拒絕所有網路連線。
社群質疑:一個月寫出來的輪子,真的靠譜嗎?
面對如此亮眼的數據,開發者社群卻普遍抱持懷疑態度。許多人對「又一個 JS Runtime」感到審美疲勞,更強烈質疑僅用一個月開發的系統在生產環境中的穩定性。
社群討論的焦點在於其宣稱 100% 相容 WinterTC 規範的自研 "Ant Silver" 引擎,究竟是 QuickJS 的包裝、V8 的修改版,還是全新編寫的引擎?此外,技術極客也指出,既然每個沙箱都是獨立的 KVM/Hypervisor 虛擬機器(VM),如何在啟動沙箱時維持極低的延遲?這在架構上是否存在未說明的記憶體開銷?
編輯觀點:Serverless 的未來新解法
儘管質疑聲不斷,Ant 的硬體級沙箱設計確實極具前瞻性。傳統的邊緣運算(Edge Computing)平台(如 Cloudflare Workers)依賴 V8 Isolate 進行輕量隔離,但仍存在側信道攻擊的風險;而 Docker 容器又過於笨重。如果 Ant 真的能在 5.4 毫秒的冷啟動下提供 VM 級的安全邊界,這將可能顛覆下一代 Serverless 基礎設施的架構設計。
用 P2P 網絡拼出超級電腦?Mesh LLM 打造去中心化 AI 推理網絡
異構設備的「拼圖式」算力池化
隨著大型語言模型(LLM)的體積越來越龐大,單一企業採購昂貴 GPU 的成本(Capex)已成沉重負擔。Mesh LLM 提出了一個大膽的解決方案:利用 P2P 網路庫 iroh,將筆電、舊 GPU 礦機、迷你主機甚至雲端伺服器等各式各樣的設備連結起來,組成一個分散式的 AI 推理網絡。
這個僅約 18 MB 的輕量級軟體,採用了名為 Skippy 的模型分割模式。針對超大模型(如 235B MoE),它會將模型按層(Layers)切分(例如:節點 A 負責 0-15 層,節點 B 負責 16-31 層),並透過基於 QUIC 協議的 skippy-stage/2 協議在節點間傳輸層與層之間的激活值(Activation)。
理想很豐滿,現實很骨感:頻寬與隱私的雙重考驗
然而,社群對此技術的實用性潑了不少冷水。開發者尖銳地指出,LLM 推理是極度依賴記憶體頻寬與低延遲的任務。在跨網際網路的 P2P 環境下,透過網路傳輸 Activation 的延遲,將使 Token 輸出速度(TPS)慢到無法用於即時對話。
另一個致命傷是隱私與安全。在公共的 Mesh 網絡中,用戶輸入的 Prompt 與中間狀態會流經他人的節點,這對企業用戶來說是不可接受的。此外,P2P 網絡節點隨時可能離線(Churn),當 Pipeline 中的某個節點突然斷線,系統如何無縫重新路由而不中斷當前的推理,也是一大挑戰。
編輯觀點:閒置硬體的救星
Mesh LLM 代表了「去中心化算力」從單純的加密貨幣挖礦轉向實用 AI 推理的演進。它利用 iroh 的 NAT 穿透技術,免去了複雜的 VPN 配置。對於預算有限、手頭有零散舊 GPU 的開發團隊,這提供了一種將閒置硬體轉化為私有 AI 叢集的低成本方案,但在公網環境下的大規模應用仍有很長的路要走。
從零打造的極致浪漫:開源掌上遊戲機 RISCBoy
在極度受限的 FPGA 上塞入一整個世界
對於硬體極客來說,RISCBoy 絕對是一場終極的浪漫。這是一個硬體與軟體皆從零設計的開源掌上遊戲機專案。作者在資源極其緊繃的 Lattice iCE40-HX8k FPGA(僅有 7,680 個 LUT4 邏輯單元)上,硬是塞入了一個自研的 RISC-V 處理器、光柵圖形渲染管線(PPU)及完整的匯流排架構。
該專案採用的自研 Hazard5 處理器支援 RV32IMC 指令集,並通過了 RISC-V 一致性測試。整個系統的目標時脈為 48 MHz,採用 AHB-lite 交叉開關與 APB 週邊匯流排架構。更棒的是,它完全使用開源工具鏈(Yosys、nextpnr、Project Icestorm)進行開發,Rev A PCB 的製作成本極低,10 片僅需 65 美元。
硬體工程師的挑剔:時序收斂與記憶體頻寬
在 Hacker News 上,硬體工程師們展開了硬核的技術討論。焦點之一在於 時序收斂(Timing Closure)。在 iCE40 這種慢速 FPGA 上運行 48 MHz 具有極大挑戰,由於 32 位元架構在 LUT4 上的進位鏈延遲,不滿足時序會導致系統在實際硬體上產生隨機 Bug。
此外,記憶體頻寬也是一大瓶頸。社群討論了在 ECP5 評估板上,用 256 kiB 32位元寬的內部同步記憶體取代原本 512 kiB 16位元寬外部 SRAM 的改動,這對於圖形渲染管線在處理精靈(Sprites)與背景滾動時的頻寬解放有著決定性的影響。
編輯觀點:全棧硬體開發的教科書
RISCBoy 是「全棧硬體開發」的極致展現。它證明了藉由現代開源 EDA 工具鏈,個人開發者已經有能力獨立完成從 CPU 微架構、GPU 渲染管線、匯流排拓撲,到 PCB 佈線與底層編譯器配置的完整晶片級系統設計。這不僅是一個玩具,更是一本活生生的教科書。
AI 繁榮背後的金融魔術:Nvidia 與 Neocloud 的循環融資迷局
瘋狂的資產負債表魔術
你是否想過,當前 AI 算力泡沫背後,資金是如何流動的?一篇深度文章揭露了 Nvidia、新型雲端服務商(Neocloud,如 CoreWeave、Nebius)與科技巨頭(Meta、Microsoft)之間共同編織的「循環融資(Circular Financing)」與「資產負債表魔術」。
數據顯示,Microsoft 與 Meta 對 Neocloud 的承諾合約總額已超過 1222 億美元。以 CoreWeave 為例,其 2026 年 Q1 營收為 20.8 億美元,但資本支出(Capex)高達 77 億美元,導致自由現金流為 -47.1 億美元,債務飆升至 248.6 億美元。
為了維持這個遊戲,Nvidia 與 CoreWeave 簽署了協議,承諾若 CoreWeave 的算力賣不掉,Nvidia 將負責購買剩餘算力直至 2032 年。而 CoreWeave 則利用這些科技巨頭的合約作擔保,取得巨額的延遲提款定期貸款(DDTL)來購買更多 Nvidia GPU。目前,CoreWeave 的利息支出已佔其營收的 25.8%。
龐氏騙局還是生態培育?
社群對此展開了激烈的辯論。反對者認為這是典型的「循環灌水」:Nvidia 出資給 Neocloud -> Neocloud 用這筆錢加上貸款去買 Nvidia 的 GPU -> Nvidia 營收創紀錄、股價大漲 -> Nvidia 再出資。一旦終端 AI 應用無法變現,這個鏈條將瞬間崩潰。
然而,也有人指出這是一種聰明的會計手段。科技巨頭(如 Meta、Microsoft)透過向 Neocloud 租用算力,成功將原本需要列在資產負債表上的巨大「資本支出(Capex)」轉化為利潤表上的「營運費用(Opex)」,藉此美化自由現金流,向華爾街交差。
編輯觀點:建立在債務槓桿上的算力帝國
這項揭露為我們敲響了警鐘。我們日常使用的 AI API,底層其實建立在極其脆弱的金融槓桿之上。Neocloud 雖然宣稱其 GPU 利用率極高,但根本無法彌補巨大的 Capex 與營收逆差。一旦利率持續走高或 GPU 供需逆轉,這場由債務驅動的算力盛宴將面臨劇烈的清算。
26 億張草圖的啟示:人類概念中被 AI 抹殺的文化多樣性
畫筆下的文化與具身認知
一項基於 26 億張人類手繪草圖的跨國認知科學研究,為我們揭示了現有 AI 模型的一大缺陷:嚴重抹殺了非語言的文化多樣性。
研究分析了來自 236 個國家和地區的人類手繪草圖,發現基於草圖推導出的跨文化相似度,與既有文化距離指標的契合度,比基於文本的度量高出 45%。更重要的是,文化差異在涉及「觸覺互動(Haptic Interaction)」的概念中表現最為強烈,這證實了人類的視覺想像深受物理身體經驗(具身認知)的形塑。然而,現有的多語言文本嵌入模型在幾何結構上與草圖模型存在顯著發散,顯示文本模型在壓縮語言時,過濾掉了這些豐富的文化細節。
質疑:是文化差異,還是設備限制?
社群對此研究展開了熱烈討論。許多人同意,僅依賴網頁文本訓練的 LLM,其內在的「語義幾何」本質上帶有西方或英語中心的偏見。
但也有學者提出了客觀的質疑:這些草圖數據(多源自 Google Quick, Draw! 遊戲)受限於數位設備的物理限制(例如用手指在手機螢幕上畫,或用滑鼠在電腦上畫)。這種「輸入介面偏見」是否在數據分析中被誤讀成了「文化差異」?
編輯觀點:多模態 AI 的下一站
這項研究為 AI 開發者敲響了警鐘。在構建全球化應用時,單純依賴文本-圖像對齊模型(如 CLIP)是不夠的。非語言、具身化的數據(如手繪軌跡)保留了語言無法承載的認知維度。未來的 AI 架構需要引入更豐富的非文本模態,才能真正理解人類多元的思維結構。
榨乾作業系統紅利:ClickHouse 如何將 PgBouncer 吞吐量提升 4 倍
突破單執行緒瓶頸的 so_reuseport 與 Peering 機制
PostgreSQL 的常用連線池工具 PgBouncer 一直以來都受限於單執行緒(Single-threaded)架構。ClickHouse 團隊分享了他們如何不改寫核心代碼,僅透過作業系統特性與輕量級機制,將其吞吐量提升了 4 倍。
在 AWS c7i.4xlarge(16 vCPUs)的測試中,單一 PgBouncer 行程在 256 個用戶端連線下,吞吐量卡在 87k TPS 且單核飽和;而 ClickHouse 部署了 16 個行程的叢集,並啟用 Linux 核心的 so_reuseport 特性,讓多個行程綁定同一個連接埠,由核心進行負載平衡。這使得吞吐量線性攀升至 336k TPS。
然而,這帶來了一個經典難題:Postgres 的查詢取消(Query Cancellation)會建立一個新連線,在 so_reuseport 下,這個取消請求可能會被分發到沒有持有該 Session 的 A 行程。為此,ClickHouse 引入了行程間的 Peering 機制,當 A 收到不屬於自己的取消請求時,會自動轉發給實際持有該 Session 的 B 行程,完美解決了路由難題。
為什麼不直接換多執行緒連線池?
社群對此解決方案展開了技術思辨。有人質疑,既然有 Yandex 開源的 Odyssey 或 Agroal 等原生支援多執行緒的連線池工具,為何還要大費周章地在單執行緒的 PgBouncer 上疊加複雜的 Peering 轉發層?
此外,將連線數(max_db_connections)硬性均分給 16 個行程的靜態配額分配方式,也可能導致「飢餓問題」——某個行程分配到的連線特別活躍而提前達到上限拒絕連線,而其他行程的配額卻在閒置。
編輯觀點:用最少的工程成本解決大問題
這是一個極佳的「榨乾作業系統紅利」案例。ClickHouse 沒有選擇盲目重構或更換工具,而是透過深入理解 Linux 核心的網路棧,配合應用層的輕量級 Peering 協議,以極低的工程成本解決了 PgBouncer 十年來的單核瓶頸。這再次證明,有時候深入底層作業系統,比重寫代碼更能高效解決效能問題。