歡迎來到 DAVID888 Daily 每日放送,今天我們將帶大家一覽科技社群的最新焦點:從在消費級顯卡上飆出百倍推論速度的模型架構、macOS 系統級 AI 瘦身法,到科技圈傳奇記者的殞落與資料中心水電資源的隱私風暴。
在消費級顯卡 RTX 4090 上以 100 T/s 執行 125B 大模型:Strata 框架引爆 LocalLLaMA 社群
開源專案 Strata 近日釋出突破性成果,成功讓參數量高達 125B 的 Qwen 3.8 Flash Next 模型在單張 RTX 4090 上,跑出每秒 100 個 Token(100 T/s)的驚人推論速度。在過去,要在消費級硬體上推論超過 100B 規模的模型,通常得承受極度緩慢的記憶體卸載(Offloading)延遲,或是嚴重仰賴極端量化。
Strata 能達到此速度的核心關鍵在於針對混合專家模型(MoE)動態啟動特性的深度最佳化。透過高度平行的快取排程與分層預測演算法,系統能精準預載即將啟動的專家權重,極大化利用 PCIe 頻寬與 GPU VRAM。社群討論指出,這項技術實質上降低了地端跑高效能大語言模型的硬體門檻,對於無法負擔高昂雲端運算費用的個人開發者與研究單位而言,無疑是一大福音。
收回 macOS 上的硬碟空間:開源工具 RemoveMacAI 徹底停用 Apple Intelligence
隨著作業系統深度整合 AI 功能,龐大的模型檔案動輒佔用數十 GB 磁碟空間,且系統往往缺少一鍵清除的官方管道。開源 CLI 工具 RemoveMacAI(基於 4evy 的 pared 改寫)提出了一套優雅的解決方案,能安全移除底層 AI 模型資產並防止系統在背景重新下載。
保留 SIP 的優雅解法
RemoveMacAI 的技術亮點在於完全不需要關閉系統完整性保護(SIP),亦不直接修改受保護的 /System 目錄:
- 善用原生框架:利用 MobileAsset 與 Unified Asset Framework (UAF) 服務安全釋放模型權重空間。
- 防止背景重抓:安裝自訂 Configuration Profile,套用系統限制金鑰(Restriction Keys),並將特定模型的下載伺服器端點導向本機無效通訊埠。
- 彈性與安全性:支援
--dry-run模擬執行、--keep保留特定功能,並提供完整的一鍵復原(revert)機制。值得一提的是,macOS 內部的 Spotlight 搜尋視窗行程本身命名為Siri,因此停用後該行程仍會存在,屬正常現象。
許多進階使用者對這類「個人 Debloat」手法給予高度評價,認為運用企業級 MDM Profile 與資產重導向,是在不破壞 macOS 安全基石的前提下,取回硬體自主權的最佳範例。
文件遮蔽失誤意外曝光 Google 資料中心驚人水電消耗數據
一份因遮蔽處理不當(Improper Redaction)的官方文件,意外揭開了 Google 位於內布拉斯加州林肯市(Lincoln)資料中心的真實水電用量數據,引發公眾對於 AI 基建排擠民生資源的激烈辯論。
這類「複製貼上就能看到底層文字」的 PDF 遮蔽失誤在政府公文中屢見不鮮,但此次流出的精確數值,證實了超大型資料中心在尖峰負載時對在地電網與水資源的巨大吞吐量。社群討論聚焦於地方政府給予科技巨頭稅務補貼與保密協議(NDA)的合理性,不少專家呼籲,在各家科技巨頭爭相建構百萬瓩(GW)等級算力中心的同時,水電消耗資訊應全面公開透明,並納入更嚴格的區域環境評估標準。
科技新聞先驅、《矽谷傳奇》紀錄片靈魂人物 Bob Cringely 逝世
科技新聞界傳奇專欄作家、PBS 經典紀錄片《書呆子的勝利》(Triumph of the Nerds)主持人兼編劇 Bob Cringely(本名 Mark Stephens)傳出辭世消息,享壽 70 餘歲,Hacker News 社群湧入數百則留言悼念。
Bob Cringely 在 1980 至 1990 年代以辛辣、幽默且洞悉人性的筆調聞名。他深入矽谷車庫與會議室,記錄了 Apple、Microsoft 等科技巨頭的崛起歷程。《書呆子的勝利》中對 Steve Jobs 等先驅的深度訪談,更成為電腦發展史不可或缺的珍貴影像資產。許多資深工程師感性留言表示,自己正是看了 Cringely 的紀錄片或專欄,才立志踏入軟體與電腦工程領域。
為什麼現代開發者越來越少「使用 Web 原生平台」?
知名網頁技術專家 Nolan Lawson 發表長文,探討近年來前端社群為何頻繁倡導「回歸原生 Web 平台」(Use the Platform),現實中開發者卻依然緊抓 React、Vue 等厚重框架不放。
抽象層與開發體驗的現實落差
文章深入剖析了 Web 標準與現實商業開發之間的斷層:
- API 設計的粒度問題:原生 Web Components 與標準 API 往往提供的是「基石(Primitives)」而非「完整解決方案」,在跨元件狀態管理、伺服器端渲染(SSR)與資料同步上,原生平台仍需仰賴大量自建樣板程式碼。
- 生態系相容性:現代前端工作流程依賴 NPM 生態系中豐富的開源套件,純原生元件在無框架環境下的組合與封裝體驗尚未完全成熟。
- 心智模型一致性:宣告式 UI(Declarative UI)與虛擬 DOM 的概念已深入人心,原生 DOM 的命令式操作在複雜互動場景下維護成本依舊偏高。
社群留言指出,這並非原生平台的失敗,而是各司其職的演進過程——框架負責探索人機互動的最佳抽象,而成熟的最佳實踐最終再被提煉進 Web 標準之中。
生活物聯網極客精神:給垃圾桶裝上超寬頻(UWB)感測器
工程師 sjg 分享了一項幽默且技術含量極高的個人專案:利用 UWB(超寬頻)無線電技術,解決「到底有沒有把垃圾桶推到路邊」的日常痛點。
作者不滿意傳統門磁感應或攝影機影像辨識容易誤判的缺點,直接在自家垃圾桶與車庫安裝了 Decawave DWM1000 UWB 模組,透過精確的雙向飛行時間(Two-Way Ranging)測距演算法,將垃圾桶的定位精度壓縮至公分等級。專案串接 Home Assistant 後,只有當垃圾桶「真正被移動到路邊定位點」時才會消除提醒通知。這篇充滿駭客精神的硬體折騰記,展現了物聯網愛好者將先進射頻技術融入日常生活瑣事的無限創意。