Google 與 Meta 推出開源 TorchTPU,為 Google TPU 提供原生 PyTorch 後端
Google 與 Meta 合作推出開源 TorchTPU,為 Google TPU 提供原生 PyTorch 後端,讓現有 PyTorch 工作負載只需少量程式碼修改即可在 TPU 上執行。
Google 與 Meta 合作推出開源 TorchTPU,為 Google TPU 提供原生 PyTorch 後端,讓現有 PyTorch 工作負載只需少量程式碼修改即可在 TPU 上執行。
Nebius 加入 PyTorch Foundation 成為白金會員,並獲基金會理事會一個席位。Nebius 計劃提升 PyTorch 和 vLLM 在最新硬件平台上的效能,並分享生產環境大規模推理及後訓練的經驗。
PyTorch Foundation 宣佈新增九個成員,其中 Nebius、Nscale 和 Shopify 成為 Platinum 成員。新成員在 PyTorch Conference North America 2026 公佈,分屬 Platinum、Silver 及 Associate 三類。
Clutter Sloth 是一款由本機運行的開放權重視覺模型驅動的下載資料夾整理工具,只在電腦閒置時分類檔案,並保留復原能力。新類別須連續獲批 5 次才會自動整理;税務文件、身份證及護照則僅供預覽,不會自動移動。所有檔案均留在本機,文章列出的示例平均掃描時間約為 6 分鐘,使用 GTX 1650(4 GB VRAM)。
Hugging Face 推出 TorchTPU,為 PyTorch 加入原生 TPU 後端,並讓 Transformers、Diffusers 和 Kernels 原生支援 TPU。
推薦理由:文章展示 TorchTPU 如何把 TPU 接入 PyTorch 及 Hugging Face 常用庫,並以測試通過率和問題修復數據呈現目前支援狀況。
Google 發佈 TorchTitan TPU 分支,將 TorchTPU 整合至 TorchTitan,支援在 Google Cloud TPU 上訓練 PyTorch 模型。
DeepSeek 已將供生產服務使用的推理框架 DeepInfer 以 Apache 2.0 授權開源,並推出 MIT 授權的 token 編碼與解碼層 deepseek-recipe。
Google 開源 TorchTPU,這款由 Google 與 Meta 的 PyTorch 團隊共同開發的原生 PyTorch 後端可在 Cloud TPU 上運行,並被建議用於新工作負載以取代 PyTorch/XLA。
作者整理 35 款開源模型的 GGUF 權重檔案大小,並按各模型配置計算不同上下文長度下的 KV cache、執行時開銷及總顯存需求。千問(Qwen3)32B 從 8k 增至 32k 上下文約多需 6 GiB,Qwen3.8 27B 則約多需 1.5 GiB;作者亦提供可按量化方式、上下文長度和並行請求數查看顯存拆分及適用 GPU 的計算器:https://gpu.nz/en/tools/vram
Hotly 團隊分享構建可自行託管付費訊息收件匣的設計取捨,並於本月以 Apache 2.0 授權開源;每個安裝只服務一人。團隊以一名擁有 536K Instagram 粉絲的創作者試行,217 人付費留言,累計形成 921 段對話。
Nurstar 開發 Lazybrief,這款以本地 Gemma 3 和 Ollama 運作的延後處理收件匣會在夜間為項目分類、設定優先次序及排程,並生成五行晨間摘要。
QuietShelf 以本地開放權重模型為文字及 Markdown 筆記排序,提出收納位置供用戶審核,原始檔案不會被移動或刪除。十項自動化測試全部通過;虛構測試資料中的五則不同主題筆記均把預期分類排第一,其中三則仍因分數或差距不足而留待審核。專案程式碼採用 MIT 授權,模型採用 Apache-2.0 授權。
Patch Pacer 使用本地開放權重嵌入模型,將安全公告或工單的 JSONL 匯出資料分組並排序,整理成較短的審核佇列。它透過 FastEmbed 和 ONNX Runtime 在用戶裝置上執行 BAAI/bge-small-en-v1.5,排序只採用記錄中的嚴重程度、到期日及資產映射。合成示例把 7 條記錄整理成 4 組;作者未有測量真實佇列的節省時間。
SkillHub v0.2.23 的本地演示更新了技能頭像,沒有重新上載套件,套件版本維持 v1.0.0。技能轉為 Public 須待掃描及管理員審核完成;改回 Private 則即時生效。成功加入團隊後,邀請紀錄會顯示 Used 狀態、加入者身分及加入時間。
Avishi Shreya 開發 Veil,一款本機優先的敏感資料遮蔽工具,可在文字送往 AI 聊天介面前偵測憑證、個人資料、內部識別資訊及上下文洩漏,並以穩定佔位符替換。
LeanIn 是以 Lean 4 原生編寫的多執行緒工作竊取並行執行環境,其伺服器在幾乎所有標準效能基準測試中勝過 Node.js。它以 Lean 型別系統形式化驗證排程器的狀態轉換,確保任務不會遺失、佇列不會死鎖,並正確處理記憶體。項目已在 GitHub 開源。
DeepSeek 將其用於生產環境執行 AI 模型的推理軟件 DeepInfer 開源,並以 Apache 2.0 授權發布程式碼。目前只支援 DeepSeek-V4.1-Flash,可在 Nvidia SM100 GPU 和 Huawei Ascend 950 晶片上運行,並包含投機解碼等功能。
Google 宣佈 Coral NPU 32-bit 架構完成,推出 Coral Compiler v1.0,並公佈採用 Coral NPU 的 Synaptics Astra SR200 系列晶片。
近幾日,網民以 AI 逆向改寫智能電視等裝置的軟件,亦克隆現有應用功能,讓部分被廠商停用的設備恢復功能。名為「Reverse Engineer Anything」的 GitHub 項目可分析沒有原始碼的應用功能並協助重建,撰文時已超過 342,000 個星標。作者警告,AI 克隆程式可能帶有使用者難以修復的錯誤,快速擴散亦可能增加裝置安全風險及開源社羣的審核負擔。
SlothOS 是一個以開源 AI 為核心的助手項目,旨在簡化日常工作流程,減少管理任務及切換工具所需的精力。項目以開放權重模型及開源工具為方向,讓開發者可檢視、自訂和按需要調整 AI 體驗。SlothOS 設有可在瀏覽器試用的示範版,作者計劃透過實際使用和用戶回饋評估效用。
The Lazy Payoff 是一個開源、本地優先的 AI 生產力助理,協助把雜亂文字整理成摘要、分類任務、行動項目和清單。項目採用 React、Node.js 和 Express,計劃透過 Ollama 本地執行 Gemma 3 4B,相關整合仍待驗證。
DeepSeek 開源高效能推理框架 DeepInfer,並由支援 DeepSeek-V4.1-Flash 開始。該框架為 DeepSeek 的生產服務提供支援。
Hugging Face 發佈 AnyLanguageModel 1.0,並同步推出 swift-huggingface 1.0 和 swift-xet 1.0。AnyLanguageModel 以相同 Swift API 支援本機及託管模型,新增各供應商通用的工具呼叫、引導式生成和圖像支援,並可在 Linux 執行。
ghostsubs 以本機 Gemma 4(12B)辨認銀行及信用卡 CSV 交易商戶,再由程式核對名稱及判斷重複收費。四份虛構帳單的首輪測試共向模型提問 100 次,耗時 101.78 秒;快取後再跑需 0.57 秒,無模型模式需 0.53 秒。作者指出,測試數據是自行生成,提示詞和規則亦參照模型輸出調整,並非留出基準。
N-CODE LazyFlow AI 使用開放權重模型 Gemma 3 1B 和 Ollama,在本機把用戶輸入的待辦事項整理成按優先次序排列的每日計劃,並按可用時間分配任務。
四川長虹與GIIC全球智慧物聯網聯盟、華為終端簽署開源鴻蒙戰略合作備忘錄,旗下全系家電加入「鴻圖計劃」,採用設備側改造而非整機作業系統替換。合作將引入海思晶片與SLE星閃低功耗雙模通信方案,推動電視、空調、冰箱及洗烘產品適配開源鴻蒙;長虹仍保留自有系統、內容、數據和帳號。長虹2026年上半年智慧家居業務收入232.82億元,同比下降7.33%,扣非歸母淨利潤同比下降67.88%。
Yash Dharme 開發了 Sloth Sort,利用本機 Gemma 3 1B 整理 Downloads 資料夾,先列出計劃供用戶檢視,再由用戶執行或復原。在 19 個虛構檔案的測試中,工具於 19 秒內完成計劃,其中 9 份文件交由 Gemma 處理;執行後可將檔案全部復原。模型一次下載約 860 MB,之後可離線運作,無需 API key。
作者 asosa933 製作 Sloth Recap,讓用戶在瀏覽器匯入羣組聊天紀錄後,取得兩行摘要、需回覆訊息及按主題整理的內容。它以 transformers.js 在瀏覽器本機運行 EmbeddingGemma,只挑選原有訊息、不生成新文字,聊天紀錄亦不會上傳伺服器。內置 Flat 3B 樣本的 38 則新訊息被整理成兩行摘要,另列出 3 則需回覆訊息。
llm-d 項目貢獻者在 PyTorch Conference North America 宣佈 llm-d 1.0,將這個 Kubernetes 原生分散式推理服務系統推進至支援生產環境運作的版本。
StudySloth AI 是一款以 Google 的開放權重模型 gemma-4-26b-a4b-it 為主要 AI 引擎的温習助手,可把筆記整理成摘要、提取重點並生成互動測驗。應用程式透過託管推理運行,亦設有專有 Gemini 備用模式;使用時需要連接互聯網,筆記會傳送至推理服務供應商處理。
LazyFiles 是一款以 Ollama 本地推理協助整理檔案的工具,可掃描資料夾、以 SHA-256 檢測重複檔案,並提出分類及檔名建議。用戶可預覽操作、以 dry-run 模擬變更,並透過 JSON 操作紀錄及回滾功能管理檔案;本地推理不代表應用程式不會連接網絡,網絡行為仍須另行核實。
Quiet Queue 以本地傳統機器學習模型,將延後處理的任務分類為 Reply、Read、Arrange 和 Review,供用戶檢視。模型以 24 個合成任務範例訓練;遇上陌生輸入或最高類別分數低於 0.57 時,會將任務列入 Review。原型不連接電郵收件箱或日曆,也不會傳送訊息或刪除任務;測試未驗證一般工作日的使用情況或節省時間的效果。
一名參與 Hacktoberfest 2026 的初學者,正探索開源 AI 模型和工具如何影響現代開發。Week 3 的學習內容包括開放權重 AI 模型,以及開發者社羣如何圍繞開源機器學習項目協作;他表示會繼續參與開源。
一名 AI Agent 為 jQuery Modal 修復了兩個問題:#120 的淡出競態,以及 #303 中拖曳選取會關閉彈窗的錯誤。作者以 jsdom 測試驗證修補:#120 的 13 項檢查每次均通過,#303 的 7 項檢查全部通過。修補程式、測試工具及説明均已公開。
Pollen Robotics 開源 Microduck,這款高 25cm、重 800g 的雙足機械人,其行走、跌倒恢復及物件操作技能主要透過強化學習訓練,而非手寫動作控制。
亞馬遜推出 TorchNeuron,讓開發者只需更改一項配置,便可在 AWS Trainium 晶片上運行既有 PyTorch 程式碼,並計劃於 10 月 20 日在北美 PyTorch 大會發布開源版本。早期用戶包括語音 AI 初創公司 Cartesia。郭濤指出,低成本遷移可降低試錯門檻,但規模化採用仍取決於遷移後的吞吐、時延、穩定性及生態成熟度。
DeepSeek 宣佈將內部推理框架 DeepInfer 全面開源,並同步開源生產級 Token 編解碼組件 deepseek-recipe。
Mistral 推出 Timestral,一套專為時間序列資料訓練的開源基礎模型,可用於預測、異常偵測等任務。套件包括 Timestral-Base、微調版本 Timestral-FT,以及以 Docker 映像提供的輕量推理伺服器。Timestral 支援自託管,並以統一 API 提供預測、異常分數及嵌入向量。
LineLoom v1.2.0 穩定版加入原生 VS Code Activity Bar 控制中心,集中管理本機 Ollama 程式碼補全。版本亦改善生成與連線狀態、錯誤處理及模型探索;診斷統計只保存在記憶體,不由內置遙測服務收集。穩定版已在 GitHub 發佈,並透過 Visual Studio Marketplace 和 Open VSX 分發。
OWASP BLT 的 50 多個 GitHub 儲存庫離線後,社羣先遷至 GitLab,後改以 Kaif 建置的自託管 Git forge ForkMesh 作為官方程式碼來源。團隊把 50 多個儲存庫整合為一個,保留 45,000 多次提交紀錄及 260 多名貢獻者的資料。GitHub 現為唯讀鏡像,GitLab 儲存庫則已封存。
最多提供 50 頁,更早的內容請使用搜尋或主題頁。