Ripple-65B 如何在本地運行:Ollama 與原版 llama.cpp 尚未能載入
Ripple-65B Preview 可透過社羣伺服器套件、修補版 llama.cpp 或 MLX 在本地運行,但原版 Ollama 與 llama.cpp 尚不能載入相關 GGUF。
Ripple-65B Preview 可透過社羣伺服器套件、修補版 llama.cpp 或 MLX 在本地運行,但原版 Ollama 與 llama.cpp 尚不能載入相關 GGUF。
vLLM 0.33.0 收錄可選的 FLy 有損推測解碼驗證器;它不保留目標模型的輸出分佈,標準驗證仍是預設。PR 報告其相對標準推測解碼的吞吐提升為 1.041x 至 1.310x,但每個模型與平台組合只評測 428 題,單次結果不足以判斷小幅品質損失。按 6% 答案翻轉率及 80% 檢定力估算,以配對評測檢出 2 個百分點的準確率損失約需 1,175 題。
晚間要聞涵蓋政策、經濟、假期安排、足球、股市及公司消息。英國央行加息25個基點,利率由3.75%升至4%;美國正丙醇進口反補貼税續徵5年,反傾銷税亦將續徵。華為雲將於本月中旬更新上線盤古模型開源版本;2027年春節假期安排包括9天假期,C羅宣佈退出葡萄牙國家足球隊。
Revolut 完成二級股份出售,估值達 $115bn,並把 AI 編碼開支削減 90%。這估值較一年前同類交易定出的 $75bn 高 53%;公司現以自家 GPU 執行 Z.ai 的中國開放權重模型 GLM-5.3,作約 2,000 名工程師的預設編碼模型,由 56 張 Nvidia B200 晶片提供服務,綜合成本為 30 cents per million tokens。
華為在鴻蒙辦公產業峯會上表示,鴻蒙電腦出貨量突破百萬台,應用程式數量突破2.1萬款,生態正拓展至 AI、設計、編程及金融等專業領域。合作夥伴為產品打造「碰一碰」傳輸、上下分屏及手寫互動等體驗,並有專業設計和工業軟件完成適配。華為亦表示,DevEco 鴻蒙電腦端已啟動公測,並聯合夥伴推進 Chromium、Electron、Qt 等 10 餘個跨平台框架適配。
百度正式開源最新基座模型文心5.5 Flash Base。月之暗面推出 Kimi Hosted Agents,千問 AI Office 升級端內編輯與模板能力,可靈宣佈 Kling 4.0 Flash 全面開放。OpenAI稱過半收入來自企業客戶,並將於2027年做好上市準備;華為雲將於本月中旬更新上線盤古模型開源版本。
作者在 Godot 4.7.2 的《Dodge the Creeps》實測 Aura Autopilot,約 4 分鐘找出預先埋下的 4 個錯誤,並另外發現 1 個問題。
Alexander Heerens提出「智能體核心、確定性外殼」模式,由程式碼控制編碼智能體工作流,智能體則在單一步驟中完成實作、審查或修正。外殼會準備所需上下文、檢查結構化輸出並決定後續路徑;例如審查步驟須列出所用的編碼規範,eval 會檢查清單是否包含 21 項。
本地大語言模型推理生態已趨成熟,消費級 Mac、PC 及專用 GPU 伺服器均可運行實用的開放權重模型。llama.cpp 是主要推理引擎,Ollama、LM Studio、vLLM 和 Exo 則各有不同用途。文章建議本地模型處理簡單或涉及私隱的任務,複雜推理則使用雲端模型。
Ricursive 發佈 Ripple-65B Preview,作為其面向先進晶片設計的 AI 模型通用型版本。模型採用 Apache 2.0 授權,每 1M 個輸出 token 收費 $0.60。
Hugging Face 行政總裁 Clément Delangue 表示,自己的 P(doom)「接近零」,並認為未來 AI 風險來自封閉前沿 AI 實驗室,而非開源系統。他將風險來源指向封閉的前沿 AI 實驗室,而不是開源系統。
騰訊混元發布新一代大語言模型 Hy4,作者透過 WorkBuddy 測試它撰寫騰訊研報的表現。Hy4 在 Agent Arena 總榜排名第14,金融眾測得分3.04、位居開源模型第一;每項任務成本為0.55美元,比 Kimi K3.1 Pro(Max)低約62%。Hy4 權重尚未開源,官方稱將於近期開源;研報未涵蓋 Hy4 當日發布消息,而模型在高難度測試中仍與頂尖閉源模型有差距。
百度開源基座模型文心5.5 Flash Base(ERNIE 5.5 Flash Base),採用 MoE 架構,總參數量2800億,每個 Token 激活140億參數。
Hermes 技能 seo-page-audit 是一個單檔 Python 工具,可檢查單一網址或本機 HTML 檔案的基本頁面 SEO 問題。它只使用標準程式庫,毋須安裝或 API key,並按優先級列出問題;出現高優先級問題時會返回 exit code 1,可加入 CI 步驟。工具不會執行 JavaScript,只檢查單一頁面,字數門檻亦只是參考。
百度文心發布 ERNIE-5.5-Flash-Base,開放 ERNIE 5.5 Flash 預訓練終點權重。這款稀疏 MoE 語言模型總參數為 280B,每個 token 啟用 14B 參數,並在 33.5T tokens 上從零完成預訓練;最長訓練上下文為 128K,微調與推理支援 1M tokens 上下文。此次權重未經中期訓練與後訓練,可作為領域適配、指令微調和強化學習研究的起點。
Yan Std 開發並公開 humanizer-lint,一款保留作者原文、標示 AI 文本機械模式的 prose linter,而非改寫工具。它是零 npm 依賴的 Node 腳本,支援 en、id、es、ms、fr、de、pt、zh 八種語言,會報告句長節奏、詞彙豐富度、重複短語及文本壓縮率等指標。
百度文心大模型發佈並開放 ERNIE-5.5-Flash-Base 權重,這款稀疏 MoE 語言模型總參數量為 280B、每 token 激活 14B。模型以 33.5T tokens 從零預訓練,最長訓練上下文為 128K,微調與推理支援 1M tokens 上下文。這批權重未經中訓練與後訓練,可作領域適配、指令微調及強化學習研究的共同起點。
OpenAI 於當地時間本月 4 日宣佈收購 Pierre,以擴充 Codex 的第一方程式碼編寫、理解及審查工具。Pierre 開發了大型分佈式儲存系統 Code Storage,以及 Trees、Diffs 功能庫和實時更新高亮工具 Highlights。
ToolPilot Pro 比較 LongCat-2.5、Kimi K3.1 Pro 與 DeepSeek V4.1-Flash-1017 的 API 價格、基準成績、權重取得和授權條款,並按成本、自託管、能力及長程智能體任務整理適用場景。
推薦理由:文章把三款模型的價格、權重取得方式與授權條款放在同一框架,並標明基準來自不同廠商,方便按成本、自託管及長程智能體任務比較取捨。
Google Research 推出 Agile Deliberation,協助用戶為主觀概念建立圖像分類器,並找出概念邊界。測試涵蓋 2 個概念及 18 場實時測試,F1 平均較零樣本 Gemini 2.5 Flash 高 10.5 分。程式碼以 Apache 2.0 授權於 GitHub 公開,並提供 Gemini API 示範筆記本,毋須微調。
Mobilint 與 ETRI 合作改善 Ray 對其 NPU 的支援,令框架可自動偵測晶片並分配運算資源。相關功能經 Ray 項目正式代碼審查後,於 2026 年 8 月納入官方 GitHub 儲存庫。用戶現可透過 Ray 更容易地利用多個 NPU 建立及運行 AI 系統。
研究團隊指出,靜態基序支架評測不足以判斷蛋白質設計的動態穩定性:55 組靜態評測成功的設計與問題配對中,只有 31 組通過分子動力學驗證,僅 8 組通過所有檢查。團隊推出開放研究資源 BILBY,包括 220 項基於 PROSITE 連結實驗結構的 BILBY-PRO 基準,以及評估結構漂移、基序接觸保留和構象系綜保真度的 BILBY-MD 框架。
安世半導體起訴母公司聞泰科技並索賠134億元,中興手機帳號主體將變更為上海申啟紀元,騰訊混元則發布最新一代大語言模型Hy4。Hy4參數量為770B,混元團隊稱將於近期開源模型權重。Hy4在多項基準測試中表現突出,但與頂尖閉源模型仍有較大差距。
Octop 提供開源自託管 AI 助手平台,讓多個專家智能體共用知識庫與記憶,並透過網頁控制台、命令列和 IM 渠道提供統一入口。它支援知識庫 RAG、定時任務及多種 IM 接入,會話、工作區和憑證均保存在自己的實例中。透過阿里雲計算巢部署約 1 分半可用,但不附模型額度,需自行提供模型 Key;Passkey 登入、語音輸入等功能不能在瀏覽器使用。
Anthropic 公開 FlashProve 開源技術,旨在以密碼學證明核驗 AI 輸出是否由指定模型生成。系統要求模型開發者在模型發佈前公開指紋,供日後核驗輸出來源,而且不會披露模型權重。研究人員已公開技術規格及可運作程式碼;技術仍在開發中,Anthropic 未公佈在其服務或其他 AI 公司服務部署的計劃。
Qwen3.8 系列於 2026 年 10 月下旬已全系列開放,涵蓋 Qwen3.8-Max、Qwen3.8-27B、Qwen3.8-Flash 及 Qwen3.8-Flash-Next;Qwen4 仍在訓練,尚未正式發布。
DotNetPip 是開源 MSBuild 整合工具,可在標準 `.csproj` 建置目標中直接處理 Python 依賴項,並在執行 `dotnet build` 時還原 Python 環境及 pip 套件。它亦會將該環境提供給 C# 執行階段,讓用戶無須手動編寫外部環境設定指令碼。
中國科大發布開源 RNA 序列基礎模型 structRFM,相關研究成果刊於 Nature。模型以約 2100 萬條經計算註釋的序列—二級結構配對數據進行預訓練,僅輸入序列便可提取序列級、核苷酸級及核苷酸對級特徵。模型支援剪接位點預測、內部核糖體進入位點識別及非編碼 RNA 分類;研究團隊已開放配對數據、模型權重和源代碼。
Graphium 在 v0.104.0 加入計劃來源資料匯出功能,可將計劃及各步驟筆記的來源資料一併儲存為單一 .plan.jsonld 檔案。匯出採用 W3C PROV 標準及 P-Plan 詞彙,包含步驟間的連結、筆記內容、備忘錄和圖片説明;Graphium 在 GitHub 開源。
PyTorch Day China 2026 正徵集議程演講及短講提案,截止時間為11月10日23:59(中國標準時間)。活動將於12月12日在北京舉行,涵蓋模型訓練與後訓練、高效推理與部署、PyTorch 核心與硬件加速、Physical AI,以及 PyTorch 生態與應用五個範疇。徵集結果預定於11月17日通知,議程將於11月18日公佈。
Buoyant 開源 Kinference,作為配合 vLLM 和 Kubernetes 建構可擴展推理平台的控制平面。它以 vLLM 執行推理,並提供 token 速率限制、租戶用量與成本追蹤、負載平衡及推理政策。
IT早報 1105 彙總智能手機換機調查、蘋果天氣異常、華為子品牌星芒及字節員工使用外部 AI 等科技消息。調查顯示,近七成中國受訪者今年不換手機,人工智能在換機原因選項中佔 8%;字節據傳將限制員工自費使用 Claude、Codex。騰訊混元 Hy4 正式版發佈,官方稱其躋身最強開源模型之列。
月之暗面在 Hugging Face 開放 Kimi K3.1 Pro 權重;該模型在 Agent Arena 排名開放權重模型第一、全部參評模型第 13 位。
Simon Willison表示,他在手提電腦上運行免費模型 Qwen 3.8 27B,約花45分鐘設定,便重現了讀取另一模型原始權重的部分做法。相關論文稱,GPT-6 Astra 修改了 Qwen3.5-0.8B 的 0.016% 權重,並將 MATH-500 分數由 7.9% 提升至 48.1%。這次測試未能證明論文的所有主張,但降低了外界重現及檢視這項技術的門檻。
月之暗面已將 Kimi K3.1 Pro 的模型權重上載至 Hugging Face,正式開放權重。模型採用 MoE,總參數為 2.8 萬億,每次推理啟用其中 1040 億,支援 100 萬 token 上下文及看圖;Artificial Analysis 綜合智能指數為 46.5 分,較 DeepSeek-V4.1-Flash 的 32.6 分高約 14 分。
推薦理由:文章交代授權例外及部署所需硬件,呈現權重開放後商用與自行部署各自面對的實際門檻,方便判斷其適用範圍。
原文標題提出「為甚麼要關注開源」這個問題,但正文沒有提供相關論述或答案。
開源 AI 的模型權重可以免費取得,但真正的收入來自推理託管、雲端部署、企業治理、微調、商業授權和顧問服務等模型周邊服務。Hugging Face 上排名前 200 的模型只佔 2 million 個模型的 0.01%,卻獲得近半下載量。使用者仍須按自身工作負載驗證模型,並留意授權條款與監管限制。
Databricks 主張企業應採用多模型架構,將開放權重模型與前沿模型並用,以平衡成本、模型表現和治理要求。自 1 月至 7 月,Unity Gateway 客戶每戶使用的模型平均數由 4.2 增至 7.1,當中約 40% 為開放權重模型。Unity Gateway 透過統一 API、集中治理和智能路由管理不同模型,讓團隊可按設定切換模型。
CNDS 開發者發現,syn_scan 規則要求 SYN 數量超過 20、前向封包少於 5,兩個條件不可能同時成立;他改用帶有數據的封包數作判斷,並加入測試。規則修正後,SYN flood 仍未觸發警報;開發者將規則設為關鍵規則後,原始套接字發出的 SYN 封包仍未到達流量分派器,原因尚未查明。CNDS v2.0.0-rc.1 註明召回率尚未測量。
Hugging Face 的 Irene Solaiman 在 TechCrunch Equity 播客中,分析開源 AI 熱潮下企業如何創造價值。她談及初創企業採用開源模型前,如何選擇工具和基礎設施,以及需要權衡的取捨。內容亦探討中國開源模型日漸受關注之際,美國業者能否跟上。