AWS Lambda 新增 GPU 推理支援,單一環境最多 48 個並發呼叫共用模型
AWS 為 Lambda Managed Instances 加入 GPU 支援,Event Functions 可在 EC2 G 系列執行,單一環境最多 48 個並發呼叫共用一個模型。
推薦理由:文章把 48 路並發的實測吞吐與部署流程中的啟動時間、映像格式限制放在一起,便於評估這條 GPU 推理路徑的實際取捨。
AWS 為 Lambda Managed Instances 加入 GPU 支援,Event Functions 可在 EC2 G 系列執行,單一環境最多 48 個並發呼叫共用一個模型。
推薦理由:文章把 48 路並發的實測吞吐與部署流程中的啟動時間、映像格式限制放在一起,便於評估這條 GPU 推理路徑的實際取捨。
Google 宣佈 Agent Compute Engine,這項託管服務會在隔離 microVM 中執行 AI 智能體,並支援透過檢查點暫停及恢復執行環境。服務把憑證、API keys 和 OAuth refresh tokens 留在沙箱外,由外部 Agent Gateway 驗證請求並注入所需憑證。服務尚未推出,Google 預計未來數月提供預覽,價格尚未公佈。
這套 AI 物業交易鏈智能系統旨在找出買賣交易鏈中的缺失環節,協助處理停滯的交易。系統以客戶買賣意向及物業資料建立數據模型,透過圖算法和機器學習識別交易鏈,再按缺失環節產生行動建議,例如定向廣告請求。
React 19.3 新增兩個實驗性 taint API,防止敏感伺服器端資料經序列化意外傳至客戶端元件。experimental_taintUniqueValue 用於標記字串或數字,experimental_taintObjectReference 則標記整個物件;資料越過元件邊界時,React 會在建置或執行時阻止序列化。
一段 Bash 腳本會跟隨 ChatGPT Ads 落地 URL 的重新導向,列出每一跳及最終 URL,檢查 UTM 參數是否保留。文章建議測試實際投放 URL、不同網址版本、泰文及英文頁面和流動 user agent,並確認最終狀態碼為 200、重新導向不多於一至兩次。檢查只涵蓋 URL 路徑,不能證明轉換追蹤正常,也不能判斷廣告是否會獲匹配。
Infino 的 MCP server 提供 15 種工具,讓 Agent 在同一個 Parquet 資料表上進行關鍵字、語義、混合及 SQL 搜尋,並建立和修改資料表。
這份實務指南説明如何把文件壓縮設為自動化管線前端穩定、可呼叫的步驟,並按冗餘、結構和用途情境選擇處理方式。設計須隔離並記錄個別檔案故障、支援單檔重試,並如實保留無法壓縮或壓縮後變大的檔案。上線前應以真實文件測試清晰度、檔案大小、處理時間及故障情況。
這套企業知識庫問答方案採用 RAG 架構,結閤中文 Embedding 模型與 FAISS 或 Milvus,檢索企業私有知識並生成答案。系統透過文檔解析、智能分塊、向量化、Top-K 片段召回及提示詞模板完成離線建庫與在線問答。方案亦提出調整相似度閾值、加入快取,以及為敏感資料實施權限隔離和審計日誌追蹤。
作者介紹 rust-sandbox(rsb)v0.1.2,這是一個單一執行檔及可嵌入的 Rust 程式庫,利用 Linux 內置核心功能隔離程序,無需 root 權限、守護程序或 C 依賴。
DeepSeek 模型路由應先將請求送至 deepseek-flash,只有在輸出未通過可量度的品質或可靠性門檻時,才升級至 deepseek-v4-pro。在 10M 輸入 token、2M 輸出 token 的例子中,零快取命中時兩者總成本分別為 $2.70 和 $10.56;快取命中率為 90% 時則為 $1.38 和 $4.82。
文章比較 Tokuse 上豆包 Seed 2.1 Pro、Lite、Turbo 的價格、適用情境與接入方式,價格依據為 2026 年 11 月 16 日的線上模型目錄。
İbrahim Kalaycı 構建了離線優先的本機 AI 編碼工作室 AURA,並以 GNU AGPLv3 開源整個項目。AURA 以 Rust HNSW 向量索引結合 BM25 詞法搜尋和 RRF,配合 AST 程式碼庫映射及本機 GGUF 模型推理。
Dell、HPE、Lenovo 和 Supermicro 等 AI 伺服器供應商在簽訂合約數月後,向買家要求大幅提高價格。
Thinking Machines Lab 於 2026 年 11 月 20 日發佈 Inkling 2 Mini,這款 26.4B 參數的循環 Transformer 約佔 20GB 記憶體,可在 32GB MacBook 上離線運行,採用 Apache 2.0 授權。
推薦理由:文章將本機部署門檻與循環架構的計算取捨並置,並以編碼基準和事實回憶數據呈現其較適合的任務範圍。
Mishe 調高 AI 智能體的喚醒頻率後,喚醒率升約 1.9 倍,但有改變的比例由 24% 降至 20%。因此,閒置角色只有在喚醒後確實改變內容時才維持每 30 分鐘檢查;若沒有改變或受阻,便恢復每 2 小時一次,有待處理工作的角色則仍在 10 分鐘後返回。
AI Stack Lab 作者測試自家 AIEval 評分規則,發現子字串比對會令錯誤答案通過。在四個提示的測試中,3/4 個判定受子字串行為影響,整體準確率為 75.00%,未達 0.80 門檻。作者建議使用較完整、難以被錯誤答案意外包含的預期答案;缺失回覆會計作失敗,而 max_avg_latency_ms 雖可在設定中填寫,但實際上並未執行。
阿里雲 GPU 雲端伺服器(ECS GPU 實例)價格參考整理了截至2023年10月的 gn、gse、gah 系列報價,涵蓋 T4、A100 等型號及不同地域。文章列出按需付費、包年包月和搶佔式實例等計費方式,並整理帶寬、雲盤費用及新用戶、學生等優惠資訊。
DeepSeek 的 Flash 與 V4 Pro 按北京時間區分高峯與非高峯定價,非高峯價格為高峯的一半;平日高峯時段為 09:00–12:00 和 14:00–18:00,週末及中國法定假日全天按非高峯價計算。
Speakvora 一次性付費 Agent 會按生成句子的原文建立語音快取;完全相同的週末特餐答覆可重播已儲存音檔,無須再次合成或增加字符預算用量。措辭不同的版本則各自合成一次;一般語音在最後播放後保留 30 天,特餐更新後舊音檔不會配到新內容。店主可在首次來電前預先合成,或先致電測試。
DeepSeek 在同一組模型化工作負載下,非高峯費用為高峯的一半:每月 2 億輸入 token、4,000 萬輸出 token 的估算費用分別為 ¥443.68 和 ¥887.36。
作者以模擬工作負載計算 DeepSeek Flash 與 V4 Pro 的月費,尖峯為 ¥887.36,離峯為 ¥443.68。尖峯時段是週一至週五北京時間 09:00–12:00 及 14:00–18:00;其餘時段按尖峯費率一半計費,週末及中國法定假日全天屬離峯。
MRRSignal 正建立按支付服務供應商驗證的 MRR 排名的公開初創企業收入資料庫,AI 只解釋已驗證數據,不會改動收入數字或排名。平台支援 49 個支付服務供應商,並將收入統一換算為 USD。創辦人可選擇公開列出實際 MRR 或收入區間,是否刊登亦由創辦人決定。
作者審核 2.3 million 次模型呼叫的逐筆記錄與彙總表,發現三個月總成本相差 ¥2,055.24。差額主要來自逐筆資料被保留政策刪除,而彙總表仍保留舊記錄;文章建議按日核對,並為每個彙總列記錄 source_max_id。
軟件工程中的「稍後再修」往往令技術債長期留存,臨時修補、複製程式碼及延後重構都可能演變成架構負擔或生產事故。技術債常因交付壓力、只顧眼前功能,以及對重構風險的顧慮而累積。作者建議把技術債列入待辦,在修改問題檔案時順手改善,並用工具自動化清理工作。
文章指出,FunASR MCP 可讓 Agent 呼叫本地語音轉錄,但 Windows 即時語音延遲仍主要取決於 WASAPI 擷取路徑。modelscope/FunASR 約有 21k stars;文章建議分別擷取麥克風與 loopback 音訊,並以 lock-free SPSC ring 傳送樣本。
Oracle 表示,11 月完成最後一輪融資後,已為履行 OpenAI 數據中心合約備足資金。其 2026 年融資計劃目標為籌集 $45 billion 至 $50 billion,約一半來自發行股份,另一半來自債券。這只回應 Oracle 自身的融資安排,未説明 OpenAI 是否能持續支付其在整個行業訂下的所有訂單。
阿里雲目前未直接提供基於 NVIDIA RTX 4090 的 GPU 雲伺服器實例,主要提供 A100、T4、A10G 等企業級 GPU。以華東1地域為例,GN6.2xlarge(A100 40GB)約 ¥12-15/小時,GA1.4xlarge(T4)約 ¥4-6/小時。GPU 實例支援按量付費及包年包月,使用前需留意配額限制和驅動安裝。
AI奇門遁甲排盤網站以排盤引擎與 AI 解盤引擎解耦,結合歷法計算及大模型流式解盤。系統可採用 Vue3 或 React、Node.js 或 Python,並以 RAG 控制模型幻覺,透過 SSE 或 WebSocket 流式輸出。實作亦涵蓋真太陽時處理、Token 精簡、API 頻率限制及相同排盤時間與問題的結果快取。
阿里雲提供採用 NVIDIA A100 的 GPU 雲伺服器,涵蓋 GN6、GN7、GN7i 系列及彈性裸金屬,供 AI 訓練和科學計算等高性能工作使用。文章列出租用流程、配置與華東1地域價格參考,並説明配額審批、競價實例的中斷風險及成本優化方式。
KaggleFleet 提供本機介面,讓用戶管理協作式 Kaggle GPU 工作流程,無需手動切換帳戶即可推送筆記本並監察執行。它支援多個獨立驗證的共同作者帳戶並行執行筆記本,亦可集中查看工作狀態和日誌、收集輸出,以及透過 JSON 輸出和結束代碼整合 AI Agent 與指令碼。
Mohamed Gado發現,爬蟲在其網站一週記錄的 409 名訪客中佔 31%;Meta 的 meta-externalagent 和 meta-webindexer 會執行 JavaScript,因此被客戶端分析記作訪客。
AI奇門遁甲 App 的盤局對比分析引擎,透過結構化盤局資料、提取多維特徵及計算相似度,支援盤局對比分析。文章説明引擎採用數據解析層、特徵工程層和計算引擎層,並以餘弦相似度比較特徵向量。
InApp 分享為智能體處理不穩定 API 呼叫時調整重試策略的經驗,做法是先按錯誤類型分類,再決定重試方式。429 配合 Retry-After 降速,5xx 採用全抖動指數退避,4xx 則停止重試;嘗試次數上限設為四次,會改變狀態的呼叫附上冪等鍵,並記錄每項任務的重試預算。調整後 p99 延遲下降,重複副作用歸零;錯誤記錄顯示,多數故障來自請求內容、逾時或對他人速率限制的假設,而非暫時性問題。
作者為 Polytoria 遊戲社羣建成論壇,整個系統由一個 Cloudflare Worker、一個 D1 資料庫及瀏覽器原生 JavaScript 模組組成,前端毋須框架或建置步驟。論壇支援 41 種介面語言,並以統一的可見性檢查和跨路由測試防止隱藏、封禁或封鎖的內容外洩;分析功能只儲存頁面瀏覽次數,不記錄 IP、用戶代理、Cookie 或逐次瀏覽資料。
FreshGauge 是一款 Bifrost gateway 插件,會抽取每個 completion 中可核實的事實,並以即時網頁證據及來源權威度與時效的加權評分判斷資訊是否過時。
切換分支後,可核對 Git 工作目錄、監聽 5173 的程序及開發服務日誌,確認瀏覽器實際連接的本地預覽。使用 Vite 時,可為另一個預覽指定 5174,並加上 `--strictPort`,避免端口被佔用時自動改用其他端口。
文章展示 AI 奇門遁甲 H5 的輕量化智能排盤引擎與前端架構設計,並以 JavaScript 程式碼實作排局計算。程式依節氣、日干支及符頭判定陰遁或陽遁、上中下元與局數;節氣及日干支函式則固定返回冬至和甲子。
羣聯在 SC26 大會展示兩款面向 AI 場景的企業級 SSD,其中一款內置 NPU 和 64GB 記憶體,可直接在硬碟上運行 AI 模型。該款 SSD 頻寬達 130GB/s,支援 PyTorch、vLLM、OpenVINO 和 llama.cpp;羣聯稱,特定工作負載下數據傳輸量有望減少 10 至 100 倍。
VPS 遭人暴力破解 SSH 登入並植入加密貨幣挖礦程式,令 AI agent 停止回應。移除挖礦程式並加固 SSH 等設定後,CPU 閒置率由 0% 升至 79%,可用 RAM 由 1.5 GB 增至 3.9 GB。其後一週,fail2ban 封鎖了 44 個 IP,並阻截 15,678 次失敗 SSH 登入。
SecuredMe 提出一套八層認知軟件架構,透過 25 個區域、12 條外圍通道和 L3 防火牆,將未經治理的 LLM 建構為受控認知系統。架構以 CN_02 通道把輸入壓縮至不多於 2%,並列出 533 至 541 項通過的 pytest 測試。文章亦描述以隔離 Git Worktree 協調 Agent,並以多種機制處理驗證與記憶修剪。