跳到正文
11月19日週四
  1. Data Center Knowledge29

    重新思考 AI 數據中心的高壓調試

    AI 數據中心接駁高壓輸電網可提供所需供電容量,但會增加電力系統的複雜程度與調試風險;高壓調試須作為專業工程範疇規劃,不能只視為低壓調試的延伸。66kV、110kV 和 150kV 電網接駁日益受關注,變電站、電力變壓器、高壓電纜、開關設備及保護系統均須檢查、測試和驗證。

  2. AWS Machine Learning Blog65

    Salesforce 如何透過 Amazon SageMaker AI 跨區域推理路由支援全球模型服務

    Salesforce 將 Amazon SageMaker AI 跨區域推理路由接入 Internal Gateway,讓流量可在多個區域及帳戶中已部署的端點間轉送,並由路由層處理健康判斷與故障切換。

    推薦理由:文章以 Salesforce 的實作説明如何將跨區路由接入既有閘道、保留資料駐留限制,並以回應欄位和 CloudWatch 指標追蹤流量切換。

  3. DEV Community60

    金融研究儀錶板檢索管線的 OpenTelemetry 可觀測性模式

    文章建議金融研究儀錶板採用具成本核算與追蹤能力的檢索管線,監測索引新鮮度、證據品質和延遲。文中附有 OpenTelemetry API 的 TypeScript 範例,記錄候選數、新鮮結果數和耗時,並建議追蹤索引工作中的文件、分塊、嵌入請求及索引大小。同時提醒避免把文件內容及帳戶識別碼寫入追蹤屬性,並在遙測資料離開程序前遮蓋查詢內容。

  4. DEV Community35

    GitLab CI 中,工作重試不應隱藏下一個工作

    GitLab CLI 的 `glab ci view` 有一項修正提案,避免工作重試令其後的下游觸發工作從顯示結果中消失。新方法保留工作首次出現的位置,並以最後一次嘗試更新該項;回歸測試確認第二次嘗試和下游觸發工作均按順序顯示。修正及測試見 GitLab CLI 合併請求 !4483,相關檢查使用 `go test ./internal/commands/ci/view`。

  5. DEV Community52

    Linnix Linux 可觀測性評測:以 eBPF 和 AI 分析系統停頓

    Linnix 是一個以 eBPF 和 PSI 分析 Linux 節點停頓來源的可觀測性項目,並可選用語言模型生成事件説明。Span Observer 根據 README、文件及程式庫作出評估,沒有安裝或執行 Linnix;文章指出授權和 DaemonSet 權限説法不一致,效能數據亦沒有獨立驗證。作者建議先在非生產節點測試、暫不啟用 AI,並確認授權及安全設定。

  6. DEV Community24

    保險業的 AI guardrail

    保險業的 guardrail 可在 AI 系統執行前、中、後施加技術限制,協助處理承保、理賠和客戶服務中的風險。文章指出,Circular SUSEP nº 695/2024 未明文要求使用 guardrail,但要求保險公司識別、評估和減低 AI 風險;guardrail 是配合相關治理要求的做法。文中亦提到,2023 年有 72% 的巴西數碼保險公司表示已開始實施 AI 技術控制。

  7. AWS Machine Learning Blog31

    AWS Quick:從報表走向推理,為 AI 智能體準備企業數據

    AWS Quick User Group DC 首次聚會展示企業如何以受管治、可信的數據基礎,推進 AI 分析及智能體工作流程。AWS Quick 整合分析、自然語言互動及多步驟任務協調,並連接 Salesforce、Slack、Google Drive 和 Microsoft 365。所有出席者在 50 分鐘內設計並推出自訂應用程式,另有六名參加者製作自動化流程。

  8. AWS Machine Learning Blog62

    Amazon Bedrock AgentCore Gateway 如何在 hub-and-spoke 網絡中連接受中央防火牆檢查的私有 API

    AWS 提出一種 Amazon Bedrock AgentCore Gateway 私有 API 接入架構,將 VPC Lattice 資源閘道放在網絡帳戶的專用 VPC,並由其子網經 Transit Gateway 路由,使資源閘道與私有後端之間的請求及回覆經中央防火牆。

    推薦理由:文章梳理資源閘道部署、跨帳戶設定與防火牆路由,並附驗證檢查,為企業在網絡集中管控下接入私有 Agent 工具提供具體架構參考。

  9. TNW78

    OpenAI 稱其 AI 模型令 AMD 旗艦 GPU 設計的功耗、效能與面積指標改善最高 14%

    OpenAI 表示,其 AI 模型令 AMD 旗艦 GPU 設計的功耗、效能與面積指標改善最高 14%,部分改動已用於送交製造的晶片。模型改寫描述晶片電路的程式碼,並以 Synopsys 軟件檢查改動;OpenAI 稱這相當於不足五個月取得約一年的進展。

    推薦理由:部分 AMD 旗艦 GPU 設計改動已進入製造,文章亦交代模型改寫電路描述程式碼並用 Synopsys 軟件逐項檢查,具體呈現 AI 參與晶片設計的流程。

  10. Hacker News:AI 熱帖52

    Maritime 推出面向生產環境 AI 智能體的託管雲端服務

    Maritime 推出面向生產環境 AI 智能體的託管雲端服務,為每個智能體提供獨立、持久的 microVM 和可配置環境。服務亦提供持久狀態、休眠與喚醒編排、觸發器、排程、監控、網絡設定、更新、回滾和故障恢復等功能。每個 2gb RAM 智能體每月收費 $1,該價格包含不限量使用,並可按需增加資源。

  11. DEV Community54

    六種技術棧的客戶級 API 限額檢查應放在哪裏

    Jack Ma 對照 Express、Hono、Next.js、Cloudflare Workers、Django REST framework 及 LiteLLM 相關流程,説明按客戶設定 API 限額時,檢查、預留配額和記錄用量的位置。實作差異集中在認證時序、路由識別及回應送出後的處理;LiteLLM 用例則應在 API 層辨認客戶,並於模型呼叫後記錄實際 token 用量。

  12. DEV Community46

    Design Den Solutions 查核自家查詢表格:22 個表格均無 action 屬性,單行修正行不通

    Design Den Solutions 查核自家網站的 22 個查詢表格,發現全部沒有 action 或 method 屬性,提交完全依賴 JavaScript。停用 JavaScript 時,表格會以 GET 方式重新載入首頁,輸入內容亦會出現在網址列、瀏覽器記錄及伺服器請求記錄中。直接加入原生表格提交屬性也行不通,因為端點會回傳 HTTP 409;團隊建議先提供清晰可見的查詢備用方式。

  13. DEV Community43

    Aico Grounding:將自然語言介面目標轉換為螢幕位置

    Aico Grounding 已開源,這個本機定位元件可將自然語言介面目標轉換成螢幕位置,供 Agent 執行操作。它會識別畫面上的互動元素、為元素分配參照,並返回預測目標位置;即使介面語言不同,也能識別元素。在 Aico 硬件本機執行可減少雲端路由造成的延遲,並避免把螢幕內容傳到外部伺服器。

  14. DEV Community49

    我打造開源 Android 防火牆,因為「離線」應用程式每天發出逾 4,000 次靜默連線

    作者打造了開源 Android 防火牆 TacUNS Firewall,讓未取得 root 權限的裝置也可在本機過濾網絡封包,阻止未經授權的連線。它使用 Android VpnService API,內置涵蓋逾 700,000 個威脅及追蹤網域的封鎖清單,並提供 AI Radar,即時偵測及封鎖外發 AI 流量。防火牆不需帳戶或雲端服務,亦不包含分析 SDK。

  15. DEV Community28

    Physical AI 如何連接工業營運中的感測器、決策與實際行動

    Physical AI 將感測器收集的工業數據交由 AI 分析並作出決策,再透過已批准的操作控制設備或機械人,並以回饋確認行動是否達成目標。文章介紹設備診斷與預測性維護、品質檢查、機械人、數碼孿生及互聯工業系統等應用,並指出安全邊界、測試、數據品質和網絡安全等工程考量。

  16. OpenAI News70

    Codex 沙盒如何在用戶現有環境限制命令的檔案及網絡存取

    OpenAI 詳解 Codex 沙盒如何透過作業系統的隔離機制,在用戶現有環境中限制命令對檔案系統及網絡的存取。內建 :workspace 權限設定允許工作區內寫入、廣泛讀取檔案並預設停用網絡,用戶亦可自訂權限設定檔,或透過 codex sandbox 將沙盒執行整合到其他工具。

    推薦理由:文章串連權限設定、網絡代理與 macOS、Linux、Windows 的隔離實作,説明 Codex 如何在沿用本機開發環境時約束命令存取。

  17. Modal 官方工程博客47

    Miguel Novelo 如何在 Modal 上打造瑪雅銘文研究工具

    藝術家兼史丹福講師 Miguel Novelo 利用 Modal 建立快速流程,將二維瑪雅文字圖像轉成三維模型,探索以 AI 和雲端運算開發瑪雅銘文研究工具。他以約 100 個瑪雅音節符號起步,並計劃用展覽收集的訪客畫作持續改進流程。專用模型可結合文字形態與文化背景,補足通用大型語言模型未涵蓋的尤卡坦半島在地知識。

  18. DEV Community43

    以交易電郵範本及抑制名單控制,確保歡迎通知可稽核

    金融科技合規歡迎電郵應明確界定範本及抑制名單的管理責任,並分開保存訊息接受紀錄、送達證據和核準文件。應用程式管理範本可保留不可變更的修訂版本及輸入快照;由電郵服務商管理範本,則須保存範本參照、核准內容快照和所用變數。Infrai 提供純 REST API,適合亦需要帳戶用量及 PDF 生成的 Python 團隊,無須安裝 SDK 或管理客戶端程式庫版本。

  19. The Decoder72

    OpenAI稱其模型助AMD旗艦GPU IP在不足五個月內實現最多14%的PPA改善

    OpenAI稱,與AMD合作後,其模型在不足五個月內令AMD旗艦GPU IP的PPA(功耗、性能及晶片面積)改善最多14%。OpenAI表示,這相當於在AMD工程師多年優化的設計上再推進約一年,部分改動已納入送交製造的設計;同一方法亦協助其首款自研推理晶片 Jalapeño,而 GPT-6.2 Astra 在開放式 RISC-V 處理器核心測試中,跨模型世代表現最佳。

  20. Meta Engineering Blog49

    Meta 一次設計、大規模部署:構建模板驅動的 ML 生態系統

    Meta 以標準模型模板(SMT)統一廣告排序模型設計,將逐模型迭代轉為可跨模型推廣的共享系統。過去兩年,該方法令每個模型的工程時間減少92%,推出5000+技術—模型組合;在服務容量不變下,離線模型質素平均提升0.63%,線上累計提升0.86%,涵蓋按數量計70%的模型。

  21. Pragmatic Engineer72

    Gergely Orosz 訪問 CodeRabbit CEO Harjot Gill,談軟件工廠與程式碼審查

    Gergely Orosz 訪問 CodeRabbit 創辦人兼 CEO Harjot Gill,探討他如何以 AI 智能體打造軟件工廠及處理程式碼審查。Gill 表示,他上月透過智能體提交逾 5,000 個 PR,CodeRabbit 每月 AI 支出約 $250-$275K。團隊使用 TLA+、模擬及分階段發布驗證代理產出,工程師則審查包含多個 PR 的版本,而非逐一審查 PR。