如何用 NVIDIA NeMo Agent Toolkit 和 Amazon S3 Vectors 建立智能體記憶
文章示範如何將 Amazon S3 Vectors 設為 NVIDIA NeMo Agent Toolkit(NAT)的持久記憶層,並把智能體工作流部署到 Amazon EKS。
文章示範如何將 Amazon S3 Vectors 設為 NVIDIA NeMo Agent Toolkit(NAT)的持久記憶層,並把智能體工作流部署到 Amazon EKS。
Amazon Bedrock AgentCore 的參考實作把 Amazon S3 上傳或排程事件轉成智能體工作,並讓智能體在需要澄清、審批或覆核時暫停等待人員回應。
推薦理由:文章把事件來源、AgentCore 執行與人在迴路處理串成參考架構,並清楚區分樣本內建能力與需自行擴展的訊號來源。
AWS 介紹 Amazon Quick 的提示詞工程基礎,整理適用於不同功能的通用原則與可複用框架。文章涵蓋明確具體、提供業務背景、以示例指定輸出,以及 CRISPE、RADAR、ARCHITECT 和 QUEST 等框架,並介紹中繼資料檢索、多角度分析與情境規劃。文中以 RFI 問卷自動化示範 Quick Flow 如何把多工作表資料整理為四欄 CSV,並稱可將原需數小時的處理縮至數分鐘。
AI 影片分析透過工廠攝影機畫面識別預設的安全風險、營運狀況及異常事件,為沙特阿拉伯智能製造提供現場視覺監察。系統可在偵測到設定條件時發出警示、記錄事件及分析累積數據,並配合生產控制、IoT 和安全系統運作;沙特未來工廠計劃已協助約3,900間工廠,目標為4,000間。
World Juggling Federation 創辦人 Jason Garfield 使用 Runway 為電視競技節目補上空座位人羣、重建所需鏡頭素材及製作節目圖像。他以 Aleph 2.0 在原有片段中加入觀眾,並以多步圖像生成和單次影片生成製作選手卡、排行榜及比賽圖像。約一小時的特輯由他一人製作,他計劃沿用成功生成的圖像,並繼續以 Runway 製作排行榜和計分圖像。
建築工地 AI 安全系統利用人工智能和電腦視覺分析攝影機畫面,偵測預先設定的安全狀況並發出警報。系統可監察工人進入起重機作業範圍、未有明顯防墜保護的高處作業,以及車輛倒車接近行人路線等情況,並可配合現有閉路電視使用。
GitHub Copilot app 的 canvases 可按用户描述生成自訂介面,讓用户與智能體在共享畫布中同步查看和更新工作內容。用户在 Agent 工作階段輸入 /create-canvas,描述所需工作流程、介面操作和智能體可執行的事項,毋須手動編寫程式或設計。畫布建立後會保存為擴展,可留在專案中供團隊共用,也可保存為個人擴展重用。
推薦理由:文章從描述工作流程、介面操作與智能體職責開始,示範如何建立、反覆調整並保存可重用的畫布擴展,呈現把日常流程轉成協作介面的具體步驟。
沙特阿拉伯油氣鑽井作業的紅區安全,旨在防止工人進入運作設備、懸吊重物及其他危險能源附近的區域。紅區邊界會因設備移動和作業內容而變化;持續監測 90 天可用來觀察暴露風險的位置、時段和應對模式,但不能視為行業基準。
作者以自身二型糖尿病經歷,分享如何運用 AI 協助長期管理病情。四類實用方法包括以影像追蹤身體、飲食和檢查報告,以語音記錄情緒與日常,將醫療資訊轉化為行動,以及提醒按時服藥。AI 只能作為助手,不能診斷或替患者決定用藥。
Michael C.S. So 分享自己管理 2 型糖尿病的經歷,並提出以 AI 協助健康管理的四種實用途徑。AI 可用於追蹤傷口和飲食、整理情緒與作息、解釋醫療資訊,以及提醒按時服藥;但不能代替醫生診斷或決定用藥。
香港人工智能專業協會代表出席黃大仙區「AI 防騙分享會」,講解換臉、扮聲及虛假訊息等詐騙手法,並即場示範以相片生成旅遊照片。分享會提出三項自保做法:有懷疑先掛斷並自行回撥已知號碼、追問只有真人才知道的事,以及透過視像通話要求對方即時做指定動作。
VOIDZ 以 Runway 的 Seedance 2.0 製作《Ends Meat》,把原本受限於 10 至 15 秒的 VFX 作品延伸至 95 秒紀錄片。作品以未經編排的買餸實拍為基礎,加入超現實影像呈現生活成本壓力;VOIDZ 稱這種形式為 Documentary Surrealism。
ATV Big Air Tour 藉助 ChatGPT,將原需 3 天的工作縮短至 3 小時。團隊使用 ChatGPT Work 加快市場推廣、商品營運等工作,並在 15 分鐘內將商品照片轉成庫存網站。
Miro 使用 Runway 製作年度活動 Canvas26 的開場影片,並為四個城市分別本地化版本。片中的城市景觀、人羣及入場畫面均由 Runway 生成,團隊亦以活動場地照片作參考,並按所需尺寸原生生成畫面。
loveholidays 使用 OpenAI Codex,讓公司各團隊更容易參與軟件開發。這有助團隊更快把想法轉化為產品。
IBM Granite 團隊詳述 Granite 4.2 推理模型系列的構建流程,涵蓋架構、訓練方法及評測結果。該系列有 3B、8B、30B 三種稠密、僅解碼器模型,均由 Granite-4.1 base models 後訓練;後者以約 15T tokens 預訓練,並透過五階段策略將上下文窗口延至 512K tokens。
推薦理由:文中並列三種規模共用的訓練主線,以及 8B、30B 額外加入真實環境 Agentic RL 的分支,可據此理解各規模訓練階段和智能體能力培養的差異。
Gradio 內置的 gr.Workflow 可把 AI 工作流表示為由帶類型節點組成的圖,並提供可拖放、逐節點執行及查看中間結果的畫布。節點可執行 Python 函數、調用 Hugging Face Inference Providers 模型或其他 Gradio Space,也可處理 Hub 數據集資料。
推薦理由:文章以多個可執行示例展示如何把模型、Python 函數與 Gradio Space 串成工作流,並讓節點輸出直接成為 API。
Hugging Face 以 Inference Endpoints、Jobs 和 Storage Buckets 建立 Papers with Code 混合搜尋系統,為來自 arXiv 和 Daily Papers 的超過 110,000 篇論文維護嵌入向量。
推薦理由:文章拆解離線批次建向量與線上查詢的分工,並説明端點冷啟動時如何回退全文檢索,呈現混合搜尋進入生產環境的工程取捨。
Populous 利用 Runway 加快場館概念設計的視覺化,呈現大型場館的完整效果圖及鳥瞰圖,而非用它創作實際設計。外部渲染團隊製作一段完整影片至少需三週,競賽提交前設計模型以往須提早兩週凍結。視覺製作時間縮短,讓設計師有更多時間深入設計細節,並更快與客戶建立共同願景。
Asana 使用 OpenAI Codex,在 2 週內替換一套過時的測試系統,並完成原需數年的程式碼遷移。此次使用的模型與基礎設施成本約為 $12K。
Sentence Transformers v6.0 新增 MultiVectorEncoder,支援 ColBERT 式多向量檢索。文中示範載入 PyLate 與 Stanford-NLP ColBERT checkpoint、接入檢索索引,以及以同一 API 執行 ColPali 視覺文件檢索。
推薦理由:文章對照 LateOn 與 DenseOn 在 NanoBEIR 13 個資料集的結果,並以索引體積數據呈現多向量檢索表現與儲存成本的取捨。
OpenAI 的 GPT-5.6 建構指南聚焦初創公司如何運用 GPT-5.6,更快、更具成本效益地構建 AI 智能體。指南亦涵蓋更智能的模型選擇,以及 Responses API 的新能力。
OpenAI CFO Sarah Friar 分享打造 AI 原生財務職能的五點啟示,內容涵蓋自動化預測、加強控制與 AI 投資回報。這些經驗聚焦財務職能的 AI 原生建構。
Zapier 的企業市場推廣團隊使用 ChatGPT Work 改造核心流程,以減少潛在客户漏斗中的流失。團隊亦用它製作宣傳活動素材並自動化報告。
HSP GRUPPE 使用 ChatGPT Enterprise 提升生產力和工作質素,並為税務諮詢及客户服務創造更多容量。
AI 電郵回覆可透過提供來郵內容、回覆重點及語言語調等資料,生成更切合情境的草稿,並由人手審閲後發送。SleekFlow 提供共享收件箱、AI 草稿、自動分流及跨渠道客戶紀錄;使用 AI 處理客戶個人資料時,企業亦須留意數據安全及私隱合規。
Chime 使用 Runway 將超過 85 名會員的照片製作成最新全國電視廣告的動態片尾格狀畫面。Runway 團隊協助搭建初始流程,執行製作的 Shayla Love 其後調整提示詞、處理渲染並教導團隊操作;儘管來源照片質素和構圖各異,成品仍穩定並適合電視播出。Love 估算,若以傳統拍攝完成相同規模,成本約為這次做法的 5 倍,亦難以安排全國會員同日拍攝。
OpenAI 用六個月構建 GPT-Live 即時語音系統,支援與 AI 持續進行語音互動。系統採用無需輪次切換的語音模型和低延遲架構,以實現更快、更自然的對話。
Skyscanner 在美國及加拿大品牌宣傳活動中使用 Runway,預先規劃拍攝構圖、燈光和演員調度,並在拍攝現場核對素材。團隊把即時拍攝的原始影像放進預先批核的廣告版面,亦為藍幕素材生成臨時背景,以確認造型和道具效果。Runway 用於支援人工主導的美術指導,並非製作最終背景。
科學家正運用 AI 編碼智能體推動科學計算現代化,加快基因組學及其他領域的軟件開發與發現。
生成式 AI 可按用戶輸入生成文字、圖像、音頻或程式碼,SleekFlow 的 AgentFlow 則讓 B2C 企業在多個通訊渠道部署經品牌知識庫訓練的 AI Agent。AgentFlow 原生整合 Shopify、HubSpot 及 Salesforce;SleekFlow 客戶數據顯示,導入 AI Agent 自動化流程的企業平均轉化率提升 6 倍,回覆速度改善達 95%。
R/GA 利用 Runway API 的 Characters 建立 Bob Greenberg 的即時 AI 虛擬形象「Forever Founder」,呈現創辦人的理念與公司歷史。團隊表示,項目很快便達到約 90% 的進度,其後透過調整提示詞、重新訓練語音及完善知識庫逐步修整。現時示範仍是原型,長遠計劃是讓全球員工可在線使用,並納入更多公司歷史和數據。
OpenAI CFO Sarah Friar 提出一份用於衡量 AI 投資回報的實用記分卡。評估維度包括有用工作、每項成功任務的成本、可靠性及算力回報。
OpenAI 的創意團隊運用 Codex 和上下文感知 AI 建構自訂創意工具、加快構思,並更快製作原型。
ChatGPT Work 的實用數據科學工作流程涵蓋根因簡報、KPI 備忘錄、限定範圍分析及儀錶板規格,説明如何在這些任務中運用相關工作流程。
ChatGPT Work 的實用銷售工作流程涵蓋銷售管道簡報、會議準備、客户計劃、預測檢視及交易診斷等場景。
代理式 AI 能自主設定目標、規劃多步驟流程、調用外部系統並執行任務,與依賴預設腳本的聊天機器人及需要逐步提示的生成式 AI 不同。企業可將其用於客戶服務、銷售線索審核、行銷自動化及 CRM 資料更新,並在人手判斷需要時轉交人工。SleekFlow AgentFlow 是無程式碼平台,支援建立及部署 AI 代理。
Hugging Face Blog 的《PyTorch 效能分析》第 3 篇以 profiler traces 對照手寫注意力與 PyTorch SDPA 各後端的執行情況。
推薦理由:文章對照 CPU 與 GPU trace,展示如何從 kernel 數量、資料搬移及 CPU 開銷,辨認注意力實作的效能收益與成本。
ChatGPT 入門指南説明如何使用 ChatGPT、開始首次對話,並探索以 AI 寫作、腦力激盪和解決問題的簡單方法。
Runway 建立名為 deckard 的容量控制器,按預先計算的時間窗口,在非繁忙時段將閒置推理 GPU 從生產集羣調配至研究集羣,並在早上需求高峯前調回。控制器使用過去 7 天每分鐘的 SQS 請求到達數,透過邊際收益分配 GPU,並以離散事件模擬檢查各工作負載的 p98 等待時間目標。