DeepSeek 開源 DeepInfer 高效能推理框架,初始支援 DeepSeek-V4.1-Flash
DeepSeek 開源高效能推理框架 DeepInfer,並由支援 DeepSeek-V4.1-Flash 開始。該框架為 DeepSeek 的生產服務提供支援。
DeepSeek 開源高效能推理框架 DeepInfer,並由支援 DeepSeek-V4.1-Flash 開始。該框架為 DeepSeek 的生產服務提供支援。
N-CODE LazyFlow AI 使用開放權重模型 Gemma 3 1B 和 Ollama,在本機把用戶輸入的待辦事項整理成按優先次序排列的每日計劃,並按可用時間分配任務。
DeepSeek 進一步將內部推理框架 DeepInfer 全面開源。此外,螞蟻百靈開源 Ming-3.0 語音系列模型,上海團隊發布並開源記憶原生大模型 MemT-1.0。
LazySort AI 是以本機為先的檔案整理工具,透過 Ollama 使用 Gemma 3 4B,提出分類及檔名建議供用戶審批。工具預設先預覽操作,不會刪除或覆寫檔案,並支援復原;項目採 MIT 授權開源。
Doze Sort 利用本地開放權重模型為筆記分類,先產生整理計劃,再建立分類副本並保留原始檔案。測試以 14 個檔案產生 12 份不重複副本,兩份重複檔案指向標準副本,兩份不確定的副本移至 _review;復原時沒有刪除檔案。分類使用 all-MiniLM-L6-v2,在 CPU 上產生 384 維嵌入向量,並可離線推理。
StudySloth AI 是一款以 Google 的開放權重模型 gemma-4-26b-a4b-it 為主要 AI 引擎的温習助手,可把筆記整理成摘要、提取重點並生成互動測驗。應用程式透過託管推理運行,亦設有專有 Gemini 備用模式;使用時需要連接互聯網,筆記會傳送至推理服務供應商處理。
LazyFiles 是一款以 Ollama 本地推理協助整理檔案的工具,可掃描資料夾、以 SHA-256 檢測重複檔案,並提出分類及檔名建議。用戶可預覽操作、以 dry-run 模擬變更,並透過 JSON 操作紀錄及回滾功能管理檔案;本地推理不代表應用程式不會連接網絡,網絡行為仍須另行核實。
SlothTidier 是以開放權重 Qwen3 8B 驅動的本機自主檔案整理工具,可在離線環境分析檔案並分類、重新命名和標記重複檔案。模型有 8.2B 參數,工具亦可提取待辦事項,並產生 PowerShell 或 Bash 腳本整理檔案。無法使用 Ollama 時,工具會改用本機啟發式引擎,不會呼叫雲端 API。
開源套件 NeuroMetric-FPGA 為神經形態 FPGA 設計提供基準測試,以 SOPS、每次脈衝能耗(pJ/spike)、神經元密度及路由效率等指標,補足 TOPS 難以衡量 SNN 事件驅動運算的不足。ZedBoard 上的基準 LIF 神經元陣列使用不足 1% FPGA 資源,僅 20.7% 功耗用於活躍運算;只計活躍運算時,每次脈衝能耗改善 4.8x。
Quiet Queue 以本地傳統機器學習模型,將延後處理的任務分類為 Reply、Read、Arrange 和 Review,供用戶檢視。模型以 24 個合成任務範例訓練;遇上陌生輸入或最高類別分數低於 0.57 時,會將任務列入 Review。原型不連接電郵收件箱或日曆,也不會傳送訊息或刪除任務;測試未驗證一般工作日的使用情況或節省時間的效果。
AsyncShield Enterprise 是一款隔離網絡、零遙測的管理層非同步訊息分流工具,以本地執行的 Google Gemma 2 和 Prior Labs TabPFN-3.5 提取重點、評估緊急程度,並隔離低優先級訊息。工具亦可生成行政回覆及 60 秒語音簡報;完整原始碼以 MIT License 發佈。
OWASP BLT 的 50 多個 GitHub 儲存庫離線後,社羣先遷至 GitLab,後改以 Kaif 建置的自託管 Git forge ForkMesh 作為官方程式碼來源。團隊把 50 多個儲存庫整合為一個,保留 45,000 多次提交紀錄及 260 多名貢獻者的資料。GitHub 現為唯讀鏡像,GitLab 儲存庫則已封存。
TouchGrass AI 以本地開放權重 AI 把短暫螢幕休息變成戶外微探險,按用戶選擇的時間和環境生成感官任務,並在活動後驗證觀察結果。它以 MobileNetV4 Small ONNX 在 CPU 上分類用戶拍攝的一張實地相片,推理約需 11–16 ms;活動紀錄儲存在本機 SQLite,應用程式不使用雲端 AI API 或遙測。
Lazy Developer's Second Brain 是一款本機優先的 AI 開發者助理,旨在記錄專案脈絡、追蹤未完成工作並協助開發者接續工作。它透過 Ollama 在本機執行 Qwen 3.5 9B,分析 Git 活動及已儲存的開發紀錄,生成狀態摘要並建議下一步。完整工作流程仍在驗證,作者尚無實測節省時間的結果。
GeoD Global 是一款開源 Windows 應用程式,用於搜尋、預覽及下載地理空間數據。0.2.0 版面向 Windows 10/11 x64,可連接 STAC、WMS 等服務,並在本機管理下載檔案及檢視、裁剪和拼接相容光柵數據。本機使用毋須 GeoD Global 帳戶。
ProcrastinateOS 是一款開源、本機優先的桌面 AI 檔案整理工具,透過 Ollama 執行 Alibaba Qwen 2.5:1.5B,所有分析均在本機 RAM 完成,檔案內容和遙測資料不會離開裝置。
LazyDesk AI 可將雜亂筆記整理成摘要、可執行任務、優先排序的下一步及一項簡單的起步行動。它透過 Transformers.js 在用戶瀏覽器執行開放權重模型 Xenova/flan-t5-small 生成摘要,任務擷取及排序則由 JavaScript 規則處理。模型檔首次執行時須下載,因此需要網絡連線。
SlothMate 是一套開源 AI Agent 工具,將羣組對話濃縮成摘要並生成回覆、按雪櫃食材提供簡易餐點建議、整理桌面檔案,並提供離線環境音效。它支援在瀏覽器或本機使用開放權重模型推理,也可透過 Hugging Face endpoints 或 Ollama 連接模型。即使沒有 API keys 或下載模型,其本地備用 Agent 仍可處理輸入,延遲為 0.04 秒。
LazyFlow AI 是一款輕量生產力助理,提供待辦規劃、任務拆解、文字摘要及晚間例行安排。它可透過 Ollama 連接 Gemma 3 1B,在本地生成個人化內容;未能使用本地 AI 時,則以瀏覽器功能作簡單替代。GitHub Pages 版本是靜態網站,本地 AI 功能須在用戶電腦安裝並啟動相容模型。
LazyDesk AI 是一款本地優先的 AI 檔案整理工具,透過 Ollama 和開源權重模型掃描獲準資料夾、提取文件內容並建議檔名及分類,不使用雲端 API。用戶審核後才會移動檔案,並可預覽路徑、偵測衝突及一鍵復原;項目以 MIT License 開源,支援 Qwen3、Llama 3.1 及其他本地 GGUF 模型。
SlothPlan 是一款命令列待辦工具,利用本機開源權重模型把任務分為今日處理(最多 3 項)、延後及刪除,並為每項提供簡短理由。工具以 Qwen2.5-0.5B-Instruct 判斷任務,再由確定性程式碼驗證結果;亦可用 `--no-llm` 切換至規則模式。模型、推理引擎及程式碼均在本機執行,不需帳戶、API key 或訂閲。
推特用戶 @ashen_one 宣佈啟動非商用、開源的《惡霸魯尼》UE5.8 重製項目,並以 AI 輔助開發。項目由個人主導並全程公開於 GitHub,現時在 Mac 上以 1080P 運行達 45 幀,亦支援社區協作。項目仍處於早期開發階段,需手動部署,暫未提供一鍵安裝包。
開發者 SuperMedo 公佈「Uncharted for Windows」項目,將《神秘海域:內森德雷克合集》移植至 PC,涵蓋初代、二代及三代。項目基於 PS4 版,直接在 PC 執行遊戲的 x86-64 代碼,並以基於 shadPS4 模擬器的渲染器轉換為 Vulkan;目前仍有穩定性問題,玩家須自行提供解密後的正版遊戲資料。
作者打造 TaskTurtle,一款輕量級 AI 生產力助理,將雜亂待辦清單整理成清晰、可管理的任務。它可拆解大型任務、整理待辦、建議處理次序及制定簡單每日計劃;AI 層可適配不同開放權重模型,並可按硬件和模型要求探索本地推理。按文中説法,即使每日節省 5 分鐘,一年亦可累積超過 30 小時。
TaskTurtle 是一款開源 AI 生產力助手,能把零散的待辦描述整理成清晰計劃,並將大型任務拆解成可執行步驟。它亦可整理零散想法、建議優先次序,並協助制定簡單的每日計劃。其模組化 AI 元件可支援不同開放權重模型,並可按模型及硬件情況探索本機推理。
Slow Triage 將匯出的 GitHub 問題批次轉為可撤回的審查佇列,透過本地嵌入和比較提出建議,並會在證據不足時棄權。合成資料測試中,選擇性流程對 40 個測試項目提出 8 項建議,全部正確,覆蓋率為 20%;廣泛分類器的表現則低於關鍵字基準。專案沒有即時 GitHub 整合或真實環境評估,亦未測量節省時間的效果。
SlothFlow AI 是一款以本機開放權重 AI 為基礎的檔案整理助理,會掃描用戶明確批准的資料夾並提出分類和檔名建議,供用戶審核後再整理。它以 SHA-256 偵測完全重複檔案,採用可復原隔離而非自動刪除,並以 SQLite 操作日誌支援復原。預設模型為 qwen3:4b,應用程式在本機運作,無需 API keys 或雲端推理。
SlothCommit 以開放權重 AI 根據 git diff 生成 commit 訊息,並可選擇產生 PR 描述。訊息支援 Conventional Commits、Simple 或 Emoji 風格;本機方案以 Ollama 運行 Gemma 3 (4B),毋須 API key。作者估算每則 commit 訊息可由約 40 秒縮至 10 秒內,每日節省約 7 分鐘。
Fan Composer 是一款以 Rust 開發的開源 Windows 應用程式,透過 OpenVINO 每秒執行小型音樂策略模型,優先使用 NPU 調節聲景參數。聲景在本機合成,音量會按估算的風扇及背景音量調整;這不是主動降噪。0.3.0 版通過 26 項自動測試,亦驗證了實際 NPU 推理,但測試未能證明長時間運作穩定或提升聆聽舒適度。
SlothDigest AI 是一款本地優先、零外部依賴的助理,使用透過 Ollama 本機運行的 Google Gemma 開放權重模型,整理對話並把繁重任務拆成 2 分鐘起步行動。它可將 800 字縮至 40 字,並計算節省的閲讀比例和時間;離線時則以 regex 篩除雜訊,並提供放鬆程序。
catchup 讀取 WhatsApp 聊天匯出檔,透過本機 Gemma 3 1B 生成羣組聊天簡報,不需連接伺服器或帳戶。測試的 4 份合成聊天中,3 份簡報通過來源核對,但其中兩份仍有錯誤陳述。規則式簡報有時比模型摘要更有用。
SlothOps 是一個開源 AI 自動化平台,利用微調的 SlothDistill-8B(sloth-distill-v1)將會議、PR 等雜務濃縮成可執行決策,並自動處理常見工作。平台以 Tinker、Backboard.io、Render 和 .tech 串連模型推理、長期記憶與背景工作流程。它可減少 88.3% 的輸出 token 數,並在 200ms 內提供一鍵決策。
ai-memory 為不同 AI 編碼智能體、項目及裝置提供共用記憶,讓用戶切換工具時保留工作脈絡;v3.1.1 加強工作階段管理及記憶老化功能,無需 API 呼叫。它支援超過 twenty 個智能體,並可透過共用伺服器讓團隊存取知識,同時保留個人交接的私隱。
作者以開源 AI 建構 The Galactic Sloth Nexus,打造結合熱帶雨林與賽博朋克城市的虛擬生態系統。系統採用 Ollama、Llama、Mistral、LangChain 等技術,支援本機推理,並以智能體整理訊息和檔案、建立購物清單。文章估算,自動化任務每週可節省超過 10 小時。
TDK CLI 將 service.json 作為服務設定的單一事實來源,生成 Dockerfile、Traefik 路由、Postgres 設定、健康檢查及 Tilt 設定,建立完整的本機開發環境。CLI、discovery 和 engine 分工處理設定生成、服務探索及容器運行;TDK 不負責部署至 staging 或 production。
slothsort 是一款以 Gemma 分類檔案的 Python CLI,可透過 Ollama 在本機整理 Downloads 資料夾,並以副檔名規則作離線備援。預設只預覽整理計劃,需加上 `--yes` 才會移動檔案,也可用 `--undo` 還原;示範中以一個命令將 12 個檔案分到 9 個資料夾,全程沒有刪除檔案。
SlothOps AI 是一款開源 DevOps 日誌分析器,透過網頁儀錶板提供 AI 生成的日誌解釋、可能原因及故障排解建議。它使用 Ollama 在本機運行 Llama 3.2 (3B),支援分析應用程式、Docker、Kubernetes 和 Linux 日誌。本地設定可讓日誌留在本機;項目旨在減少重複排查工作,但尚未測得可靠的節省時間數據。
LazyFlow AI 是一款輕量生產力助手,能摘要長文、整理筆記、草擬專業電郵及規劃每日任務。項目支援透過 Ollama 配合開放權重語言模型(例如 Qwen 2.5)進行本地推理,並設有毋須連接 AI 的示範模式。
SlothSummary 是一款本機優先的網頁應用程式,可在本機整理羣組對話、電郵及開發者狀態紀錄,生成兩行晨間摘要並提取需要處理的事項。它可配合 Ollama 執行 Llama 3.2 3B 或 Phi-3 Mini,亦支援 WebGPU 瀏覽器執行環境;按一下按鈕即可在兩秒內生成摘要,整個流程無須依賴雲端。
Toktail 是以 Apache 2.0 授權開源的 AI token 用量追蹤工具,可置於編碼 Agent 與 AI 服務之間記錄請求。它按模型、主機及每日統計 LM Studio 的輸入與輸出 token,支援最多 17 台主機,並可加密保存提示詞及回覆、備份至 S3 相容儲存桶。現時網站只提供 macOS Darwin arm64 安裝版本,適用於 Apple Silicon 電腦。