DeepSeek API 推出硬碟上下文快取,價格再降一個數量級
DeepSeek API 採用硬碟快取技術,並表示價格因此再降低一個數量級。更新詳情見文件「Context Caching is Available」,日期為 2024/08/02。
DeepSeek API 採用硬碟快取技術,並表示價格因此再降低一個數量級。更新詳情見文件「Context Caching is Available」,日期為 2024/08/02。
DeepSeek 更新 API,為 `/chat/completions` 加入 JSON Mode、Function Calling、Chat Prefix Completion(Beta)及 8K max_tokens(Beta),並為 `/completions` 加入 FIM Completion(Beta)。
DeepSeek 將 deepseek-coder 模型升級至 DeepSeek-Coder-V2-0724。這項升級記錄於 DeepSeek API 更新日誌。
DeepSeek 將 deepseek-chat 升級至 DeepSeek-V2-0628,並稱模型的推理能力有所提升。HumanEval Pass@1 由 79.88% 升至 84.76%,MATH ACC@1 由 55.02% 升至 71.02%,BBH 由 78.56% 升至 83.40%。
DeepSeek 將 deepseek-coder 升級至 DeepSeek-Coder-V2-0614,編碼能力顯著提升。其程式碼生成、理解、除錯及補全能力達到 GPT-4-Turbo-0409 水平,數學與推理能力出色,通用能力則與 DeepSeek-V2-0517 相當。
Continue 聯合創辦人 Ty Dunn 分享如何在 Visual Studio Code 或 JetBrains 中配合 Ollama 設定開源 AI 編碼助手,支援程式碼補全與聊天。
DeepSeek 將 deepseek-chat 升級至 DeepSeek-V2-0517,IFEval Benchmark Prompt-Level 準確率由 63.9% 升至 77.6%。
GPT2 和 GPT3 的 tokenizer 曾以不一致的方式切分整數,令模型難以學習算術;新一代 tokenizer 的整數表示大致已解決這個問題。Llama、Mistral、Gemma、Deepseek 和 Yi 按十進制逐位切分,GPT4 和 Llama3 則將數字分組切分。分組方式可減少長整數運算所需的連續步驟,但可能較難學習。
Hugging Face Blog 梳理對話智能體的訓練方法,涵蓋 IFT、SFT、RLHF 和 CoT。文中指出,IFT 所需指令數據僅為數百例量級,SFT 以人工標註改善有用性和安全性,RLHF 則根據人類偏好訓練獎勵模型,再用強化學習訓練對話智能體。
推薦理由:文章把 IFT、SFT、RLHF 與 CoT 放在對話智能體訓練脈絡中梳理,並比較多個系統的訓練資料和評估方向,呈現各方法的分工。