跳到正文
2024年8月2日週五
2024年7月25日週四
2024年7月24日週三
2024年6月28日週五
2024年6月14日週五
2024年5月31日週五
2024年5月17日週五
2024年5月11日週六
  1. Beren Millidge 研究博客(RSS)40

    整數 tokenization 現已大幅改善

    GPT2 和 GPT3 的 tokenizer 曾以不一致的方式切分整數,令模型難以學習算術;新一代 tokenizer 的整數表示大致已解決這個問題。Llama、Mistral、Gemma、Deepseek 和 Yi 按十進制逐位切分,GPT4 和 Llama3 則將數字分組切分。分組方式可減少長整數運算所需的連續步驟,但可能較難學習。

2023年1月24日週二
  1. Hugging Face Blog60

    甚麼令對話智能體有用?

    Hugging Face Blog 梳理對話智能體的訓練方法,涵蓋 IFT、SFT、RLHF 和 CoT。文中指出,IFT 所需指令數據僅為數百例量級,SFT 以人工標註改善有用性和安全性,RLHF 則根據人類偏好訓練獎勵模型,再用強化學習訓練對話智能體。

    推薦理由:文章把 IFT、SFT、RLHF 與 CoT 放在對話智能體訓練脈絡中梳理,並比較多個系統的訓練資料和評估方向,呈現各方法的分工。