Colossal-AI 推出了 ChatGPT 聊天機器人替代品的免費開源版本。
ColossalChat 是 Colossal-AI 推出的免費開源 ChatGPT 聊天機器人替代品。 目前,其GitHub項目已獲得26K star。
作為當今領先的開源大規模人工智能模型解決方案,Colossal AI率先開源了基於LLaMA預訓練模型的完整RLHF機制,包括有監督數據採集、有監督微調、獎勵模型訓練和 強化學習微調,並共享 ColossalChat – 與原始 ChatGPT 技術解決方案非常相似的開源項目。
這個開源項目包括以下內容:

  • Demo demo:無需註冊或等候名單即可在線試用的交互式演示
  • 訓練代碼:開源完整的RLHF訓練代碼,包括70億和130億模型。
  • 數據集:開源的 104K 中英雙語數據集。
  • 推理:僅需 4GB GPU 顯存即可對 70 億參數模型進行 4 位定量推理。
  • 模型權重:在單個服務器上以很少的計算能力進行快速復制。

相關導航

暫無評論

暫無評論...