Deep Cogito: Cogito v2.1 671B
🧠 AIモデルdeepcogito
671B MoEのオープンモデル、自己対戦RLで最先端性能に匹敵。
Cogito v2.1は671Bパラメータの混合専門家（MoE）モデルで、トークンあたり37Bのみが活性化。自己対戦と強化学習で訓練され、推論や一般的なタスクに優れる。テキスト入出力、128Kトークンのコンテキスト長をサポートし、frequency_penalty、logit_bias、min_pなどの機能を含む。ベンチマークでは推論や数学でトップクラスの性能を示す。