Huaweiが新たにリリースしたopenPangu-Embedded-7B-v1.1は、わずか70億個のパラメータを誇りながらも、高速思考モードと低速思考モードを柔軟に切り替えることができます。このモデルはGitCodeでオープンソース化されています。
大規模モデル分野における長年の課題は、高速思考と低速思考の両方を実現することの難しさでした。これまで、これらのモードを自由に切り替えることができるオープンソースモデルは不足していました。Huaweiが新たにリリースしたopenPangu-Embedded-7B-v1.1は、漸進的な微調整戦略と独自の適応型高速思考・低速思考モードを採用しています。これにより、高速思考モードと低速思考モードを手動で切り替えるだけでなく、問題の難易度に応じて2つのモード間をシームレスかつ自動的に切り替えることもできます。
この革新的な機能により、openPangu-Embedded-7B-v1.1は幅広いタスクで優れた性能を発揮します。単純な問題であれば、非常に高速に回答を返し、ユーザーの時間を大幅に節約します。複雑なタスクに対しては、根本的な問題を深く分析し、高品質なソリューションを提供します。この画期的な技術革新は、オープンソースの大規模モデルが高速思考モードと低速思考モードを切り替える能力のギャップを埋め、効率と精度の両面で真のWin-Winの関係を実現します。
汎用、数学、コードベースを含む複数の権威ある評価において、openPangu-Embedded-7B-v1.1は従来のモデルと比較して大幅な精度向上を示しており、自動モード切り替えの導入によって精度が損なわれることはありません。CMMLUなどのベンチマークでは、このモデルは精度を維持しながら平均思考チェーン長を約50%削減しています。
