要約
最近の研究では、オープンウェイトモデルを使用する際のツールコールの精度が重要であることが強調されています。ツールコールが正確でないと、モデルが意味のない文脈を蓄積し、特に複数ターンのセッションが一般的なエージェント作業において低品質な結果をもたらすことがあります。実際、多くのプロバイダーや広く使用されている推論エンジンでは、ツールコールの精度テストに完全には合格していません。
具体的には、vLLMのバージョン0.28を使用してKimi K2.6を提供したところ、期待されるツールコールスキーマが92%の確率でしか得られませんでした。つまり、25回の試行のうち2回はツールコールが失敗していたのです。しかし、幸いなことに、vLLMは最近、スキーマ遵守を保証する制約付きデコーディングのサポートを追加しました。この機能はvLLMのバージョン0.31でサーバーサイドフラグとしてリリースされており、有効にすることで新しいKimiおよびDeepSeekモデルで100%のスキーマ精度を達成できます。
このブログ記事では、まずツールコールスキーマの精度とそれがエージェント作業において重要である理由について説明します。次に、制約付きデコーディングがどのようにスキーマ精度の問題を解決するのかを詳しく解説します。これにより、AIモデルの実用性が大幅に向上することが期待されます。
元記事: https://www.ubicloud.com/blog/fixing-tool-call-accuracy-in-vllm
公開日: Mon, 26 Oct 2026 12:59:48 +0000
この記事はAIアシスト編集により作成されています。
📰 元記事: 元記事を読む