標準化された推論タスク1回あたりに
かかる各AIモデルの平均コスト
Spicaさんから
ある標準化された推論タスク1回あたりにかかる各AIモデルの平均コスト
Claudeは、1回あたりの推論コストが重い設計。長文を扱う、精度重視の推論を行う、エージェント的な使い方が多いことで、トークン消費と計算負荷を押し上げている。
GeminiとDeepSeekは、低価格モデルが大量に使われる前提で設計している。
Geminiは、Googleの大規模インフラを使って、用途に応じて軽量版を用意。重いモデルだけに高コストを集中させている。
DeepSeekは、MoE型で、毎回すべてのパラメータを動かさずに済む。


0 件のコメント:
コメントを投稿