Digital Appendix
『AIエージェントが見つけたサーバーレス』のデジタル付録
モデルの重み公開とローカル実行
モデルの重み公開とローカル実行
対象本文
第3章の、モデルの幅(対話の主役以外に音声認識、埋め込み、画像・文書理解が働く)、重みが公開されたモデルとセルフホストの距離、混成の役割分担(難しい推論は最大級のモデル、定型の前後処理は手元の小さなモデル)を補います。モデルの顔ぶれ、ライセンス、実行ツール、要求メモリは入れ替わりが速いため、本文は入口の例示(Whisper)にとどめ、顔ぶれの現況と仕様値はこの現況表が持ちます。
収集方法
2026年7月31日に、各プロジェクトの公式GitHubリポジトリ(openai/whisper、openai/gpt-oss、QwenLM/Qwen3、ollama/ollama、ggml-org/llama.cpp)とarXivの原論文を確認しました。提供者・開発元が示す性能・品質の主張は、条件が違うため横並びの順位付けに使っていません。
現在の答え
モデルの種別と重み公開の現況
エージェントが依存するモデルを種別で分けると、重み公開の成熟度が異なります。
| 種別 | 代表例(確認済み) | 重み公開の状況 |
|---|---|---|
| 音声認識 | Whisper(OpenAI) | 2022年からコード・重みをMITで公開。tiny〜large・turboの6サイズ、必要VRAM約1〜10GB |
| 対話・推論 | gpt-oss-120b/20b(OpenAI)、Qwen3(Alibaba) | gpt-ossはApache 2.0。120bは80GB GPU 1枚、20bは16GBメモリで動作と公式記載。Qwen3はApache 2.0で0.6B〜235B(MoE)の多段展開 |
| 埋め込み・リランカー | 個別確認は次回更新 | 現時点では横断的な傾向を判定しない |
| 画像・文書理解 | 個別確認は次回更新 | 現時点では横断的な傾向を判定しない |
**「重みが公開されている」と「オープンソース」は同義ではありません。**Apache 2.0やMITのものもあれば、利用条件付きの独自ライセンス(例: Meta Llama系のコミュニティライセンス)もあります。商用利用、再配布、派生モデルの扱いはモデルごとにライセンス本文を読みます。
実行ツール
- ローカル・開発機: llama.cpp(C/C++実装。MIT。1.5〜8bit量子化、GGUF形式。Apple SiliconのMetal、x86 AVX、CUDA、HIP等の広いバックエンド)、Ollama(llama.cpp系のモデル管理・実行。macOS/Windows/Linux/Docker)、LM StudioなどのGUI、Apple Silicon向けMLX
- サーバ・本番serving: vLLM、SGLang、TensorRT-LLMなどの推論サーバ。gpt-ossはvLLM・Ollama・LM Studio・Metal実装の手順を公式に併記
量子化により、数B〜数十BパラメータのモデルがコンシューマGPUや統合メモリの開発機で動く水準になっています。
「試せる」と「引き受ける」の距離
ダウンロードして動かすまでの距離が縮んだことと、本番の依存として運用することは別問題です。同時実行とスループット(バッチング)、モデル版とツールチェーンの更新追随、GPU在庫と容量計画、監視と障害対応は、本文3.2〜3.3の在庫と段取りの問題として自分の請求書に載ります。エージェント内の役割分担(定型の前後処理を小さなモデルへ)を進める場合は、モデルごとに評価セットと版の記録が必要になります(本文3.4、第12章)。
一次資料
- OpenAI Whisper (GitHub): https://github.com/openai/whisper
- Radford et al., “Robust Speech Recognition via Large-Scale Weak Supervision” (arXiv:2212.04356, v1 2022-12-06): https://arxiv.org/abs/2212.04356
- OpenAI gpt-oss (GitHub): https://github.com/openai/gpt-oss
- Qwen3 (GitHub): https://github.com/QwenLM/Qwen3
- Ollama (GitHub): https://github.com/ollama/ollama
- llama.cpp (GitHub): https://github.com/ggml-org/llama.cpp
既知の未知
- モデルの顔ぶれ、品質、要求スペック、ライセンス条件は変更が非常に速い領域です。本表の「確認済み」は上記確認日時点の公式リポジトリ記載に限ります。
- 埋め込み・リランカー、画像・文書理解の代表例は個別確認が未了のため、種別の存在だけを記載しています。次回更新で拡充します。
- 重み公開モデルの品質がフロンティアの推論APIとどこまで並ぶかは、用途・評価セット依存であり、この表では判定しません。
- エージェント内の役割分担(前後処理の小型モデル化)の普及度を示す定量的な調査は未収集です。
変更履歴
- 0.9.3 (2026-08-04): 「現在の答え」から一次資料で支えていない横断傾向(Whisper派生実装の数、埋め込み・画像理解の傾向)を除き、確認済み範囲へ限定(外部レビュー指摘。「既知の未知」との整合)。
- 0.9.2 (2026-08-04): 本文の例示(Whisper)と本表の所有範囲の記述を整合(PR #34レビュー対応)。
- 0.9.1 (2026-08-03): 本文の「帳簿」言い替えに合わせ、「自分の帳簿に載ります」を「自分の請求書に載ります」へ改めた。
- 0.9.0 (2026-07-31): モデル種別と重み公開の現況、実行ツール、「試せる」と「引き受ける」の距離を整理した初版ドラフトを作成。