API課金0円で実現！ローカルLLMが88体のAIエージェントを動かし、ビジネスを完全自動化

自社業務を完全自動化するためのローカルLLMと88体AIエージェント組織の導入

自社の効率的な業務運営に取り組む日本企業にとって、ビジネスプロセスの自動化は必須のステップと言える。特に中小企業やバックオフィス担当者は、人件費を削減しつつも質の高いサービスを維持することが求められる。その一方で、最新技術の導入には費用がかかることが一般的であるが、ここではAPI課金ゼロで完全自動化システムを構築する方法を紹介する。

1. 自社業務を完全自動化するためのローカルLLMと88体AIエージェント組織の導入

ローカルLLMと88体AIエージェント組織の役割

ローカルLLM（Large Language Model）と88体のAIエージェント組織を使用することで、営業・経理・人事・マーケティング・セキュリティなどの事業部制業務を効率化することができる。これらのAIはOpenClawプラットフォーム上で登録され、Ryzen AI MAX+ 395（Strix Halo）＋約48GBユニファイドメモリのミニPC上でOllama 100% GPUで運用される。

モデル選定とチューニング

モデル選定では、最初に試みたllama3.1:8Bは日本語ライティング品質が不十分だった。一方でqwen2.5:14b-instructを使用することで、必要な品質を達成した。また、tools.profileをminimalに設定し、systemプロンプトのトークン数を約10万から約9,600へと削減できた。

2. 無料かつ安定した運用のためのモデル選定とチューニング手法

最適なGPU環境

本システムはRyzen AI MAX+ 395（Strix Halo）上で実行され、48GBのユニファイドメモリを活用している。このGPUではnum_ctxパラメータを16,384に設定することで安定的な推論が可能である。

3. 実障害対策: エージェント推論経路でのコンテキスト管理とシステムプロンプト最適化

コンテキスト溢れ問題

エージェント実行経路は約18,000文字のワークスペースファイルを注入するため、16k窓ではコンテキスト溢れが発生しやすい。この問題に対処するために、推論方式をシンプルな推論に切り替えた。これにより、役割はプロンプト内に埋め込むことで解決した。

4. 受託案件の自律デリバリーパイプラインの構築と成功事例

自律デリバリー構造

LLMによる制作→独立LLMレビュー→最大2回のリビジョンループで、最終的に合格品質に到達するまでの完全な自動化が可能である。状態遷移はJSON台帳によりスクリプトが決定的に管理される。

5. ローカル推論を活用した記事配信パイプラインの高速化手法

高速な記事配信

仕様策定→実装→AIレビュアーによるコードレビュー（この過程で、台帳の競合による二重公開など実バグ10件が検出された）→ローカル推論でのE2Eテストまでを1日で完了できる。これにより迅速な品質改善と配信が可能となる。

6. 無料で安定運用を維持するためのスケジューラ選択とネットワーク管理

スケジューリングとネットワーク設定

Node製スケジューラをOpenClawネイティブcronに置き換えることで、全工程をローカル・無料で維持可能となる。またWSL2 mirrored networkingの落とし穴も回避した（消し忘れた Windows ネイティブ Gateway がポート18789を掴み、WSL 側 Gateway を数時間シャドーイングしていた）。

7. デスクトップPCでの24/7運用環境構築: システムサービス設定とタスクスケジューリング

持続可能な運用

systemd user serviceを用いてGateway常駐を確保する。さらに、Windowsタスクスケジューラを使用してログオン時にWSLを起動し、AC電源時のスリープは無効化することで24/7の安定運用が可能となる。

実践的まとめ

• ローカルLLMと88体AIエージェント組織を導入することで、自社業務の自動化を実現できる。
• 模範的なモデル選定とチューニングを行うことで、API課金ゼロで安定した運用が可能となる。
• 実際の障害は迅速に対処し、推論方式やコンテキスト管理を適切に調整することで解決することができる。
• 受託案件の自律デリバリーや記事配信パイプラインも完全自動化により効率化される。
• スケジューラとネットワーク設定は重要な要素であり、適切な選択や構成によって安定した運用が確保できる。
• 24/7の運用環境を構築するには、システムサービスとタスクスケジューリングを正しく設定することが必要である。