01
構成設計とハードウェア選定
モデルサイズ・同時利用者数・レイテンシ要件から必要な計算資源を積み上げ、過剰投資にも性能不足にもならない構成を設計します。ベンダー見積の妥当性検証だけのご依頼にも対応します。
- GPU種別・枚数・メモリ構成の要件からの逆算
- ストレージ設計（NVMe / ネットワークストレージ / LTOテープによる長期保管）
- 電源・冷却・ラック要件の確認
- 既存ベンダー提案のセカンドオピニオン
Private / On-Premise AI
社外に出せないデータのままで、AIを動かす
クラウドのLLM APIを検討したが、情報セキュリティ部門の審査で止まった——製造業・金融・医療・公共で最も多い停止理由です。当社は、オンプレミスKubernetesクラスタの構築、高性能GPUサーバの選定、閉域ネットワーク設計、LTOストレージの運用設計まで、物理層から手掛けてきました。データを一切外に出さないままAIを動かす構成を設計します。
Symptoms
こうした状態ではありませんか
情報セキュリティ部門の審査で止まった
技術検証は済んでいるのに、外部APIへのデータ送信が社内規程で許可されない。規程を変える交渉も現実的ではなく、話がそこで終わっている。
「オンプレでLLMを」と言える相手が見つからない
AIベンダーはクラウド前提の提案しか持っておらず、インフラベンダーはLLMの要件が分からない。両者をつなぐ役割が社内にもいない。
GPUサーバに何を買えばいいのか判断できない
見積は取れるが、その構成が過剰なのか不足なのかを検証できない。数千万円の投資判断を、ベンダーの提案だけを根拠に行うことになっている。
工場・研究所のネットワークが閉じている
そもそもインターネットに接続していない環境で、収集したデータを解析したい。データの持ち出しも制限されている。
What We Do
提供内容
02
ローカルLLM基盤の構築
オープンウェイトモデルを自社環境で稼働させ、社内から安全に利用できる形に整えます。モデルの選定は、精度だけでなく必要なGPUメモリと推論速度のバランスで判断します。
- オープンウェイトLLMの選定・量子化・推論サーバ構築
- 社内向けチャット／API基盤の提供と認証連携
- 社内文書を対象としたRAG検索（インデックスも閉域内に保持）
- GPU利用率のモニタリングとリソース割当設計
03
閉域ネットワークとオンプレKubernetes
外部接続のない環境では、コンテナイメージやパッケージの取得経路の設計そのものが課題になります。この「閉域での運用をどう成立させるか」まで含めて設計します。
- オンプレミスKubernetesクラスタの構築（Kubespray / Ansible）
- 閉域網でのコンテナレジストリ・パッケージミラーの構築
- JupyterHub等による共通開発環境の提供
- IaCによる構成管理と再現性の担保
04
ハイブリッド構成の設計
全てをオンプレに置く必要はありません。機密データは閉域内に留め、それ以外の処理はクラウドを使う——データの機密度に応じて処理を振り分ける構成が、コストと性能の両面で有利になるケースが多くあります。
- データ機密度に応じた処理の振り分け設計
- マスキング・匿名化を経たクラウド利用
- オンプレ学習・クラウド推論（またはその逆）の設計
Pricing
料金・期間の目安
いきなり大きな契約を結ぶ必要はありません。小さく始めて、成果を見てから次を決める形にしています。 金額は標準的な条件での目安です。正確なお見積りは相談後にご提示します。
RECOMMENDED
構成診断・セカンドオピニオン
40万円〜
2週間 / 定額
要件のヒアリングと、推奨構成・概算費用のレポート。既存ベンダー提案の妥当性検証だけでもご利用いただけます。
基盤構築
300万〜900万円
2〜6ヶ月
ローカルLLM基盤またはオンプレML基盤の設計・構築・運用設計。ハードウェア費用は別途です。
運用支援
月額20万円〜
継続
構成変更、モデル更新、障害対応、キャパシティ管理。情報システム部門への技術支援としてもご利用いただけます。
※ 契約形態は請負・準委任のいずれにも対応します。NDAの締結、貴社所定の契約書式でのご契約も可能です。
Related Works
関連する開発実績
製造（自動車部品） 大企業
100名規模が使う全社横断MLOps基盤の設計・構築
オンプレミス Kubernetes クラスタと JupyterHub を軸に、全社のML開発環境を標準化。IaC導入により運用を省力化。
社会インフラ / 交通 大規模プロジェクト（複数社体制）
高速道路デジタルツインシステムの基本設計・技術リード
可視光・遠赤外線カメラの映像から車両軌跡を3D再現する大規模プロジェクトで、解析基盤の基本設計とアルゴリズム選定を担当。
産業機器 / 組み込み 試験装置メーカー
産業用耐久試験装置のリアルタイム制御不具合の第三者診断
ドキュメントがほぼ存在しない制御ソフトについて、ソースコード・ログ・実機実験の結果から制御周期の不安定性の原因を特定し、費用対効果を比較した複数の解決策を経営判断向けに提示。
FAQ
よくあるご質問
オンプレのLLMは、クラウドの最新モデルと比べて実用になりますか？
用途によります。汎用的な対話性能では依然としてクラウドの大規模モデルが上ですが、「特定の業務文書を検索して要約する」「決まった形式で情報を抽出する」といった限定タスクでは、オープンウェイトモデルで十分な精度が出るケースが多くあります。まず貴社の実データで検証し、実用に足るかを定量的にお示しします。足りない場合は、その事実も率直にお伝えします。
どの程度のGPUが必要になりますか？
扱うモデルのパラメータ数、同時利用者数、許容レイテンシで決まります。社内数十名の文書検索用途であれば比較的小規模な構成で足りることも多く、逆に画像・図面を扱う場合は要求が跳ね上がります。この見積のために、まず構成診断をご利用いただくのが最も無駄がありません。
インターネットに接続していない環境でも構築できますか？
対応します。閉域環境では、コンテナイメージやライブラリをどう持ち込み、どう更新し続けるかという運用設計が本質的な課題になります。内部レジストリやミラーの構築を含めて設計します。過去に完全閉域のML基盤を構築した実績があります。
既存のオンプレ資産を活かせますか？
可能な限り活かす方向で検討します。既存のサーバ・ストレージ・ネットワークを確認し、追加投資を最小化する構成を提案します。ただし、無理に流用するとかえって高くつくケースもあるため、その判断も含めて根拠を示します。
Free Consultation
まず「何が問題か」を切り分けるところから
現状のシステム構成や、止まっているPoCの状況をお聞かせください。30分の技術相談で、実現可能性・概算費用・想定期間の一次見解をその場でお返しします。売り込みは行いません。