ご相談内容
生成AIを業務で使いたいが、顧客情報や図面が外部サーバーに送られることを社内で承認できない。結果として、現場が個人のスマートフォンで無断利用している状態だった。
実施内容
社内サーバーにオープンソースのAIモデルを構築し、ネットワークを閉じた状態で稼働させました。あわせて社内規程・マニュアル・過去の見積書を読み込ませ、担当者が質問すると根拠となる文書を示しながら回答する仕組みを実装しています。
結果
情報を外に出さないという条件をクリアしたため、全社利用の承認が下りました。ベテランに口頭で確認していた社内ルールの照会が、その場で完結するようになっています。
技術
ローカルLLM、ベクトル検索、Python、Docker、社内ネットワーク構成の設計