WRITING

建設会社が顧客向けAIエージェントを作るとき——設計の落とし穴と正しい始め方

「お客様が工事の進捗を確認できるAIチャットボットを作りたい」「発注者からの質問にAIが自動回答する仕組みが欲しい」——建設会社からこういった要望が出始めています。社内のAI活用が進んだ次のステップとして、顧客向けAIへの展開を検討する会社が増えているのはご存知の方も多いと思います。しかし内部向けAIと顧客向けAIでは、設計の前提が根本的に異なります。「社内でうまくいったから」という理由で顧客向けに展開すると、予期しないリスクが発生することがあります。

内部向けAIと顧客向けAIは別物——5つの違い

社内ツールとして作ったAIと、顧客に向けて公開するAIでは、求められる設計水準が大きく変わります。

内部向けAI vs 顧客向けAIの設計要件比較

内部向けAI(社内利用)

  • –利用者:業界知識を持つ社員。誤回答を自分で判断できる
  • –誤回答の影響:業務が遅れる・修正が必要。しかし社内での解決が可能
  • –情報管理:社内情報を使ってよい(社内規定の範囲内で)
  • –信頼水準:「参考として使う」程度の信頼で設計してよい

顧客向けAI(外部公開)

格段に高い設計水準が必要

  • –利用者:業界知識を持たない施主・一般発注者。誤回答を判断できない
  • –誤回答の影響:顧客の意思決定に影響。法的責任・信頼失墜に繋がる可能性がある
  • –情報管理:顧客の個人情報・工事情報の漏洩リスクを徹底的に排除する必要がある
  • –信頼水準:「AIが言った」が「会社が言った」と同等の重みを持つ

実態 内部AIを顧客向けに転用しようとしたとき、最も問題になるのが「情報管理」です。社内の工事情報・原価・取引先情報が誤って顧客向けの回答に混入するリスクがあります。転用は「情報の壁」を厳密に設計し直すことから始まります。

顧客向けAIに多い4つの失敗パターン——事前に防げる問題

顧客向けAIのプロジェクトが途中で頓挫したり、リリース後にトラブルになるケースには共通のパターンがあります。思い当たる節がある方も多いのではないでしょうか。

顧客向けAI 4大失敗パターン
壁 1

「とりあえず動くものを作る」から始める

技術的に動作するAIチャットボットを短期間で作れるが、「誰に何を回答するか」の設計なしに作ると、想定外の質問に対してAIが回答できなかったり、不適切な回答をするリスクが高まる。設計先行・実装後行が正しい順序だ

壁 2

免責事項を付ければ問題ないと思う

「AIの回答は参考情報です」という免責事項を付けても、顧客が誤回答を信じて行動した場合のリスクを完全に回避できるわけではない。特に工期・費用・安全に関わる情報は、AIが回答すべきでない項目として最初から設計で除外する

壁 3

全ての質問に回答しようとする

「できるだけ多くの質問に答えられるAI」を目指すと、設計が複雑になり品質管理が難しくなる。最初は「回答できる質問の範囲を絞る」設計の方が品質が高く、顧客満足度も上がることが多い

壁 4

担当者への引き継ぎを設計しない

AIが回答できない・難しい質問を担当者に渡すルートが設計されていないと、顧客が問い合わせる先を失う。「AIで答えられない→担当者に繋ぐ」というエスカレーションフローが必須だ

顧客向けAIの設計手順——「何を回答しないか」から決める

顧客向けAIの設計は「何を回答するか」ではなく「何を回答しないか」から始めましょう。この優先順位が設計全体の品質を左右します。

顧客向けAI設計の転換
回答できることを先に列挙機能一覧から設計を組み立てる
リリース後に問題が発覚不適切な回答・クレームが出てから境界を引く
結果:信頼回復に3か月以上かかり、AIの利用率が落ちる
▼ 設計の起点を変える
回答しない領域を先に定義工期・費用・安全・個別工事の詳細情報
境界内の回答品質を磨くFAQデータを蓄積し精度を段階的に上げる
「答えないことを決めた」AIが、顧客の信頼を長期的に獲得する
顧客向けAI 設計5ステップ
1Step 1:回答しない領域の定義(最優先)①工期・費用に関する「確認」を要する情報 ②安全・法令に関わる情報 ③個別顧客の工事に特有の詳細情報 ④会社の経営・財務情報——これらは「AIが回答しない」と最初に決める← 「何を回答しないか」のリストが設計の土台になる
2Step 2:回答してよい領域の確定一般的な工事の流れ・工法の説明・よくある質問(FAQ)・手続きの案内——「誤って伝えても重大な影響が出ない情報」に絞る。最初は20〜30の質問カテゴリに限定することを推奨する← 絞ることで精度と品質管理が上がる
3Step 3:エスカレーションフローの設計AIが回答できない場合・回答を断った場合・顧客が「人間に聞きたい」と言った場合のルートを設計する。「担当者に繋ぐ」ボタン・連絡先・折り返し対応の約束——これがないと顧客が宙吊りになる← エスカレーションがないAIは顧客体験を悪化させる
4Step 4:情報の壁の設計AIが参照できる情報と参照できない情報を厳密に分ける。社内の工事情報・原価・取引先情報はAIの参照対象から完全に除外する。顧客に見えてよい情報だけをAIが参照できる設計にする← 「見えてはいけない情報が漏れない」の設計確認を必ず実施
5Step 5:パイロットテストと本番移行限定顧客(社内確認→協力顧客→一般公開)の段階で公開する。各段階で「想定外の質問」「不適切な回答」を収集し修正してから次の段階に進む。特にリリース前の「想定外の質問テスト」は必須だ← 「つなぎっぱなし」は禁止。段階的公開が品質保証の鍵

目安 顧客向けAIのパイロットテストは「意地悪な質問100件」を用意して試すことが標準的な品質確認方法です。社内の人間では思いつかない顧客視点の質問を、テスト段階で洗い出しておきましょう。

顧客向けAI開発のロードマップ

顧客向けAI 開発〜本番公開 ロードマップ
Month 1〜2 設計と方針確定作らない期間
Month 3〜4 構築とテスト内部テスト期間
Month 5〜6 パイロット公開と改善限定公開
  • 「何を回答しないか」リストの確定
  • 回答する質問カテゴリ20〜30の確定
  • エスカレーションフローの設計
  • 情報の壁の設計と法務・コンプライアンス確認
  • AIエージェントの構築(回答範囲を限定した設計)
  • 社内メンバーによる動作テスト
  • 「意地悪な質問100件」での品質確認
  • 不適切回答・情報漏洩リスクの修正
  • 協力顧客(5〜10社)への限定公開
  • 実際の顧客質問の収集と分析
  • 回答できなかった質問のカテゴリ追加
  • エスカレーション件数・顧客満足度の計測

注意 「月1でリリース」という開発速度は顧客向けAIには危険です。Month 1〜2の「設計と方針確定」の期間を短縮すると、後から設計の根本を変えることになり、結果的に時間がかかります。設計に2か月使うことを惜しまないようにしましょう。

← 記事一覧に戻る