第2章 AIの力を引き出す「境界の設計」
AIエージェントは、生成AIのように「答える」だけでなく、状況に応じて必要な作業を自ら進めながら、人の判断を支えてくれる。第1章で描いた未来のAIエージェントは、選択肢を示して人が判断する幅を拡げ、結論を実際の行動につなげる役割も果たしていた。そして、最終的な判断と責任は常に人が引き受けていた。
そうした未来を現実のものにするためには、AIに任せることと、人が引き取ることをあらかじめ丁寧に設計しておくことが欠かせない。「境界の設計」とは、その線引きをして、判断や行動の根拠を後から説明できる状態にしておくこと。そのうえでAI同士の連携範囲を社内外へと拡げていけば、「マルチエージェント化」もスムーズに進むだろう。
AIは、育てられる経営資産。そうした認識のもと、本章では、生成AIを場当たり的な活用で終わらせないための「境界の設計」について考える。
2.1 どこから「境界の設計」を始めるべきか？
多くの企業で生成AIを「導入する」フェーズは終わろうとしており、今後は「いかに有効に使い続けられるか」が問われるようになる。ただ、RPAツールやビジネスチャット、クラウド型会計システムのような、投資・導入の効果がわかりやすいITツールとは異なり、使い方しだいで競争力にも混乱の原因にもなり得るのが生成AIだ。それゆえ、どこから「境界の設計」を進めるか、その起点をよく考えることが大切になる。最初に押さえておきたいのは、「価値創造」「協働の構造」「説明責任」の3点だ。
◯価値創造：事業や業務に対してAIがもたらす効果が明確であること。
◯協働の構造：業務・プロセスで人とAIが協働できる構造になっていること。
◯説明責任：判断・実行に関して透明性が確保されていること。
これらをふまえて「境界の設計」を具体化していくにあたり、企業が検討すべき項目は次の3点に整理できる。
◯活用領域の特定：どの業務に、AIの持つどの効果的な機能=効能を適用すべきか？
◯人の役割の再定義：AIとの協働を通じて、人の能力と組織の生産性をどう高めるか？
◯信頼(トラスト)の構築：AIを安全かつ責任ある形で活用するための組織的な仕組みをどう作るか？
次節より、上記の各検討項目を細かく見ていく。
2.2 活用領域の特定
どこに生成AIを使えば “効く” のか？
生成AIは魔法の杖ではない。むやみにあらゆる業務で使おうとすると、目的を見失い、成果も見えにくくなる。大切なのは、AIの「効果的な機能」という意味での効能と、業務上の「使いどころ」を見極めること。AI技術を細かく理解しようとするより、まずは業務や経営課題に照らして実現したいことを明確にし、生成AIのどの効能に期待したいのかを確認する。活用領域を絞り、その業務に最も意味のある効能を選んだうえで、段階的に他業務にも拡げていく。こうしたプロセスを踏むことが、初期の投資効果を大きく左右する。
生成AIにはどんな効能があり、どんな価値をもたらすのか？
では、生成AIには何ができるのか。効能は次の4つに大別できる。
1 創造性の拡張(新しい着想が生まれやすくなる)
AIは、人間が単独でできる発想の枠を超え、企画やブレークスルー、発見の可能性を向上させる。例えば、新規事業におけるアイデアの構造化、未踏領域における研究開発の仮説生成、デザインコンセプトの多角的創出などが可能となる。
2 属人化した専門性の民主化(知りたいことに自力でたどり着ける)
AIは、属人化している高度な専門知識や組織知を、誰もがアクセスできる形にし、全従業員の知識とスキルを底上げする。社内規程・法律文書の質問応答、新人教育におけるOJT支援、高度な技術文書の即時要約などがこれにあたる。広く使える形にするほど、共有してよい知と、守るべき知の線引きも重要になる。競争優位につながる独自のノウハウは、アクセス制御など保護された環境で活用することが望ましい。
3 意思決定の高度化(複数の視点から判断できる)
AIは、市場や規制、サプライチェーンの変化が複雑に絡む場面でも、起こり得るリスクや選択肢を素早く示し、人の判断をより確かなものにする。財務報告書から隠れたリスク要因を拾い上げたり、法規制の変更が事業に与える影響を見立てたりするのが典型例だ。
4 ルーチンの自律化(繰り返し作業から解放される)
AIは、定型的な反復業務やシステム間の連携タスクを自律的に実行し、人間を反復作業から解放する。予定や状況の変化を先読みし、必要な準備や手配などの関連する業務をAIエージェントが静かに担うようになる。
AIエージェント時代を見据えて優先すべきことは？
前項の通り、生成AIは質問に答える存在から、複数の業務ステップを自律的に実行する主体=AIエージェントへと進化しつつある。そこで重要なのが、各業務に必要なデータ連携を整えること、そして「責任設計」だ。後者は問題が起きた後の責任追及の話ではない。AIが自律実行する前に、その結果を誰が引き受けるのかをあらかじめ決め、必要なときに誰が「止める・戻す」のかを組織の運用に組み込んでおくということだ。これら2つの「前提」に対処するための取り組みを、2点の優先事項として以下にまとめる。
優先事項1：業務プロセスの統合とデータ連携
AIエージェントが部門をまたいで動けるよう、業務の流れとシステムのつながりを整える。そうすることで、AIエージェントが状況をつかみ、仕事を前へ進められる前提が整う。この対応が、AI活用が進むかどうかの分かれ目になる。
優先事項2：AI自律実行時の責任設計
AIに安心して任せるには、結果を誰が引き受けるかを先に決めておく必要がある。必要なら人が介入し、「止める・戻す・見直す」を運用に組み込むことで、任せる範囲と責任の境界が見えやすくなる。
2.3 人の役割の再定義
AIと人はどう役割分担すべきか？
AIを導入したのに、期待したほど生産性が上がらない。なぜ、そんなことが起こるのだろうか。多くの企業がAIを「人の代替」と捉え、仕事の形を変えないまま導入だけを急ぐ結果、投資や手間に見合う成果が出ない「生産性パラドックス」に陥る。ここで大切なのは、人が引き受けるものと、AIに任せるものとを適切に分けることだ。
適切な役割分担のポイントは？
AIに任せるべきは、「どうやるか」が決まっている業務であり、「なぜやるのか」「何を問うべきか」を考え続けるのが人の役割。そう認識することが適切な役割分担の第一歩となる。これを机上の整理で終わらせるのではなく、日々の業務を通して継続的に磨き上げていくことが、AIとの協働の成功と、その先の生産性向上につながる。
どのように人の能力を知に変えるのか？
役割分担を明確にしたら、次に取り組みたいのは各業務の性質をふまえて「AIと人の関係」を設計すること。ポイントは「AIとの協働を通じてどう人の能力を育てるか」「それをどう組織に蓄積できるか」という視点を持つことだ。本項では、AIと人の関係性を分類した協働モデル(ガイド型／パートナー型／自律型)ごとの「育つ力(育成テーマ)」を整理する。
1 ガイド型：評価して選ぶ力(評価基準を組織で共有)
ガイド型の協働モデルでは、AIが論点や選択肢を提示し、人が最終判断と責任を担う。ここで育つのは、AIの提示物に対する評価基準とその理由を言葉にする力、例外(予期せぬ異常や誤り)を見抜き、最終判断の根拠を説明できる力だ。判断基準が組織内で共有されるほど、個人の勘や経験に頼る判断から離れ、組織の意思決定は再現性を持ち始める。「根拠説明→リスク判断→例外処理→最終判断」を日々の型として回し、テンプレートと更新履歴を残す。そうすることで、組織は「判断の型」を学びとして積み上げていける。
2 パートナー型：問いを磨く力(良い問いの形と批評の観点を組織で共有)
パートナー型の協働モデルでは、AIが提示する論点や選択肢を手がかりに、人とAIが一緒に考えながら、決めた方向性に沿って案を磨いていく。ここで育つのは、結論を早く導き出す力、問いを立て直し、仮説を更新し続ける力だ。「問いを立てる→仮説を置く→反証する→問いを作り直す」という流れを繰り返し、良い問いの形と批評の観点をテンプレートとして残す。これにより、これまで限られた人の勘や経験に頼っていた問いの磨き方が、組織全体で再現できるようになる。
3 自律型：境界を調整する力(任せ方と介入の知見を組織で共有)
自律型の協働モデルでは、整備されたルール内でAIがタスクを実行し、人は監視・承認を担当する。ここで育つのは、AIにどこまで任せるかの境界を設計する力。「任せる範囲を定める→監視する→例外時に介入する→ルールを見直す」という流れを繰り返し、ログや監査結果、例外対応の記録を残すことで、任せ方と介入の知見が蓄積され、安定した運用が組織に根付くようになる。
人とAIの協働モデルは、単なる分類ではなく、育成の仕組みとして設計されるときにはじめて価値を生み出す。次節では、こうした協働を成立させるための「信頼(トラスト)の構築」を取り上げる。
事例1
JR東日本の復旧支援における生成AI活用
（鉄道設備トラブル対応支援）
BIPROGYがJR東日本と共同開発した「生成AIによる復旧支援システム」では、発生した障害の時系列データをAIが解析し、過去の類似事例をふまえて故障原因や復旧作業の推奨手順、並びに復旧見込み時間を提示する。復旧時間の短縮や指令員の業務負荷軽減、復旧指示品質の安定化につながる。
本事例は、AIの判断材料として過去資産をナレッジ化して「意思決定の高度化」を実現していること、また最終判断を人が担っていることから、「ガイド型」の協働モデルと言える。
出典：BIPROGYニュースリリース（2025年6月10日）
事例2
東北電力における巡視点検支援
（ロボット＋AI解析：Mitekite）
巡視点検支援サービス「Mitekite（ミテキテ）」は、あらかじめ設定されたルートに沿ってロボットが巡視点検を行い、取得した画像データと振動データを解析して、通常時との違い（違和感）を検知し通知するクラウドサービスだ。
本事例は、AIの反復的な点検から検知・通知までを、あらかじめ設定したルールに則り自動化しており、「ルーチンの自律化」を実現していること、また人は監視・対応に回っていることから、「自律型」の協働モデルに分類できる。
2.4 信頼(トラスト)の構築
どうすればAIを信頼して使えるか？
AIを信頼できるとは、どのような状態だろう。AIの判断や処理が人の命、権利、資産、社会的評価などに影響を与える場合がある以上、AI内部の処理プロセスが不明(ブラックボックス)であることは、企業にとってリスクとなる。単に技術的な安全対策を講じれば事足りるわけではない。AIとの協働を進めるにあたって企業に求められるのは、「どこまでをAIに任せ、どこからを人が引き取るか」の境界を説明できること。企業がAIを信頼し、安心して使えるかどうかは、AIと人の役割をきちんと区分・把握する力、AIのアクションに対する評価や判断の根拠を必要なときに言葉にできるスキルにかかっている。
「一人一人に寄り添う時代」にどう信頼を築くか？
一人一人に寄り添ったサービスを目指すほど、企業はより機密性の高い個人データを扱うようになる。健康情報、生体認証情報、行動履歴、嗜好、そして業務上のセンシティブ情報がAIにより日常的に収集・分析されるようになれば、これまでのプライバシー保護の考え方だけでは個人の情報や権利を守りきれない場面が増えていく。だからこそ企業には、法令遵守にとどまらない情報マネジメントが求められる。とりわけ事前に取り決めておきたいのは、情報収集における倫理的境界線、すなわち「どこまでは集めてよく、どこから先は扱うべきでないか」という社会的な許容範囲のラインだ。これがひいては、個人や顧客企業との間で自社AIに対する信頼を築く起点にもなる。技術進化が早く、ルール整備が追いつきにくい領域だからこそ、行政機関などの規制やガイドラインを踏まえつつ、企業自らも先んじて次の2点を定めていくことが重要となる。
1 倫理的境界線の設定
AIが収集するセンシティブな情報（健康・思想など）の取り扱いについて、法律を守るだけでなく、企業として扱ってよい範囲を明確に定める。これは顧客との間でAIに対する信頼関係を築き直すことを意味する。
2 説明責任（アカウンタビリティ）の構築
AIの判断ミスや出力結果による損害に備え、説明を引き受ける主体と対応手順を決め、根拠を後から確かめられるようにする。これにより「任せっぱなし」を避け、AIを止める・戻す・再開する運用が可能になる。
AI技術の進化を活かし続けるガバナンス設計とは？
AI活用を社員個々の裁量に任せている限り、出力結果の品質は安定しない。一方で、あらかじめ定めた制限をAIに守らせることに終始する従来型のガバナンスでは、AI技術の進化の速さを活かせないだろう。だからこそ必要になるのが、AIの進化や利用状況に合わせて、ルールと運用を見直し続けるアジャイル・ガバナンスだ。AIの出力結果を評価し、必要に応じて「修正・差し戻し・利用条件の見直し」の循環を組み込んでいく。これにより安全性上のリスクを抑えながら、進化し続けるAIにも追随できるようになる。
今後、AIがあることを当たり前と感じる世代が入社してくる。企業にとってAI活用は特別な挑戦ではなく、日々の仕事の前提になる。そのとき問われるのは、導入するAIの「性能」ではない。安心してAIを使えるルールと支援、失敗を共有して次に活かせる「学習の場」を用意できているかどうかだ。
本章では、企業がAI進化の第3の波（AIエージェント化）の入口に立っている今、生成AIを経営資産として活用し続けるために必要な視点を取り上げ、「境界の設計」に必要な3つのポイントを提示した。すなわち「AIを活用すべき領域をどう定めるのか」「人とAIでどう業務分担するのか」「人が引き取る判断・責任の境界をどう決めるのか」――これらの設計を、設計だけで終わらせず、日々の運用を通して継続的に是非を問い直すことが大切だ。こうした境界設計は、社内でAIを使い続けるためだけでなく、AI同士が社外へつながるときにも、信頼ある連携を支える考え方となる。
次章では、企業がAIエージェント化を超え、社内外のAI同士がつながるマルチエージェント化を進めるためのポイントについて考える。
- ＊Technology Foresightは、BIPROGY株式会社の登録商標です。
- ＊その他記載の会社名および商品名は、各社の商標または登録商標です。