第3章 「つながるAI」と共に未来を変えるために
企業はまず、自社の事業や業務を変えるために生成AIを迎え入れるが、AIの出番は社内だけで終わらない。取引先やパートナー、社会の仕組みと結びついた瞬間、生成AIは「会社の一道具」から「未来の動かす存在」へと姿を変える。
マルチエージェントは、複数のAIが直接つながり、役割を分け合い、互いに情報を受け渡しながらタスクを進める。AIが他のAIとつながり、「単体で賢い存在」を超えるようになると、それに伴う懸念点も出てくる。例えば最終的な出力に至るまでに、各AIが何を担ったのかが見えにくくなり、どこで判断がねじれたのかも辿りにくくなる。企業にとっては、事業や業務への信頼が損なわれかねない大きなリスクだ。
この章では、AI同士のつながりを、一つの仕組みとして捉え直し、企業間でAIが連携し始めたときに、何が起こり、何が変わるのかを確認する。
また予期せぬAI間トラブルや外部環境の急変があっても、この仕組みから価値を引き出し続けるために欠かせない「3つの安心（安全・受容・持続）」についても、順に確かめていこう。
3.1 AIがつながって動くとき何が変わるのか？
第1章を思い出してほしい。本誌が未来の物語として描いた10年後の社会では、人も企業もAIに振り回されるようなことはなかった。青山玲はミナモが提示した複数の選択肢を前に、人が担うべき役割に集中できていた。佐藤健太はシオネの力を借り、試行錯誤を通じて能力の拡張を実感していた。上田陽介の朝は、ナギの手配により静かに無理なく整えられていた。いずれのAIも「単体で賢い存在」として振る舞っていたのではない。ミナモ、シオネ、ナギは、それぞれの背後で他のAIと連携し、役割を分担し、状況を相互に理解しながら、一つのつながりとして機能していた。ここで着目したいのは、連携したAIが社会や企業を動かす基盤として普及するほど、その価値は「AI同士が噛み合いワークフローを破綻させずに前へ進められるか」で測られるようになる点だ。そのとき何を軸に全体を組み立てるべきだろうか。
AIの価値はなぜ「単体の賢さ」で測れなくなるのか？
得意技が「文章を作ること」だけだった頃、生成AIの価値の中心は「単体としてどれだけ賢いか」にあった。ところがここ数年で、AIは「文章を作る・対話する」生成AIから、複数のステップを踏みながら業務を前へ進めるAIエージェントへと変わりつつある。さらに人や周辺システムとつながり、業務プロセスそのものをまたいで動くようになると、価値の源泉が「AI単体」から「仕組み全体」へと移っていく。複数のAIと人、そして周辺システムが噛み合い、判断から実行までが止まらずに回り続けることで、大きな価値が生まれる。
またAI同士の連携が進むほど、出力結果を見ているだけでは「いま何が起きているのか」を追いにくくなる。どこで判断がねじれたのかが見えないまま走れば、全体の動きは制御不能になり、価値はむしろ損なわれるだろう。だからこそ、こうしたつながりが成り立つには、少なくとも2つの条件が必要になる。
1 オブザーバビリティ（可観測性）
問題が起きた「あと」に原因を追うのではなく、「いま」何が起きているのかを、その根拠も含めて追えること。
2 ガバナンス（統治）
AIに任せる範囲、プロセスを止める権限、責任の持ち方といった “ガードレール” が、最初から仕組みに組み込まれていること。
3.2 AIの企業間連携で確保すべき「安心」とは？
第1章で描いた未来のAIは、人に代わってすべてを決める存在ではなかった。最後に判断し、責任を引き受ける余地が、人の側に残されていた。社内ではうまく回っていたAIも、ひとたび企業の外へ出て、他社のAIとつながり始めると、同じようには見ていられなくなる。誰のデータで動いているのか。誰の考え方を映しているのか。誰が実行し、何かあったとき誰が説明するのか。企業間でAIが連携するなら、どんな安心があれば前へ進めるのだろうか。ここでは、顕在化するリスクと、確保したい「3つの安心（安全・受容・持続）」にフォーカスする。
安全 - 正しさが揺らいだとき誰が仕組みを止めるのか？
個々のAIはきちんと動いているのに、つながった全体では望ましくない結果になる。そんなことが起こり得るのではないか。外部環境が急に変われば、AIの予測や解釈が現実に追いつかなくなるかもしれない。ひとつひとつは合理的でも、組み合わさった途端に全体がねじれてしまうこともある。社内なら吸収できる問題でも、企業をまたげば、契約や責任、社会的信用の問題へと拡がっていく。
1つ目の安心＝「安全」を確保するうえで留意したいのは、仕組み全体の「正しさ」が失われたとき、誰、もしくはどの組織が、どの範囲まで「止める」「戻す」「再開を許可する」のかを、事前に検討しておくこと。企業間のAI連携では、この権限と段取りを連携先と共有しておくことが、「信頼ある連携」の前提条件になる。
受容 - 社会に信頼・受容され続けるには何が必要か？
もし連携する仕組みに事故が起きたとき、「AIがそう判断した」と言うだけで、社会は納得するだろうか。しかも企業間連携では、データを出す側、設計する側、運用する側が分かれ、何かが起きたときに誰が説明し、誰が責任を引き受けるのかが見えにくくなる。予期せぬ挙動や故障が起きても信頼を失わないためには、何を備えておく必要があるのだろうか。
2つ目の安心＝社会的な「受容」を成立させるうえで留意したいのは、説明責任の主体を明確にして信頼を得続けること。そのためにも仕組みの設計段階から、監視・記録・追跡・検証等の機能を組み込み、透明性と説明可能性を保持することが必須となる。社会的な信頼性を担保するうえでは、リスク管理と透明性を高める国際的なガイドラインを遵守することも極めて重要だ。
持続 - 異常の兆しを捕らえ続けるために何をすべきか？
企業間のAI連携が拡がっていくとき、人はそのすべてを追い続けられるのだろうか。問題は、事故そのものより、異常の芽に気づけないまま動き続けてしまうことだ。ルールの逸脱に気づけない。兆しを見逃す。後から確かめられない。そんな状態に入ってしまえば、連携先同士で運用を見直したり、修正したりすることも難しくなる。では、その芽を捕まえ続けるには、何を運用の中に持っておくべきなのだろうか。
3つ目の安心＝AI連携を健全に「持続」させるために留意したいのは、異常の芽に気づける仕組みを運用体制の中に持ち、進化し続けることだ。逸脱や異常の兆しを捉えられる監視の仕組みに人の介入を組み合わせることで、より早い段階で手当てできるようになる。
事例
マネージドサービス GASSAI
（ユニアデックス）
異常の芽に気づけないまま走り続ける状態を避けるには、運用の現場で常に「いま何が起きているか」を見失わないこと、そして観測できた兆候を改善に結びつけ続けることが欠かせない。ユニアデックスのマネージドサービス GASSAI は、複雑化したIT環境を前提に、クラウド／ネットワーク／セキュリティ／デジタルワークプレースといった複数の運用領域を横断して支援し、エンドツーエンドの可視化・一元管理と、AIやデータ活用を通じた継続的改善提案によって、「異常の芽に気づき／それを改善に結びつける」状態を持続させることを目指している
3.3 不確実な未来を前にどう連携を進めるか？
AI連携に関する技術や制度、あるいは社会の受け止め方が変われば、「安全・受容・持続」という前提はいとも簡単に崩れてしまう。不確実な未来を前にしてこの仕組みから価値を引き出し続けるには、最初に全てを事細かく固めてしまうことは避けたい。環境の変化に合わせて、AIの連携構造や協調のあり方を柔軟に見直す、その余地を残すことが大事だ。本節では、つながりの拡張に向けて考慮しておくべき3つの切り口を提示する。
AI連携の範囲はどう見極めるべきか？
企業間のAI連携は一度拡げてしまうと、連携を解消してAI単体を切り離すことが難しくなる。データだけでなく、業務の流れや契約、責任などさまざまなものが企業間で共有されているからだ。そのため最初に問うべきは、「どこまでの連携範囲であれば、例外がもたらす影響を吸収できるか？」だろう。例えば全体を一挙に連携させるのではなく、段階的に連携先の試行と拡張を続ける。それが全体の信頼性を確保することにつながる。
つながりが小さいうちに取り組んでおくべきことは？
「つながるAI」は通常、企業間連携の前段階として、まず社内で小さなつながりとして動き始める。大切なのは、その段階で「何が、どこで、なぜ起きたのか」を社内に説明できるようにしておくことだ。これが曖昧なまま企業間連携へ進むと、複数部門をまたぐAIのタスク処理や、人とAIの役割分担が見えにくいまま拡がっていってしまう。その結果、予期せぬ挙動の多発、AI同士の競合、セキュリティ上の懸念、連携コストの増大など、さまざまな混乱を招きやすくなる。だからこそ小さなつながりの段階からオブザーバビリティ（可観測性）、すなわち各AIの行動や意図、AI同士のやり取りを監視・分析し、その挙動を理解して説明できる状態を保っておく必要がある。
変化が激しい時代にあるべき企業間の取り決めとは？
経営環境が絶えず変化する以上、連携関係やルールを定めた企業間の取り決めを固定的なものにしてしまうのはリスキーだ。急激な環境変化への適応能力を高めるべく、取り決めは「守るもの」であると同時に、「更新できるもの」である必要がある。とりわけ次の4点が更新可能な形になっていることが大切だ。(1)委任境界：どこまでAIに任せるか (2)停止と再開：異常が起きたときどう復旧させるか (3)相互照合用エビデンス：何と突き合わせて事実確認するか (4)変更管理：AIやシステムの振る舞いが変わったときの合意――こうした条項は整えて終わりではない。大切なのは、合意内容が運用においても守られ、不測の事態が起きたときに「止める→合意→再開」を遂行できるようにしておくことだ。
本章では、AIがつながり、企業・暮らし・社会を変える未来を、どうすれば無理なく形にできるのかを見てきた。あわせて、人とAIの適切な判断を通して、この仕組みから価値を持続的に引き出すにはどうすればよいかにも触れた。
不確実性の高い時代に向けて書き留めておきたいのは、このつながり方の設計や運用を見直すときに立ち返れる視点だ。AIが連携して動く未来において重要なのは、技術そのものよりも、どの単位で、どの目的のもとに、何をつなぐかという設計の考え方である。一度決めた形を守り続けるだけでは、変化の速い未来には追いつけない。状況に合わせて立ち止まり、進むべき方向を選び直せるようにしておく。停止、検証、復旧、あるいは再設計を繰り返しながら、人とAIの役割分担や企業間連携のあり方を更新し続ける。その積み重ねが、この仕組み全体を壊さず持続可能なものにする力となる。
- ＊Technology Foresightは、BIPROGY株式会社の登録商標です。
- ＊その他記載の会社名および商品名は、各社の商標または登録商標です。