「信頼できる」社会を実現するためのデジタル技術
人、モノ、ビジネスなどが「つながる」世界では、信頼が重要である。デジタル技術は「つながる」世界をつくると同時に、その世界を信頼できるものにしていかなければならない。
1 AIの信頼性
「つながる」世界の実現に必要不可欠なAIシステムは、機械学習に用いられる学習データの不備や偏りが原因で、開発者の意図に反する判断を下してしまうことがある（バイアス問題）。同問題の解決に向け、データ集合（学習データ全体の集合）の妥当性評価、テスト品質を計測・確保しながらの動作検証など、AI独自のエンジニアリング手法が発展するだろう。 AIシステムの品質保証には、テスト手法の確立や、次項に述べる「説明可能なAI」の活用を含めた様々なアプローチを組み合わせることが求められるが、一方でAIコンポーネントが完全には保証されるものではないという認識のもとにシステム全体を設計することも重要である。
2 理解できるAI
AIが出力した結果の理由を人が理解できるようになることで、人とAIの協働による知識創出や問題解決が進む。数十憶個にもなるパラメーター（AIの推論に影響する係数）を持つニューラルネットワークが、どのような根拠から答えを出力したのかを人が理解するのは難しい。いわゆるAIの「ブラックボックス問題」として知られるこの問題は、公平性や説明責任、透明性など、法や倫理の面からも重要なテーマである。欧州ではAIによる与信審査等を行った場合、企業が説明責任を負うことになる。人とAIの創造的な協働が促進されるためにも、ブラックボックス問題解決に向けた「説明可能なAI （XAI）」開発への期待が高まっている。XAIの実現には人の知能モデルのさらなる研究が必須であり、記号処理や意味処理などの研究成果を統合した説明モデルの開発が進められている。
＊Technology Foresightは、BIPROGY株式会社の登録商標です。
＊その他記載の会社名および商品名は、各社の商標または登録商標です。