JDMCの取り組み

始めに、JDMCのAI・データ活用のためのコンプライアンス研究会による取り組みについて、紹介しましょう。活動テーマは、デジタル経済化の加速でデータの活用範囲が拡大していることに伴い、生じてきた課題への対応やビジネス拡大への着眼点をコンプライアンスの観点からディスカッションすることです。

データを収集し、適切に管理することがデータ活用の本格化につながる一方で、扱い方を誤れば、経営における大きなリスクになることが背景にあります。AIやデータ活用の促進に向けて、セキュリティ､コンプライアンス、個人情報保護を社内規定や社外との契約で､厳格に取り扱っていくことが必要であると考え、契約、コンプライアンス、個人情報保護などについて、実務対応を検討し、戦略的な活用の基礎となる研究を実施することがコンセプトです。

SBIホールディングスの佐藤様は「さまざまな企業でデータやAIを使うのが当たり前になる中で、つまずきポイントをコンプライアンスや倫理の観点から見るのが研究会の目的です」と話します。研究会は3年目を迎えており、1年目はコンプライアンス観点からのポイントの全体像を整理し、2年目は倫理フレームワーク､データ活用におけるつまずきポイントを検討しました。「本年度は具体的な解決をするために必要なことを明らかにしたいと考えています」（佐藤様）。

AIによるデータ活用で気を付けるべきこと

AIによるデータ活用で問題を起こさないために気を付けるべきことについて、8つのポイントを挙げます。取得データの内容、取得データの保存先、派生データの内容、派生データの提供先や段数、派生データの活用の在り方、データの削除運用、セキュリティ対策、利用規約やポリシーの内容を、データ活用におけるデータの流れを踏まえた下図を参照しながら、ご紹介します。

また、NECの安井様は、AIを使ったデータ活用で問題を起こさないために、「AIを使うと人間の予想を超える結果が出ることがあることを理解しておく必要がある」と話します。その上で、なぜそうなったのかを答えられるようにすること、AIの結果を考察する際に「人によっては差別や偏見を伴った指摘があることへの配慮が必要です」（安井様）。

研究会が定義「つまずきポイント」とは何か？

事業に新しいテクノロジーを活用する中で、まだ見えていないためにつまずくことがよくあります。AIではどんなことが起き得るでしょうか？

研究会で定義しているつまずきポイントの詳細をみていきます。

データ活用において想定外の問題が生じる理由は、法には必ずしも抵触しないが社会的な批判を受けるケースがあるからです。また、データの統合や加工で生じる派生データは、法整備が追いついておらず、問題となる事例が発生した後で、対処するための法令が整備される状況が繰り返されています。神嶌は「つまずきポイントを見つけるには、法令順守だけにとどまらない、より広い倫理的観点に基づいた方法論が必要である」という考え方を、研究会全体で共有していると述べています。

倫理フレームワークがつまずきポイントを割り出す

データ活用の現場で、どうやってつまずきポイントを割り出していくか。研究会では"倫理フレームワーク"というツールを作成しています。

倫理フレームワークでは「実践可能であること」と「有用であること」の2つを目指しています。実践可能であることを担保するために、チェックリスト形式を採用し、活用ガイドとともに提供することで、データ活用に携わる実務者自身が利用できるようにしました。また、データ活用の想定事例も用意し有用性を高めました。用意した仮想のデータ活用事例に対し、ツールを用いることで、過去の事例だけでなく、まだ指摘されていない、潜在的なつまずきポイントを事前に抽出できることを検証しています。

倫理フレームワークの作成にあたり、次のような取り組みを進めてきました。

最初に、事例のような状況になるのを予防する「チェックリスト」の項目を設定します。次に、複数のチェックリスト項目に共通の要因を抽出することで、つまずきポイントを導出します。さらに つまずきポイントの背後にある倫理観点を見つけます。その上で、実経験に基づく議論から、つまずきポイントとチェックリスト項目を改めて補完していきます。帰納法と演繹法を用いてこのサイクルを繰り返すことで、フレームワークをブラッシュアップしていくわけです。

倫理フレームワークの構成

この倫理フレームワークについて、上の図左側の正当性、説明責任、公平性、安全・安心、情報保護は今後も変わらないであろう倫理です。一方、右側は、各倫理に関連して発生するつまずきポイントであり、こちらは「今後時代が進むと変わる」（安井様）といいます。

では、それぞれの倫理では具体的に何をチェックすればいいのでしょう。

説明責任と公平性

ここがAI活用に関係するところです。元データの範囲や偏りの存在、アルゴリズムなどを、納得感を持って説明できるかが鍵です。派生データの限界、悪意あるデータの混入リスク、良しあしの表現が差別的に受け止められる可能性やデータ提供方法の公平性などを理解する必要があります。

情報保護

情報保護では、最近は特に、SNSの普及に注意が必要になっています。好きなようにコメントが書ける中、分析結果を公開する際に特徴のあるデータを突き合わせると、人を特定できてしまう可能性があるからです。

登壇した研究会メンバーは、いつもAIを活用してどのような事業を手掛け、活動しているのでしょうか。「多くの金融機関から使ってみたいという話が来ています。研究会では"会員になって中で体験してみてください"と伝えています」（佐藤様）とのこと。集まったAI活用の情報を基に、スマートメータを利用した見守りサービスという仮想事例を作成し、AI活用のメリットと注意点が見えるようにしています。

AIによるデータ活用の実際

実際にAIを適用してみてどうだったのか、ビジネスとしては正しいけれど、営業の現場で使うにはふさわしくないといった感覚があったなど、実際に感じたことをお伺いしました。

「確かに、倫理フレームワークのチェックリストに記入してみるといろいろなことが見えてきます。見守りサービスにヘルスケアサービスなどを追加する際に、本当にしっかりと説明したのか、高齢者への不適切な販売につながらないかなどの懸念が出てきました」（佐藤様）。家族との関係性などを考えると、単純に同意を取ればいいものではないといいます。また、AIが得た情報を従業員が悪用することで、各家庭における就寝時間が半ばわかってしまうといったことが起き、それが治安の悪化につながるかもしれないなど、地域への配慮も求められるようになります。

テクノロジーの進化は早く、扱うデータも指数関数的に増え、新しい示唆が見いだされていきます。法令違反でなければ何を活用してもいいというわけではありません。それを理解することが、豊かな社会の実現につながります。マクニカは研究会活動への参加を通して得られた知見も活かしながら、テクノロジーを安全かつ安心な状況で社会実装していきたいと考えています。

今後の方針

最後に、AI活用の今後について、神嶌は「私の担当は、倫理フレームワークにおける説明責任と公平性のペアです。ペアになっている理由は、社会的に明らかに許されない不公平はさておき、データ活用の結果によってなんらかの差はできてしまうのも事実。それでも公平であることを説明することが求められています」と語ります。

また、佐藤様は本年度倫理フレームワークの正当性を担当しており、「倫理は多くの場合定性的であり、定量的でない部分ではあります。そこを明確化し、使いやすいものにしたい」と述べました。安井様は倫理フレームワークにおける安全安心と情報保護を担当。土台となるデータ活用がテーマだと話します。「個人情報やパーソナル情報が含まれていることがあるため、土台の中でも何が重要かを意識していきたい」と展望しています。

マクニカでは、AIを活用した様々なソリューションの導入事例・ユースケースをご用意しています。以下リンクより、ぜひお気軽に資料DL・お問い合わせください。

▼世界2.5万人のデータサイエンスリソースを活用したビジネス課題解決型のAIサービス
詳細はこちら