法令順守だけでは不十分!データ活用に潜む問題を未然に防ぐには

AIが社会に浸透し、データ活用において法に抵触していなくてもさまざまな問題が発生し、結果として新規事業の中止や企業ブランドの失墜につながった事例もあります。本記事では、JDMC(日本データマネジメント・コンソーシアム)の「AI・データ活用のためのコンプライアンス研究会」で活躍する3人の研究会メンバーが、法令順守だけではなく倫理的観点も踏まえて、データ活用に潜む「つまずきポイント」を体系的に見つけるための取り組みをひもときます。

登壇者:
SBIホールディングス株式会社 社長室 次長 佐藤 市雄 様
・日本電気株式会社 サービスプラットフォーム事業部 シニアエキスパート 安井 秀一 様
・株式会社マクニカ ネットワークス カンパニー DX事業部CPソリューション室 主席 神嶌 潔
・株式会社マクニカ コーポレートマーケティング統括部長 堀野 史郎(モデレーター)

met_ai-12_picture1.png

左からマクニカ堀野、マクニカ神嶌、SBIホールディングス 佐藤様、日本電気 安井様

JDMCの取り組み

始めに、JDMCAI・データ活用のためのコンプライアンス研究会による取り組みについて、紹介しましょう。活動テーマは、デジタル経済化の加速でデータの活用範囲が拡大していることに伴い、生じてきた課題への対応やビジネス拡大への着眼点をコンプライアンスの観点からディスカッションすることです。

データを収集し、適切に管理することがデータ活用の本格化につながる一方で、扱い方を誤れば、経営における大きなリスクになることが背景にあります。AIやデータ活用の促進に向けて、セキュリティ、コンプライアンス、個人情報保護を社内規定や社外との契約で、厳格に取り扱っていくことが必要であると考え、契約、コンプライアンス、個人情報保護などについて、実務対応を検討し、戦略的な活用の基礎となる研究を実施することがコンセプトです。

SBIホールディングスの佐藤様は「さまざまな企業でデータやAIを使うのが当たり前になる中で、つまずきポイントをコンプライアンスや倫理の観点から見るのが研究会の目的です」と話します。研究会は3年目を迎えており、1年目はコンプライアンス観点からのポイントの全体像を整理し、2年目は倫理フレームワーク、データ活用におけるつまずきポイントを検討しました。「本年度は具体的な解決をするために必要なことを明らかにしたいと考えています」(佐藤様)。

AIによるデータ活用で気を付けるべきこと

AIによるデータ活用で問題を起こさないために気を付けるべきことについて、8つのポイントを挙げます。取得データの内容、取得データの保存先、派生データの内容、派生データの提供先や段数、派生データの活用の在り方、データの削除運用、セキュリティ対策、利用規約やポリシーの内容を、データ活用におけるデータの流れを踏まえた下図を参照しながら、ご紹介します。

met_ai-12_picture2.png

また、NECの安井様は、AIを使ったデータ活用で問題を起こさないために、「AIを使うと人間の予想を超える結果が出ることがあることを理解しておく必要がある」と話します。その上で、なぜそうなったのかを答えられるようにすること、AIの結果を考察する際に「人によっては差別や偏見を伴った指摘があることへの配慮が必要です」(安井様)。

研究会が定義「つまずきポイント」とは何か?

事業に新しいテクノロジーを活用する中で、まだ見えていないためにつまずくことがよくあります。AIではどんなことが起き得るでしょうか?

研究会で定義しているつまずきポイントの詳細をみていきます。

met_ai-12_picture3.png

データ活用において想定外の問題が生じる理由は、法には必ずしも抵触しないが社会的な批判を受けるケースがあるからです。また、データの統合や加工で生じる派生データは、法整備が追いついておらず、問題となる事例が発生した後で、対処するための法令が整備される状況が繰り返されています。神嶌は「つまずきポイントを見つけるには、法令順守だけにとどまらない、より広い倫理的観点に基づいた方法論が必要である」という考え方を、研究会全体で共有していると述べています。

倫理フレームワークがつまずきポイントを割り出す

データ活用の現場で、どうやってつまずきポイントを割り出していくか。研究会では"倫理フレームワーク"というツールを作成しています。

倫理フレームワークでは「実践可能であること」と「有用であること」の2つを目指しています。実践可能であることを担保するために、チェックリスト形式を採用し、活用ガイドとともに提供することで、データ活用に携わる実務者自身が利用できるようにしました。また、データ活用の想定事例も用意し有用性を高めました。用意した仮想のデータ活用事例に対し、ツールを用いることで、過去の事例だけでなく、まだ指摘されていない、潜在的なつまずきポイントを事前に抽出できることを検証しています。

倫理フレームワークの作成にあたり、次のような取り組みを進めてきました。

met_ai-12_picture4.png

最初に、事例のような状況になるのを予防する「チェックリスト」の項目を設定します。次に、複数のチェックリスト項目に共通の要因を抽出することで、つまずきポイントを導出します。さらに つまずきポイントの背後にある倫理観点を見つけます。その上で、実経験に基づく議論から、つまずきポイントとチェックリスト項目を改めて補完していきます。帰納法と演繹法を用いてこのサイクルを繰り返すことで、フレームワークをブラッシュアップしていくわけです。

倫理フレームワークの構成

met_ai-12_picture5.png

この倫理フレームワークについて、上の図左側の正当性、説明責任、公平性、安全・安心、情報保護は今後も変わらないであろう倫理です。一方、右側は、各倫理に関連して発生するつまずきポイントであり、こちらは「今後時代が進むと変わる」(安井様)といいます。

では、それぞれの倫理では具体的に何をチェックすればいいのでしょう。

正当性

正当性では、データの活用の目的や客観的に納得感があり、理解してもらえる内容であるかどうかが問われます。個人情報を提供する側からすると、漏えいのリスクが懸念材料であるため、その対策について丁寧に説明してもらいたいものです。そして、リスクとメリットのバランスを考慮した時に、必ずメリットが大きいとわかるようにすることが大切です。

説明責任と公平性

ここがAI活用に関係するところです。元データの範囲や偏りの存在、アルゴリズムなどを、納得感を持って説明できるかが鍵です。派生データの限界、悪意あるデータの混入リスク、良しあしの表現が差別的に受け止められる可能性やデータ提供方法の公平性などを理解する必要があります。

met_ai-12_picture6.png

安全安心

倫理の4つめである安全安心では、派生データが風評被害を起こしたり、人の考え方や行動に影響を与えたりなど、悪用の可能性を考えます。詐欺や脅迫など犯罪への悪用、日本と海外の文化の違いを考え、日本国内のデータセンターでのデータ保管、日本法人での管理を心掛けるという判断が必要になる可能性もあります。特に「何かあったときに、日本の法律が適用できることが大事」(安井様)と指摘しています。

情報保護

情報保護では、最近は特に、SNSの普及に注意が必要になっています。好きなようにコメントが書ける中、分析結果を公開する際に特徴のあるデータを突き合わせると、人を特定できてしまう可能性があるからです。

登壇した研究会メンバーは、いつもAIを活用してどのような事業を手掛け、活動しているのでしょうか。「多くの金融機関から使ってみたいという話が来ています。研究会では"会員になって中で体験してみてください"と伝えています」(佐藤様)とのこと。集まったAI活用の情報を基に、スマートメータを利用した見守りサービスという仮想事例を作成し、AI活用のメリットと注意点が見えるようにしています。

met_ai-12_picture7.png

AIによるデータ活用の実際

実際にAIを適用してみてどうだったのか、ビジネスとしては正しいけれど、営業の現場で使うにはふさわしくないといった感覚があったなど、実際に感じたことをお伺いしました。

「確かに、倫理フレームワークのチェックリストに記入してみるといろいろなことが見えてきます。見守りサービスにヘルスケアサービスなどを追加する際に、本当にしっかりと説明したのか、高齢者への不適切な販売につながらないかなどの懸念が出てきました」(佐藤様)。家族との関係性などを考えると、単純に同意を取ればいいものではないといいます。また、AIが得た情報を従業員が悪用することで、各家庭における就寝時間が半ばわかってしまうといったことが起き、それが治安の悪化につながるかもしれないなど、地域への配慮も求められるようになります。

テクノロジーの進化は早く、扱うデータも指数関数的に増え、新しい示唆が見いだされていきます。法令違反でなければ何を活用してもいいというわけではありません。それを理解することが、豊かな社会の実現につながります。マクニカは研究会活動への参加を通して得られた知見も活かしながら、テクノロジーを安全かつ安心な状況で社会実装していきたいと考えています。

今後の方針

最後に、AI活用の今後について、神嶌は「私の担当は、倫理フレームワークにおける説明責任と公平性のペアです。ペアになっている理由は、社会的に明らかに許されない不公平はさておき、データ活用の結果によってなんらかの差はできてしまうのも事実。それでも公平であることを説明することが求められています」と語ります。

また、佐藤様は本年度倫理フレームワークの正当性を担当しており、「倫理は多くの場合定性的であり、定量的でない部分ではあります。そこを明確化し、使いやすいものにしたい」と述べました。安井様は倫理フレームワークにおける安全安心と情報保護を担当。土台となるデータ活用がテーマだと話します。「個人情報やパーソナル情報が含まれていることがあるため、土台の中でも何が重要かを意識していきたい」と展望しています。

マクニカでは、AIを活用した様々なソリューションの導入事例・ユースケースをご用意しています。以下リンクより、ぜひお気軽に資料DL・お問い合わせください。

お問い合わせはこちら.png

詳細資料のDLはこちら.png

▼世界2.5万人のデータサイエンスリソースを活用したビジネス課題解決型のAIサービス
詳細はこちら
●CAXバナー.png


導入事例・ユースケース一覧を見る