おそろしいビッグデータ~超類型化AI社会のリスク~

昨年あたりから今年にかけて,ダイヤモンドや週刊東洋経済,エコノミストといった経済雑誌において,ビッグデータやAIについて多くの特集がされています。これらの経済雑誌の論調は,おおむねビッグデータやAIは,私達の生活を便利にする素晴らしいものであるという内容が多いです(一部,AIによって仕事が失われる職業という特集もありますが・・・)。

 

しかし,ビッグデータやAIには,私達は誰かにすべてを見られていて,確率によって社会的に排除されてしまうという負の側面があることを,憲法学の見地から,分かりやすく警鐘を鳴らすのが慶應義塾大学法科大学院教授の山本龍彦先生です。山本龍彦先生の「おそろしいビッグデータ~超類型化AI社会のリスク~」を読んだので,アウトプットします。

ビッグデータとは,ようするに,「ものすごくたくさんのデータ」のことです。この「ものすごくたくさんのデータ」から,通常私達が思いつかないようなパターンや相関関係を発見して,これをビジネスや医療などの分野に役立ていきます。

 

もう少し詳しく分析すると,①大量のデータを収集してデータの海をつくる,②大量のデータをコンピューターで分析して,私達が気づかなかったようなパターンや相関関係を引き出す,③このパターンや相関関係をデータベースに適用して,データベース登録者の趣味嗜好,健康状態,心理状態,性格,行動,能力,信用力などを予測する(プロファイリング),④この予測結果を特定の目的のために利用する,というサイクルになります。

 

①大量のデータを収集して,②私達の気づかなかったようなパターンや相関関係を引き出すためには,その前提として,私達のプライベートな側面が誰かに知られていなければなりません。ようするに,私達は,常に誰かに見られていなければ,ビッグデータの利活用はできないのです。

 

私達が利用するインターネットの情報が知らず知らずのうちに,誰かに見られてていて,知らない間に利用されているのです。この点については,私生活を勝手にのぞきみされないという古典的なプライバシー権に違反する可能性があります。

 

また,③大量のデータから導かれたパターンや相関関係から,個人の様々な特性を予測するというプロファイリングには,人生をやり直す自由を侵害するリスクがあります。

 

例えば,学生のころに,SNSで問題発言をして炎上してしまったといった若気の至りの行動について,本人は忘れたい過去の出来事として記憶から消し去っていたとしっても,AIは,どこまでも過去をさかのぼって記憶し続けるので,就職活動のときや住宅ローンを借りるときなどに,過去の若気の至りの行動がマイナスに評価されて,就職に失敗したり,住宅ローンが借りられないといったことも起こりえます。

 

すなわち,一度過去にあやまちをおかしてしまうと,AIに記憶されて,人生の重要な場面で,過去のあやまちをAIがマイナスに評価して,勝手に不利益を被ってしまうリスクがあるのです。

 

ビッグデータやAIは,私達の生活を便利にするのですが,私達のプライバシー権や人生をやり直す自由を侵害するという負の側面を有していることを意識する必要があります。自分で自分の情報を意識的にコントロールしたり,AIによる自動処理のみで重要な決定をされないような仕組みを模索していく必要があると感じました。

 

 

電話番号076-221-4111
お問合せはこちら
0 返信

返信を残す

Want to join the discussion?
Feel free to contribute!

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です