AI時代に問い直される「大切な何か」とは？ はこだて未来大学教授・美馬のゆりさんが語る、多様性が守る未来

多様性がバイアスを補正する

AIというツールについて、みなさんはどのようなイメージを持っているでしょうか。おそらく、多くの人が「無機質で、平等・公平・公正、そして正確」といった印象を抱いているかもしれません。しかし実際には、AIを通じて得られる結果の多くには、何かしらのバイアス（偏り）が含まれているのです。

「生成AIの基本的な仕組みは、世の中に存在する膨大な過去のデータを学習し、そこから統計的な関連性を基に、最ももっともらしい答えを予測するものです。つまり、過去のデータに性別・人種・地域などの価値観のバイアスが含まれていれば、AIはそのバイアスを引き継いだ答えを出力してしまいます。これまで人間が少しずつ改善・補正してきた価値観や、今まさに見直そうとしている社会のあり方が、古いバイアスを含むデータで学習したAIの出力によって、再び過去の偏った状態に引き戻されてしまうリスクがあるんです」。

有名なのは、Amazonの採用システムの事例です。Amazonでは、エンジニアを採用する際に面接対象者を絞り込むAIシステムを開発しました。ところがテストをしてみると、なぜか男性ばかりが高評価となる傾向が見られました。その理由は、AIが過去10年間の採用データを学習しており、その多くが男性の履歴書だったためです。そこで、性別を直接示す情報を取り除いても、AIは履歴書の中の表現から性別を推測し、バイアスを再生産してしまいました。結局、Amazonはこのシステムの使用を断念しました。

バイアスがかかるのは、AIシステムに限ったことではありません。例えば、自動車の衝突実験では長年、成人男性をモデルにしたダミー人形だけが使用され、女性や高齢者、子どもの安全性が十分に考慮されず、事故時の死亡率や重症率が過小評価されていました（現在も改善が進められていますが、課題は残っています）。また創薬の現場では、オスのマウスや男性被験者だけを対象に実験を行った結果、女性では効果や副作用が異なる薬が生まれることもありました。

「バイアスは、私たちが無意識のうちに抱えてしまうものです。それを反映したシステムから完全に取り除くのはとても難しいものですが、その影響は社会的弱者やマイノリティに不利益をもたらすことがあります。だからこそ、多様な人たちが開発チームに加わり、できる限り公正な結果を目指して、さまざまな視点からアルゴリズムを設計・検証し、適切な補正を加える工夫を続けることが重要なんです」。

学習に使うデータの多様性、そしてそれを開発・精査するチームの多様性。AIがもたらすリスクを減らすためのカギは、やはり「多様性」にあります。

AIのリスクから目をそらさない

AIは、非常に便利なツールです。しかしその一方で、知的財産権の侵害、誤情報の生成、ディープフェイクによるなりすまし、さらにはAIを悪用したサイバー攻撃など、さまざまなリスクを抱えています。

美馬さんは「AIは、功利主義と非常に相性がいい」と指摘します。功利主義とは、最大多数の最大幸福を追求する倫理観で、ある行為の結果として、できるだけ多くの人々が幸福になることを正しいとみなす考え方です。AIは学習したデータを基に、最大多数（マジョリティ）に最適化したサービスや情報を提供するため、功利主義の発想と非常に親和性が高いのです。しかし、その結果として見落とされやすいのが、社会的弱者や少数派の声です。

「先ほどバイアスの話をしましたが、AIには輪をかけて、声の小さい人々の存在を切り捨ててしまう危険性があります。最大の問題は、人間の感情や身体的な記憶のようにデータ化しにくいものが、AIの判断の中では初めから存在しないものとして扱われやすいということです。例えば、誰とご飯を食べたか、その時の香りや味といった感覚的な経験は、学習データにはなりにくく、結果としてAIはそれを考慮に入れないことになります」。

ところが「それをあたかも分かったふりをする」のが、AIのやっかいなところだとも美馬さんは指摘します。

「この点が今までの技術とは違うところです。つまり、あたかも分かっているかのように振る舞い、私たちの感情や意識に表面的に入り込みます。『あなたの好きなものはこれですね』と提示され、好きなものや似た意見に囲まれながら過ごせるようになる。一見、自分が理解されているように感じられて心地よいため、人とコミュニケーションを取ったり、異なる意見に触れたりする機会が少しずつ減っていくんです」。

こうした背景に関連して指摘されているのが、フィルターバブル（見聞きする情報が自分の好みや興味に限られ、異なる視点が見えなくなる現象）やエコーチェンバー（価値観の近い者同士で意見を共鳴・増幅させる現象）です。すでにその兆しは見え始めていますが、これらが進めば、社会の分断が深まり、他者を顧みない社会が生まれてしまうと、美馬さんは警鐘を鳴らします。

「これは非常に危険です。だからといって、AIの使用をやめろと言いたいわけではありません。AIは非常に便利なツールであることは間違いありません。ただ、ある程度その仕組みやリスクを理解した上で使いこなさなければ、取り返しのつかない事態を招くかもしれないのです」。

AIリテラシー教育がインクルーシブな社会をつくる

世界のAI研究者の間には、すでにAI利用に対する大きな危機感が共有されています。美馬さんは、2025年2月にフランス・パリのOECD本部で開催された「The Inaugural Conference of the International Association for Safe and Ethical AI」に参加しました。呼びかけ人は、カリフォルニア大学バークレー校のAI研究の第一人者、スチュアート・ラッセル教授。ほかにもノーベル物理学賞、経済学賞、平和賞の受賞者を含む世界トップクラスの研究者たちが一堂に会した会議でした。

「そこで議論されたのは、このままではAIを社会に普及させるのは危険であり、早急に知恵を出し合い解決策を講じる必要があるということでした。解決策は大きく二つに分けられます。一つは、データの偏りやアルゴリズムの補正、そして結果の正しさを説明可能にするなどの技術的な対策。もう一つは、国際的なルールや認証制度を整備することです。私は、そこに第三の道があると考えています。それが『教育』です。AIの使い方を学び、リスクを理解し、AIリテラシーを養うこと。子どもたちが何を学び、どのような力を身につけてAI社会に出ていくのかを考え、伝えていく必要があると強く感じています。それは大人たちにとっても同様です」。

美馬さんは2024年8月、AIの基礎知識から社会的影響、倫理的問題まで分かりやすく解説した著書『AIの世界へようこそ 未来を変えるあなたへ』（Gakken）を出版しました。また、学生たちと共に「aiEDU JAPAN（エーアイエデュ ジャパン）」を立ち上げ、AIについて学べる教材をウェブサイト上で無償提供するなど、AIリテラシー教育の普及にも力を注いでいます。

「私が考えるAIリテラシーは、AIに関する知識やそれを利用するスキルにとどまらず、AIを利用する前提となる多様な視点や文化的理解、異なる背景や価値観を持つ人々への理解や尊重といった、態度や価値観にまで及びます。そこで重要になるのが『共感』です。他者の立場を理解し、その感情を考慮した上で問題を見つけ、それを解決に導くことは、人間にしかできないことだと考えています」。

「例えば、地球温暖化をどう解決するか。温暖化の主な原因は、長年にわたる先進国の大量のエネルギー消費と温室効果ガスの累積排出にあります。それなのに、これから成長しようとする発展途上国だけに大きな負担を課すのは不公平です。しかし、地球全体で対策を進める必要があるのも事実です。どうするかというと、それぞれの国の立場や文化を理解し、話し合いを重ねて折り合いをつけていくしかありません。こうした価値観の調整は、AIには難しいのです」。

「だからこそ、どこにAIを使い、どこに使わないのかという判断が重要になる」と美馬さんは語ります。

「AIにはリスクもありますが、同時に大きな可能性も秘めています。AIリテラシーを養い、うまく使いこなせるようになれば、すべての人がAIの恩恵を受けられて、誰一人取り残さないインクルーシブな社会をつくることができるはずです」。