AIにすべてを預けない未来へ──私たちは何を「委ね」、何を「手放さない」のか

プロセスが辿れない、AIのリスク

美馬さんはだいぶ早い段階からコンピュータに着目されていたんですよね。

コンピュータに興味を持って研究し始めたのは、1980年代、いわゆる第二次人工知能ブームの頃です。当時、AIの父と呼ばれるマービン・ミンスキー教授が創設に関わったMITメディアラボに、大学院生として在籍していたこともあります。あの頃は、ものすごい可能性を感じていて、「これから社会はどんどん変わっていくぞ」と強く思っていました。

でも今はリスクが高まってきて、美馬さんをはじめ、世界中の専門家が警鐘を鳴らしています。

当時のAIは、なぜその結論に至ったのかをきちんと辿ることができたんです。例えば、薬を処方する際に薬の組み合わせに問題がないかを確認する、分野特化型のエキスパートシステムなら、結果に至るまでのプロセスを追うことができました。でも今のAIは違います。人間の脳を模した仕組みであるディープラーニングが登場してから、なぜその結果が出たのか、ブラックボックス化し、私たちには辿れなくなっているんです。

プロセスが不透明だということですね。よく考えると、それは怖いですね。

マービンは、ChatGPTや生成AIが登場する前に亡くなりましたが、その兆しが見えていた段階から強い危惧を抱いていました。彼が問題視していたのは、AIが人間を超えるような結果を出すことではなく、人間の思考とは何かという本質的な問いに挑むことをやめ、結果が同じであれば仕組みがブラックボックスのままでも構わないとする態度です。

私自身、AIの仕組みにはある程度の理解がありますし、教育の観点からも研究を続けています。いずれリスクが高まってくると予想していました。だからこそ、AIの仕組みを理解する人が、その本質や問題点を社会に伝える役割を担わなければならないと考え、使命感を持ってこれまで何冊かの書籍を出版してきたのです。

2024年8月に上梓した『AIの世界へようこそ 未来を変えるあなたへ』（Gakken）

AIで一発逆転を狙おうとした日本

Ipsos（イプソス）※の調査によると「日本はAIへの興奮度は高くもなければ、低くもない一方、AIへの『不安』は世界で最も低く、先進国・新興国を含む32カ国の中で過半数の日本人が『AIを理解していない』と回答した」（AI Monitor 2024）とする結果が出ています。これはやはり楽観的すぎるのでしょうか。

日本は、いわゆる「失われた30年」の間に、経済成長も科学技術研究も国際的に相対的な停滞を経験しました。そうした中で、AIによって一発逆転を狙おうという期待があるように感じます。そのため、楽観的なムードや、やや勇み足の姿勢も見受けられます。本来であれば、AIの仕組みやリスクをきちんと理解した上で取り組まなければ、最終的にはうまくいかないと私は考えています。

アメリカの場合、すでにAIシステムの倫理的チェックを担う団体がいくつも存在します。興味深いのは、こうした分野で活躍するコンピュータサイエンティストや社会学者、倫理学者に女性が多いことです。こうした事実は、多様な視点や経験を持つ人々が最初から対等な立場でチームに参加することの重要性を改めて示していると感じます。

※：フランス・パリに本社を置くグローバル・マーケティング・リサーチ会社。

多様な視点によってバイアスを補正する、ということですね。

そうです。そうでなければ、こぼれ落ちる重要な視点があり、結果として被害を受ける人が出てきてしまいます。それを防ぐのはとても大変なことですが、実はそこにこそイノベーションの種があります。日本でも、より多様なバックグラウンドを持つ人たちが最初から関わるようになることが、理想だと考えています。

AIにどこまで任せるかを考える

私たちは、AIと共にどんな未来をつくっていくのでしょうか。

大切なのは、AIが社会に入り込んだ後、私たち自身がどんな暮らしを望むのかを考えることです。便利さは、時に自分たちでコントロールする力を手放すことにもつながります。例えば、AIに「これがおすすめです」と言われて自分で選ぶのか、「そろそろ買っておきましょうか」と提案されたら買うのか、それとも完全に任せて放っておいても買ってくれるようにするのか……。買い物くらいならそれでもいいかもしれません。単純なビジネスメールや議事録作成を任せるのも問題ないでしょう。でも、自分の趣味は？ 家族とのやりとりは？ 大事なことの判断までAIに委ねてしまっていいのでしょうか。どこまで任せていいのかは、私たちが真剣に考えるべき問いです。

そして今は、AIを導入することで何が得られるかばかりが語られていますが、何を"失うのか"も考えないといけないですね。私が教育の重要性を強調するのは、放っておけば「分からなければAIに聞けばいい」という発想が広がり、自分の頭で考える力が失われかねないと感じているからです。

やはり教育なんですね。

本当に大切なのは、さまざまな思考のかたちに出会い、自分の考えを広げ、深めていくことだと思います。それを支えるのが教育の役割です。数学には数学の、歴史や芸術にはそれぞれの思考方法があり、それを学ぶことは、生きていくための大切な道具を手に入れることと同じです。だからこそ、AIと共に生きる未来を、一人ひとりが自分の頭で考えてほしいと心から願っています。

それぞれが思い描く未来は異なっていても、やがて重なり合い、一つの大きな未来を共につくり上げていきます。だから私は伝えたいのです──あなたにも、未来は変えられる。誰もが、問いを立て、対話し、行動することで、チェンジメーカーになれるのです。