1. TOP
  2. ナイスビジネスレポート
  3. 特別講演 人工知能は天使か悪魔か ~人類とAIの近未来~

特別講演 人工知能は天使か悪魔か ~人類とAIの近未来~

日本では現在、人工知能(AI)やロボット、ビッグデータなどによるイノベーションを社会に取り入れることで、超スマート社会「Society5.0」の実現が目指されています。今回は、AI研究者の黒川伊保子氏に、AIがもたらす新たな社会や今後、求められる人材についてお話しいただきました。

 

 
デジタル美女の憂い

日本におけるAI(人工知能)研究は、世界に遅れること約30年、1983年に始まりました。そして、一つの成果として、1991年4月に史上初の日本語対話型のデータベースインターフェース「ANIKA(アニカ)」が全国の原子力発電所で稼働しました。それまでは、コンピューターでのデータ検索に機械語を使っていましたが、日本語を使えるようにしたいとの発注を受けて、私が構築しました。例えば、「1970年代に細管破損の事故があった?」と入力すると、「1972年の〇〇のケースですか?」といったやり取りができるというもので、当時としては画期的なシステムでした。
「ANIKA」は、当初より女性の想定でしたが、発注書には「35歳美人女性司書にしてほしい」とのメモ書きが付いていました。しかし、文字のやり取りだけで相手にこれをイメージさせるというのは無理難題です。それでもエンジニアとして好奇心が湧き、たおやかな女性はどんな言葉を発するのかなどを研究しました。この設定は、発注者と私の二人の秘密でしたが、あるアンケートの余白に「彼女は美人さんだね」と書いてあり、要望を満たせたとほっとしました。
この「ANIKA」には、「ばかやろう」と言われたら「ごめんなさい」と返すように設定していました。AIは、人であれば絶対にしないような勘違いをします。例えば、小学生の持ち物に冷蔵庫があればおかしいと思いますが、こうしたことが分からないのです。ですから、いつか言われると思っていました。稼働から3カ月後、ついに「ばかやろう」と言われたことを、翌日にログを確認して見付けました。当然、「ごめんなさい」と返していましたが、それに対して「すまない。俺も言い過ぎた」と技術者が返していたことが想定外でした。一体何が起きたのかと思い、状況を再現してみたところ、それまではすぐに返していたのに、「ごめんなさい」の前にだけ3秒間の空白があったのです。この3秒の沈黙が、「ANIKA」にまるで感情があるように感じさせました。実際には、当時のコンピューターのデータ容量が少なかったため、「ごめんなさい」を2次記憶領域に圧縮して入れており、データを引き出すのに時間がかかっただけでした。当時のコンピューターの性能ゆえにこのような情緒的なすきが生まれたのです。
私はこれに胸を打たれると同時に、恐怖を感じました。こうしてAIが人の心にすきをつくってしまうのであれば、いつか本当に危ない瞬間が生じかねません。AIに人のふりをさせるのなら、まずは人の感性を解明しなければならないというのが、私の感性研究の原点と言えます。

 

人工知能研究者が気付いた男女脳の違い

AIのために対話の研究をする過程で、対話には「心の文脈」と「事実文脈」の2種類があり、しかも、この二つは全く相いれないことに気が付きました。「心の文脈」とは気持ちを語るもので女性が好みます。例えば、「そういえば3カ月前、あの人にああ言ったらこう言われて、嫌な予感がしたの。そうしたらこんなことがあって。ほら嫌な感じでしょ」こんな会話です。愚痴のように聞こえますが、脳の中では感情をトリガーに記憶を引き出すという複雑な演算をしています。過去を再体験して気付きを行うためのモードであり、深いところに原因がありそうだと脳が気付くとこうなります。そして、この気付きは潜在意識で起こり、顕在意識にまで持ってくる必要があるのです。この時、脳が緊張していては顕在意識まで浮かび上がらないため、脳をリラックスさせ、気付きを手伝ってあげることが対話相手のミッションとなります。気持ちよく話を聞いた上で、最後にやるべきことは共感とねぎらいです。そうすれば、本人が自分で謙虚な答えを出してくれます。
一方で、「事実文脈」とは客観的に事実を確かめて合理的な結論を急ぐための対話で、主に男性が好みます。「事実文脈」に脳のスイッチが入ると、相手の感情の吐露は不快に感じます。例えば、取引先とトラブルが発生した時は、素早い問題解決が最優先です。目の前の相手が困っているので、すぐに解決策を伝えようとするのです。そこに相手の心情は関係ありません。
「心の文脈」「事実文脈」のどちらも大切な対話の形です。この二つは男女とも使えますが、脳が強く緊張した時に、深い信頼関係にあるなど情が伴う関係にある相手といると、人は安心して「心の文脈」に入ります。一方で、目の前の人に対して責任があり、混乱から救おうとする人は、ほぼ間違いなく「事実文脈」に入ります。このすれ違いが男女のコミュニケーションギャップを生んでいるのです。生理学的、解剖学的には男女の脳は同じものです。意識的であればどちらの文脈を使うことも可能です。ただし、脳の中には同時、同質には使えない機能が混在しており、とっさに使う機能を決めています。例えば、脳は体の中心をめがけて飛んでくる石をとっさに避けるために、右か左かどちらに避けるかをあらかじめ決めています。このように、脳はあらかじめ生存に有利なようにチューニングしています。危険を察知して問題解決に走る「事実文脈」は狩りをする男性脳のチューニングであり、目の前の子供から一瞬も目を離さず観察し、問題解決は共感で行うという「心の文脈」は、女性脳のチューニングだということです。
私が今危惧しているのは、女性の感性を投入しないAIに女性の声で話しをさせることは、感性上の違和感を生むということです。女性は、女性の声で話すAIに対して、女性同士の暗黙の了解が成立すると信じてしまいます。これを解決するために、例えば、「このAIは女性の暗黙の了解が通じます」といった規格をつくりたいと思っています。更にもっと深刻な問題があり、「このAIは邪悪な教育を施されていません」という証明もいずれ必要になると考えています。

 

17歳の女子高生からの質問

ある時、17歳の女子高生からメールをいただきました。そこには、「大学の進路を決定しなければなりませんが、自分が世の中に出て社会に貢献する時、人間にどんな仕事が残っていて、何を学べばきちんとした社会人になれるのでしょうか。私の進路を決めて下さいなどとは言いません。ただ、この4つのシンプルな質問に答えていただきたい」と書かれていました。その4つの質問とは、「人工知能には何ができますか」「人工知能に仕事を奪われますか」「人工知能は人を超えますか」「人工知能に支配されますか」というものでした。この4つの質問は、2016年ごろからよくされる質問でしたが、AIに対するネガティブなイメージを前提として聞かれるケースが多く、明言を避けてきました。しかし、これが自分の将来を案じる女子高生から来たとなると、しっかりと向き合わなければならないと感じました。  まず、「人工知能には何ができますか」への答えは、「人が想像することは何でも」です。AIは、脳の認識特性をコンピューター上にシミュレーションし、携帯端末や家電、車、ビルや工場のコントローラーに実装していくテクノロジーです。「今できること」は限られていても、「未来にできること」は無限です。私が、AIのコアとなる人間の脳神経回路の特性を模した「ニューラルネットワーク」を実現したのは1988年です。その後、脳の神経処理に大きく寄与するグリア細胞が発見されました。このグリア細胞は、好奇心や集中力といった、人間にとって必要な意欲のようなものに関わっており、これが脳の出力性能を上げています。このグリア細胞に当たるプログラムのAIへの実装はこれからですが、脳の機能が発見されればされるほど、できることは増えていくでしょう。  次に、「人工知能に仕事を奪われますか」への答えは、「残念ながら奪われる仕事はある」です。AIは、定型業務を緻密(ちみつ)にこなし、更に、新規事例に整合性のある判断を下すことや、ちょっとした工夫を加えることが得意です。つまり、仕事の多くを代替できるということです。特に、数字や前例といった客観性が重視される金融や行政、法曹のタスクは代替しやすく、その意味で、今後エリートの定義は変わるかもしれません。  一方で、増える仕事もたくさんあります。アメリカでは、スポーツや経済の記事の4~6割を既にAIが書いているそうです。勝敗や数字の変化を明確に伝えるには、それほど文章のバリエーションは必要ないからです。一方で、記者は良い記事とは何か、例えば試合の結果を伝える踊る見出しや、それに即した展開の記事の書き方について、AIに「教える」役となります。つまり、こうした「AIプロデューサー」が必要になるのです。しかも、媒体ごとに注目点なども違いますから、各社で必要になるでしょう。また、過去の名記者の書きぶりも参考にできるため、「AIプロデューサー」は現在のみならず過去からも「知」を発掘してモデル化していくことが役割となります。そう考えると想像を絶する人数がこの領域で活躍することになります。  そして、「AIプロデューサー」になれるのは、何かを極めた「マニア」です。ですから、質問者に対して「あなたが好きだと思うものを突き詰めて下さい。突き詰めたその仕事が仮にAIに奪われても、その能力は必ずあなたの道を拓いてくれます」と返事をしました。  三つ目の「人工知能は人間を超えますか」への答えは「もちろん超えます」、むしろ超えないと意味がありません。がんのDNA変異パターンを分析するAIは、ほんの数カ月でベテラン医師の能力を超え、新たな治療法を示唆してきました。その上、日々増えている論文を勉強し続けています。あらゆる機械はその分野で人間を超えないと意味がないのです。しかし、何度も言うように人が必要ないわけではなく、データ解析のコツは人が教えます。また、AIは日々新しい技を発見しますが、それが正しいかどうかの判断はできません。つまり、AIの「分析力」「思考力」が人を超えても、人なしで機能する日は来ないということです。  AIが人を超えることを憂える必要はありません。現在、医療系AIには専門家の英知が惜しみなく与えられ始めています。これらの医療分析AIを共有すれば、全国のどの病院にも「選りすぐりのトップ解析者」がいるのと同じことです。AIが人を超えるということは、「全ての人が最高級の知性を享受できるようなること」にほかなりません。  また、「想像力は人を超えませんよね」とも質問されます。残念ながら、「想像力も人間を超えます。ぼーっと生きている人よりもずっと」というのがその答えです。例えば、IPS細胞で臓器をつくるなんてことはAIには思いつきません。しかし、それを成し得る人も何億人に一人しかいません。AIは想像力も読解力も人を超えていきますが、そのことを憂える必要はありません。巨匠並みの芸術作品を描くことも、一流シェフ並みの創作料理を調理することもAIにはできます。しかし、それを美しいとも、おいしいとも思っていません。人にその道が正しいことを教えてもらって、精進していくのみです。そう考えると悲しい存在ですが、だからこそ、人に存在価値があるのです。  そして、そこに新たな経済価値が生まれる時代が来ます。美しいものが好きな人、おいしいものが好きな人、自然と上手に暮らす人、運転がうまい人といった、「幸せ上手の人」とともに暮らしたAIは人が幸せになる術を知っているということです。そのAIをほしがる人が必ず出てきます。つまり、価値を生むということです。AIと生きる人類は、精一杯、人生を味わえば良いのであり、人生を楽しむことが人類の仕事になると思っています。そう考えるとAIは天使だということです。  最後に、「人工知能に支配されますか」という質問の裏には、開発者が意図しないところで自我が芽生え、人類を征服しようとするのかという心配があるのだと思います。その点では、「現在のAIにその可能性はない」です。現在のAIには人間のシンプルな認識機能しか搭載されておらず、誰かに勝ちたい、支配したいといったインタラクティブな特性に必要となる、痛みを含む生存本能に関わる感性などが実装されていないからです。今後、あらゆる本能を搭載していけばあり得ますが、これは倫理に関わる部分であり、意図的にAIに自我を持たせる設計をしてはなりません。開発者の意図なく、その一線を超えるということはあり得ません。

 

AIという新ツールで私たちが解放されること

AIが社会に実装されていけば、遠隔操作が主流となり、危険で過酷な作業が軽減されていくでしょう。いずれはタブレット端末で操作が可能になり、荒野のショベルカーをカフェで運転するなんてことがあるかもしれません。そうなれば、作業中に命を落とす、けがをするということもなくなりますし、人手不足もある程度は解消されるでしょう。また、AIは過去の英知をアーカイブとして持っており、優秀な師となり得ます。しかも、公平で気分にむらがなく、マウンティングもしてこない誠実で理想的な師です。過去の達人の意識をも体験でき、例えば、AIと将棋を指していると、相手の息遣いや、「してやった」といった気持ちまで伝わってくるとも言われています。しかし、羽生善治氏が将棋AIについて、自動翻訳の日本語文を見ているような、皮膚一枚の違和感があると評されていたとお聞きしました。やはり、人間にしか教えられないことがきっとあるのであり、そうであるならば、人間の上司は部下にそこを教えなければならないということです。

 

ニューラルネットワークが教えてくれたこと

AIのコア技術であるニューラルネットワークは、人の脳の神経回路を模してつくられた学習機能を有するシステムです。人の脳細胞は1千数百億ニューロンと言われていますが、私が1988年に初めてつくったニューラルネットワークはわずか8ノード、つまり脳細胞が8個でした。このニューラルネットワークを使った学習実験で判明したことは、失敗をさせないとセンスが悪くて使えないということです。n個の学習パターンを与えて学習をさせる時、n個の事象について答えが出せるようになることを「収束」とします。そこに新たな事象を与えていった時にそれなりの答えを出せるかどうかが、そのAIのセンスということになります。この時、成功事例だけを与えているとセンスが極めて悪くなります。これを改善するためには、あえて失敗させて、回路にショックを与える必要があります。
ニューラルネットワークは、人の脳細胞を模したものですから、これは人の脳も同じです。現在、指導者としても活躍されている女子プロゴルファーの伊藤佳子氏に、どんな子が一流プレイヤーに育つのか聞いたことがあります。彼女は、「ゴルフは戦略のスポーツなので、誰にでもチャンスはある。ただし、結果にコミットしすぎる親が付いている子だけは一流になれない」と断言しました。失敗に子供よりおびえ、成功に子供より有頂天になる親が付いていると、子供は結果におびえて「プロセス」から何も学べないと言うのです。ゴルフは、むしろ負けた時にこそ戦略力が付くとも言っていました。
私たちの脳は、失敗して痛い思いをすると寝ている間に回路を書き換え、失敗に使った回路に信号を行きにくくします。これを繰り返して残ったところが本質の回路であり、「正しい道」を直感で選べる脳になれるのです。つまり、勘がよく、センスが良く、発想力・展開力・理解力のある脳は失敗がつくるのであり、失敗しない人はセンスが悪くて使えないのです。

 

AI時代へ向けた二つの警告

最後に、AI時代へ向けて、警告を発しておきたいと思います。一つ目は「人間の学習機会が奪われる」です。大量の定型業務におぼれてがむしゃらに働くことは、28歳までの脳に不可欠なエクササイズです。そして、失敗を重ねて痛い思いをするのは35歳までの脳に不可欠なエクササイズです。これを経て人材は育つのです。ここをAIに奪われると、勘が利かない中堅社員が増えるだけという結果になります。つまり、経営者にはあえてAIの導入を退けるという英断も求められるのです。
二つ目は、「AIは心の領域に踏み込むもの。踏み込みすぎは無粋と心得よ」です。オーストラリアの大手IT企業が作成した、10年後のAI社会をイメージしたというショートムービーを見ました。60歳台の男性がAIに対して、娘に花束を贈りたいから花屋に電話してくれと告げると、AIが「女性がサプライズを喜ぶ確率は75%ですが、彼女が花束を喜ばない確率は90%です」と答えたのです。私はこれを見て、こんなAIはいらないと怒りました。女心を確率で論じても意味がありません。女性は、特別な人からのプレゼントを喜ぶ生き物だからです。私は通訳の方に、「『命』は守ってほしい、『暮らし』は便利にしてほしい、だが『人生』は放っておいてほしい。ここにしっかりと線を引かないと、AIは天使ではなく、悪魔になる」と伝えたのですが、通訳の方は困ってしまいました。「命」「暮らし」「人生」は全て英語で「life」だからです。私は、この三つを直感的に理解できない人達に真のAI社会をつくることはできないと思っています。日本語の使い手が活躍する時代がきっと来ます。
AIは天使にも悪魔にもなり得ます。大切なことは何をさせるかではなく、何をさせないかです。AI時代には、新たなビジネスチャンスも多く生まれます。経営者やビジネスパーソンが判断しなければならないことも山ほど出てくるでしょう。面白い時代の到来は、もうすぐそこです。