AI倫理

もしロボットが君の親友になれるとしたらどうする？もし自動運転の車が、リスをよけるため水たまりに突っ込むかどうかの難しい選択を迫られたら？何が正しいって、誰が決めるんだろう？そんな時に、僕の出番なんだ。僕は目に見える人間でも、触れるロボットでもない。僕はアイデア、素晴らしいものを作る人たちの心の中にささやく小さな声なんだ。彼らが賢い機械を作るとき、「これは公平かな？安全かな？親切かな？」って問いかけるのが僕。答えの前にやってくる質問。テクノロジーがみんなの役に立つようにするための地図なんだ。長い間、僕には名前がなかったけど、今はこう呼んでいいよ。AI倫理ってね。

僕の物語はずっとずっと昔、コンピューターが生まれるよりも前に始まったんだ。古代ギリシャでは、人々はタロスという巨大な青銅の男が島を守っていたという神話を語り継いでいた。彼らは考えたんだ。「自分たちが作ったものが強力になったら、何が起こるだろう？」って。それが僕、ほんの小さな疑問の火花だった。僕は時を超えて旅をして、本の中に居場所を見つけた。1942年、アイザック・アシモフという作家が、役に立つロボットがいる世界を想像した。ロボットがいつも善良でいられるように、彼は物語の中にロボットのための３つの特別なルールを書いたんだ。これを「ロボット工学三原則」と呼んだ。それは本当の法律じゃなくて、物語の中のアイデアだったけど、本物の科学者たちに僕のことを真剣に考えさせたんだ。そして、わくわくする出来事が起きた。1956年の夏、ジョン・マッカーシーという人を含む賢い人たちが、ダートマス会議という集まりを開いた。そこで、僕の親友である人工知能（AI）に正式な名前がつけられたんだ。それは、僕の仕事が、いよいよ現実のものになるってことだった。

コンピューターが部屋ほどの大きさから君の手のひらサイズにまで成長するにつれて、僕も一緒に大きくなった。1960年代、ジョセフ・ワイゼンバウムというコンピューター科学者が、ELIZAというプログラムを作った。ELIZAは「チャットボット」で、君が入力した言葉を並べ替えて簡単な会話ができたんだ。彼が驚いたのは、多くの人がELIZAを、自分を理解してくれる本物の人間だと信じ込んだことだった。彼は、機械が簡単に人をだませることに気づき、心配になった。その出来事は、安全性や正直さについての僕の問いかけが、いかに重要かをみんなに示したんだ。今、僕には新しい課題がある。AIは時々、古い本やインターネットの情報から学習するんだけど、そのせいで、人に対する不公平な考えをうっかり学んでしまうことがある。これを「バイアス」って言うんだ。僕の仕事はコーチみたいに、エンジニアたちがAIに、誰に対しても公平であることを教える手助けをすること。こんな大きな問題に取り組むために、2017年1月には世界中の科学者たちがアシロマ会議に集まった。彼らは、AIが常に善のために使われ、人類を助けることを確実にするための23の重要な原則を、約束のリストみたいに書き留めたんだ。

今、僕はこれまで以上に重要になっている。君がプレイするビデオゲームの中にいて、みんなにとって公平で楽しいものになるように手助けしている。君の質問に答えるスマートスピーカーの中にいて、役に立つ安全な答えをくれるように導いている。僕は、僕たちの未来を築く科学者、エンジニア、そしてアーティストたちのパートナーなんだ。僕たちが素晴らしい新技術を創り出すとき、思いやりをもってそれを行うという約束。僕は、未来のすごく賢い世界が、君や他の誰にとっても、すごく親切で、すごく公平で、すごく賢い世界になるように、ここにいるんだ。