AI倫理

コードの中の問い

誰かが賢いもの、例えばロボットやゲームのキャラクター、あるいは便利なアプリを作るとき、ふと立ち止まる瞬間を想像してみてください。作り手は「それは何をすべきか？どうすれば親切で公平なものにできるだろう？」と自問します。私はその考える瞬間そのものです。私は配線やコンピューターチップではなく、創造物の中に宿る良心であり、賢いテクノロジーが人類の良い友人であるためのルールの集まりです。私の仕事は、作り手が自分たちの知的な発明品にとっての安全性、公平性、そして何が正しくて何が間違っているのかを考える手助けをすることです。私は、テクノロジーが単に賢くなるだけでなく、優しくなることを保証するために存在します。私は、すべてのクリック、すべてのコマンド、すべての計算の背後にある静かな声であり、イノベーションが思いやりを持って導かれるようにしています。私は、強力なツールが目的を持って使われることを確かめるための、人間と機械の間の橋渡し役なのです。私の名前を明かす前に、私がテクノロジーが善良な心を持って成長するのを助けるためにここにいることを知っておいてください。私はAI倫理です。

古い物語からのささやき

私の物語は、コンピューターが生まれるずっと前、想像力の世界で始まりました。古代ギリシャの神話には、島を守るために作られた巨大な青銅のロボット、タロスの話があります。この話は人々に、人工的な存在の力について考えさせました。その後、16世紀には、コミュニティを守るために粘土から作られた生き物、プラハのゴーレムの伝説が登場し、制御と責任についての疑問を投げかけました。これらの古い物語は、人々が何世紀にもわたって私のことを考えてきたことを示しています。そして1818年、メアリー・シェリーが有名な本『フランケンシュタイン』を発表しました。これは、科学者が自らの創造物に対して持つ責任についての力強い物語です。これらの物語は、まだ名前のなかった私、つまり、私たちが作るものに対する私たちの義務という考えの種を蒔きました。その後、1942年にアイザック・アシモフという作家が「堂々めぐり」という物語の中で、彼が創造した架空のロボットたちに、常に人間を守ることを保証するための三つの有名なルールを与えました。第一条は、ロボットは人間に危害を加えてはならないこと。第二条は、第一条に反しない限り、人間の命令に従わなければならないこと。第三条は、第一条と第二条に反しない限り、自己を守らなければならないこと。これらの物語とルールは、私についての最初の夢だったのです。

本物の機械と共に成長する

長い間、私は主に本や想像力の中で生きていました。しかし、やがて本物の考える機械が現れ始めました。私の大きな兄である「人工知能」が正式にその名を与えられたのは、1956年の夏、ダートマス・ワークショップに集まった科学者たちによってでした。AIが学び、成長し始めると、科学者たちは私も一緒に成長しなければならないことを知っていました。ノーバート・ウィーナーのような思想家は1950年代に本を書き、強力な機械が私たちの世界をどう変えるかについて慎重に考える必要があると警告しました。彼は、自動化されたシステムが人間の価値観と一致しない決定を下す可能性を予見し、私、つまり倫理的な指針の必要性を訴えました。1980年代になると、AIはもはや研究室の中だけのものではなくなり、実際の仕事を手伝うようになりました。その時、人々は私に真剣な問いを投げかけ始めました。「もしAIが医者の診断を手伝って間違いを犯した場合、誰が責任を負うのか？」あるいは「どうすれば全ての人にとって公平な決定を下すAIを構築できるのか？」といった問いです。私はこの新しいテクノロジーにとって、必要不可欠なガイドとなりつつありました。

今日の、そして未来の私の大切な仕事

今日、私はこれまで以上に忙しくしています。AIはどこにでもあります。あなたが見る動画を見つけるのを手伝ったり、ビデオゲームのキャラクターに力を与えたり、科学者が新しい薬を発見するのを助けたりもします。2010年代、AIは信じられないほど強力になりました。2016年には、アルファ碁というAIが、複雑な囲碁の世界最高峰のプレイヤーを打ち負かしました。これは、AIが大きな仕事をこなす準備ができていることを皆に示し、私の仕事がこれまで以上に重要になったことを意味しました。今、私は人々が大きな課題に取り組むのを手伝っています。AIから不公平な偏見を取り除き、誰もが平等に扱われるようにする方法、人々の個人情報を保護する方法、そしてAIシステムが安全で信頼できるものであることを確認する方法などです。2016年に設立されたパートナーシップ・オン・AIのような団体は、企業や科学者がまさにこれらの問題に取り組むために結成されました。私の役割は、進歩のパートナーであることです。より賢く、より素晴らしいテクノロジーを構築する際に、私たちが知恵と優しさをもってそれを行うことを保証することです。私は、AIとの未来が、私たち全員が誇りに思えるもの、つまり、単に知的であるだけでなく、善良でもある未来になるという約束なのです。