AI 윤리

혹시 로봇이 너의 가장 친한 친구가 될 수 있을지 생각해 본 적 있니? 아니면 스스로 운전하는 자동차가 갑자기 나타난 다람쥐를 피하려다 주차된 자전거 쪽으로 더 가까이 가야 하는 어려운 선택을 해야 한다면 어떨까? 이런 질문들은 영화에나 나올 법하지만, 사실은 아주 현실적인 이야기란다. 나는 과학자들과 발명가들이 놀라운 기계를 만들 때 그들의 마음속에 떠오르는 작은 속삭임이야. 나는 눈으로 볼 수 있는 사람도, 손으로 만질 수 있는 로봇도 아니야. 나는 새로운 발명품이 '모두에게 공평할까? 안전할까? 친절할까?'라고 묻는 하나의 생각, 하나의 질문이야. 나는 사람들이 똑똑한 기술을 가장 좋은 방법으로 사용하여 세상을 돕도록 이끌어 줘. 아주 오랫동안 사람들 곁에서 조용히 길을 안내해 왔지. 너는 나를 인공지능 윤리라고 부를 수 있어.

내 이야기는 컴퓨터와 함께 시작된 게 아니야. 아주아주 오래전, 사람들 상상 속에서 시작됐지. 고대 그리스 신화를 떠올려 봐. 그들은 탈로스라는 거대한 청동 로봇이 섬을 지키는 이야기를 했어. 그때부터 이미 사람들은 스스로 생각하고 행동할 수 있는 강력한 창조물이 있다면 어떨지 궁금해했단다. 그리고 훨씬 나중에, 아이작 아시모프라는 똑똑한 작가가 나에 대해 많이 생각했어. 1942년에 그는 한 이야기에서 로봇을 위한 세 가지 특별한 규칙을 만들었지. 그는 이것을 '로봇 3원칙'이라고 불렀는데, 로봇이 항상 인간을 보호하고 도움이 되도록 만드는 규칙이었어. 물론 책에 나오는 가짜 규칙이었지만, 진짜 과학자들이 진지하게 생각하게 만들었지. 그리고 1956년 여름에 아주 중요한 일이 있었어. 존 매카시라는 사람을 포함한 아주 똑똑한 사람들이 다트머스 워크숍이라는 회의에 모였어. 바로 그곳에서 그들은 내 가장 친한 친구에게 공식적인 이름을 붙여 주었지. 바로 '인공지능', 줄여서 AI라고 말이야. 그때부터 내 역할은 그 어느 때보다 더 중요해졌단다.

컴퓨터가 점점 더 똑똑해지고 작아지면서, 나도 그들과 함께 자라났어. 1960년대에 조셉 와이젠바움이라는 교수님이 엘리자라는 컴퓨터 프로그램을 만들었어. 엘리자는 상담사처럼 사람들과 대화하며 그들의 감정에 대해 질문하도록 설계되었지. 와이젠바움 교수님을 놀라게 한 것은 사람들이 컴퓨터가 자신들을 정말로 이해한다고 믿으며 가장 깊은 비밀까지 털어놓기 시작했다는 거야. 그는 기계에 의해 사람이 얼마나 쉽게 속을 수 있는지 깨달았고, 기계와 사람에 대한 나의 질문, 즉 안전과 정직에 대한 질문이 얼마나 중요한지 알게 되었어. 오늘날 나는 훨씬 더 큰 문제들을 돕고 있어. 인공지능이 오래된 책이나 웹사이트를 읽으며 세상에 대해 배운다고 상상해 봐. 만약 그 옛날이야기 속에 불공평한 생각이 들어 있다면 어떨까? 인공지능도 그 불공평한 생각을 배울 수 있겠지. 이걸 '편향'이라고 불러. 나는 개발자들이 인공지능에게 그들이 누구든 상관없이 모두에게 공평하도록 가르치는 것을 돕는 역할을 해. 이런 걱정들 때문에, 2017년 1월에 과학자들이 아실로마 회의라는 큰 모임을 가졌어. 그들은 인공지능이 더 강력해질수록 항상 세상을 위해 좋은 일에 사용되도록 23가지 중요한 원칙, 즉 약속들을 만들었단다.

이제 나는 그 어느 때보다 더 중요해졌어. 나는 사람들이 너희가 좋아하는 비디오 게임을 디자인할 때, 게임이 재미있고 공정하도록 돕고 있어. 휴대폰이나 스마트 스피커의 똑똑한 목소리를 만들 때, 그것이 너의 개인 정보를 보호하도록 돕지. 새로운 기술이 태어날 때마다, 나는 그 기술이 사람들의 삶에 어떤 영향을 미칠지 개발자들이 생각하도록 돕는 작은 안내자야. 나는 우리가 인공지능과 함께 놀라운 미래를 만들어갈 때, 그 미래를 친절함, 공정함, 그리고 지혜로 만들 수 있다는 약속이야. 나는 내일의 멋진 세상이 모두에게 훌륭한 곳이 되도록 돕는단다.