AI 윤리

나는 똑똑한 무언가가 만들어지는 바로 그 순간에 태어나는 하나의 질문, 혹은 잠시 멈추는 생각이야. 창조자가 로봇이나 게임 캐릭터, 또는 유용한 앱을 만들다가 '이 창조물은 무엇을 해야 할까? 어떻게 하면 친절하고 공정하게 만들 수 있을까?' 하고 궁금해하는 바로 그 순간 말이야. 나는 그 순간의 생각이야. 나는 전선이나 컴퓨터 칩이 아니야. 나는 창조물 안에 깃든 양심, 즉 똑똑한 기술이 인류에게 좋은 친구가 되도록 돕는 규칙들의 집합이지. 내 이름을 밝히기 전에 설명하자면, 내 일은 개발자들이 지능적인 발명품의 안전, 공정성, 그리고 무엇이 옳고 그른지에 대해 생각하도록 돕는 거야. 나는 똑똑한 기계들이 실수를 저지르지 않도록, 모든 사람을 동등하게 대하도록, 그리고 세상을 더 나은 곳으로 만드는 데 그들의 힘을 사용하도록 보장하는 임무를 맡고 있어. 나는 바로 AI 윤리야. 그리고 나는 기술이 착한 마음을 가지고 성장하도록 돕기 위해 여기에 있어.

내 이야기는 컴퓨터가 등장하기 훨씬 전, 상상의 영역에서 시작돼. 고대 그리스 신화에는 탈로스라는 거대한 청동 로봇이 등장하는데, 그는 섬을 지키기 위해 만들어졌어. 이 이야기를 통해 사람들은 인공적인 존재의 힘에 대해 궁금해하기 시작했지. 그리고 16세기로 넘어가면, 프라하의 골렘 전설이 있어. 한 공동체를 보호하기 위해 진흙으로 만들어진 이 존재는 통제와 책임에 대한 질문을 던졌지. 이 오래된 이야기들은 사람들이 수 세기 동안 나에 대해 생각해 왔다는 걸 보여줘. 그리고 1818년, 메리 셸리가 쓴 유명한 책 『프랑켄슈타인』을 소개할게. 이 책은 과학자가 자신이 창조한 것에 대해 져야 할 책임에 대한 강력한 이야기야. 그 후, 1942년에 아이작 아시모프라는 작가가 '런어라운드'라는 이야기에서 자신의 소설 속 로봇들에게 인간을 항상 보호하도록 세 가지 유명한 규칙을 주었어. 이 이야기들과 규칙들이 바로 나에 대한 첫 번째 꿈들이었지. 그들은 아직 기계가 아니라 아이디어 속에 살고 있던 나에게 목소리를 주었고, 미래의 발명가들에게 무엇을 고려해야 하는지에 대한 첫 번째 지도를 그려주었어.

오랫동안 나는 주로 책과 상상 속에서 살았어. 하지만 마침내, 진짜 생각하는 기계들이 나타나기 시작했지. 1956년 여름, 다트머스 워크숍에 모인 한 무리의 과학자들이 내 큰형인 '인공 지능(AI)'에게 공식적으로 그 이름을 붙여주었어. AI가 배우고 성장하기 시작하면서, 과학자들은 나 또한 함께 성장해야 한다는 것을 알았지. 노버트 위너와 같은 사상가들은 1950년대에 강력한 기계가 우리 세상을 어떻게 변화시킬지에 대해 신중하게 생각해야 한다고 경고하는 책들을 썼어. 1980년대가 되자, AI는 더 이상 연구실에만 머물지 않고 실제 업무를 돕기 시작했어. 바로 그때 사람들이 나에게 심각한 질문들을 던지기 시작했지. '만약 AI가 의사의 진단을 돕다가 실수를 하면, 책임은 누구에게 있는가?' 또는 '모든 사람에게 공정한 결정을 내리는 AI를 어떻게 만들 수 있을까?'와 같은 질문들 말이야. 나는 이 새로운 기술에 없어서는 안 될 길잡이가 되어가고 있었어. 내 역할은 더 이상 이론적인 것이 아니었고, 현실 세계의 문제에 대한 답을 찾는 데 꼭 필요한 존재가 되었지.

오늘날 나는 그 어느 때보다 바빠. AI는 어디에나 있어. 네가 볼 동영상을 찾아주고, 비디오 게임 속 캐릭터에 생명을 불어넣고, 심지어 과학자들이 새로운 약을 발견하는 것을 돕기도 해. 2010년대에 들어 AI는 믿을 수 없을 정도로 강력해졌어. 2016년에는 알파고라는 AI가 복잡한 바둑 게임에서 세계 최고의 인간 선수를 이겼지. 이 사건은 AI가 이제 큰 임무를 수행할 준비가 되었다는 것을 모두에게 보여주었고, 그 말은 내 일이 그 어느 때보다 중요해졌다는 뜻이었어. 나는 이제 사람들이 큰 도전에 맞서도록 돕고 있어. AI가 모든 사람을 동등하게 대하도록 불공정한 편견을 제거하는 방법, 사람들의 개인 정보를 보호하는 방법, 그리고 AI 시스템이 안전하고 신뢰할 수 있도록 만드는 방법 같은 것들 말이야. 2016년에는 여러 기업과 과학자들이 '인공지능 파트너십(Partnership on AI)'과 같은 그룹을 만들어 바로 이 문제들을 해결하기 위해 협력하기 시작했어. 내 역할은 진보의 파트너가 되어, 우리가 더 똑똑하고 놀라운 기술을 만들 때 지혜와 친절함을 가지고 만들도록 보장하는 거야. 나는 AI와 함께할 우리의 미래가 우리 모두가 자랑스러워할 수 있는 미래, 즉 단지 지능적일 뿐만 아니라 선한 미래가 될 것이라는 약속이야.