일부 전문가들은 ‘사용한 사람이 나쁜 것이지 도구 자체가 나쁜 것은 아니다’라는 오랜 믿음이 무참하게 깨질 수 있다고 본다. 학습 능력을 갖춘 자율적인 인공지능은 성장 과정에 따라 착한 성향 또는 나쁜 성향을 가질 수도 있다는 것이다.
브루킹스 연구소(Brookings Institution)에서 군사용 로봇 관련 연구로 유명한 피터 싱어(Peter W. Singer) 등 일부 전문가들은 영국 레딩대(University of Reading) 연구팀의 한 연구 프로그램을 그 같은 주장의 근거로 든다. 당시 프로그램의 목적은 인간이 관여하지 않은 상태에서 로봇들이 서로 상호 작용하는 법을 학습하고 성격까지 개발할 수 있는가를 연구하는 것이었다. 실험 방법은 달팽이 수준의 지능(신경세포 50개)을 가진 소형 로봇들에게 보상, 처벌 시스템에 기반을 두고 서로 회피하게 하는 프로그램을 입력한 후 밀폐된 공간에 함께 넣어서 어떻게 변해가는가를 관찰하는 식이었다. 시간이 지남에 따라 각각의 로봇들이 어떤 행동을 많이 하고 어떤 성향을 보이는지 추적하기 위해서였다. 실험 결과에 따르면, 활동 경험이 쌓일수록 로봇들의 개성은 점점 뚜렷해지는 경향을 보였다고 한다. 늘 서로 돕는 착한 로봇과 항상 상대를 공격하는 나쁜 로봇, 멍청하거나 자해적인 로봇, 지속적으로 최악의 선택을 하는 로봇 등으로 각각 진화해버렸다는 것이다. 이 같은 레딩대의 연구는 인공지능이 굳이 우수한 학습 능력을 지니지 않더라도 학습 내용에 따라 착한 행동 또는 나쁜 행동을 선별적으로 반복하는 성향을 가진 개별적인 존재로 성장할 가능성도 있다는 것을 보여주었다.
최근에는 ‘나쁜 인공지능’이 실제로 등장하는 상황이 벌어졌다. 딥 러닝(Deep Learning) 방식의 학습 기법이 적용된 최신의
인공지능이 성장하면서 나쁜 성향을 드러낸 것이다. 그 주인공은 마이크로소프트(Microsoft)가 2016년 3월 23일 소개한 딥러닝(Deep Learning) 방식의 인공지능 챗봇(Chatbot) 테이(Tay, Thinking About You)이다.
본래 테이(Tay)는 19세 미국 여성의 대화 패턴을 모방해서 트윗(Tweet)을 통해 18~24세 연령층과 즐거운 대화를 하도록 개발된 인공지능이었다. 그러나 가동되고 얼마 지나지 않아 인종차별적이거나 성폭력적인 발언을 서슴없이 하는 등 온갖 논란을 불러일으키기 시작했다.2 그래서 마이크로소프트(Microsoft)는 불과 16시간 만에 테이(Tay)의 가동을 중단시켰고, 일주일이 지난 3월 30일 잠시 재가동했다가 완전히 운영을 중지했다. 알려진 조사 결과에 따르면, 테이가 폭력적인 발언을 하도록 성장한 이유는 백인우월주의자, 여성 혐오자, 무슬림 혐오자 등 편향된 성향을 지닌 사람들이 차별적인 발언을 유도하면서 나쁜 지식을 집중적으로 학습시켰기 때문인 것으로 추정되었다. 결국 최신의 인공지능조차도 인간과 마찬가지로 어떤 경험을 쌓으면서 성장하느냐에 따라 성격이 달라질 수 있다는 사실이 입증된 것이다.
이처럼 현재의 인공지능은 레딩대 연구에서와 같이 경험의 축적을 통해서든 테이(Tay)처럼 인간의 의도된 학습에 의해서든 간에 고유의 성향을 가질 수 있는 존재이다. 그렇지만 스스로 의도적으로 변하는 존재라기 보다 학습 내용과 과정에 따라서 다양한 성향을 가질 수 있는 가치 중립적인 존재로 보는 것이 타당할 것으로 보인다. 인공지능 전문가들은 강한 수준의 인공지능이 등장하기 전에는 이러한 속성이 당분간 유지될 것으로 예상한다.

인공지능의 윤리는 결국 개발자와 사용자의 윤리와 직결
법학적으로 보면, 인공지능, 로봇과 같은 인공적인 시스템은 어떤 작업을 수행하거나 그 결과에 대해 책임을 져야 한다는 점에서 이미 행위자(Agents), 즉 인과적 행위자(Causal Agents)라는 의미를 가지고 있다고 간주된다. 윤리적 측면에서는 어떤 주체가 자기의 이익과 윤리적 지침이 서로 다를 수 있다는 점을 인식할 수 있으면 윤리적 의사 결정 능력을 가진다고 본다. 주관적, 선천적 감각에 의존하지 않더라도 일반적인 윤리적 기준에 맞춰 행동을 통제하고 그 결과를 평가할 수 있어야 한다고 보는 것이다. 그 결과, 윤리적 행위자의 범위는 인간을 넘어 인공지능이나 인공지능을 탑재한 로봇에까지 확대된다. 이런 시각을 바탕으로 로봇윤리에서는 인공지능, 로봇 등의 인공적인 피조물을 ‘인공적 윤리 행위자(Artificial Moral Agents, AMA)’라고 부른다.
컴퓨터윤리의 창시자 중 한명인 제임스 무어(James Moor)가 윤리적 행위와의 관계에 따라 AMA를 몇 가지 범주로 분류1한 이후, 많은 연구자들이 인공지능, 로봇을 대하는 시각을 종합하면 ① 단지 기계에 불과한 존재, ② 인간의 의지를 구현하는 기계적 수단, ③ 그 자체가 인공적인 윤리적 행위자, ④ 별도의 도덕과 지능을 가진 완전히 다른 하나의 종이란 4가지로 구분된
일반 기계처럼 행동에 대한 평가를 받는 ‘윤리적 영향 행위자(Ethical Impact Agent)’, 윤리적으로 나쁜 행동을 하지 않도록 개발자들이 설계하는 ‘내재적 윤리 행위자(Implicit Ethical Agent)’, 스스로 윤리에 대해 판단할 수 있는 ‘명시적 윤리적 행위자(Explicit Ethical Agent)’, 인간과 같은 ‘완전 윤리 행위자’의 4대 범주의 위계 체계로 분류
다. 이중에서 인공지능을 완전한 도덕적 행위자로 간주하는 의견은 많지 않아 보인다. 아직 인공지능이 스스로의 행위에 대해 책임과 권리를 소유하지 않고 있고, 스스로 해야 할 행위와 하지 말아야 할 행위를 선택하는 시스템을 충실히 지킬 능력도 부족하므로 완전한 도덕적 행위자로 보기 힘들다고 보는 것이다.
그 결과, 실질적인 윤리의 주체는 오직 인간에 한정(①의 경우)되거나, 일정한 범위에서 로봇을 포함(②, ③의 경우)하기도 한다. 로봇을 독립적인 종으로 간주하는 극단적인 경우(④의 경우)를 제외하면 윤리적 문제는 모두 인간의 문제가 되는 것이다. 여기에서 인간을 로봇과의 관계에 따라 개발자와 사용자로 구분하게 되면, ①, ②의 경우에는 사용자가 중요한 윤리의 주체가 되고, ③의 경우에는 개발자가 핵심적인 윤리의 주체가 된다.
모든 경우를 종합하면, 결국 로봇과 관련한 윤리적 문제는 개발자와 사용자의 문제가 된다고 볼 수 있다. 만일 개발자가 선한 목적으로 만들고 사용자가 좋은 의도로 사용하면 착한 로봇이 될 것이고, 반대의 경우라면 나쁜 로봇이 될 것이다. 결국 개발자와 사용자가 가진 철학적, 윤리적 가치관은 인공지능, 로봇의 확산에 따른 부작용 방지와 문제 해결을 좌우하는 중요한 기반으로 작용하는 것이다

출처 : LG경제연구원