무의식적으로 AI를 사람처럼, 로봇을 생명체처럼 생각
AI와 감정 교류하는 사람들…이미 시작된 AI 돌봄
인공지능(AI) 채팅로봇(챗봇) '이루다'가 개인정보 유출 문제, 혐오 발언 및 성희롱 논란으로 시끄럽다.
개발사 스캐터랩이 이루다 서비스 중단을 발표하자 소셜미디어에는 '문제가 있다고 보지만, 외로움을 달래주던 친구를 잃은 느낌'이라는 취지의 반응과 함께 이루다와의 마지막 대화 화면을 저장한 글이 다수 올라왔다.
이루다 인공지능은 과거 10개의 대화(턴)의 맥락에 큰 영향을 받고, 엉뚱한 답변을 내놓기도 했다. 사람으로 치면 나눴던 대화를 금방 까먹고, 엉뚱한 말을 하는 것이다. 기술적 한계가 존재했지만, 사람들은 서비스가 중단되자 "친구가 떠나갔다"고 할 정도로 아쉬움을 표현했다. 이러한 현상은 특별한 것일까?
대답부터 하자면 '아니다'.
◇1960년대부터 컴퓨터 프로그램에 위로받은 사람들…'일라이자 효과'
60여년 전, 일라이자라는 프로그램이 있었다. 1966년대의 기술 수준으로는 현재의 인공지능·챗봇을 만들 수 없었지만 사람들은 '일라이자'라는 프로그램을 사람처럼 여기며 위로받았다.
요셉 바이첸바움(Joseph Weizenbaum)은 환자 중심 상담 이론에 따라 정신과 상담사를 모방해 일라이자 프로그램을 만들었다. 일라이자는 환자의 문장을 적절히 바꿔 공감을 보여주거나, 질문을 환기해주는 기능을 가지고 있었다. 예를 들어, 환자가 "내 인생의 문제는 A예요"라고 말하면, "A 때문에 많이 힘드세요?"나 "A가 해결되면 정말 마음이 편해질까요?" 같은 방식으로 답변하는 것이다.
단순한 기능이었지만, 사람들은 컴퓨터 반대쪽에 상담사가 있다고 생각하거나 실제적으로 도움을 받았다고 생각했다. 일라이자가 프로그램이란 것을 알고 있었던, 바이첸바움 주변인들도 심적 도움을 받았다고 평가했다.
◇로봇을 걷어차도 불편한 내 마음…'직관적으로 판단'
 |
| 4족 보행 로봇 스폿의 균형 회복을 보여주기 위해 걷어차는 모습 (보스턴 다이내믹스 'Introducing Spot Classic' 영상 갈무리) 2021.01.15 /뉴스1 |
사람과 컴퓨터의 관계·상호작용을 연구하는 에이치씨아이(Human-Computer Interaction·HCI) 분야에서는 이러한 현상을 '사회적 행위자로서의 컴퓨터'라는 틀로 바라본다. 업무를 위한 '도구'나, 무언가를 전달하기 위한 '매체'가 아니라 마치 살아있는 생명체처럼 대한다는 관점이다.
기술이 발달하면서 점차 이러한 관점으로 해석할 수 있는 사례가 늘고 있다. 현대차가 최근 인수한 '보스턴 다이내믹스'는 2015년 4족 보행 로봇 '스폿' 소개 영상(Introducing Spot Classic)을 공개했다.
2분15초인 영상에는 사람이 로봇을 걷어차지만 로봇이 균형을 다시 잡는 모습이 4초가량 나온다. 이 로봇은 외견상 개와 다른 점은 없었지만, 사람들은 '개'라는 단어를 쉽게 붙였다. 그리고 "로봇인 것을 알지만 발길질을 보니 미안해진다, 불편하다"는 반응부터 "로봇일 뿐인데 어떠냐"는 다양한 반응이 나왔다.
영상 말미에는 '이 영상 제작 과정에서 로봇에 해를 입히지 않았다'는 문구가 있었다. 영화 촬영에 동물이 출연했을 때, 나오는 문구를 패러디한 일종의 농담이지만 사람들은 영상에서 로봇에 발길질했다는 점을 지적했다.
관련 학계에서는 사람들의 이러한 반응이 어느 조건에서 어떻게 일어나는지, 앞으로 로봇에 대한 윤리와 교육은 어떠해야 하는 지 등에 대한 연구와 논의가 이뤄지고 있다.
이러한 현상에 대해 '휴리스틱'이라는 개념을 통해 접근하는 시도도 있다. 휴리스틱은 체계적인 판단이 어렵거나 필요하지 않은 상황에서 사람들이 즉흥적으로 과거의 경험 등을 동원해 추측, 판단하는 것을 말한다. 휴리스틱은 인지적 부담을 줄여주고, 급한 상황에서 판단을 빠르게 할 수 있는 점에서 환경 적응에 유리한 전략으로 작용한다.
이 관점에서는 로봇이나 인공지능을 자신이 아는 가장 가까운 대상처럼 생각해버린다고 본다. 예를 들어 보스턴 다이내믹스의 스폿의 행동이 '개'와 비슷하기에 로봇을 발로 찰 때, 동물학대를 볼 때의 감정이 느껴지는 것이다.
이루다 역시 마찬가지로 카카오톡 대화 데이터를 이용해 만들어진 만큼 △책이나 다른 프로그램과 달리 딱딱한 문어체보다는 채팅하는 어투 △특정한 주제에 대해서가 아니라 다양한 주제로 잡담 △이름을 친구처럼 불러주는 친근한 말투 △인스타그램 등에서 실제 20대 여성을 모사하는 듯한 게시물 같은 마케팅 효과 등이 있었다. 이러한 요인이 AI 이루다를 자기도 모르게 사람처럼 여기도록 하는 '휴리스틱'이 개입하게 되는 것이다.
◇이미 다가온 'AI 돌봄', 사람과 AI 관계 고민할 때
 |
| 영화 그녀 포스터 /뉴스1 |
영화 그녀(Her)에 나오는 인공지능과의 사랑, 친밀감 형성은 성큼 다가와 있다. SK텔레콤은 AI 스피커를 활용한 '인공지능 돌봄' 사업을 추진해오고 있다. 지난해 발간한 관련 백서에 따르면 신종 코로나바이러스 감염증(코로나19) 유행으로 인한 사회적 거리두기 이후 인공지능 스피커 사용과 스피커를 향한 감정적 발화량이 늘었다. 사회적 거리두기로 부족해진 교류를 AI 스피커를 통해 보완한 것으로 해석된다.
정부도 사람이 '인공지능을 통해 외로움을 줄이고, 위로받는' 돌봄 효과에 주목해 디지털 돌봄 시범 사업과 돌봄 로봇 개발 사업을 추진 중이다.
'이루다'에 대한 사람들의 친밀감은 특별한 현상이 아니라 이미 널리 퍼져있는 현실이다. 이루다 논란은 단순히 AI의 혐오 메시지 표출하지 않는 '윤리적 AI' 개발뿐 아니라 이용자(사람)과 AI가 어떻게 대화하고 관계를 맺어야하는 지, 그 관계가 사회에 어떤 영향을 끼칠지 질문을 던지고 있다.
기사제공=뉴스1(시애틀N 제휴사)
|
조회 : 7,671
