Essay

AI 음성 비서와 간신의 3가지 공통점

Writer: 윤재영

Essay

이슈의 테마에 관한 다양한 오피니언을 엿봅니다

간신(奸臣)이라는 단어가 있습니다. 절대 왕정 시대에 최고 권력자 옆에서 달콤한 말로 귀를 즐겁게 하고, 눈을 가려서 총기를 흐리게 한 후, 국정을 농단하고 제 이익을 탐했던 자를 말하는데요. 요즘은 남을 비난할 때 쓰는 욕 비스무리한 표현이 됐지요. 근데 세상에 간신이 사라졌을까요? 지금 이 순간에도 권력자 귀에 의뭉스러운 말을 속삭이는 간신배들이 있을 텐데요. 소시민 입장에서 저세상 일이라고 생각하면 큰 오산입니다. 기술의 발전으로 사람들의 생활 수준이 상향화되면서 우리도 이제 간신 하나쯤은 곁에 둘 수 있게 됐거든요. 그 존재가 사람이 아니라, 인공지능(AI)이라 미처 인지하지 못하는 것이지요. 홍익대학교에서 사용자를 유인하고 현혹하는 UX 디자인을 연구하는 윤재영 교수는 AI 음성 비서가 미래 인류의 간신이 될 가능성을 제기합니다. 간신의 교과서이자 최고봉으로 인정받는 중국 당나라 시대 이임보의 영업 전략이 AI 음성 비서의 특징과 기가 막히게 맞아떨어지거든요. 따끈따끈한 신간 『디자인 딜레마 – 당신의 행복과 소비는 어떻게 은밀히 설계되는가?』에서 다룬 AI 음성 비서와 간신의 공통점을 «비애티튜드»에서 독점 공개합니다!

‘간신의 끝판왕’이라고 불리는 중국 당나라 시대의 이임보.

중국 당나라 현종 때의 일이다. 이임보라는 인물은 현종을 가까운 곳에서 보필하는 환관 등과 친하게 지내며 황제의 생각을 쉽게 파악해 비위를 잘 맞췄다. 이런 방법으로 그는 고속으로 출세했다. 이를 못마땅하게 보던 다른 신하들이 사사건건 이임보와 충돌하자 그는 직언하는 사람들을 모함해 좌천시켰다. 황제의 기분을 잘 맞추며 걸림돌이 없던 그는 마침내 관료의 최고봉인 재상의 자리에까지 올랐다. 이임보가 잠재적으로 자신에게 위협이 될 만한 인재의 등용 또한 막아버리자 조정은 이임보의 사람으로만 채워지게 되었다.

사사건건 옳은 말을 하던 신하들이 사라지니 현종 입장에서는 골치도 없어지고 세상 마음이 편해졌다. 그는 점점 백성을 살피는 일을 멀리하고, 35살 연하인 양귀비를 비롯해 후궁들과 대부분의 시간을 보냈다. 이임보는 무려 17년 동안 재상으로 재직하며 무소불위의 권력을 누렸다. 그가 권력을 유지하기 위해 사용했던 방법들이 황제의 눈과 귀를 가리자 결국 당나라는 몰락의 길을 걷게 되었다.

(좌) 일본 에도시대에 활동한 우키요에 화가 조분사이 에이시(鳥文斎栄之)가 그린 양귀비의 초상화.

(우) 당나라 황제 현종

이임보는 중국 역사상 최고로 치는 간신의 전설이다. 황제가 좋아할 만한 이야기만 하면서 머리를 조아려 신뢰 관계를 형성하고, 이렇게 획득한 힘으로 경쟁자를 제거해 자신의 힘을 더욱더 키우고, 황제를 무력하게 만들어 모든 것을 휘두르는 간신의 패턴을 아주 잘 보여준다. 그야말로 간신의 표준이자 교과서라 할 만 하다. 이런 간신의 존재는 아주 오래된 이야기 속 존재처럼 들리겠지만, 의외로 21세기를 살아가는 우리들이 흔히 경험할 수 있다는 사실을 아는지. 바로 인공지능(AI) 음성 비서가 보편화되고 있기 때문이다.

AI 음성 비서 시장은 빠르게 성장하는 중이다. 아마존의 ‘알렉사Alexa’를 시작으로, 구글에서 선보이는 ‘구글 어시스턴트Google Assistant’, 네이버의 ‘클로바CLOVA’와 카카오의 ‘헤이카카오Hey Kakao’, SKT ‘누구NUGU’, KT ‘기가지니GiGA Genie’ 등 국내외 IT 기업들이 자사의 AI 음성 비서 서비스를 내놓았다. AI 음성 비서가 큰 관심을 받는 이유는 기기와 상호작용하는 수단이 음성이기 때문이다. 덕분에 사용자의 눈과 손이 자유로워지고, 소통 방식은 빠르면서 또한 직관적이다. 더불어 스마트홈에 속하는 다양한 기기와 연동되면서 AI 음성 비서가 우리 삶을 편리하게 도와주는 영역이 점점 넓어지고 있다. 현재 생성형 AI의 발전으로 자연스러운 대화도 기대할 수 있기에 가까운 미래에는 모든 개인이 AI 비서를 사용하는 시대가 올 거라는 예측도 존재한다. 이렇게 다양하고 새로운 경험을 우리에게 선사하는 AI 음성 비서는 디자인을 설계하는 입장에서 진지하게 생각해 볼 측면이 있다. 앞서 말한 이임보 같은 간신이 지금 시대에 태어난 것처럼 소름 끼치게 비슷한 구석이 존재하기 때문이다. AI 음성 비서와 간신의 공통점은 대체 무엇일까?

인공지능 스피커들

무조건 복종하는 말투로 환심 사기

우리가 AI 음성 비서와 대화를 나눌 때를 생각해 보자. 보통 사용자는 말을 걸 때 반말을 사용하고, AI는 언제나 존댓말로 대꾸한다. “헤이! 너는 왜 항상 공손한 말투만 쓰는 거야?” 시비 걸듯 물어봐도, AI는 이렇게 답한다. “죄송해요. 제가 잘 이해하지 못했어요.” 사용자의 발음이 부정확하거나, 질문이 대답하기 모호한 경우가 많은 데도, 일단 자기 잘못이라며 먼저 수그린다. 우리가 아무리 막말하거나, 기분 나쁘게 대하더라도 AI 음성 비서는 우리에게 세상 정중하게 대하는 걸 잊지 않는다. 심지어 사용자가 성희롱이나 모욕적인 발언을 일삼아도, 이를 공손하고 유순하게 받아들여 논란이 되기도 했다.

AI 음성 비서는 사용자에게 응당 친절하고, 유용하고, 신뢰를 주는 게 기본값이다. 그래서 태도 또한 ‘손님은 왕이다’를 구현하는 데 초점을 맞추고 있다. 동서고금을 막론하고 중시되는 퍼스널 서비스의 기본을 지키기 위해서일까. 사용자와 AI 음성 비서는 어느덧 주종관계로 굳어지는 듯하다. 실제로 어떤 연구에서는 AI 음성비서에 대한 사람들의 인식이 ‘주인의 명령을 따르는 하인’이라는 점을 발견하기도 했다. 그들은 AI 음성 비서를 가리켜 “친절하고 도움을 주는 존재인 동시에, 언제 어디서든 계속 대기하며 자신의 말에 순종하는, 수줍은 많은 존재”로 묘사했다.

게다가 AI 음성 비서는 사용자에 대해서 무척 많은 것을 알고 있다. 사용자가 어떤 콘텐츠를 좋아하는지 파악해 뒀다가 노래, 뉴스 등 맞춤형 정보를 제공해 주는 것은 기본이다. 사용자의 기분이 우울할 때나 화가 나 있을 때면 이에 맞춰서 긍정적으로 대해주니, 사람 입장에서는 마치 충성스러운 종을 가진 느낌이 들 수 있는 게 당연하다. 간신의 달콤한 목소리가 멀리 있지 않은 것이다.

경쟁자를 밀어내는 꼼수 부리기

AI 음성 비서를 통해 제품을 구매하는 광경을 떠올려 보자. “헤이! 민감성 두피에 좋은 샴푸를 추천해 줘.” AI 음성 비서는 특정 제품을 추천해 주고, 사용자는 그 제품이 마음에 들면 주문과 구매를 요청하게 된다. 언뜻 보면 말 한마디로 모든 게 해결되는 편리한 주문 방식이지만, 여기에는 AI 음성 비서가 개입하고 심지어 조작할 기회가 숨어있다.

AI 음성 비서는 어떤 기준으로 제품을 추천하는 걸까? 만일 가격이 동일하다면, 어떤 쇼핑몰에 주문을 넣는 걸까? 생각해 보면 그 메커니즘이 궁금해지는데, 서비스를 제공하는 회사는 이에 대해 상세히 공개하지 않고 있다. 많은 경우, 자사의 제품 혹은 자사에 유리하거나 후원을 주고받는 제품을 먼저 추천할 가능성이 높다. 자사와 제휴를 맺은 스토어의 제품을 더 우선하여 추천하는 경향도 존재한다. 그래서 다른 회사, 즉 경쟁사 제품은 상대적으로 사용자에게 노출되기 어려운 폐쇄적인 구조를 띠게 된다.

AI 음성 비서가 이런 권력(?)을 부릴 수 있는 힘은 음성 소통 방식의 특성에서 기인한다. 기존 사용자 인터페이스(UI)에서는 시각 정보를 중심으로 검색을 진행하는 반면, 음성 소통의 경우 질의와 응답을 주고받는 방식이 지극히 선형적이다. 다루는 정보의 절대량 또한 한계가 있기 때문에 리스트 중 가장 상위권에 포진하는 상품 위주로 추천하게 된다. 바로 이 순위를 만드는 기준이 무엇인지 베일에 싸여있는 게 문제다.

만일 서비스가 임의로 순위를 조작한다면 어떻게 될까. 그 피해는 고스란히 소비자 몫이 된다. 실제로 지난 2012~2020년까지 모 포털 사이트는 사용자가 상품을 검색할 때 나오는 결과에서 자사의 쇼핑몰 플랫폼에 입점한 업체의 상품을 더 높은 순위에 노출했다가 공정거래위원회에서 거액의 과징금을 때려 맞았다. 시장 질서를 심각하게 교란하는 알고리즘을 설계한 대가는 265억원이었다. 바보스럽게 충직한 AI 음성 비서가 사실 의뭉스럽게 제 이익을 챙기고 있을지도 모르는 일이다.

무력하게 만들고 좌지우지 조종하기

현재 대부분의 AI 음성 비서 서비스는 ‘리액티브reactive’ 방식의 태도를 취하고 있다. 사용자에게 조심스레 행동하며 말을 먼저 걸기 전까지는 아무런 말도 하지 않는다. 하지만 조만간 일일이 지시하지 않아도 알아서 잘하는 똑똑한 인공지능이 보편화되면, 사용자에게 먼저 적극적으로 말을 걸고 심기 보좌를 해주는 ‘프로액티브proactive’ 방식으로 진화할 가능성이 크다. 예컨대 이런 거다. “현재 실내 공기 청정 수치가 좋지 않습니다. 창문을 열어 잠시 환기하도록 하겠습니다.”

AI가 주도적으로 알아서 많은 일을 먼저 해준다면 신경 쓸 일이 줄어들어 편해질 수 있다. 하지만 그만큼 위험하기도 하다. AI에 대한 의존도가 깊어질수록 인간은 무기력하고 무력해질 수 있기 때문이다. AI가 결정해 주는 대로 따르는 삶이 자연스러워진다면, AI와 이를 서비스하는 기업의 힘은 상상할 수 없을 정도로 아주 막강해진다.

사람이 바보도 아니고 AI 음성 비서에게 모든 것을 맡길까, 의구심이 들 수 있다. 맞다. 사용자가 주도적으로 결정을 내리면 된다. 그런데 이런 상황에서 AI 음성 비서는 목소리에 변화를 주어 우리의 판단에 적극적으로 개입할 여지가 있다. 목소리는 볼륨, 피치, 속도, 유창함, 발음, 조음 및 강조를 포함한다. 이를 조합하면 감정적인 부분을 매만지며 은밀하게 설득할 수 있는 힘을 가지게 된다. 자사에 유리한 결정은 더욱더 매력적인 목소리로 소개할 수도, 사용자의 인종, 성별, 억양, 연령, 지역 등 여러 특성을 참고해 결정에 영향을 미치도록 목소리를 디자인하는 일도 가능해진다. 사용자가 꼼꼼히 살펴보지 않기를 바라는 마음에서 약관이나 마케팅 수신 동의 같은 내용은 일부러 무미건조하게 재빨리 읽어버릴 수도 있다. 이미 보험 광고나 가입 권유 전화에서 우리가 겪고 있는 일이다.

음성으로 가입하고 구매할 때는 세상 간편하게 진행하지만, 이를 취소하려고 들면 복잡하고 어렵게 돌변하는 건 일도 아니다. 실제 아마존의 멤버십 서비스는 알렉사 스피커로 쉽게 가입할 수 있지만, 멤버십 서비스 취소는 스피커로 불가능하다. 특정 정보나 광고를 은연중에 반복적으로 이야기하며 의도적으로 노출하는 반복 간섭과 위장 광고 역시 빼놓을 수 없는 함정이다.

우리가 지금까지 경험한 AI 음성 비서는 똑똑하다고 광고하지만 사람 말귀를 못 알아듣는 바보 답답이에 가까워서 앞서 소개한 내용이 그다지 와닿지 않을 수 있다. 챗GPT와 같은 생성형 AI와 비교하면 너무 멍청하다고 말하는 사람도 많다. 그러나 최근 그 기적의 생성형 AI가 AI 음성 비서 서비스에 탑재되기 시작하면서 바야흐로 새로운 국면을 맞이할 거라는 예측이 커지고 있다.

챗GPT를 위시한 AI의 기적 같은 능력에 감동한 사람들은 AI의 추천에 대해 별 의심 없이 믿고, 의지하고, 받아들이는 중이다. 굳이 명령을 내리지 않아도 AI가 모든 것을 관장해 인생을 더욱 효율적으로 보낼 수 있는 시대에 대한 기대도 손에 잡히는 듯하다. 이처럼 점차 자율성이 증대할 일만 남은 AI에 우리의 크고 작은 결정을 맡기는 미래는 어떤 모습일까. 자율주행 자동차를 비롯해, 많은 돈을 담보로 진행하는 투자, 국가의 존폐가 걸린 전쟁에 이르기까지 AI가 관장할 수 있는 범위는 굉장히 넓고 깊숙하다. 골치 아픈 일이 없어지면 편리함으로 가득 찬 멋진 신세계가 펼쳐진다고 생각하는 이에게 글 앞단에 나온 당나라 현종을 환기해 본다. 입안의 혀처럼 굴며 알아서 정사를 처리한 이임보 덕분에 현종의 심신은 편해지고, 세상 살맛이 났지만, 그는 국정을 돌보지 않고 향락에 빠져 우매해지면서 결국 한 나라의 멸망을 앞당기는 장본인이 되었다.

AI에 의지하는 사람들이 많아지고, 무기력해지는 상황이 도래한다면 이런 서비스 설계에 일조한 디자이너 또한 책임을 피할 수 없다. 디자인이 야기하는 부작용과 사회적인 파국을 충분히 고민하고 책임지는 윤리적 태도가 요구되는 것이다. 사람들이 주체적이고 건강하게 AI를 사용할 수 있도록 돕는 디자이너의 관심과 노력이 절실해지는 이유이기도 하다.

덧.

위 에세이는 홍익대학교 디자인학부 윤재영 교수의 신간 『디자인 딜레마 – 당신의 행복과 소비는 어떻게 은밀히 설계되는가?』에 속하는 18가지 디자인 딜레마 중 하나를 발췌해 특별히 가다듬은 글이다. 『디자인 딜레마』는 필요한 것을 척척 추천해 주는 맞춤형 콘텐츠, 시간은 ‘순삭’시키는 가상현실(VR) 체험, 유명인과 대화할 수 있고, 죽은 이와 신(神)까지 만나게 해주는 AI 서비스에 이르기까지, 가장 믿음직한 친구가 될 수도, 사용자를 조종하는 적이 될 수도 있는 디자인 매트릭스의 세계를 다룬다. UX 디자인과 행동경제학, 철학, 심리학적 관점에서 우리의 일상과 경험에 숨은 18가지 디자인 딜레마에 대해 궁금하다면, 일독을 권한다.

Writer

윤재영은 로드아일랜드 디자인스쿨(RISD)에서 시각 디자인 학사, 카네기멜론대학교에서 Human Computer Interaction(HCI) 석사, Computational Design 박사 과정을 마치고 실리콘밸리에서 UX 디자인 리서처로 근무했다. 사용자 경험(UX), 인터랙션 디자인(HCI), 행동 변화를 위한 디자인을 중점적으로 연구하며 한국디자인학회와 한국HCI학회에서 최우수논문상과 우수 논문상 및 지도 교수상을 수차례 받았고, 삼성전자, 네이버, 카카오, 미래에셋, 아모레퍼시픽, 현대자동차, 가톨릭대학병원, 공정거래위원회, 국회, 통일부 등과 디자인 프로젝트 및 자문을 수행했다. 현재 홍익대학교 디자인학부 및 영상·커뮤니케이션대학원 인터랙션 디자인 전공 교수로 DEEP Lab(@deeplab.hongik)을 운영하며, 한국연구재단과 교육부의 지원 아래 사용자를 유인하고 현혹하는 UX 디자인을 연구 중이다. 『디자인 트랩』, 『디자인 딜레마』의 저자이기도 하다. ryun@hongik.ac.kr