한번 실수는 병가지상사? AI 쇼핑선 병가지끝장!

英 소비자 60% 한번 삐끗하면 바꿀 수도, 되돌릴 수도..

 

한번 실수는 병가지상사(兵家之常事)라고?

영국 소비자들 가운데 60%가 단지 한번의 착오(mistake)가 발행했더라도 인공지능(AI) 에이전트의 사용을 중단할 것이라고 답해 얼핏 놀라움이 앞서게 하고 있다.

같은 맥락에서 69%의 영국 소비자들은 설령 그들이 수립한 규칙을 준수하더라도 인공지능을 신뢰하지 않는다는 답변을 내놓아 주목할 만해 보였다.

미국 네브라스카주 최대도시 오마하에 소재한 디지털 결제‧금융 소프트웨어 기업 ACI 월드와이드(ACI Worldwide)는 시장조사기관 유고브(YouGov)에 의뢰해 총 2,080명의 18세 이상 영국 성인 대표 표본집단을 대상으로 6월 19~22일 온라인상에서 진행한 후 같은 달 29일 공개한 설문조사 결과를 통해 이 같이 밝혔다.

이날 공개된 조사결과는 인공지능과 의사결정권자인 사람 사이에 신뢰의 간극이 상당한 수준으로 존재함을 뒷받침하는 것이어서 인공지능 쇼핑 에이전트가 폭넓게 선택되는 데 핵심적인 장애물이 무엇인지를 가늠케 했다.

조사결과를 보면 지능형 인공지능 비서를 의미하는 인공지능 어시스턴트(AI assistants)가 정해진 규칙을 준수하면서 일상적인 구매결정을 내려줄 것이라는 점에 신뢰감을 갖고 있다고 답한 응답률이 19%에 그쳐 전문가 또는 조언자를 신뢰한다고 답한 응답률 55%에 크게 미치지 못했다.

이와 관련, 인공지능 쇼핑 에이전트는 조사‧비교를 행할 수 있는 데다 소비자의 허락을 전제로 구매까지 완료할 수 있는 도구로 각광받기에 이른 것이 최근의 추세이다.

ACI 월드와이드의 설문조사는 결제 서비스 제공업체들과 기술 플랫폼들이 갈수록 이 같은 도구들을 비단 제품을 발견할 때 활용하는 단계에 그치지 않고 지불‧결제에 적용하는 단계에까지 근접하고 있는 가운데 이루어진 것이다.

ACI 월드와이드의 아드리아나 요단 지능형 결제 담당대표는 “이번 조사결과를 보면 확실히 소비자들이 보다 스마트한 쇼핑을 위해 인공지능의 도움을 받는 데 열린 마인드를 나타내고 있음을 뒷받침하고 있다”고 말했다.

하지만 그 같은 추세는 의사결정과 금전 두가지 모두 확고한 통제가 이루어지고 있음을 전제로 나타나고 있는 것이라고 요단 대표는 지적했다.

소비자들이 재정에 관한 자신의 통제권을 아무런 안전장치 없이 자율 에이전트(autonomous agent)에게 넘기지 않을 것이라는 사실을 이번 조사결과가 명확하게 드러내 주었다는 것이다.

이는 능력의 간극에 관한 것이 아니라 신뢰와 믿음의 간극에 관한 것이라고 덧붙이기도 했다.

요단 대표는 “선택받기를 원하는 기업들은 명시적인 승인을 받고, 지출한도를 견고하게 설정해야 하고, 결제내역을 보호해야 하며, 문제가 발생했을 때 명확한 책임 소재를 정하는 등 능력보다 통제에 우선순위를 두어야 할 것”이라고 강조했다.

실제로 조사결과를 보면 인공지능이 도구의 하나로 수용되고 있지만, 결정권자의 권한을 부여하고 있지는 않은 것으로 나타났다.

소비자들이 보조도구(support tool)의 하나로 인공지능에 열린 마인드를 나타내고 있지만, 인공지능에 더 많은 자율권이 부여될 경우 신뢰가 붕괴할 것이라는 데 입을 모았기 때문.

바꿔 말하면 소비자들이 도움을 주는 인공지능의 결정에 편안함을 느끼고 있지만, 결정 자체를 인공지능이 내릴 경우 깊은 불편함을 느끼고 있는 만큼 명확하게 선이 그어져 있어야 한다는 데 동의하고 있다는 설명이다.

구체적인 예를 들면 첫째로, 설문조사에 응한 소비자들의 50%가 가장 적정한 가격대의 상품을 찾아내고자 할 때 인공지능을 신뢰하고 있다고 답했지만, 43%는 인공지능이 지출한도를 준수할 때 신뢰한다고 답했음이 눈에 띄었다.

마찬가지로 인공지능이 자신의 최대 금전적 이익을 위해 가동되고 있다는 데 믿음을 표시한 응답률은 18%에 그쳤다.

개인적인 결제 자료의 보안유지와 관련해서 인공지능을 신뢰한다고 답한 비율이 17%, 문제가 발생했을 때 인공지능이 문제를 해결해 줄 것이라 믿는다고 답한 비율 또한 15%에 그쳤을 정도.

둘째로, 금전적 인센티브가 걱정스러움을 극복하게 해 주지는 못하고 있는 것으로 나타났다.

이번 조사에서 비용절감만으로 소비자들의 마음을 사로잡는 데는 충분하지 못했음이 눈에 띄었던 것.

심지어 44%의 응답자들은 비용절감과 무관하게 인공지능 쇼핑 에이전트를 신뢰하지 않는다고 답했고, 15% 이상의 비용절감을 가능케 했을 때 비로소 인공지능을 신뢰할 것이라고 응답한 비율이 4명당 1명 꼴에 달해 시선이 쏠리게 했다.

셋째로, 인공지능의 자율성이 가장 강력한 거부감을 촉발시키는 트리거(즉, 방아쇠)의 역할을 하고 있는 것으로 나타났다.

인공지능 에이전트가 독립적으로 가동되거나 민감한 금융자료에 접근했을 때 우려감이 심화된다는 반응이 많았기 때문.

인공지능 에이전트가 주도하는 상거래에 근본적인 불편함을 갖는 시간이 그만큼 팽배해 있다는 의미이다.

조사결과를 보더라도 70%의 응답자들이 묻지도 따지지도 않고 구매를 진행했을 경우 인공지능 쇼핑 에이전트를 이용하고자 하는 의향에 영향을 미칠 것이라고 답했고, 54%는 자신이 온라인에서 검색한 전체적인 내용이 인공지능 에이전트 사용의향에 영향을 미칠 것이라고 답변했다.

넷째로, 문제가 발생했을 때 소비자들은 비난하기를 주저하지 않는 것으로 나타났다.

조사에 응한 영국 소비자 대부분이 인공지능 제공자에게 직접적인 책임이 있다는 믿음을 내보여 새롭게 떠오르고 있는 다수의 상거래 모델들이 아직까지 소비자들에게 접근하지 못하고 있는 이유를 짐작케 한 것.

한 예로 54%의 응답자들은 인공지능 에이전트를 선보인 기술‧인공지능 기업들이 책임지고 환불해 주어야 한다는 데 입을 모은 반면 유통기업에 책임이 있다고 답한 응답자들은 9%에 머물렀다.

3%는 은행 또는 카드 발행업체들에게 비난의 화살을 돌렸다.

나섯째로, 어떤 조직도 신뢰를 물려받을 수는 없는 것으로 나타났다.

인공지능 기반 쇼핑‧결제를 운영하고 관리하는 기업들을 신뢰하지 않는다고 답한 소비자들의 응답률이 59%에 달했을 정도.

이에 따라 은행이나 기타 규제를 준수하고 있는 금융결제 기업들을 신뢰한다고 답한 응답률이 그래도 20%에 달한 것으로 나타난 반면 기술기업이나 유통기업을 신뢰한다고 답한 비율은 이에 훨씬 미치지 못하는 4%에 그쳤다.