[GK뉴스온]AI가 대신 장보고 결제까지…내 정보는 어디까지 맡길까

 [GK뉴스온=안재민 디지털팀장]

인공지능(AI)이 물건을 골라주는 데서 그치지 않고 결제까지 대신해 주는 쇼핑이 국내에서도 시작된다. 네이버는 올해 안에 일부 상품을 대상으로 ‘AI 쇼핑 에이전트' 안에서 바로 결제하는 기능을 시험 운영할 계획이다. 이 서비스를 거친 하루 평균 거래 금액은 8월 기준 3월보다 약 4배로 늘었다.

편리해지는 만큼 AI가 알게 되는 내 정보도 집 주소와 카드 정보까지 늘어나므로, 어디까지 맡길지는 이용자가 정해야 한다.

결제 회사들도 준비에 나섰다. 조재박 네이버페이 부사장은 지난 23일 금융결제원 창립 40주년 세미나에서 "금융사와 네이버페이, 금융결제원의 미래 고객은 AI 에이전트"라고 말했다. 지금은 사람이 직접 금융 앱에 들어가 거래하지만, 앞으로는 AI가 이를 대신하게 된다는 설명이다. 네이버페이는 은행 간 결제망을 운영하는 금융결제원과 함께 AI 결제 서비스를 시험하고 있다.

○ AI 쇼핑 비서, 어디까지 왔나

AI 쇼핑 에이전트는 사람 대신 알아서 쇼핑 일을 처리하는 ‘AI 쇼핑 비서'다. 지금까지는 상품 이름을 검색하고 여러 상품을 직접 비교해야 했다. 이제는 원하는 가격대와 용도를 말로 설명하면 AI가 상품 정보와 후기를 살펴 후보를 추려준다.

네이버는 올해 2월 쇼핑 앱 '네이버플러스 스토어'에 이 서비스를 시범으로 내놓았고, 6월 정식 서비스로 바꿨다. 네이버에 따르면 8월 한 달 이용자 수와 하루 평균 대화 수는 3월보다 각각 약 5배로 늘었다. 가장 많이 팔린 분야는 디지털·가전으로, 전체 거래 금액의 40%를 차지했다. 사양을 꼼꼼히 비교해야 하는 제품에서 AI를 많이 활용한 것으로 풀이된다.

AI가 실제로 결제까지 마친 사례도 나왔다. 신한카드는 3월 마스터카드와 함께 ‘AI 에이전트 페이'로 실제 결제(실거래)에 성공했다고 발표했다. 국내 카드업계에서는 처음이다. AI가 목적지까지 갈 차량을 찾아 예약하면, 이용자는 결제를 한 번만 승인하면 되는 방식이었다.

○ AI는 내 정보를 얼마나 알게 되나

AI가 물건을 잘 고르려면 내 쇼핑 기록을 알아야 한다. 전에 무엇을 샀는지, 무엇에 관심이 있는지, 장바구니에 무엇을 담았는지 같은 정보다. 결제까지 하려면 내 위치와 집 주소, 등록된 카드 정보에도 접근해야 한다. 편리한 단계로 갈수록 AI에 맡기는 정보도 더 민감해지는 셈이다.

소비자들은 아직 조심스럽다. 미국 시장조사업체 가트너가 올해 1월 미국 소비자 322명에게 물었다. AI가 살 만한 물건을 추려줘도 괜찮다는 응답은 생활용품 31%, 개인 전자제품 28%였다. 하지만 AI가 사는 것까지 결정해도 된다는 응답은 부담이 적은 물건에서도 최대 11%였다. 10명 중 1명꼴이다.

걱정되는 점도 있다. 김병필 한국과학기술원(KAIST) 교수는 9월 23일 개인정보보호위원회(개인정보위) 회의에서 국내외 AI 기업·기관 15곳을 인터뷰한 결과를 발표했다. 이들은 두 가지를 큰 위험으로 꼽았다. 하나는 AI에 몰래 나쁜 명령을 끼워 넣어 엉뚱하게 움직이게 하는 해킹 수법(프롬프트 인젝션)이다. 다른 하나는 AI에 너무 많은 권한을 주는 것이다.

누가 책임질지도 아직 정해지지 않았다. AI가 말을 잘못 알아듣고 엉뚱한 물건을 사거나, 해킹으로 내 카드가 결제될 수 있다. 이때 AI를 만든 회사, 물건을 판 판매자, 결제를 중간에서 처리하는 결제대행사, 카드사 사이의 책임 기준이 아직 없다.

○ 안전하게 쓰려면 무엇이 필요한가

정부와 업계도 대비에 나섰다. 개인정보위는 스스로 판단해 일을 처리하는 AI의 개인정보 기준을 담은 '에이전틱 AI 개인정보 처리 안내서'(가칭)를 올해 안에 내놓을 계획이다. AI에 어떤 권한을 맡길지, AI가 기억한 내 정보를 어떻게 보관하고 지울지, 사람이 어떻게 감독할지 등을 다룬다.

송경희 개인정보위원장은 9월 29일 한 포럼에서 기업의 책임을 강조했다. 처음에 한 번 동의를 받는 것으로 끝내지 말고, 개인정보를 다루는 과정을 계속 관리하고 책임져야 한다는 것이다.

신한카드는 정부의 '모두의 AI' 사업에 참여하고 있다. 이 사업에서 AI 오작동이나 해킹으로 생기는 이상한 결제를 실시간으로 잡아내는 시스템을 갖추겠다고 9월 10일 밝혔다. AI가 잘못 산 물건에 대한 보상·분쟁 해결 절차도 만들 계획이다.

AI 쇼핑을 쓰기 전에 확인할 것은 네 가지다. 첫째, 결제 직전에 내가 최종 승인하는 단계가 있는지 본다. 둘째, 서비스에 어떤 카드와 주소가 연결돼 있는지 확인한다. 셋째, 개인정보 처리방침에서 어떤 정보를 얼마 동안 보관하는지 살핀다. 넷째, 카드 앱에서 결제 알림을 켜고 온라인 결제 한도를 정해 둔다.

개인정보가 새어 나간 것 같다면 한국인터넷진흥원(KISA) 개인정보침해신고센터(국번 없이 118, privacy.kisa.or.kr)에 신고하거나 상담할 수 있다. 네이버의 결제 시범과 개인정보위 안내서는 모두 연말에 나올 예정이다. AI에 어디까지 맡길지에 대한 기준 논의도 이때부터 본격화할 전망이다.