대형 유통·패션 플랫폼 메인 화면을 인공지능(AI) 기반 개인화 서비스가 장악하고 있는 가운데 추천 기준은 명확하게 공개돼 있지 않은 것으로 나타났다.

‘당신을 위한 추천’, ‘이 상품은 어떠세요’와 같은 문구를 보고 구매를 고려한 소비자들은 광고 상품이나 자체 브랜드(PB)를 더 많이 노출하는 업체의 상술에 놀아날 수 있다.

전문가들은 알고리즘 작동에 따른 AI 추천에 대해 소비자들이 중립성이 있다고 판단하게 되지만 실제로는 이를 설계하고 적용하는 사업자의 의도가 반영될 수 있다고 지적한다.

◆ "당신만을 위한 맞춤 추천" 작동 원리 '깜깜이'

현재 대형 유통·패션 플랫폼 메인 화면에는 어디든 빼놓지 않고 AI 기반 개인화 추천 서비스가 자리하고 있다.

네이버플러스스토어의 ‘ㅇㅇ님을 위한 큐레이션’, 쿠팡의 '맞춤 추천'을 비롯해 에이블리, 지그재그, 무신사, W컨셉 등 패션 커머스와 아모레퍼시픽, CJ올리브영 등 뷰티 업계까지 앞다퉈 '초개인화'를 내세우고 있다.

하지만 이들 플랫폼은 AI 기술이 어떤 기준과 방식으로 적용됐는지 철저히 베일에 싸여 있다. 소비자는 플랫폼이 수집한 자신의 검색 이력, 구매 패턴, 체류 시간 등 어떤 항목이 어떻게 조합돼 현재 화면의 결과물을 만들어냈는지 전혀 알 수 없다.

동일 플랫폼 내에서도 추천 상품에 대한 광고(Ad) 및 스폰서(Sponsored) 표기 기준이 제각각인 경우도 있다.

AI 기능 적용 관련한 제3자 검증이나 명확한 설명도 부재한 상황이다.

쿠팡은 메인 화면에 ‘고객님을 위한 추천상품’을 노출하지만 별도의 광고나 스폰서 표기는 찾아볼 수 없다. 네이버플러스스토어 역시 ‘ㅇㅇ님을 위한 큐레이션’이라는 이름으로 상품을 제안하지만 광고 표기는 없다.
 

무신사와 W컨셉의 경우 같은 앱 내에서도 기준이 혼재돼 있다.

무신사는 ‘나를 위한 추천상품’ 영역에는 광고 마크와 함께 "고객님의 취향 및 광고 입찰가를 기반으로 고도화된 추천 기술에 의해 선발된 광고 상품"이라고 명시하고 있다. 하지만 ‘내 취향 맞춤 추천 아이템’ 코너에는 어떠한 표기도 돼있지 않다.
 

W컨셉 역시 ‘고객님을 위한 상품’ 영역에는 광고 마크가 표시돼 있었지만 ‘고객님 취향에 맞는 상품 추천’, ‘고객님이 좋아할 만한 카테고리별 상품’ 코너에는 별도의 광고 표기가 없다.
 
지그재그와 에이블리는 추천 영역에 ‘Sponsored’ 표기를 통해 광고 상품이 섞여 있음을 알리고 있으나 기준 등 명확한 설명은 기재돼있지 않다.
 
광고 추천에 대한 구체적인 설명을 표기하고 있는 업체가 아예 없는 것은 아니다.

CJ올리브영은 ‘ㅇㅇ님을 위한 인기상품’ 코너에 ‘AD(광고)’ 표기를 명확히 하고 “고객님의 쇼핑 이력을 바탕으로 맞춤형 광고 상품을 추천드려요”라는 구체적인 설명을 덧붙이고 있다.
 

상황이 이렇다 보니 광고 표기가 없는 ‘추천 상품’이 과연 순수하게 고객 취향을 고려하고 편익을 위해 제공한 결과인지, 아니면 플랫폼의 수익 전략이 일정 부분 개입된 결과인지 소비자로서는 알기 어렵다.

AI가 추천한 제품이 마진율이 높은 PB 상품, 수수료율이 높은 입점업체 상품, 혹은 빠르게 소진해야 할 재고 상품에 노출 가중치가 반영돼 있을 수 있는데도 소비자들은 자신의 구매 이력과 관심사를 AI가 분석해 제품을 추천한 것으로 생각해 구매할 수 있는 셈이다.

광고비를 직접 받는 ‘유료 광고’는 아닐지라도 플랫폼의 이윤을 극대화하기 위한 전략적 설계가 추천 기술에 일부 녹아 있다면 이는 사실상 ‘기획된 추천’에 가깝다는 지적이 나오는 이유다.

실제로 AI 추천이 플랫폼의 이익을 위해 악용된 사례는 이미 존재한다. 지난해 5월 서울동부지검은 쿠팡에 대해 PB 상품의 검색 순위를 인위적으로 높인 혐의로 쿠팡 법인과 자회사 씨피엘비를 기소한 바 있다.

당시 쿠팡은 판매실적 등 객관적 데이터와 무관하게 자사 직매입 상품과 PB 상품 5만여 개의 순위를 조작해 상위에 고정한 혐의를 받았다. 특히 인지도가 낮은 신상품이나 재고가 쌓인 상품, 판매장려금을 받기로 한 상품 등을 집중적으로 띄워준 사실이 드러났다. 검찰 조사 결과 이 과정을 통해 100위권 밖의 상품이 '쿠팡랭킹 1위'에 오르기도 했으며 조작된 상품의 매출은 최대 76%나 늘었다.

◆ 소비자가 AI 추천 정보 광고로 인식하는 경향 낮아...전문가, "사업자 의도 반영될 수 있어"

AI 추천 상품이 대형 플랫폼을 장악하고 있는 것은 상업성이 있는 정보의 경우 배너 광고보다 추천이나 조언의 형식을 띠면 설득력이 더 커질 수 있기 때문이다.

미국 코넬 대학교 연구진이 참여한 생성형 AI 광고 실험에서는 대화 속에 광고성 정보를 삽입했을 때 이용자들이 이를 광고로 인식하지 못하고 더 긍정적으로 평가하는 경향이 확인됐다.

뉴욕 페이스 대학교 경영 대학원 국제 학술지에서도 이용자들은 챗봇 응답을 기존 검색 결과보다 덜 편향된 정보로 받아들이는 특성을 보였다.

대화형 서비스는 물론 일반 추천 영역에서도 ‘AI가 분석해 제안했다’는 인식 자체가 정보에 대한 신뢰도를 높이는 요인으로 작용할 수 있다는 의미다.

업계는 광고 상품과 일반 추천 상품은 내부적으로 구분해 운영하고 있다는 입장이다.

한 대형 이커머스 관계자는 “AI 추천은 기본적으로 고객의 구매 이력과 선호 데이터를 기반으로 작동한다”며 “광고 상품의 경우 별도 표기나 계약 구조를 통해 관리하고 있으며 추천 알고리즘 전체가 광고 중심으로 설계된 것은 아니다”라고 설명했다.

또 다른 플랫폼 관계자는 “개인화 추천은 고객 경험 개선이 목적”이라면서도 “다만 광고와 프로모션 상품이 알고리즘 변수 중 하나로 반영될 수 있는 만큼 이용자 관점에서 노출 기준과 광고 반영 여부를 어떻게 설명할지에 대해서는 고민이 있는 상황”이라고 말했다.

전문가들은 AI 추천이 표면적으로는 기술적 중립성을 띠고 있는 것처럼 보이지만 실제로는 이를 설계하고 적용하는 사업자의 의도가 반영될 수밖에 없다고 지적한다.

최철 숙명여대 소비자경제학과 교수는 "AI가 소비자를 깊이 이해하고 최선의 선택을 돕는 조력자가 된다면 이상적이겠지만 결국 그 시스템을 구축하고 운영하는 주체는 수익을 추구하는 사업자"라며 "인공지능이라는 이름 뒤에 숨겨진 일정한 규칙과 알고리즘에는 사업자의 설계 의도가 직간접적으로 반영될 수밖에 없는 구조"라고 강조했다.

이어 "객관적 중립성을 보장할 수 있는 별도의 검증 체계가 없는 한 AI 추천은 소비자의 합리적 선택을 돕기보다 사업자의 이익에 맞게 구매를 유도하는 도구로 전락할 가능성이 크다"며 "소비자들은 '나를 위한 맞춤형 해법'이라는 AI의 제안을 맹신하기보다 그 이면에 기업의 전략적 의도가 숨어있을 수 있음을 인지하고 주의를 기울여야 한다"라고 말했다.

과도한 규제는 산업 발전 및 혁신을 저해할 수 있다는 우려도 나온다.

업계 관계자는 “추천 기준과 노출 방식 전반을 공개하는 것은 영업 전략과 직결되는 문제”라며 “다만 소비자 신뢰를 해치지 않는 선에서 투명성을 강화하는 방안은 고민할 필요가 있다”고 말했다.

[소비자가만드는신문=이정민 기자]