16일 한국소비자연맹(회장 강정화)이 AI를 사용한 경험이 있는 전국 소비자 1000명을 조사한 결과, 소비자는 AI 기술 발전 자체에는 긍정적이지만 ‘설명 없는 AI’와 ‘책임 없는 AI’에 대해서는 매우 강한 우려를 갖고 있는 것으로 나타났다.
AI 사고 발생 시 기업이 ‘AI가 판단했다’는 이유로 책임을 회피할 수 있다고 응답한 비율이 82.5%에 달했다.
이번 조사는 AI 이용 현황뿐 아니라 AI 유료화, 알고리즘, 가격차별, 허위정보와 딥페이크, 개인정보 활용, 자동화된 의사결정, AI 의료, 소비자 권리 등 AI 시대 소비자보호에 대한 소비자 인식 전반을 조사한 종합 조사다.
설문에 참여한 소비자 56.8%는 치명적이라고 생각하는 AI 소비자 피해(중복응답)로 AI 할루시네이션으로 인한 오인·선택 왜곡을 꼽았다.
이어 책임소재 불명확 30.6%, AI 시스템 오작동으로 인한 신체·재산 피해 22.8% 순이다.
AI가 내리는 판단과 결정에 대한 경계심도 존재했다. AI 생성 콘텐츠를 스스로 판별하기 어렵다고 응답한 비율이 44.6%에 달했다.
특히 소비자 41.6%는 AI가 소비자의 구매이력·검색기록·소득수준 등을 분석해 소비자마다 다른 가격·광고·서비스를 제공하는 것에 대해 부정적으로 대답했다. AI 알고리즘의 편향된 판단 가능성에 대해 우려한다는 답변이 57.9%로 높다.
AI 유료서비스 비용에 대해 부담을 느끼는 비율은 35.6%로 만족스럽다는 응답(31.3%)을 상회했다.
소비자들이 가장 중요하게 생각하는 AI 시대 권리는 정보 이용 투명성(72.2%), 정보 삭제·수정권 등 정보 통제권(55.6%), 피해보상권(53.6%), 개인정보 활용 여부를 스스로 결정할 권리(51.3%) 순으로 나타났다.
한국소비자연맹 측은 “소비자는 AI를 반대하지 않는다. 다만 설명 받을 권리, 차별받지 않을 권리, 피해를 구제받을 권리를 요구하고 있을 뿐”이라며 “AI 정책은 기술 진흥을 넘어 소비자 신뢰를 만드는 정책으로 전환돼야 한다”고 밝혔다.
이어 “소비자가 안전하고 공정하게 AI를 이용할 수 있는 환경 조성을 위해 정책 제안과 감시, 소비자교육 활동을 지속해 나갈 것”이라고 덧붙였다.
한편 정지연 한국소비자연맹 사무총장은 지난 6월 ‘사전적 소비자보호 강화 방안 진단 및 개선방안’의 주제로 열린 소비자가만드는신문 소비자금융포럼에서 “AI를 활용한 대출 심사나 보험료 책정, 투자상품 추천이 가속화될수록 금융사에 더 강한 설명 책임을 부과해야 하며 소비자가 AI 사용 여부를 고지받고 사람이 재검토할 수 있는 이의제기권이 보장돼야 한다”며 “딥페이크 등 AI 금융사기에 대응하는 예방 시스템 구축도 시급하다”고 밝힌 바 있다.
지난해 한국리서치가 전국 만 18세 이상 남녀 1000명을 대상으로 실시한 AI 인식 조사 결과에서도 ‘AI로 인해 발생 가능한 문제, 대처 준비는 잘하고 있나’는 질문에 2명 중 1명(50%)은 ‘준비를 잘 하지 못하고 있다’고 평가했다.
[소비자가만드는신문=유성용 기자]
