[AI시대의 그늘-AI 알고리즘⑫] 탈탈 털리는 개인정보...대화·검색 기록·사용패턴까지 전방위 수집
생활패턴, 가족 구성, 경제 수준까지 훤히 드러나
2026-03-24 선다혜 기자
국내 산업계가 마케팅과 민원 처리, 상품설계, 내부통제에 이르기까지 경영 전반에 AI 도입을 서두르고 있다. 가히 AI 광풍이라 부를 정도의 변화가 이어지고 있다.
그러나 기업의 AI 활용이 소비자에게 미치는 영향에 대한 분석이 충분한지에 대해서는 의문부호가 붙는다. AI 활용으로 인한 편리함 뒤에 교묘한 알고리즘으로 소비자를 조정하고 피해를 양산하는 일도 현실이 되고 있다.
소비자가 만드는 신문은 2026년 창간 20주년을 맞아 AI가 몰고올 소비자 생태계 변화와 혼란을 진단하는 연중 기획 시리즈를 진행한다. [편집자 주]
그러나 기업의 AI 활용이 소비자에게 미치는 영향에 대한 분석이 충분한지에 대해서는 의문부호가 붙는다. AI 활용으로 인한 편리함 뒤에 교묘한 알고리즘으로 소비자를 조정하고 피해를 양산하는 일도 현실이 되고 있다.
소비자가 만드는 신문은 2026년 창간 20주년을 맞아 AI가 몰고올 소비자 생태계 변화와 혼란을 진단하는 연중 기획 시리즈를 진행한다. [편집자 주]
기업들이 인공지능(AI) 기반 서비스 제공 과정에서 이용자의 대화 내용과 검색 기록, 구매 이력은 물론 이미지·음성 데이터, 기기 정보, 위치 정보 등 데이터를 광범위하게 수집해 이용자 프라이버시를 침해할 수 있다는 우려가 나온다.
이용자의 생활 패턴과 거주 환경이 유추될 정도로 AI 학습을 위한 개인정보 수집 범위가 과도하다는 것이다.
24일 소비자가만드는신문이 AI 기능을 탑재한 주요 서비스들을 조사한 결과 상당수 기업이 서비스 제공을 이유로 광범위한 개인정보 수집 및 활용에 대한 포괄적 동의를 받고 있는 것으로 나타났다.
삼성전자의 스마트홈 애플리케이션스마트싱스(SmartThings)는 제조사와 모델명, 기기 식별자, IP 주소, 인증 정보, 전화번호, USIM 정보, 시간대 정보 등을 광범위하게 수집한다.
이용 과정에서는 기기 사용 기록과 접속 로그, 에너지 사용 정보, 제어 이력, 상태 로그, 동작 기록, 오류 및 진단 정보, 위치 정보 등을 추가로 수집한다.
스마트홈 앱이 원격제어와 자동화 기능을 제공하는 데 그치지 않고 AI 기술이 결합되며 개인화 서비스로 영역을 확대하면서 나타난 양상이다.
스마트싱스는 조명이나 에어컨, 공기청정기 등을 원격으로 제어하는 것은 물론 이용자의 사용 시간대와 패턴을 분석해 기기를 자동으로 작동한다.
LG전자의 LG 씽큐(LG ThinQ) 역시 인공지능 기능을 기반으로 사용 패턴을 학습해 세탁 코스 추천이나 에너지 절감 모드 제안 등 맞춤형 서비스를 제공한다. 여기서 가전 사용 기록과 기기 정보, 에너지 사용량, 서비스 이용 로그 등이 수집된다.
고객 상담이나 서비스 이용 과정에서는 이름과 전화번호, 이메일 주소 등 기본 정보뿐 아니라 제품 사용 이력과 고장 정보, 사진 및 영상 자료까지 수집될 수 있다.
특히 영상 상담 시에는 녹화 영상과 함께 단말기 정보, IP 주소, MAC 주소 등 기기 식별 정보도 수집되는 것으로 나타났다.
수집된 데이터는 서비스 제공과 인공지능 기능 개선, 고객 상담 대응, 제품 성능 개선 및 신규 서비스 개발 등에 활용된다고 명시돼 있다.
이처럼 스마트홈 기반 인공지능(AI) 서비스에서 개인정보 수집 범위가 넓어지는 것은 기술 구조상 불가피한 측면이 있지만, 데이터가 결합되는 방식에 따라 프라이버시 침해 우려가 나온다.
단일 기기에서 발생하는 정보는 제한적이지만 조명·에어컨·세탁기·공기청정기 등 다양한 가전이 하나의 플랫폼으로 연결되면 이용자의 사용 시간대와 빈도, 위치 정보, 에너지 사용 패턴 등으로 생활 리듬과 거주 환경 등이 드러날 수 있다.
예를 들어 특정 시간대에 조명과 TV가 동시에 작동하고 에어컨이 가동되는 패턴이 반복될 경우 이용자의 귀가 시간이나 취침 시간 등을 유추할 수 있다. 장기간 부재 시에는 외출 여부까지 파악 가능하다. 세탁기나 공기청정기 사용 주기, 온도 설정 변화, 전력 사용량 등이 더해지면 가족 구성 형태나 생활 습관까지 분석될 가능성도 있다.
문제는 이러한 데이터가 개별적으로 수집되는 데 그치지 않고, AI 기능 고도화를 위해 통합·분석된다는 점이다. 기기 사용 기록과 위치 정보, 상담 과정에서 수집된 영상 및 음성 데이터까지 결합될 경우 단순한 기기 제어 수준을 넘어 이용자의 행동 패턴과 주거 환경, 심지어 건강 상태나 경제 수준까지 유추될 수 있다는 지적이 나온다.
이들 AI 서비스는 데이터 수집 및 활용 동의를 전제로 작동하는 구조로 이용자가 이에 동의하지 않을 경우 자동화나 맞춤형 추천 등 주요 기능 이용이 제한된다. 때문에 이용자 입장에서는 필수적으로 동의를 할 수밖에 없다.
LG전자 관계자는 “최근 가전제품 대부분이 씽큐 앱으로 제어되는 만큼 사용자의 생활 루틴을 설정하기 위해 거주지 위치 등 추가 정보가 필요하다”며 “이러한 데이터를 기반으로 보다 정교한 스마트홈 서비스를 구현하기 위한 것”이라고 설명했다.
아모레퍼시픽이 자사 쇼핑 플랫폼 아모레몰 앱에 탑재한 인공지능(AI)은이용자가 입력한 질의는 물론 이미지·음성·영상 파일과 AI가 생성한 답변을 포함한 ‘대화 내용’ 전반과 구매 이력, 취향, 사용 패턴 등을 수집한다.
챗봇 ‘아모레챗’을이용하기 위해서는 개인정보 수집 및 활용에 대한 동의가 필수적이며 동의하지 않을 경우 서비스 이용이 제한된다.
아모레퍼시픽은 서비스 품질 개선과 모니터링 등을 위해 필요한 범위에서 일부 대화 내용을 검토할 수 있도록 하고 있으며 비식별화된 데이터의 경우 AI 기술 적용과 서비스 개선 연구 등에 활용할 수 있도록 규정하고 있다.
해당 서비스는 고객 맞춤형 상품 추천과 피부 상태 상담, 구매 이력 기반 서비스 제공 등을 위해 운영된다. 사용자가 피부 고민이나 선호도를 입력하면 이에 맞는 화장품을 추천하고 제품 사용법이나 성분 관련 정보를 안내한다.
네이버의 ‘AI 쇼핑 에이전트’는 이용자가 AI와대화를 진행할 경우 데이터 활용에 대한 동의는 기본값으로 설정돼 있다. 별도의 동의 절차가 없다는 의미다.
해당 동의에는 △인공지능 연구 및 서비스 품질 개선을 위한 데이터 활용 △이용자 대화 내용의 비식별 처리 후 최대 5년간 보관 및 연구·신규 서비스 개발 활용 △필요 시 비식별 데이터의 인력 검토 △업무의 외부 위탁 처리 등이 포함됐다.
동의 절차가 기본적으로 활성화돼 있어 이용자는 단순 검색만으로도 AI 기반 분석과 추천 서비스에 자동으로 편입되며 이 과정에서 생성된 대화형 정보나 이용 기록이 데이터로 활용될 수 있다.
업계에서는 편의성을 높이기 위한 기능이라는 설명이지만 일각에서는 이용자 동의 인식이 충분하지 않은 상태에서 데이터 활용이 이뤄질 수 있다는 점에서 ‘숨겨진 동의 구조’라는 지적이 나온다.
네이버 관계자는 “네이버 이용약관과 개인정보 처리방침 수준에 맞춰서 AI에 축적된 데이터를 활용하고 있다”고 말했다.
네이버의 ‘AI 쇼핑 에이전트’는 이용자의 질문을 바탕으로 상품을 추천하고 가격 비교나 구매 정보를 안내하는 대화형 쇼핑 도우미 기능을 제공한다.
N+스토어의 앱에서 이용자가 특정 상품을 검색하거나 페이지에 접속할 경우 별도의 실행 과정 없이 AI 기반 쇼핑 추천 기능에 자동으로 노출되는 구조를 갖추고 있다.
예를 들어 김치냉장고를 검색하면 화면 하단에 ‘김치냉장고를 알아보고 계시는군요’와 같은 문구와 함께 브랜드별 특징과 추천 정보가 자동으로 제공된다. 이는 이용자의 검색 맥락을 분석해 AI가 맞춤형 정보를 제시하는 방식이다.
이용자가 개인정보 수집 범위를 확인할 수 있는 경우는 그나마 나은 편이다. 많은 업체들이 자사몰 앱에 구매 지원 인공지능(AI)을 도입하고 있지만 해당 AI가 어떤 데이터를 수집하고 활용하는지 명확히 안내하지 않는 경우도 많다.
앞서 사례로 언급된 기업의 AI 서비스들은 그나마 대화 내용과 검색 기록, 구매 이력, 이미지·음성 데이터 등 수집 항목과 활용 목적을 일정 부분 공개하고 있다.
AI 서비스가 수집하는 이용자 데이터가 실제로 어떤 범위까지 AI 학습에 활용되는지, 개인 단위로 어떤 방식의 분석이나 추천에 반영되는지 등 구체적인 활용 방식에 대해서 안내하는 곳은 거의 찾아보기 힘들다.
최철 숙명여자대학교 소비자학과 교수는 “AI를 통해 수집된 정보가 구체적으로 어디까지 활용되는지 그 범위가 보다 명확히 제시될 필요가 있다”면서 “대부분의 AI 서비스가 개인정보 활용에 동의하지 않으면 이용이 어려운 구조인 만큼 이용자가 자신의 정보가 어떻게 활용되는지 충분히 인지할 수 있도록 안내가 강화돼야 한다”고 말했다.
[소비자가만드는신문=선다혜 기자]