“여러분 안녕하세요, 저는 찬바오입니다. 삼촌 이모 주문해보세요.”“저는 취안훙찬 엄마예요.”
“저는 취안훙찬 오빠 취안진화입니다. 여러분을 위해 꿀 2000세트를 준비했어요. 16.9위안(약 3,269 원)에 2근 드려요.”
한국에는 알려지지 않았지만, 이들은 모두 중국에서 유명인들이다. 최근 이들이 중국의 다양한 플랫폼에서 영상을 찍어 이 같이 방송하고 있어 중국 네티즌들을 놀라게 했다.
하지만 정작 놀란 이유는 이들 유명인이 싸구려 제품 광고를 찍었다는 게 아니라, 실은 모두가 AI(인공지능) 조작으로 만들어진 가짜 광고라는 점이다.
중국 광고 업계가 이에 발칵 뒤집혔다.
중국 매체들에 따르면 최근, 소셜 플랫폼에는 '찬바오 보조', '취안메이 복지 계정' 같은 계정들이 나타나, 취안훙찬과 가족들의 얼굴을 합성한 AI 영상을 활용해 조회수를 끌어 모으고, 여러 상품을 홍보하며 판매를 시도했다.
이 계정들이 올린 영상의 댓글란에는 이미 여러 고객들이 “속아서 주문했다”는 항의 댓글이 달리고 있었다.
이에 대해 취안훙찬 가족은 “모두 조작된 영상이며, 자신들은 그런 물건을 팔지 않았다”며 루머 해명을 도와 달라고 요청했다.
최근에는 유명 연예인, 존경받는 기업인, 두 학원(과학원, 공정원)의 원사(院士)들까지, 수많은 공인들이 불법 상인들의 ‘AI 술수’에 휘말려 그들의 이미지가 허위 광고에 사용되는 일이 벌어졌다.
이 같은 AI 조작 판매행위는 이미 중국에서 보편적인 사기 행각이 되고 있다. 중국 매체 보도에 따르면 지난 2018년 9월부터 2025년 2월 말까지, 우리 법원은 온라인 소비 관련 허위 광고 사건을 총 6,734건 접수했다. 전반적으로 증가 추세다.
베이징 인터넷 법원 이쥔 부원장은 중국 매체와 인터뷰에서 “해당 사건들은 의류, 식품, 전자제품 등 일상용품부터, 소비자들의 관심이 높은 화장품, 유아용품, 나아가 보석·예술품 등 고가품까지 매우 다양한 품목에 걸쳐 있었다”라며 “전자상거래 플랫폼, 라이브 방송 쇼핑, 중고거래 플랫폼, 커뮤니티 공동구매 등 거의 모든 유통 채널에서 허위 광고가 나타나고 있다”고 말했다.
중국 법률 전문가들은 현재 AI 기술의 급속한 확산이 허위 영상 제작 비용을 크게 낮추었고, 일부 플랫폼은 판매자의 자격을 엄격히 심사하지 않으며, 실명제 등록 의무도 제대로 이행하지 않아 소비자들이 쉽게 속고, 피해를 입어도 권리를 행사하기 어렵다고 지적했다.
이는 디지털 시장의 질서 있는 발전을 심각하게 저해하는 요인이 되고 있다는 게 중국 매체들의 지적이다.
특히 이 같은 사기 행각이 늘어나는 데는 AI 기술 이용이 갈수록 저렴해지고 있다는 점도 한 몫을 하고 있다고 중국 매체들은 전했다.
AI 저비용 위조가 불법 기업의 ‘껍데기 바꿔치기’식 사기 마케팅을 부추겼다는 것이다.
중국 매체에 수사 당국은 “AI 기술을 이용한 허위 광고 사례 중 상당수는 동일한 제품 링크가 서로 다른 쇼핑몰로 연결되는 특징이 있다”며, “이들 운영 주체는 대부분 등록 기간이 짧고 자격이 불투명한 기업”이라고 밝혔다.
AI 기술로 저비용 위조가 가능해지면서, 대량 조작, 빠른 확산, 즉시 재활용이 가능해져 사기 마케팅이 쉽게 성공할 수 있게 되었으며, 유명 인물의 이름과 얼굴은 자발적으로 클릭을 유도하고 플랫폼에서 우선 추천되기 쉬워 ‘조작–조회수–수익화–더 많은 조작’이라는 악순환이 끊기 어렵게 되었다고 분석했다.
여기에 일부 플랫폼의 방치도 AI조작 사기 행각이 확산되도록 하고 있다고 중국 매체들은 지적했다.
일부 플랫폼이 컨텐츠 심사에 소홀해 허위 상인의 홍보에 일조하고 있다는 것이다.
이쥔 부원장은 “현재 일부 플랫폼은 판매자의 자격을 엄격히 심사하지 않으며, 실명제 등록도 철저히 이행하지 않아, 분쟁이 발생했을 때 판매자의 신원을 명확히 제시하거나 연락처를 제공하지 못하는 경우가 많다”고 지적했다.
그는 또 “일부 플랫폼은 허위 광고에 대한 대응도 소극적이며, 문제가 된 상품을 신속히 내리거나, 보증금을 차감하는 등의 조치도 취하지 않고 있다”고 말했다.
일부 중고거래 플랫폼에서는 상품 감정 기준이 불투명하거나, 오히려 허위 광고에 동조하는 경우도 있어 집단소송으로 이어질 위험이 높았다.
중국 매체들은 더 이상 사회 혼란이 심화하지 않도록 당국의 강력한 규제가 있어야 한다고 목소리를 높였다. 관련한 중국 당국의 규제안이 나올지 주목되는 대목이다.
