'AI 가짜 의사가 활개 치는 디지털 야만 시대, 관리 감독 기관은 어디에 있는가

-AI 딥페이크의 습격 : 가짜 교수·약사들이 건강식품 사기판을 주도하다-

박순장(칼럼니스트, 전 소비자주권시민회의 사무처장)

 

실존 인물의 표정, 목소리, 행동을 AI가 학습해 디지털로 구현한 AI휴먼이 확산되고 있다. 출처 : 정보통신신문(https://www.koit.co.kr)

 

최첨단 인공지능(AI) 기술이 인류의 삶을 풍요롭게 할 것이라는 당초의 기대와 달리, 현재 대한민국의 온라인 공간은 'AI 기만 광고'라는 이름의 디지털 사기판으로 전락한 실정이다. 유튜브, 페이스북, 인스타그램, 포털 사이트에 이르기까지 정체를 알 수 없는 '디지털 휴먼(가상 인플루언서) 또는 AI 가짜 의사'들이 활개를 치는 양상이며, 이들은 마치 진짜 사람인 것처럼 전문직 행세를 하며 효과가 검증되지 않은 일반 식품 및 건강기능식품을 판매하는 데 주력하고 있다. 이로 인한 소비자들의 피해 신고는 걷잡을 수 없이 폭증하고 있음에도 불구하고, 사태 수습의 책임을 지닌 관련 관리 감독 기관은 방관 방치하며 직무유기로 일관하고 있다. 우리는 지금 '디지털 야만 시대'의 엄중한 문턱에 서 있음을 주장하는 바이다.

 

현재 온라인에 범람하는 과대 과장 허위 광고의 본질은 '신뢰의 탈취'에 있다. AI 딥페이크 기술로 정교하게 제작된 가짜 전문가, 즉 존재하지 않는 교수나 의사, 약사가 등장하여, 그럴싸한 의학 용어를 동원하고 소비자의 절박한 심리를 파고든다. 이러한 행태는 단순히 허위·과장 광고의 범주를 넘어, 대다수가 식품 표시·광고법을 명백히 위반하는 공공연한 사기 행위로 간주되어야 마땅하다. 그 피해는 고령층, 건강 취약 계층 등 사회적 약자에게 집중되고 있음이 확인된다. AI 기술의 발전 속도는 가히 혁명적이나, 규제의 속도는 극히 더디다. 특히 AI가 일상생활에 더욱 깊숙이 침투할 경우, 이러한 기만 광고는 더욱 활개를 치게 될 것이며, 현시점에서 철저한 단속과 강력한 제재가 이루어지지 않는다면 미래의 소비자 피해는 상상을 초월할 수준에 이를 것이다.

 

AI 딥페이크 기술로 정교하게 제작된 가짜  교수나 의사, 약사가 등장하여 건강보조제나 식품 등에 대한 과대 과장 허위 광고를 방치하고 있는 식품의약품안전처.

 

문제는 그 책임의 소재이다. 이 사태는 거짓 광고를 제작하는 제조 및 유통사, 광고를 게재하며 막대한 수익을 창출하는 대형 플랫폼 업계, 그리고 이 모든 불법 행위를 방치하고 있는 관리·감독 기관이라는 세 축이 형성한 무책임의 삼각 고리 속에서 심화되고 있다. 식품의약품안전처, 공정거래위원회 등 관리·감독 기관은 이미 통제를 벗어난 이 상황을 여전히 '늑장 대응'이라는 오명을 뒤집어쓴 채 좌시하고 있다. 정부와 사법 당국은 더 이상 '플랫폼 책임론'의 방패 뒤에 숨어서는 안 될 것이다. 즉각적으로 범정부 차원의 'AI 딥페이크 기만 광고 추적 및 단속 특별 전담팀(TF)'을 조직하고, 식품표시광고법 위반 및 사기 혐의에 대해 민·형사상 최고 수준의 징벌적 배상을 적용함이 마땅하다. 지금이야말로 규제의 칼날을 벼려 디지털 사기 세력을 시장에서 영구히 퇴출시켜야 할 때이다.

 

이와 동시에, 광고를 통해 막대한 이익을 창출하는 대형 플랫폼들에게도 사회적 책임을 강력히 요구한다. 플랫폼사들은 디지털 휴먼 또는 가상 인플루언서가 전문직 행세를 하며 소비자를 현혹하고 착오에 빠지도록 하는 허위 광고가 판을 치고 있음을 알면서도, 광고비 수익 때문에 이를 방관하고 있다.

 

따라서 플랫폼은 자신이 유통하는 정보에 대한 사회적 책무를 무겁게 인식해야 하며, 광고 게재 승인 전 AI 생성 콘텐츠에 대한 강화된 사전 심의 의무를 법적으로 명시해야 한다. 소비자 신고가 접수되는 즉시 해당 광고와 채널을 영구 정지시키는 '무관용 원칙'을 확립해야 한다. 또한, 제조 및 유통 업계 역시 눈앞의 단기적 이익을 위해 AI라는 신기술을 사기 수단으로 악용하는 행위를 중단하고, 업계 차원의 엄격한 윤리 가이드라인을 선포해야 한다. 이를 거부하는 행위는 결국 시장 전체의 신뢰를 무너뜨리는 자멸 행위임을 명심하여야 한다.

 

무엇보다 소비자들에게 강력히 경고한다. AI 기만 광고는 전문가조차 기만할 수 있을 정도로 정교하게 진화하였다. '의사'나 '교수'그리고 ‘약사’라는 타이틀, 허무맹랑한 효능, 비상식적인 가격을 제시하는 광고에 대해서는 맹목적인 신뢰를 지양해야 한다. 광고에 등장하는 인물이 실제로 존재하는 전문가인지 반드시 교차 검색을 통해 확인해야 하며, 공식 인증 마크나 식품의약품안전처의 허가 내용을 재차 확인하는 과정을 거쳐야 한다. "단독", "비밀", "마지막 기회" 등의 문구로 구매를 재촉하는 광고는 높은 확률로 사기일 가능성이 내포되어 있음을 인지해야 한다. 정부의 늑장 대응, 플랫폼의 방관, 업계의 탐욕이 초래한 틈을 이용해 디지털 사기꾼들이 활개 치는 이 암울한 현실에서, 소비자 스스로가 최후의 그리고 가장 강력한 감시자로서 역할을 수행해야 한다.