정부는 10일 정부서울청사에서 열린 국가정책조정회의에서 이 같은 내용을 담은 관계부처 합동 AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안을 확정·발표했다. 이날 합동 대책 발표에 국무조정실, 식약처, 방송미디어통신위원회(방미통위), 공정위 등이 참여했다. 김민석 국무총리는 “이번 대책을 통해 신기술의 부작용을 최소화하는 동시에 AI 시대에 걸맞은 시장 질서를 확립해 나갈 것”이라고 강조했다.

정부가 범정부 차원의 대응책을 내놓은 것은 최근 유튜브와 소셜 네트워크 서비스(SNS)를 중심으로 AI 딥페이크 기술을 악용한 광고가 범람하며 국민의 생명과 재산을 위협하고 있다는 판단에서다. 특히 식·의약품 분야에서 의사나 약사 등 권위 있는 전문가를 사칭한 AI 가상 인간이 등장해 검증되지 않은 효능을 홍보하는 사례가 급증하고 있다. 실제 사례로 AI로 생성된 가짜 피부과 전문의가 등장해 일주일 만에 기미가 싹 사라진다고 홍보하거나, 일반 식품을 체지방이 83.7% 감소한다며 의약품처럼 속여 파는 경우가 적발됐다. 유명 방송사의 뉴스 화면을 조작해 온라인 도박 사이트를 홍보하는 대담함까지 보였다.

이에 정부는 우선 피해 확산을 막기 위해 차단 속도를 획기적으로 높이기로 했다. 기존에는 방송미디어통신심의위원회(방미심위)의 심의를 거쳐 차단 결정이 내려지기까지 상당한 시일이 소요돼 그 사이 피해가 눈덩이처럼 불어나는 구조였다. 이를 개선하기 위해 국민의 생명·재산 피해 우려가 커 시급한 조치가 필요한 경우, 방송미디어통신위원회(방미통위)가 방미심위의 심의 완료 전이라도 플랫폼 사업자에게 직접 긴급 시정 요청을 할 수 있는 절차를 신설한다.

관계 당국이 방미통위에 요청하면 방미통위가 플랫폼사에 임시 차단을 명령하고, 이후 방미심위 결과에 따라 최종 차단 여부를 결정하는 방식이다. 일단 유해 광고를 내리고 난 뒤 위법성 여부를 따지겠다는 취지다. 이와 함께 방미통위와 방미심위는 식·의약품, 화장품, 의료기기 등 허위광고가 빈발하는 영역을 서면 심의 대상에 추가하기로 했다. 이 경우 심의 요청 후 24시간 이내에 신속한 차단 결정이 가능해질 전망이다.

솜방망이 처벌 논란을 빚어온 제재 수단도 대폭 강화된다. 정부는 정보통신망법 개정을 통해 허위·조작 정보를 유통해 타인에게 손해를 입힌 경우, 손해액의 최대 5배까지 배상하도록 하는 징벌적 손해배상제를 도입한다. 표시광고법상 과징금 수준도 대폭 상향해 불법 광고로 얻는 수익보다 처벌 비용을 훨씬 높이기로 했다.

법적 모호성도 해소한다. 현행법상 AI 가상 인간이 의사를 사칭해 제품을 추천할 경우 처벌 규정이 모호했으나, 정부는 이를 명백한 부당 광고로 규정하고 위법성을 명확히 하기로 했다. AI가 만든 가짜 의사의 추천 행위 자체가 소비자를 기만하는 위법 행위임을 법령에 못 박는 것이다.

사전 예방 차원에서는 AI 생성물 표시제가 의무화된다. 온라인 플랫폼에 AI로 만든 콘텐츠를 올릴 때는 반드시 AI 생성물임을 표시해야 한다. 이를 위해 정부는 내년도 1분기까지 정보통신망법을 개정하고, 플랫폼 사업자에게 관리 의무를 부과할 방침이다. 이용자가 임의로 AI 표시 라벨을 제거하거나 훼손하는 행위도 금지되며 위반 시 과태료가 부과된다.