어젯밤 SNS에서 봤던 그 영상, AI가 만든 걸까 사람이 찍은 걸까. 확신이 서지 않았다면, 그건 우연이 아닐 수 있다. 지금 국내에서 유통되는 AI 생성 콘텐츠에는 법적으로 이미 표시 의무가 부과돼 있다. 표시가 없다면, 콘텐츠를 만든 쪽이 인공지능기본법상 의무를 지키지 않았을 가능성이 있다는 뜻이다. 이 규정은 최근에 갑자기 생긴 게 아니라, 벌써 시행 6개월째다.

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(AI기본법)은 지난 1월 22일부터 시행 중이다. AI로 만든 이미지·영상·음성·글에는 'AI가 만들었다'는 사실을 표시해야 한다는 게 핵심이다. 그런데 정작 이 사실을 아는 사람은 많지 않다.

○ [왜 지금 이 얘기가 중요할까 — 딥페이크 49배 폭증]

이 법이 갑자기 나온 게 아니다. 방송통신심의위원회에 따르면 딥페이크 성적 허위영상물 시정요구 건수는 2020년 473건에서 2024년 2만 3,107건으로, 4년 만에 약 49배로 폭증했다. 보이스피싱에 딥페이크 음성이 쓰이고, 유명인 얼굴을 합성한 가짜 광고가 나돌고, 실존 인물처럼 보이는 가짜 전문가가 건강기능식품을 추천하는 일이 흔해진 배경이다. AI기본법의 표시 의무는 이런 혼란 속에서 "이게 진짜인지 가짜인지"를 최소한이라도 구분할 수 있게 하려는 안전장치다.

▶ [내가 마주치는 콘텐츠, 언제 표시가 있어야 할까]

기준은 간단하다. 챗봇과 대화하거나 AI가 추천해주는 화면처럼 서비스 안에서만 보고 끝나는 콘텐츠는 로그인할 때 안내를 받거나 화면 어딘가에 작은 로고가 뜨는 정도로 충분하다. 반면 이미지나 영상을 다운로드하거나 SNS에 공유하는 경우는 다르다. 사람이 눈으로 알아볼 수 있는 워터마크를 넣거나, 파일 안에 'AI 생성물'이라는 정보(메타데이터)를 심어야 한다.

가장 엄격한 기준이 적용되는 건 딥페이크다. 실제 사람의 얼굴이나 목소리를 정교하게 합성해 진짜와 구분하기 어려운 콘텐츠는, 반드시 이용자가 명확히 알아볼 수 있는 방식으로 표시해야 한다. "어디 구석에 작게 적어놓기만 하면 되는 것" 아니냐고 생각할 수 있지만, 법은 딥페이크에 한해서는 쉽게 눈에 띄는 고지·표시를 요구한다. 

다만 이 의무를 지는 건 콘텐츠를 만든 서비스·기업이지, 그 서비스를 이용해 숏폼이나 웹툰을 올리는 일반 이용자가 아니다. AI 도구를 활용해 그림을 그리거나 글을 써서 SNS에 올리는 개인은, 현행법상 인공지능사업자가 아니라 '이용자'로 분류돼 투명성 확보 의무 대상이 아니다. 규제의 초점은 어디까지나 AI 서비스를 만들고 운영하는 사업자에게 맞춰져 있다. 다만 영화·드라마·미술·문학처럼 표시 자체가 작품 감상을 크게 방해할 수 있는 창작물에는, 몰입을 해치지 않는 유연한 방식으로 고지할 수 있는 예외도 마련돼 있다. 

○ [위반하면 어떻게 될까 — 그런데 지금 당장은 봐준다]

표시 의무를 어기거나 딥페이크 사실을 숨긴 사업자에게는 먼저 과학기술정보통신부의 시정명령이 내려진다. 이를 따르지 않으면 최대 3,000만 원의 과태료가 부과된다. 

그런데 여기 함정이 있다. 정부는 시행 초기 혼란을 줄이기 위해 최소 1년 이상 과태료와 사실조사를 유예하는 '계도기간'을 운영하고 있다. 과기정통부와 법률 해석에 따르면, 이 기간 동안에도 표시 의무 자체는 이미 발생해 있지만, 실제 과태료 처분은 하지 않고 안내·컨설팅 위주로 제도를 안착시키겠다는 방침이다. 업계에서는 이런 유예 규정을 감안할 때, 본격적인 과태료 부과가 2027년 이후에야 시작될 것이라는 전망을 내놓고 있다. 

1월 22일 시행 기준으로는 이미 계도기간이 절반 가까이 지난 셈이다. "지금은 걸려도 봐준다"고 안심할 일이 아니라, "의무는 이미 적용되고 있고, 처벌은 머지않아 따라온다"는 걸 미리 준비해야 하는 시기라는 뜻이다.

▶ [가짜 전문가가 파는 건강식품... 다른 법도 함께 움직인다]

AI기본법 하나로 끝나는 이야기가 아니다. 공정거래위원회는 AI로 만든 가짜 인물이 실제 사람처럼 제품을 추천하는 이른바 'AI 워싱(AI Washing)'을 부당 광고로 보고 제재를 강화하고 있다. 여기에 더해, 정보통신망법 개정을 통해 악의적인 허위·조작 정보로 피해를 준 경우 실제 손해액의 최대 5배까지 배상하게 하는 징벌적 손해배상 제도 도입도 추진되고 있다. 아직 시행 전이지만, 방향은 분명하다 — AI를 이용한 속임수에 대한 대가가 점점 무거워지고 있다. 

선거철에는 규정이 더 엄격해진다. 공직선거법에 따라 선거일 90일 전부터는 선거운동 목적의 딥페이크 제작·유포 자체가 전면 금지된다. 그 외 기간에도 AI로 만들었다는 사실은 표시해야 한다. 중앙선거관리위원회는 올해 지방선거를 앞두고 지난 3월 5일부터 단속에 들어갔고, 실제로 고발된 사례도 나왔다.

○ [그래서 우리가 할 일은]

전문가들은 이 제도가 당장 완벽하진 않아도, AI 콘텐츠에 대한 국민적 신뢰를 다지는 첫걸음이 될 거라고 본다. 특히 보이스피싱이나 가짜뉴스에 취약한 세대에게는 "이게 진짜인지 확인해볼 최소한의 단서"가 생긴다는 의미가 크다.

독자 입장에서 할 일은 단순하다. 앞으로 SNS나 유튜브에서 영상을 보다가 구석에 작은 워터마크나 'AI 생성' 표시가 있는지 한 번 더 살펴보는 습관을 들이는 것이다. 표시 없이 유난히 그럴듯한 고수익 투자 광고나, 가족·지인을 사칭하는 듯한 영상을 마주쳤다면 — 일단 의심하고, 직접 전화로 확인하는 것이 가장 안전하다.