이 이미지는 AI가 만든 것인가 — 워터마크·자격증명·판별기

몇 년 전만 해도 AI 이미지는 손가락을 세어 보면 알 수 있었다. 지금은 아니다. 육안 판별은 실용적인 방법이 아니게 됐다.

그래서 업계와 규제는 다른 방향으로 갔다. 만드는 시점에 표시를 남기는 쪽이다.

세 가지 접근

셋은 경쟁 관계가 아니라 겹쳐 쓰는 층이다. 하나가 끊겨도 다른 하나가 남도록 설계한다.

보이지 않는 워터마크

구글 딥마인드의 SynthID가 대표적이다. 픽셀 값을 사람 눈에 안 보이는 수준으로 미세하게 조정해 신호를 심는다. 자르기, 필터, 압축 같은 흔한 변형을 거쳐도 검출기가 읽어낼 수 있도록 설계됐다.

주목할 변화는 경쟁사도 이 방식을 채택하기 시작했다는 점이다. 오픈AI가 자사 이미지 생성물에 SynthID 워터마크를 적용하는 조치를 도입했다. 표시 기술이 회사별 각자 방식에서 공통 인프라로 옮겨가는 흐름이다.

한계도 분명하다. 워터마크는 제거를 시도하는 연구도 함께 진행된다. 강한 변형이나 재생성 과정을 거치면 신호가 약해질 수 있고, 애초에 워터마크를 심지 않는 생성기도 많다.

콘텐츠 자격증명(C2PA)

C2PA는 콘텐츠의 출처와 편집 이력을 파일에 서명된 형태로 붙이는 개방형 표준이다. 어도비, 구글, 마이크로소프트, BBC, 로이터 등이 참여한다.

• 어떤 도구로 생성했는지
• 이후 어떤 편집이 있었는지
• 각 단계가 누구의 서명으로 보증되는지

이 이력이 파일에 함께 다닌다. 카메라로 찍은 사진이 진짜임을 증명하는 방향으로도 쓰인다.

문제는 끊기기 쉽다는 것이다. 스크린샷을 찍거나, 메타데이터를 제거하는 플랫폼에 업로드하거나, 다른 형식으로 다시 저장하면 이력이 사라진다. 그래서 자격증명이 없다는 사실만으로 AI 생성물이라고 판단할 수는 없다.

규제가 정한 시한

EU AI법은 AI 생성 콘텐츠에 대해 기계 판독 가능한 표시를 요구한다. 알려진 일정은 이렇다.

• 2026년 8월 2일 이후 시장에 출시되는 생성형 AI 시스템에 적용
• 그 이전에 이미 출시된 시스템은 2026년 12월 2일까지 요건을 충족해야 한다
• 미준수 시 최대 1500만 유로 또는 전 세계 연간 매출의 3% 중 높은 금액의 과징금

현실은 아직 여기에 못 미친다. 2025년 조사에서 AI 이미지 생성기 50개 중 워터마크를 넣는 것은 19개, 가시 라벨을 제공하는 것은 9개에 그쳤다. 규제 시한과 실제 구현 사이에 간격이 크다.

실무에서 확인하는 순서

받은 이미지의 출처를 확인해야 한다면 이 순서가 현실적이다.

1. 파일 원본을 구한다. 메신저로 받은 이미지는 대체로 재압축돼 메타데이터가 날아가 있다. 원본 파일을 요청한다
2. 콘텐츠 자격증명을 확인한다. 지원하는 뷰어나 검증 사이트에서 이력이 있는지 본다
3. 워터마크 검출기를 돌린다. 서비스별 검출기가 제공되는 경우가 있다
4. 역이미지 검색을 한다. 원본 출처나 더 이른 게시물이 나오는지 확인한다
5. 맥락을 본다. 같은 사건의 다른 각도 사진이 존재하는지, 최초 게시 계정의 이력이 어떤지

판별기 점수 하나로 결론 내리지 않는 것이 중요하다. AI 판별을 표방하는 서비스들은 오탐이 적지 않고, 진짜 사진을 AI로 잘못 분류하는 경우도 흔하다. 특히 사람의 평판이 걸린 사안에서는 단일 판별기 결과를 근거로 쓰면 안 된다.

만드는 쪽에서 지킬 것

• 표기한다. 상업적 결과물에 AI 생성물을 쓸 때 표시 여부는 이미 여러 플랫폼의 정책 사항이다
• 자격증명을 지운 채 배포하지 않는다. 편집 도구에서 메타데이터를 유지하는 옵션을 확인한다
• 사람을 닮은 생성물은 특히 주의한다. 실존 인물과 유사한 결과물은 초상·명예 문제로 이어진다

정리

1. 육안 판별은 사실상 끝났다. 지금의 방법은 생성 시점의 표시다
2. 층은 셋이다. 가시 라벨, 보이지 않는 워터마크(SynthID 계열), 콘텐츠 자격증명(C2PA)
3. 워터마크는 변형에 강하지만 제거 시도가 함께 연구되고, 자격증명은 스크린샷·재저장으로 끊긴다
4. EU AI법은 2026년 8월 2일 이후 출시 시스템에 적용되고, 기존 시스템은 12월 2일까지 요건을 충족해야 한다. 실제 구현은 아직 뒤처져 있다
5. 확인은 원본 확보 → 자격증명 → 워터마크 → 역이미지 검색 → 맥락의 순서로 하고, 단일 판별기 점수로 결론 내리지 않는다

자주 묻는 질문

자격증명이 없으면 AI 이미지인가요?

아닙니다. 스크린샷을 찍거나 메타데이터를 제거하는 플랫폼을 거치면 이력이 사라집니다. 자격증명이 있으면 출처를 확인할 수 있고, 없으면 확인할 수 없을 뿐 판단의 근거는 되지 않습니다.

AI 판별 사이트는 믿을 만한가요?

참고 자료로는 쓸 수 있지만 단독 근거로는 부족합니다. 오탐과 미탐이 모두 보고되며, 특히 편집·보정을 많이 거친 실제 사진이 AI로 분류되는 경우가 있습니다. 여러 신호를 함께 보는 것이 원칙입니다.

워터마크를 지우면 완전히 안 걸리나요?

제거를 시도하는 연구가 존재하고 일부는 성공을 보고합니다. 다만 제거 과정에서 화질이 손상되는 경우가 많고, 워터마크는 여러 방어 수단 중 하나일 뿐입니다. 자격증명·게시 이력·역이미지 검색이 함께 남습니다.

개인이 만든 AI 이미지도 표시해야 하나요?

법적 의무의 1차 대상은 시스템 제공자입니다. 다만 플랫폼별 정책에서 업로더에게 표시를 요구하는 경우가 늘고 있고, 광고·언론 등 용도에 따라 별도 규정이 적용될 수 있습니다. 배포 대상 플랫폼의 정책을 확인하는 것이 안전합니다.