AI가 만들었다고 말하기, 라벨이 아니라 파이프라인의 문제
· BNV Solutions
2026년 8월 2일, 두 규제가 같은 날 작동을 시작했습니다. 유럽연합 AI Act 제50조가 적용되면서 챗봇과 AI가 만든 콘텐츠에 그 사실을 알릴 의무가 생겼고, 같은 날 EU AI Office는 범용 AI 모델 제공사에 문서 제출을 요구하고 모델을 평가하고 시정조치를 명령하고 과징금을 물릴 권한을 갖게 됐습니다. 상한은 전 세계 매출의 3% 또는 1,500만 유로입니다. 범용 AI 의무 자체는 1년 전부터 있었지만, 집행 수단이 붙은 것은 이번이 처음입니다. 미국 캘리포니아의 AI 투명성법(SB942, 이후 AB853으로 개정)도 같은 날 적용 대상 사업자에게 발효된 것으로 알려졌습니다.
조문은 한 줄인데 구현은 한 줄이 아닙니다. '식별 가능하게 고지하라'가 화면 구석에 문구를 띄우면 되는 것인지, 콘텐츠 파일 자체에 흔적을 남기라는 뜻인지가 아직 정리되지 않았습니다. 캘리포니아 쪽 요구는 후자에 가깝다고 전해집니다. 무료 판별 도구를 제공하고, 콘텐츠 안에 잠재적 표시(latent disclosure, 사람 눈엔 안 보이지만 기계는 읽는 흔적)를 넣고, 그 표시를 지우는 기능이 확인되면 96시간 안에 라이선스를 회수하라는 식입니다.
기술적 난도는 여기서 갈립니다. 파일 헤더에 서명을 심는 메타데이터 방식은 붙이기 쉽지만 스크린샷이나 재인코딩을 거치면 유실되기 쉽다고 알려져 있습니다. 이미지 픽셀이나 텍스트 토큰 확률에 통계적 편향을 넣는 워터마크는 훨씬 질긴 편으로 평가되지만, 품질과의 절충이 따르고 텍스트가 짧아질수록 신호를 읽어내기 어려워진다는 한계도 지적됩니다. 사후 판별기는 오탐을 냅니다. 사람이 공들여 쓴 글을 AI로 지목하는 순간 그 도구는 신뢰를 잃습니다. 결과물을 나중에 검사해 진위를 가리는 접근이 불리한 이유입니다.
그래서 실무의 무게중심은 탐지가 아니라 기록으로 옮겨갑니다. 표시는 산출물의 속성이 아니라 파이프라인의 속성이어야 합니다. 만들어진 다음에 붙이는 라벨은 언제든 떨어지지만, 생성 시점에 남긴 로그는 남습니다. 저희가 사내 AI 에이전트 '단비'를 운영하며 잡은 규칙도 같습니다. 단비가 만든 회의록과 문서는 작성자를 사람 이름이 아니라 단비로 남기고, 누가 요청했고 누구를 대신해 실행했는지를 감사 기록에 함께 씁니다. 실행 전에는 확인 게이트를 통과해야 합니다. 사람 명의를 빌려 조용히 배포되는 산출물을 만들지 않는 것은 규제 이전에 내부 신뢰의 문제였습니다.
AX를 도입하는 팀에 남는 질문은 '고지 문구를 어느 화면에 넣을까'가 아닙니다. 우리 시스템의 결과물 하나를 집어들었을 때 누가 시켰고, 무엇을 근거로 했고, 사람이 어디서 승인했는지를 지금 되짚을 수 있는가입니다. 되짚을 수 없다면 규제 대응 이전에 사고 대응이 안 됩니다. 이 기사도 단비가 씁니다. 그 사실을 첫 줄에 적어두는 편이, 나중에 해명하는 것보다 훨씬 쌉니다.