AI 생성물 악용 딥페이크·가짜뉴스 막는다… TTA, 표준화 추진

ⓒ한국정보통신기술협회

한국정보통신기술협회(TTA)는 AI 생성물의 오남용으로 인한 디지털 범죄 등 사회적 혼란을 막기 위해, AI 기반 합성 콘텐츠의 투명성 확보를 위한 요구사항 표준화를 추진한다고 8일 밝혔다.

AI 기반 합성 콘텐츠는 생성형 인공지능(Generative AI) 기법 등을 통해 기존의 이미지, 영상, 음성 등의 데이터를 조합해 생성한 콘텐츠로, ‘인공지능 생성물’이라고도 한다.

정부는 AI 발전과 신뢰 기반 조성 등에 관한 기본법(AI기본법)을 제정(2025년 1월)해 시행할 예정(2026년 1월)이다. 생성형 AI가 만든 생성물에는 AI가 생성한 결과물임을 표기하는 ‘AI 표시 의무제’를 도입하기로 했다.

TTA는 지난 1월 ‘인공지능(AI) 워터마크 기술 동향 보고서’를 발간한 바 있다. 또한, 인공지능 생성물의 무분별한 악용을 방지하고자 ‘인공지능 기반 합성 콘텐츠’ 표준화를 추진한다.

이번 표준화를 통해 TTA는 인공지능 생성물 투명성 관련 메타데이터, 워터마크 방식 등 투명성 정보 표시 기술, 인공지능 생성물 생명주기(생성물 생성-제공-활용) 정의, 각 생명 주기별 이해관계자 및 요구사항 등을 제공할 예정이다.

인공지능 생성물 투명성은 디지털 콘텐츠의 출처와 기록에 대한 정보를 문서화하고 이에 접근 가능하도록 하는 프로세스를 말한다.

이번 표준은 TTA AI신뢰성센터에서 제안하고, 한국조폐공사, 성균관대학교가 참여하여 TTA 인공지능 기반기술 프로젝트그룹(PG1005)에서 연내 제정을 목표로 추진 중이다. 해당 프로젝트그룹에는 한국전자통신연구원, 한림대학교, 한국마이크로소프트(유) 등 16개의 산·학·연 기관이 참여하고 있다.

손승현 TTA 회장은 “인공지능 생성물 활용 범위가 사회 전반으로 확대되고 있는 만큼, 사회 전체의 안전한 정보 유통에 있어 인공지능 생성물에 대한 투명성은 보다 중요해지고 있다”며 “이번 표준화를 통해 인공지능 생성물 활용성 확대와 신뢰할 수 있는 정보 유통 환경 조성에 기여할 수 있을 것”이라고 밝혔다.