국민대학교(총장 정승렬) 소프트웨어융합대학 인공지능학과 김민규 교수가 이미지·비디오 생성 AI의 대표 기법인 확산 모델(Diffusion Model)과 플로우 매칭(Flow Matching)을 기반으로, 안전한 콘텐츠 생성을 위한 통합 프레임워크 ‘Safety-Guided Flow(SGF)’를 제안하는 연구를 수행했다.

이번 연구는 정보통신기획평가원(IITP)과 캐나다 CIFAR의 지원을 받아 진행됐으며, 김민규 교수가 제1저자로 참여하고 캐나다 브리티시컬럼비아대학교(UBC)의 김영헌·박미정 교수가 공동 참여했다.

연구 결과는 인공지능 분야 세계 3대 최우수 학회인 『International Conference on Learning Representations 2026』 (구글 Scholar H-index 기준 전체 과학/공학 분야에서 8위)에 구두발표(Oral)로 채택됐다.

연구 결과에 따르면, 기존의 대표적 안전 생성 기법인 Shielded Diffusion과 Safe Denoiser가 각각 최대 평균 불일치(Maximum Mean Discrepancy, MMD) 포텐셜의 특수한 경우임을 증명하여, 분산되어 있던 안전 생성 연구를 하나의 통합 프레임워크로 제시했다. 또한, 제어 장벽 함수(Control Barrier Function) 이론을 적용하여 디노이징 초기에 가이던스를 강하게 적용하고 이후 점차 감소시켜야 하는 '임계 시간 창(Critical Time Window)'의 존재를 보였다. SGF를 적용한 모델은 유해 콘텐츠 방어, 학습 데이터 암기 방지, 저작권 보호 등 다양한 안전 생성 시나리오에서 기존 기법 대비 우수한 성능을 보이며, 생성 AI의 안전한 실용화를 위한 핵심 기반 기술로서의 가능성을 확인했다.

국민대 김민규 교수는 “이번 연구는 기존 데이터 기반 안전 생성모델이 확률 기반 Maximum Mean Discrepancy 포텐셜 기울기의 특수한 경우임을 이론적으로 증명하여, 분산되어 있던 안전 생성 연구를 하나의 통합된 관점에서 이해할 수 있는 새로운 분석 프레임워크를 제시했다”며 “향후 확산 모델과 플로우 매칭 모델이 자율주행, 의료, 콘텐츠 생성 등 고위험 영역에 실용화되는 과정에서 안전성을 보장하는 핵심 기반 기술로 활용될 수 있을 것”이라고 말했다.