네이버 카카오 등 IT 플랫폼, 과기정통부 딥페이크 대응 강화...AI 기본법에 워터마크 제도 도입 추진

 

🤖 네이버, 딥페이크 대응 강화...과기정통부, AI 기본법에 워터마크 제도 도입 추진
네이버는 최근 딥페이크 기술을 악용한 범죄 행위에 대해 강력한 대응을 발표했다. 네이버는 고객센터 공지사항을 통해 딥페이크 관련 이미지를 발견할 경우 신고 접수를 받으며, 딥페이크 기술을 악용한 범죄 행위에 대해 법적 처벌이 뒤따를 수 있음을 경고했다. 또한, 네이버는 이용자의 안전과 개인정보 보호를 최우선으로 하여 관련된 모든 신고를 처리할 방침이다.

---

🤖 플랫폼 업계, 딥페이크 대응 강화...안전한 AI 환경 조성에 총력
국내 플랫폼 업계는 제22대 국회의원선거를 앞두고 딥페이크를 악용한 가짜뉴스 확산에 대응하기 위해 본격적으로 나섰다. 과학기술정보통신부와 방송통신위원회 등 관계 부처가 주도하여, 한국인터넷기업협회는 '악의적 선거 딥페이크 방지 공동선언'을 채택했다. 지난 5월에는 국내외 14개 기업이 '서울 기업 서약'을 발표하며 안전한 AI 사용을 위한 노력을 강화했다.

네이버, '클로바 그린아이'로 AI 콘텐츠 필터링 강화
네이버는 2017년부터 실시간 AI 이미지 필터링 시스템 '클로바 그린아이'를 네이버 카페와 블로그에 적용, 2021년 2.0 버전으로 고도화해 필터링 정확도를 99.5%로 향상시켰다. 네이버는 올해 상반기에 869만여 건의 콘텐츠를 제한했으며, 24시간 모니터링 체제를 운영 중이다.

 

카카오, 딥페이크 감시 및 청소년 보호 강화
카카오는 카카오톡 오픈채팅, 포털 다음 등에서 딥페이크 콘텐츠 유통을 감시하고 있으며, 허위 영상물 적발 시 해당 계정의 서비스 이용을 영구 제한한다. 또한 KISO와 협력해 딥페이크 관련 검색어를 청소년 보호 검색어로 지정했다.

구글과 유튜브, 딥페이크 규제 강화
구글은 신고와 자동화 시스템을 통해 딥페이크 콘텐츠를 추적하며, AI 기반 탐지 도구를 개발 중이다. 유튜브는 2만 명 이상의 리뷰어와 머신러닝을 활용해 콘텐츠의 불법성을 판단하며, AI로 생성된 콘텐츠에는 라벨 부착을 의무화하고 있다.

---

🤖 과기정통부, AI 기본법에 딥페이크 대응 위한 워터마크 제도 도입 추진
과학기술정보통신부는 딥페이크의 부작용을 방지하기 위해 생성형 인공지능(AI) 콘텐츠에 워터마크를 표기하는 제도를 AI 기본법에 포함할 계획이다. AI 기본법은 AI 산업 육성과 규제를 담은 법안으로, 이번 조치는 딥페이크와 가짜뉴스와 같은 문제를 해결하기 위한 투명성 제고 방안으로 추진된다.

🤖 AI 안전연구소와 워터마크 제도 도입
김남철 과기정통부 정보통신정책총괄과장은 28일 열린 제57회 국민생활과학기술포럼에서 "딥페이크와 관련해 워터마크 제도를 AI 기본법에 포함시키기 위해 준비 중"이라며, "생성형 AI를 사용한 콘텐츠에 워터마크를 표기함으로써 투명성을 높이고자 한다"고 밝혔다. 또한, 고위험 AI의 신뢰성을 보장하기 위해 AI 안전연구소 설립과 관련한 조항도 입법에 포함할 것이라고 덧붙였다.

🤖 법적 제약과 사회적 인식 제고 필요성 강조
김 과장은 워터마크 제도에도 불구하고 법적 현실적 제약이 존재할 수 있음을 지적하며, 생성형 AI에 대한 사회적 인식을 높이는 것이 중요하다고 언급했다. 특히 "텔레그램과 같은 해외 플랫폼의 경우 법적 접근이 어려운 상황"이라며, 법의 변화에 따른 대응의 어려움을 강조했다. 그는 또한 "학교에서부터 불법적 콘텐츠를 받아들이지 않는 윤리 교육이 병행되어야 한다"고 말했다.

🤖 대전환을 위한 국가인공지능위원회의 역할
과기정통부는 9월 중 출범 예정인 국가인공지능위원회의 역할을 강조하며, 정부와 민간 전문가가 협력하여 딥페이크와 같은 부작용을 예방하고 AI의 긍정적 측면을 발전시킬 방안을 모색할 것이라고 밝혔다.

🤖 생성형 AI로 인한 일자리 변화와 대응
김 과장은 생성형 AI로 인해 일자리 변화가 불가피할 것이라고 언급하며, AI 역량 강화를 위한 교육 과정을 초등학교에서부터 대학원까지 확대할 계획이라고 밝혔다. 또한, 어르신 등 취약계층의 디지털 역량 강화를 위한 지원도 지속적으로 개선해 나갈 것이라고 전했다.