얼마 전, 우리 대학 신문사에서 기자로 일하고 있는 동기를 만났다. 최근 ‘우주 두통’과 관련된 기사를 쓸 일이 있었다고 한다. 마땅한 사진이 없어서 AI에게 키워드를 제시한 뒤, 사진을 만들어 달라고 했다고 한다. 그러자 20초도 안 걸려서 우주를 배경으로 두통을 호소하는, 찡그린 표정의 우주비행사 일러스트를 만들 수 있었다고 한다.
생성형 AI에 ‘우주’, ‘두통’, ‘찡그린 표정’, ‘우주비행사’라는 키워드를 넣고 일러스트를 만들어 달라고 했더니 20초도 걸리지 않아 일러스트가 나왔다.
AI의 사진 생성술이 너무 좋아졌다는 동기의 말에 어떤 사진인지 보여달라고 했더니, 사람이 실제로 찍은 건지 구분이 되지 않을 정도로 자연스러웠다. 기술의 발전이 대단하다는 생각이 들면서도, 딥페이크를 이용한 가짜 뉴스를 만들 때 AI 사진 생성기를 이용하더라도 이질감을 잘 느끼지 못할 것 같아 걱정스럽다는 생각도 들었다.
지난 달까지 고등학교에서 교생 실습을 마치고 왔다. 에듀테크를 이용하는 수업을 참관하면, 아이들이 챗GPT를 다양하게 활용하는 모습을 보게 된다. 아이들이 생성형 AI를 이용해 자료를 찾고, 사진이나 주장문 등의 자료를 만들어내기도 하니 그것을 다루고 이용하는 것을 매우 쉽게 생각하는 경향이 있는 것 같았다.
생성형 AI란?(출처=방송통신위원회)
챗GPT로 만들어낸 사진을 SNS에 쉽게 공유하고 전송하는 것을 보고 저작권 문제가 있을 수 있으니 유의해야 한다고 지도했더니 그런 게 문제가 되느냐는 표정으로 쳐다보던 아이들이 생각난다. 기술이 발전하는 속도에 맞춰 경각심도 발전해야 할 텐데, 어떻게 지도하면 좋을지 함께 고민했던 기억이 난다.
지난 5월 21일 국무회의에서 과학기술정보통신부가 관계부처 합동으로 마련한 ‘새로운 디지털 질서 정립 추진계획’을 보고했다고 한다. 이 중에서 눈에 띄는 소식은 인공지능 AI 생성물에 워터마크 표시를 의무화하는 방안을 추진한다는 것이다.
생성형 AI로 만들어진 사진은 대단히 정교하기 때문에 일반인이 진위 여부를 쉽게 알아차리기가 어렵다.(출처=방송통신위원회)
‘AI 워터마크’란 AI 기술을 바탕으로 제작된 디지털 이미지나 문서에 삽입되는 로고나 텍스트를 말하는데, 이를 통해 해당 콘텐츠를 생성형 AI가 만들었다는 점을 쉽게 알아차릴 수 있도록 해서 이용자들의 혼선이나 허위 정보 유포 사실을 막는 역할도 수행한다고 한다.
이번 계획은 지난해 9월에 수립된 ‘디지털 권리장전’ 구현을 위한 구체적인 정책을 마련하겠다는 차원에서 나왔다. 딥페이크 기술 발달로 사실과 허위를 구분하기 어려워져, 가짜 정보가 빠르게 퍼지고 있는 상황을 막기 위함이다.
생성형 AI를 윤리적으로 사용해야 하는 이유.(출처=방송통신위원회)
이미 세계 각국의 정부는 생성형 AI를 악용한 가짜 정보가 무분별하게 유통되는 것을 우려하여, AI 출력물에 대한 워터마크 규제를 도입했거나 도입을 준비하고 있는 단계이다.
생성형 AI와 저작권의 문제는 뗄 수 없는 관계에 놓여 있다. 최근 뉴욕타임스가 오픈AI와 마이크로소프트를 상대로 저작권 침해 소송을 제기하기도 한 것처럼, 전 세계적으로 AI와 저작권 관련 분쟁이 거세진 상황이다.
생성형 AI를 현명하게 사용하기 위한 체크리스트.(출처=방송통신위원회)
AI 생성물에 워터마크 표시를 추진하는 건 저작권 의식을 높이고 경각심을 키우기 위한 첫걸음이라고 생각한다. 워터마크 표시를 계기로 AI 생성물을 사용할 때 지금보다는 더 조심스럽게 접근하여 안전하고 편리하게 이용할 수 있었으면 하는 마음이다.
이 누리집은 대한민국 공식 전자정부 누리집입니다.
.jpg)
.jpg)
.jpg)
.jpg)
