(톱스타뉴스 편집팀 기자) 한국인터넷자율정책기구(KISO)는 최근 사회적 이슈로 떠오르고 있는 딥페이크(특정 인물의 얼굴 등을 영상에 합성)에 의해 생성된 허위 조작 정보에 대응하기 위한 논의에 착수했다고 15일 밝혔다.
KISO 산하 신기술위원회는 최근 열린 회의에서 딥페이크 등 인공지능(AI) 기술 오남용 문제와 관련해 회원사들의 대응 현황을 공유하고 향후 대책을 논의했다. 학계 전문가들로 구성된 신기술위원회에는 국내 대표 포털인 네이버와 카카오[035720]를 비롯해 심심이, 스캐터랩, 튜닙 등 챗봇 서비스 업체가 참여하고 있다.
신기술위원회는 4월 국회의원 선거를 앞두고 딥페이크 기술을 이용한 허위 조작정보가 확산할 가능성을 예의주시하며 구체적인 사례를 수집·분석하기로 했다. 또한 설문조사 등을 통해 이용자의 의견을 수렴한 후 자율규제 측면에서 적절한 대응책을 마련해 나가기로 했다.
중앙선거관리위원회와 협력해 딥페이크 영상을 이용한 허위 조작정보가 명확히 확인된 경우 빠르게 조치할 계획이다.
이와 관련, 네이버는 신고센터 메인 페이지에 선거 관련 허위 정보와 딥페이크 생성물 신고 영역을 신설하고 블로그, 카페 등에서 동영상을 게시하거나 딥페이크 관련 검색어를 입력할 때 딥페이크 활용에 관한 주의·안내 문구를 제공하고 있다. 뉴스 서비스에서는 AI 로봇이 생성한 기사를 이용자가 인지하도록 기사 본문에 해당 사실의 표기를 강조하고 있다.
카카오는 언론사에서 AI를 이용해 생성한 기사 상단에 'AI가 생성한 기사입니다'라는 문구를 노출해 이용자가 쉽게 인지할 수 있도록 했다. 생성형 AI 이미지 생성 모델 '칼로'에는 비가시성 워터마크를 부착하는 기술을 도입했다. 또, 키워드 검색, 배너 등을 활용한 캠페인을 통해 이용자의 주의를 환기하고, 딥페이크 신고 요령 등도 자세히 안내할 예정이다.
SK커뮤니케이션즈는 'AI챗' 서비스를 이용한 이미지 생성 시 주요 정치인의 성명에 관한 '검색어 제한 조치'를 통해 선거 관련 딥페이크 제작을 방지하는 방안을 마련하고, 선거 관련 허위 정보 신고 채널 운영과 서비스 내 딥페이크 주의 안내 문구를 표시할 예정이다.
이재신 KISO 신기술위원장(중앙대 미디어커뮤니케이션학부 교수)은 "온라인 환경에서 사실로 오인 가능한 허위 조작정보가 확산하면 사회 신뢰를 저하하고, 수많은 콘텐츠의 진위를 판별하기가 더욱 어려워질 수 있다"며 "인공지능 기술의 오남용으로 인한 사회적 문제에 대응하기 위한 연구를 활성화해나갈 것"이라고 말했다.
톱스타뉴스에서는 팬들의 마음을 기사로 대신 전해주는 'F레터(팬레터)' 사연을 받고 있습니다.
스타의 비전을 함께 공유하면서 비상하고 있는 스타의 '소울메이트'인 팬들의 진심과 그들의 감성, 그리고 시선을 담고자 'F레터'를 기획했습니다.
F레터 속에는 아픔도 있고, 슬픔도 있고, 희망과 행복도 있지만 공통분모는 '다들 나와 비슷하구나'에서 오는 정서적 위로가 가장 큰 가치라고 생각하기에 보다 많은 팬들의 마음이 많은 대중들에게 전달될 수 있을 것으로 기대됩니다.
'F레터'는 아티스트의 철학적 선율이 담긴 스토리를 직∙간접적으로 경험한 팬들이 '스타를 접한 당시의 감정과 감성의 편린'으로 인해 자신의 삶을 더욱 풍요롭게 만들었던 '순간의 감동과 추억, 그리고 그 감성'을 여러 독자에게 소개하고 공유하고 있습니다. 팬들의 관점에서 본 '나의 최애에 대한 이야기, 팬카페에 올려진 감동적인 글, 내가 그에게 빠진 이유, 내 인생의 최애 곡, 내 마음을 흔든 결정적 장면, 내 마음을 훔쳐갔던 그 시기-그 시절, 나만의 플레이리스트, 내가 스타를 사랑하게 된 이유' 등의 팬 글들을 'F레터'로 보도하고 있다. 자세한 'F레터'는 공지를 통해 확인할 수 있습니다.
팬들의 마음을 기사로 대신 전해주는 'F레터(팬레터라는 의미)'에 많은 제보와 관심 부탁드립니다.
기사를 추천하면 투표권을 받을 수 있습니다. 
모바일 모드로 보기 Go to the Mobile page.
1일 투표권 3개 받기