" AI가 만들고 SNS가 실어 날라…국내 플랫폼도 '비상' "

 

개요

 

 

 

 

 

자극적 정보 공유 부추기는 SNS…가짜뉴스 전파, 6배 빨라

무엇보다 소셜미디어의 태생적인 속성이 가짜뉴스의 확산을 부추긴다고 전문가들은 지적한다.

미 서던캘리포니아대학(USC) 연구진이 지난 1월 과학 저널 '미 국립과학원회보'(PNAS)에 실은 논문에 따르면 자극적이고 눈에 띄는 정보를 자주 올리고 공유하는 계정에 더 많은 방문자가 찾아오는 소셜미디어의 '보상 시스템' 때문에 이용자들이 "남들로부터 인정받을 수 있는 정보"를 습관적으로 공유하는 것으로 분석된다.

연구진이 페이스북 활성 사용자 2천476명을 조사한 결과 습관적으로 뉴스를 공유하는 이용자의 단 15%가 전체 가짜뉴스 중 30∼40%를 전파한 것으로 나타났다.

자극적인 정보가 더 많이 주목받는 소셜미디어 특성 탓에 가짜뉴스는 진짜 정보보다 훨씬 더 빠르게 전파된다.

미 매사추세츠공대(MIT) 과학자들이 트윗 12만6천285건을 분석해 2018년 사이언스에 게재한 연구 결과에 따르면 가짜뉴스가 트위터 사용자 1천500명에게 도달하는 데 걸린 시간은 평균 10시간으로 진짜 뉴스(60시간)의 6분의 1에 불과했다.

 

 

가짜뉴스 슈퍼 전파자는 '봇'…딥페이크로 진화 우려

사람뿐 아니라 자동으로 가짜 콘텐츠를 생산하고 전달하는 봇(bot) 계정도 가짜뉴스 전파 과정에서 큰 역할을 한다.

미 인디애나대 연구진은 2016년 미 대선 당시 1천361만7천425건의 트윗을 봇 탐지 도구인 '보토미터' 등으로 분석한 결과 가짜뉴스의 '슈퍼 전파자' 계정들은 봇 계정일 가능성이 높다는 결론을 내렸다.

이탈리아 트렌토대 마시모 스텔라 교수 등의 연구 결과 2017년 10월 스페인 카탈루냐 독립 주민투표에 관한 360만 건의 트윗 중 23.5%가 봇 계정에서 생성된 것으로 파악됐다.

미국 랜드연구소 크리스토퍼 폴 선임사회과학자는 2016년 미  대선 직전 일주일간 도널드 트럼프 공화당 후보 또는 힐러리 클린턴 민주당 후보를 지지하는 봇 생성 트윗 1천900만 건이 유포된 것으로 추정했다.

기술과 결합한 가짜뉴스의 창궐은 앞으로 AI를 이용해 기존의 동영상에 다른 사람의 얼굴과 말을 합성하는 딥페이크 기술로 새 국면을 맞고 있다.

조작이 어려워 상대적으로 신뢰할 수 있는 보루로 여겨졌던 동영상마저 그럴듯하게 꾸며낼 경우 가짜뉴스의 효과가 더 커질 수밖에 없어서다. 실제로 미 정치권 인사들을 대상으로 한 딥페이크 가짜 동영상이 소셜미디어 이용자를 속이는 일이 벌어지고 있다.

 

 

  딥페이크 방지 기술

 

 

 

 

 

 딥페이크 탐지 기술 역시 AI를 활용한다. 인텔이 개발한 탐지 프로그램 ‘페이크캐처’는 사람 얼굴의 혈류 변화를 추적해 예상되는 얼굴색과 실제 영상을 비교해가며 실시간으로 딥페이크 유무를 분석한다. 영상을 픽셀 단위로 분석해 96%의 정확도로 영상의 진위 여부를 즉각 판단해낸다.

 

 미국 국방고등연구계획국(DARPA)은 온라인의 딥페이크를 자동 감지하는 포렌식 알고리즘을 만드는 ‘세마포(SemaFor) 프로그램’을 진행하고 있다. 세마포 프로그램은 딥페이크를 생성할 때 만들어지는 ‘AI의 실수’를 단서로 딥페이크를 찾아낸다. 특정 알고리즘으로 생성된 얼굴에는 양쪽 귀의 귀걸이가 서로 다르게 나타나는 등 딥페이크가 가진 공통적 특징을 찾는 식이다. DARPA는 딥페이크를 쉽게 감지할 수 있게 하면, 결국 딥페이크 콘텐츠 생성 비용이 증가하면서 관련 영상이 줄어들 것으로 본다. 장기적으로는 누가, 어떻게, 왜 딥페이크를 만들었는지 추론할 수 있는 기술도 개발할 계획이다. DARPA 관계자는 “오락이나 예술을 위한 기술과 현실에 부정적인 영향을 끼치기 위해 만드는 딥페이크 영상은 분명한 차이가 있다”며 “우리 알고리즘은 악의적 목적으로 위조된 미디어를 자동 식별하는 데 초점을 맞추고 있다”고 했다.

 

 딥페이크 탐지를 넘어 위조 불가한 워터마크로 딥페이크 이미지를 구별하는 방법도 개발되고 있다. 구글 딥마인드가 지난 8월 선보인 AI 합성 이미지용 워터마크 ‘신스ID(SynthID)’가 대표적이다. AI 이미지 생성 플랫폼에서 만든 이미지에 육안으로 보이지 않는 워터마크를 픽셀 단위로 넣어서 해당 이미지가 실제가 아님을 식별할 수 있게 한다. 구글 외에도 메타와 오픈AI 등 주요 기업들은 미 대선을 앞두고 딥페이크 이미지에 워터마크를 심겠다고 밝힌 바 있다.

 

 

https://www.yna.co.kr/view/AKR20231124044100017?section=industry/technology-science

[뉴팬데믹! 가짜뉴스] ⑨ AI가 만들고 SNS가 실어 날라…국내 플랫폼도 '비상' | 연합뉴스

https://www.chosun.com/economy/science/2023/10/17/RBQ3R76VXJDP5GBSX5QJJFL3G4/

딥페이크 교활해질수록 탐지기술도 정교해진다