이란 전쟁, ‘가짜 AI 전쟁 영상’이 진짜 전쟁만큼 무섭다

미국·이스라엘과 이란 간 전쟁이 격화되는 가운데, 전장을 다루는 수많은 영상과 이미지 중 실제가 아닌 생성형 AI가 만든 가짜가 많아 심각한 문제가 되고 있다.

CNN, BBC, AFP, 호주 AAP 등 다수의 언론과 팩트체크 기관들은 “AI로 생성·편집된 전쟁 영상이 수천만 뷰를 기록하며 여론과 정보 환경을 뒤흔들고 있다”고 경고한다.

“폭발·미사일·불타는 도시”…가짜 영상이 만들어 낸 가상 전장

BBC Verify는 최근 며칠 사이, 이란과의 전쟁 상황을 다룬다는 명목으로 유통되는 영상들 중 미사일이 텔아비브를 강타하는 장면, 두바이 부르즈 칼리파가 불타는 장면 등이 AI로 생성된 합성 영상이라는 사실을 확인했다.

이런 영상들은 X(구 트위터), 틱톡, 인스타그램 등 주요 플랫폼에서 각각 수십만~수천만 회 이상 조회되며 게시글 수백 개에 재활용되고 있는 것으로 파악됐다.

호주 통신사 AAP의 팩트체크 역시 “2026년 이란 전쟁을 촬영한 실제 영상”이라며 유포된 여러 장면이 예전 다른 분쟁의 영상이거나, 아예 AI가 새로 생성한 화면이라는 점을 확인하고 모두 ‘거짓(False)’ 판정을 내렸다.

AAP는 “소셜미디어가 구체적 사실보다 ‘자극적인 전쟁 장면’을 우선적으로 확산시키며 그중 상당수가 AI 생성·편집물”이라고 지적했다.

CNN도 3월 11일자 리포트에서 "이란 전쟁과 관련해 전문가들이 AI 생성물로 판정한 영상과 이미지가 소셜 플랫폼 전반에서 수천만 뷰를 올리고 있다"고 보도했다.

여기에는 실제 폭격과 무관한 폭발 장면, 조작된 정치 지도자의 발언 영상, AI가 그림처럼 만들어 낸 병력 배치 이미지 등이 포함된다.

위성사진까지 위조…국가 매체도 AI 이미지 활용

AI 합성은 지상 전투 장면을 넘어 위성사진 영역으로까지 확장되고 있다.

BBC Verify는 미 해군 제5함대가 주둔한 바레인 기지에 대한 드론 공격 이후 기지가 심각하게 파괴된 것처럼 보이는 이미지가 X 상에서 급속히 확산됐지만 분석 결과 이 이미지가 기존 위성사진을 기반으로 AI가 ‘파손 흔적’을 덧입힌 합성물임을 확인했다.

이 이미지는 이란 계열 매체인 ‘테헤란 타임즈’의 계정에서 공유되며 실제 전장 상황을 과장하는 선전물로 사용됐다.

구글의 SynthID 워터마크 기술을 통해 '구글 AI 제품을 이용해 생성 또는 수정된 이미지'라는 정황도 드러났고 동일한 차량 배치 등 세밀한 부분까지 비교한 결과 합성이라는 판단이 나왔다.

수익을 노리는 크리에이터들…알고리즘과 맞물린 ‘전쟁 비즈니스’

이번 전쟁에서 눈에 띄는 지점은 전문 선전 조직뿐 아니라 일반 크리에이터들도 AI 전쟁 영상으로 수익을 노리고 있다는 점이다.

BBC는 “생성형 AI 도구의 문턱이 낮아지면서 과거에는 프로 제작 환경이 필요했던 ‘전쟁 영상’이 이제 몇 분 안에 만들어지고 있다”고 전했다.

플랫폼 알고리즘이 ‘조회수와 참여도’에 보상을 주는 구조인 만큼 자극적인 AI 전쟁 영상은 팩트 여부와 관계없이 빠르게 추천·확산된다.

미 디지털 연구 기관 DFRLab는 공항 공습 영상 하나가 X에서 몇 시간 만에 680만 회 노출됐다고 기록했는데, 이후 이 영상 역시 실제 전황과 관계없는 오도 영상으로 분류됐다.

플랫폼들의 뒤늦은 대응…X는 “레이블 없이 올리면 수익 차단”

플랫폼들도 뒤늦게 대응에 나서고 있다.

X의 제품 책임자 니키타 비어(Nikita Bier)는 최근 게시글에서 전쟁 관련 오도성 영상에 대한 라벨링과 탐지 기능을 강화하겠다고 밝혔다. 특히 AI가 만든 전쟁 영상을 적절한 표기 없이 공유하는 경우, 크리에이터 수익 배분 프로그램(creator revenue sharing)에서 제외하겠다고 공식화했다.

BBC 보도에 따르면 X는 “무기 충돌 영상을 AI로 생성해 표시 없이 올리는 계정은 일정 기간 수익화를 제한한다”고 밝혔으며 이는 전쟁 관련 AI 영상에 직접적인 금전적 인센티브를 줄이는 조치로 해석된다. 다만 틱톡과 메타(페이스북·인스타그램 모회사)는 BBC의 유사한 조치 여부 질의에 별도의 답변을 내지 않았다.

메타의 독립 감시기구인 오버사이트 보드는 3월 9일 성명을 통해 전쟁 상황에서의 AI 생성 콘텐츠에 대해 별도의 규칙과 더 강한 라벨링·출처 공개 체계를 마련하라고 메타에 권고했다. 보드는 “사용자가 콘텐츠의 출처와 생산 방식을 파악할 수 있는 정보가 충분히 제공되어야 하며, 기만적 AI 콘텐츠에 대한 대응 속도도 빨라져야 한다”고 지적했다.