제프리 밀러(Geoffrey Miller): 가짜 AI 이미지가 어떻게 인도에서 긴장을 불러일으킬 수 있는지

보기: 한나라당이 인공지능(AI)을 이용해 정치 공격 광고용 가짜 사진을 제작했다고 인정했습니다. 크레딧: 비디오 - 뉴스허브; 이미지 - 게티 이미지.

민주주의 프로젝트(Democracy Project)의 제프리 밀러(Geoffrey Miller)

분석: 보는 것은 더 이상 믿지 않습니다.

인공지능(AI)이 만들어낸 놀랍도록 현실적이면서도 가짜인 이미지가 여기에 있습니다.

지금까지 대부분은 진정한 속임수 시도라기보다는 호기심에 더 가까운 것처럼 보였습니다.

지난달에는 뉴질랜드 국민당이 AI 이미지 생성 앱 미드저니(Midjourney)를 활용해 홍보 이미지를 제작한 것으로 드러났다. 결과에는 가상의 의료 종사자와 범죄를 걱정하는 겁에 질린 시민들이 포함되었습니다.

이 경우 AI의 사용은 상대적으로 온화했습니다. AI 창작물은 과거에 사용되었던 스톡 사진을 효과적으로 대체했습니다.

언론 매체에서 의혹이 제기되기 전까지 사실적으로 보이는 이미지가 실제로 가짜라는 사실을 알아차린 사람은 거의 없었습니다.

뉴질랜드의 사례는 AI 이미지가 선거 캠페인에 어떻게 사용될 수 있는지 보여주었지만, 우리는 AI 이미지가 국제 관계에 막대한 영향을 미칠 것으로 예상할 수도 있습니다.

지난 3월 벨링캣(Bellingcat) 창업자 엘리엇 히긴스(Eliot Higgins)는 도널드 트럼프가 뉴욕 경찰에 의해 '체포'되는 놀라운 '딥페이크' 이미지를 트위터에 올렸다.

Midjourney를 사용한 Higgins는 이미지를 AI 창작물로 명확하게 표시했습니다.

그러나 그렇다고 해서 이미지가 입소문을 타고 기술의 정교함을 보여주는 역할을 하는 것을 막지는 못했습니다.

히긴스는 또한 프랑스의 에마뉘엘 마크롱이 중개한 블라디미르 푸틴과 조 바이든 사이의 가상의 '평화 정상회담'에 대한 가짜 AI 생성 이미지를 트윗했습니다.

우크라이나의 현재 전쟁 상황을 고려할 때, 이러한 주장은 누구도 속일 수 없을 것입니다.

그러나 히긴스가 우크라이나에서 가상의 핵폭발을 만들어낸 사실적으로 보이는 딥페이크는 전쟁의 안개 속에서 AI가 가질 수 있는 잠재력을 보여주었습니다.

작년 러시아가 우크라이나를 침공한 직후, 볼로디미르 젤렌스키가 우크라이나인들에게 무기를 내려놓을 것을 촉구하는 가짜 영상이 해커들에 의해 우크라이나 24 뉴스 웹사이트에 게시되었습니다.

인도 태평양에서는 믿을 수 있을 것 같은 AI 생성 이미지가 사용되어 해당 지역의 지정학적 긴장을 더욱 고조시키는 것은 확실히 시간 문제일 뿐입니다.

크리스 힙킨스 뉴질랜드 총리는 자신이 '태평양의 군사화'라고 부르는 것을 비난하면서 전임자 저신다 아던(Jacinda Ardern)의 말을 되풀이했다.

그러나 2023년 상반기에만 미국은 필리핀 및 파푸아뉴기니와 새로운 국방 협정을 체결했습니다. 이는 중국이 지난해 솔로몬 제도와 자체 안보 협정을 체결한 것에 대한 대응입니다.

긴장이 고조되고 있으며 AI는 긴장을 다음 단계로 끌어올릴 수 있습니다.

틀림없이 태평양의 광활함은 허위 정보 시도에 몇 가지 이점을 제공합니다.

예를 들어 외딴 섬 환초 근처의 군함의 가짜 이미지는 즉시 반박하기 어려울 수 있습니다.

태평양의 더 먼 구석에 있는 열악한 통신 인프라도 도움이 되지 않습니다.

더욱이 AI가 만든 콘텐츠의 증가는 대중이 무엇을 믿어야 할지 고민하게 될 수도 있다는 것을 의미할 수 있습니다.

1월에 발표된 브루킹스 연구소 보고서는 '혼란 심기'를 허위 정보 작전 배후의 주요 목표로 식별했습니다.

이 보고서는 가봉 대통령의 로봇식 대통령 연설의 예를 제시합니다. 어떤 사람들은 그것이 딥페이크의 증거라고 믿었지만 다른 사람들은 대통령이 단순히 아프다고 생각했습니다. 실제 진실과 상관없이 혼란과 군사 쿠데타 시도가 이어졌습니다.

AI는 진정한 콘텐츠조차 회의적이고 불신하게 보이는 거울의 방을 만드는 힘을 가지고 있습니다.

대혼란을 일으킬 수 있는 AI의 잠재력을 보여주는 실제 사례는 지난 달 워싱턴 국방부에서 폭발이 발생한 가짜 이미지가 트위터에 유포되어 금융 시장이 잠시 폭락한 사건이었습니다.

국제 관계를 위한 새로운 AI 과제에 대한 잠재적인 대응은 다양합니다.

한 가지 옵션은 규제하는 것입니다.