딥페이크(DeepFake)란?
인공지능(AI) 기술이 기존 데이터를 학습해 이미지ㆍ음성 등을 꼭 진짜인 것처럼 만들어내는 인강 이미지 합성 기술을 말합니다.
미국 딥페이크 관련 이슈
최근에 미국 *트위터리안 사이이에서는 “테일러 스위프트를 보호하라(Porject Taylo Swift)”는 움지임이 있었습니다. 미국 백악관에서도 나서서 문제를 해결하라고 할 정도 였다고 합니다.
문제는 *테일러 스위트프의 얼굴을 가짜 나체와 합성한 딥페이크 이미지 때문입니다. 이런 이미지가 생성된다는 것 자체도 문제지만, 더큰 문제는 X(구 트위터)에서 게시물이 업로드 후 17시간 동안 계속 공유 되었으며 조회수는 약 7200만회 까지 가기도 했습니다.
*트위터리안 : 트위터를 하는 사람들을 말합니다. 현재는 브랜드와 로고를 모두 X로 변경되었습니다.
*테일러 스위프트 : 미국의 2006년에 데뷔한한 *싱어송라이터로 1집부터 10집에 이르기까지 단 한 개의 앨범도 실패한 적이 현재까지 꾸준히 최정상의 위치에서 많은 사랑을 받고 있는 가수입니다.
*싱어송라이터 : 자기가 부를 곡을 직접 작사 자곡 하는 가수를 말합니다.
이용자들이 #Project_Taylor_Swift 해시태그를 달아 게시글을 올리는 동안에도 게시물이 없어지지 않자, X(구 트위터)에서는 아예 테일러 스위프트로 검색이 안되게 막아버렸습니다.
딥페이크가 문제가 되는 이유
이런 사람을 꼭 진짜인 것처럼 만들어 내는 딥페이크는 *챗GPT 등장이후 생성형 AI를 활용해 이미지와 영상을 만들기 쉬워지면서 문제가 더 커지고 있습니다.
*챗GPT (ChatGPT) : GPT-3.5와 GPT-4를 기반으로 하는 *대화형 인공지능 서비스 입니다.
*대화형 인공지능 : 인관과 같은 대화를 나눌 수 있는 인공지능 시스템을 말합니다.
이미 미국에서 바이든 대통령의 목소리를 가짜로 만들어 유권자들에게 투표하지 말라는 전화를 하거나, 튀르키예 테러집단이 야당 후보를 지지한다는 가짜 영상을 만들어 퍼뜨리는 등의 사건들이 있었습니다.
이렇게 사람들에게 많은 영향력을 줄 수 있는 연예인, 인플로언서, 나라의 대통령, 선거를 앞둔 상황에 대표가 되는 정치인 등으로 누군가에게 유리한 가짜 영상과 정보들이 만들어지고 온라인을 통해 급속도록 퍼지게되면 많은 사람들과 사회는 혼란에 빠질 수 있기 때문입니다.
딥페이크에 대한 세계와 기업들의 움직임
2023년 11월 미국ㆍ중국ㆍ유럽연합(EU)등 28개 나라와 세계 빅테크 기업이 모여 AI 규제를 위한 정상회를 열었습니다. “AI 피해 예방하자” 하면서 서로 협력을 하기로 했는데 어떻게 협력할지에 대해서는 오는 2024년 5월 우리나라에서 2차 정상회의를 열어 얘기를 나누기로 했습니다.
이번 팁페이크 사건이 일어난 미국에서는 “딥페이크를 만들 때 당사자 동의 없이 만들면 안 돼!” 하는 법이 있긴 하지만 전국 9개 주에서만 있어, 전체를 규제할 수 있는 법이 필요하다는 비판이 나왔습니다.
미국의 주 개수 : 현재 미국 주 개수는 50개로 하와이가 미국의 주로 포함된 1960년 이후 현재까지 50개의 주를 유지하고 있습니다
우리나라에서는 2020년 6월 딥페이크로 만든 성착취물을 제작하거나 퍼뜨리면 처벌하는 법이 시행되었습니다. 하지만 여전히 범죄는 증가하는 중이고, 온라인에서 불법 이미지를 삭제하는 건 피자의 몫이라 사전 예방이 더 강화돼야 한다는 이야기가 나오고 있습니다.
네이버가 생성형 인공지능(AI)를 활용한 ‘딥페이크’ 관련 키워드 검색결과에는 경고 문구를 붙이는 방안을 추진한다고 합니다. 또한 인스타그램과 페이스북을 운용하는 메타(META), 구글(Google)등 글로벌 기업들도 생성형 AI가 만든 콘텐츠에 “AI가 만든 것” 등과 같이 라벨을 붙이는 대응 방안을 바련하고 있다고 힙니다.
함께 보면 도움이 되는 글
📌 아주 쉬운 설명 – 비례대표제 : 연동형 병립형 차이
📌 자동차 접촉 사고 났을때 꼭 체크 해야 할 일 (교통사고)
📌 해외직구에 필요한 개인통관번호? 개인통관고유부호? 뭔가요? 발급 방법 (쉬운 설명)