[AI] 모건 프리먼, 틱톡의 AI 목소리 속임수에 맞서다

AI가 모방한 프리먼의 목소리, 틱톡 사용자들을 혼란에 빠뜨렸다.

 

유명 배우 모건 프리먼(Morgan Freeman)[1]이 최근 틱톡(TikTok)[2]에서 문제가 된 AI 가짜 목소리 사건에 대해 의견을 밝혔다.

 

독특한 목소리로 유명한 프리먼은 이번 사건을 매우 심각하게 받아들이고 있다.

문제가 된 영상은 프리먼의 조카의 하루를 그의 목소리로 설명하는 것처럼 보였다.

영상 속 목소리는 프리먼의 특징적인 낮고 부드러운 톤을 그대로 흉내 내고 있었다.

하지만 이는 컴퓨터가 만든 가짜 목소리였다.

 

영상을 만든 사람이 'ai'라는 표시를 달았는데도 많은 사람들이 속았다.

이는 AI 기술이 얼마나 발전했는지, 또 얼마나 위험할 수 있는지를 보여주는 사례다.

 

프리먼은 허락 없이 AI를 사용해 목소리를 모방하는 것을 신고해야 한다고 강조했다.

그는 SNS를 통해 팬들이 잘 지켜봐 준 것에 감사하다고 말했다.

또 이런 속이는 행동을 막아야 한다고 강하게 말했다.

프리먼은 "내 목소리는 내 정체성의 일부입니다. 이를 무단으로 사용하는 것은 개인의 권리를 침해하는 심각한 문제입니다"라고 밝혔다.

 

모건 프리먼의 X

 

이번이 프리먼의 첫 가짜 영상 사건은 아니다.

전에도 그의 회사 부사장 로리 맥크리어리(Lori McCreary)[3]가 프리먼처럼 꾸민 딥페이크(deepfake)[4] 영상들을 본 적이 있다.

그 중에는 프리먼이 맥크리어리를 자르는 장면을 가짜로 만든 영상도 있었다.

이런 사건들은 유명인들이 자신의 이미지와 목소리를 지키는 것이 얼마나 어려워졌는지 보여준다.

 

이런 일들은 AI로 만든 내용물이 점점 더 많아지고 있다는 것을 시사한다.

이로 인해 옳고 그름에 대한 문제와 함께 더 조심해야 한다는 이야기가 나오고 있다.

전문가들은 AI 기술의 발전 속도가 관련 법과 규제의 속도를 앞지르고 있다고 우려한다.

 

프리먼의 경우는 테일러 스위프트(Taylor Swift)[5]나 톰 크루즈(Tom Cruise)[6] 같은 다른 유명인들도 겪고 있는 더 큰 문제의 한 부분이다.

이들 모두 AI로 만든 가짜 영상 문제를 겪고 있다.

특히 톰 크루즈의 경우, 틱톡에서 그를 흉내 낸 AI 영상이 수백만 뷰를 기록하기도 했다.

이런 사례들은 디지털 세상에서 진짜와 가짜를 구분하기 어려운 것에 대한 걱정을 더 크게 만들고 있다.

 

전문가들은 AI 기술이 발전할수록 진실과 거짓을 구분하는 것이 더 어려워질 것이라고 경고한다.

이에 대응하여 일부 기술 기업들은 AI로 만든 콘텐츠를 식별하는 도구를 개발하고 있다.

하지만 많은 이들은 이러한 노력만으로는 부족하며, 더 강력한 법적, 윤리적 가이드라인이 필요하다고 주장한다.

 

프리먼과 같은 유명인들의 목소리를 내는 이런 사건들은 단순한 장난이 아닌 심각한 윤리적, 법적 문제를 야기한다.

앞으로 AI 기술과 개인의 권리 사이에서 어떻게 균형을 잡을 것인지가 중요한 사회적 과제로 떠오르고 있다.

---

1. 모건 프리먼(Morgan Freeman): 미국의 유명 배우로, 독특한 목소리로도 잘 알려져 있음
2. 틱톡(TikTok): 짧은 동영상을 공유하는 소셜 미디어 플랫폼
3. 로리 맥크리어리(Lori McCreary): 모건 프리먼의 제작사 부사장
4. 딥페이크(deepfake): 인공지능을 이용해 만든 가짜 영상이나 음성
5. 테일러 스위프트(Taylor Swift): 미국의 유명 팝 가수
6. 톰 크루즈(Tom Cruise): 할리우드의 유명 배우