AI 생성형 페르소나가 등장했습니다

AI 생성형 페르소나가 등장했습니다. 

 

 

AI 생성형 페르소나란 무엇인가요?

 

AI 생성형 페르소나는 최신 AI 기술을 사용하여 그럴듯해 보이는 가짜 동영상을 만듭니다. 이를 통해 보통 크리에이터는 사람들을 속여 돈을 훔치거나 장치를 멀웨어에 감염시킵니다. 딥페이크와 달리 AI 생성 페르소나는 실제 사람인 척하지는 않습니다. 완전히 만들어낸 것으로 온라인에서만 존재합니다.

 

 

이제 페르소나와 이를 발견하는 방법에 대해 자세히 알아보겠습니다.

 

AI 생성형 페르소나에 관한 간단한 사실

 

AI 생성형 페르소나

 

1. 현재 알아볼 수 없는 경우가 많으며 기술의 발전에 따라 더욱 그럴 듯하게 보입니다.
2. 묘사된 사람들은 현실에서 존재하지 않습니다.
3. AI 인플루언서는 사람들을 속여서 돈을 잃게 하거나 멀웨어를 다운로드하게 할 수 있습니다.
4. 동영상은 계정이 유출된 유투버의 후원을 받는 경우가 많습니다.

 

출처: Gen(AVAST) 바이러스 연구소

 

 

사례 #1 : 토마스 해리스(Thomas Harris)의 재정관련 조언

 

AI 생성형 페르소나인 토마스 해리스를 만나보세요. 트래이딩뷰(TradingView)의 개발자 모드를 잠금 해제하는 데 도움을 주며, 이를 통해 포트폴리오가 크게 성장히는 데 도움이 되는 AI 기반 지표를 제공할 것이라고 합니다. 하지만 기능을 잠금 해제하는 것이 아니라 광고 명령어를 실행하여 원격 액세스 트로이목마(RAT) 또는 Lumma Stealer를 실행합니다.

 

 

 

AI 생성형 페르소나를 어떻게 식별하나요?

 

• 지나칠 정도로 좋게 들리는 제안은 사실이 아니며 합리적이지 않습니다.
• 단순히 채널 이름만 확인하지 말고 @handle을 살펴보세요. 알고 있는 것과 동일한지 아니면 약간의 차이가 있는지 확인하세요.
• 채널에서 다른 동영상을 확인하세요. 의심스러운 동영상과 같은 @handle이 있나 확인하세요. 아닌 경우 스캠일 수 있습니다.
• 해당 동영상이 유튜버가 보통 올리는 동영상과 다른지, 유튜버가 출현하는지 여부, 그리고 동영상이 게시되지 않은 것이 맞는지 생각해 보세요
• 동영상에 대한 설명과 해당 동영상을 호스팅하는 채널을 확인하세요. 스캠 동영상 설명은 채널 자체에 대한 설명과 매우 다를 수 있습니다.
• PC에서 명령을 실행하도록 요청한다면 스캠이 확실한 신호입니다. 100% 신뢰할 수 있는 경우에만 실행하여야 합니다.

 

 

사례 #2 : Michael, Todd, Jane, Ben과의 만남

 

AI가 생성하거나 고용된 배우가 연기한 딥페이크입니다. 가짜 동영상은 여러 가지 방법으로 만들 수 있지만 여기에는 모두 한 가지 공통점이 있습니다. 모두 스마트 계약 개발을 위한 온라인 IDE 플랫폼을 사용하여 쉽게 부자가 되는 방법에 대한 매뉴얼을 제공한다는 것입니다. 하지만 쉽게 돈을 버는 것이 아니라 돈을 훔치는 악성코드를 복사하도록 피해자를 속입니다. 즉, 이는 트레이딩 봇 스캠일 뿐입니다. 

 

 

주의해야 할 사항은 다음과 같습니다.

 

• 여러 채널에 걸쳐 서로 다른 @handle로 동일한 인물과 유사한 콘텐츠가 등장하는 여러 개의 동영상이 존재합니다.
• 일부 코드를 실행하면 쉽게 돈을 벌 수 있다고 말합니다. 믿기 힘들 정도로 좋은 제안이라면 사실이 아니라는 점을 기억해야 합니다.
• 온라인에서 해당 인물이나 그들이 주장하는 인물을 쉽게 찾을 수 있습니다.

 

 

 

현실을 인지하고 안전을 유지하고 스스로를 보호해야 합니다.

 

딥페이크와 AI 생성형 페르소나는 점점 보편화되어 현실과 허구의 경계를 모호하게 만들고 있습니다. 즉, 아무리 좋은 거래여도 온라인에서 누군가를 얼마나 신뢰하더라도 항상 주의해야 합니다.

 

악성광고와 유출된 유튜버 계정으로 인해 아주 짧은 시간 내에 수많은 피해가 발생할 수 있으므로 특히 금전 거래 관련 문제인 경우 미리 대처하는 것이 그 어느 때보다도 중용합니다.

 

다행히 AI가 생성한 가짜 인물이 웹에 아무리 많더라도 여러분은 여전히 실제로 아직 까지는 실존인물과 딥페이크 인물을 구분하실 수 있습니다. 하지만 대중적인 인물이나 특히 현 시대를 반영하는 정치인 들에 대한 딥페이크 동영상은 이제 주의의 대상입니다. 여러분의 친구가 당신을 노릴 수도 있습니다.

 

 

본 자료는 Gen(AVAST) 바이러스 연구소에서 작성되었습니다.

 

감사합니다.

 

어베스트코리아 (주)소프트메일

https://blog.avastkorea.com

어베스트코리아

 

 

AVAST 제품 구매는 https://smartstore.naver.com/avast

소프트메일 : 네이버 스마트스토어