대 인공지능의 시대 로맨스 스캠 피하기

'대 인공지능의 시대'입니다. 

 

챗GPT가 미국 의사 시험에 합격하고

인턴 시말서도 써주고

연애 상담에

종교까지 접수했습니다.

 

다 쓰려면 끝도 없는 챗GPT의 열일 행보!

이쯤 되면 AI에게 우리 인생 전체를 외주주는 게 아닌가 싶을 정도입니다.

 

(출처 : 이말년 서유기)

 

생성형 AI는 텍스트, 이미지, 음악 등 기존 데이터를 활용해 새로운 결과물을 만드는 인공지능 모델을 통칭하는 말인데요.

챗GPT는 이 중에서도 대화 스타일과 문장 구조를 학습해 인간과 비슷한 대답을 할 수 있도록 특화된 모델입니다.

 

유발 하라리를 비롯한 저명인사들이 'AI 발전 속도를 늦추라'고 경고하지만, 쏜 화살을 멈추기가 어디 쉽나요.

AI는 이미 수익화에 열을 내고 있습니다.

 

검색, 구독이 아닌 AI의 조금은 다른 수익모델을 이야기해 보려고 합니다.

바로 '로맨스 스캠(Romance Scam)'입니다. 타깃은 놀랍게도 이 글을 읽고 있는 당신입니다.

 

로맨스 스캠은 온라인에서 상대에게 연인을 찾는 것처럼 접근해 돈을 뜯는 사기 수법입니다.

 

팬데믹 이후 온라인에 머무는 시간이 늘면서 로맨스 스캠도 덩달아 늘었습니다.

2022년, 미국에서 발생한 로맨스 스캠 피해액만 총 13억달러(1조7200억원)에 달한다고 합니다.

2021년 5억4천700만달러(7200억원)보다 무려 138% 증가한 수치입니다.

1억4천500만달러(1900억원)였던 2018년과 비교하면 거의 10배..?!

 

게다가 로맨스 스캠 특성상 신고하지 않는 경우가 훨씬 많기 때문에 이 수치는 피해액의 극히 일부에 지나지 않을 가능성도 있습니다.

 

여러분이 AI의 로맨스 스캠에 결코 방심할 수 없는 3가지 이유입니다.

 

AI는 생각보다 훨씬 '촉촉'합니다. 

인공지능이 똑똑하다는 건 이미 아시겠죠?

'똑똑'이 아니라 '촉촉'입니다.

 

AI가 MBTI 극 T 재질의 공대 남자 같은 대화만 할 수 있다고 생각하시나요?

 

발렌타인데이를 맞아 미국 보안 업체 '맥아피(McAfee)'에서 흥미로운 보고서를 발표했습니다.

 

맥아피는 전 세계 9개국 5000명에게 챗GPT가 쓴 러브레터를 보냈는데요.

 

69%가 사람이 쓴 연애편지와 챗GPT가 작성한 연애편지를 구분하지 못했다고 합니다.

65%는 오히려 챗GPT의 편지를 더 선호했다는군요.

 

출처 : 맥아피

유발 하라리도 인간만이 할 수 있었던 '이야기'를 만들기 때문에 챗GPT가 겁난다고 말했습니다.

심지어 이런 다정한 문자까지 보낼 수 있죠.

 

스캐터랩이 '이루다'의 후속 버전으로 개발한 남자 버추얼 챗봇 '강다온'은 3D로 구현되어 더 실제 인물처럼 느껴지기도 하고요.

촘촘한 설정(25살, 미술 전공 남자 대학생, 배려심 깊은 성격, ENFJ등등)으로 나름의 스토리가 있습니다.

 

AI라고 해 봤자 뚝딱거리며 개성 없는 답변만 나열할 거라는 고정관념은 이제 버리셔야 합니다.

 

음성 복제 + 딥페이크 + 챗 GPT = 대환장 콜라보

 

요 근래 엄청나게 화제가 된 '해리포터 발렌시아가' 영상, 혹시 보셨나요?

90년대 발렌시아가 느낌으로 해리포터 등장인물들이 패션쇼를 하는 콘셉트로 만든 영상입니다.

 

출처: demonflyingfox

200만달러(26억7800만원)짜리 광고를 10달러(1만3400원)도 안 써서 만들었다며 난리가 났었죠.

 

챗 GPT: 텍스트 생성

미드저니(Midjourney): 이미지 생성

일레븐 랩스(Eleven Labs): 목소리 생성

스튜디오 디아이디(D-ID): 영상 생성

 

총 4개의 AI를 콜라보해서 탄생한 작품입니다.

 

이처럼 AI는 각 분야에서 서로 영향을 주며 놀라운 방식으로 발전하고 있습니다.

그중 사람들이 가장 간과한 부분은 바로 '목소리'입니다.

 

이제 AI는 일반적인 표현을 넘어 가족이나 친척 등 가까운 지인의 어투와 목소리를 그대로 따라 할 수 있는 수준까지 발전했습니다.

 

사기꾼은 더 이상 다른 사람 목소리를 흉내 내려고 애쓸 필요가 없습니다.

AI가 다 하니까요.

 

1) 틱톡, 유튜브, 통화 등에서 음성 소스를 따와 패턴을 분석해 특정 말투를 만들고요.

2) 있을 법하지만 세상에는 없는 얼굴을 딥페이크로 설정합니다.

3) 여기에 대화형 인공지능으로 공감대를 쌓고,

4) 돈은 암호화폐로 받으면..

 

그야말로 글로벌 비즈니스 완성!

심지어 엄청난 해커가 필요하지도 않습니다.

 

쉽게 구할 수 있는 소프트웨어로 이 모든 게 가능합니다.

 

예컨대 마이크로소프트(MS)가 연초에 내놓은 음성합성 기술 '발리(Vall-E)'는 불과 3초짜리 음성 파일만으로 사람 목소리를 복제할 수 있다고 합니다.

캐나다에선 키아누 리브스를 사칭한 로맨스 스캠이 너무 많아서 경고 영상까지 제작했죠.

 

AI로 추출한 목소리의 유사성이 얼마나 큰지 궁금하시다면, 네이버 클로버 페이지에서 직접 들어보셔도 좋습니다.

모든 문제는 외로움에서 시작됩니다.

 

출처 : Unsplash+

일본엔 '이케메소'라는 서비스가 있습니다.

잘생긴 남자를 의미하는 '이케맨'과 울음소리 '메소메소'를 합친 말인데요.

 

마음이 울적한 여성이 이 서비스를 신청하면, 공인 '눈물치료사' 자격증을 가진 남자가 와서 함께 슬픈 음악을 듣거나 동영상을 보며

울 수 있게 도와주는 사업입니다. 회당 이용료는 약 7900엔(7만8000원).

 

비교적 감정을 잘 드러내지 않는 일본인의 특성 때문에 생긴 서비스냐고요?

외로움은 이제 특정 국가나 개인의 문제가 아닙니다.

 

예컨대 영국은 2018년에 세계 최초로 '외로움부 장관(Minister for Loneliness)'

직을 만들고, 보건 기관, 기업, 우체국 등과 고독사 해결책을 마련하고 있습니다.

 

출처=영국 정부

초연결 시대에 사는 우리는 아이러니하게도 누구와도 연결되지 못한 채 집단적 외로움에 시달립니다.

 

굳이 한국의 상황을 끌어올 필요도 없이, 고립은 전 세계 문제로 확산되고 있죠.

 

이런 고독한 세상에서 이유 없이 내게 말 걸어 주고, 안부 챙기고, 따뜻한 인사도 먼저 건네는 누군가가 있다면

과연 마음을 내주지 않을 수 있을까요? (심지어 지치지도 않고 꾸준함)

 

한 로맨스 스캠 피해자는 인터뷰에서 이렇게 표현했습니다.

 

"외로움이라는 감정이 정상적인 사고 자체를 막아버린 것 같아요"

 

기술이 교묘해지는 딱 그만큼 우리 마음속 구멍도 커져가고 있지 않나 싶습니다.

 

출처 : 프린텍

지금까지 AI의 수익모델이 로맨스 스캠일 거란 다소 황당한 주제를 다뤄봤습니다.

 

발전하는 산업 영역의 안 좋은 점에만 편중해서 쓰게 되진 않을까 고민이 많았습니다.

하지만 새로운 디지털 기술은 늘 음란물과 범죄에 가장 빨리 쓰였다고 하죠?

 

최근 'AI 사기를 잡는 AI' 연구가 진행 중이라고 하는데요.

 

AI가 절대로 '사랑'의 소중한 가치만큼은 넘보지 않았으면 하는 마음입니다.