AI 2041를 통해 읽은 딥러닝과 딥페이크의 미래

AI 2041 표지

 우리가 과거 재미있게 본 공상과학 영화 <터미네이터>는 AI 인공지능과 인류가 생존을 걸고 싸우는 이야기였다. 영화가 나왔던 시대만 하더라도 많은 사람이 영화 <터미네이터>는 소설이자 허구이며 그런 미래는 있을 수 없다고 이야기하지만, 오늘날 우리는 그런 미래가 어쩌면 도래할지도 모른다는 두려움을 품을 정도로 기술이 발전했다.

 

 이미 다양한 분야에서 AI는 인간의 판단과 행동을 대체하고 있을 뿐만 아니라 지금 이 글을 읽는 시점에서도 우리는 AI에 이용당하고 있다. 바로, 내가 <AI 2041>이라는 이름을 가진 책의 후기를 올리고 있는 블로그에 게재되어 있는 구글 애드센스 광고가 그 대표적인 예다. 이 글을 읽으면서 광고를 본 사람들은 익숙한 사진들이 보일 것이다.

 

 이른바 '타깃팅 광고' 기술이 적용된 구글 애드센스는 우리가 구글에서 가장 최근에 검색한 키워드와 관련된 광고를 보여주기 때문이다. 우리가 인터넷에서 검색했던 기록은 자동으로 검색 엔진에 수집되어 광고가 게재되는 공간에 우리가 가장 관심을 가질 수 있는 맞춤형 광고가 게재된다. 너무나 흔하지만 이것도 AI가 가진 기술의 힘이다.

 

 이 맞춤형 광고 기술이 발전하기 전에는 불특정 다수를 대상으로 광고를 하다 보니 나와 맞지 않는 광고를 마주하는 확률이 높았다. 하지만 광고 기술이 발전함에 따라 우리는 인터넷에서 점차 우리의 기호와 맞는 광고를 보면서 자신도 모르게 광고를 클릭하거나 충동구매를 하기도 한다. 이는 인터넷 광고만 아니라 옥외 광고도 마찬가지다.

 

 우리가 거리에서 볼 수 있는 여러 광고와 지하철을 타고 이동하면서 볼 수 있는 광고, 자동차를 타고 이동하면서 라디오를 통해 들을 수 있는 광고, 대형마트와 백화점을 찾았을 때 볼 수 있는 광고 배너도 이제는 그냥 무작위로 보여주지 않는다. 해당 교통 수단을 이용하는 사람들의 연령대와 사람들의 동선을 따라 광고가 정교하게 배치된다.

 

 <AI 2041> 책에서는 아래의 글을 읽어볼 수 있다.

 

그렇다면 딥러닝의 단점과 그것이 가져올 북자용은 무엇일까?

우선 당신 자신보다 인공지능이 당신에 대해 더 많이 알게 될 위험이다. 물론 그로 인해 얻는 혜택도 있다. 인공지능은 당신이 스스로 발견하기 전에 당신이 원할 만한 제품들을 보여줄 수 있다. 또 당신의 취향을 파악해 데이트 상대와 친구를 추천할 수도 있다. 하지만 그에 따른 부작용도 있다. 유튜브에서 동영상 하나를 보려다 3시간 넘게 내리 시청한 적이 있지 않은가? 아니면 페이스북에서 흥미로워 보이는 링크 하나를 클릭했는데 이후 더욱 자극적인 콘텐츠를 추천받아 보게 된 경험은? (본문 54)

 

 윗글을 읽으면서 많은 사람이 '그런 적이 있다'면서 고개를 끄덕일 것으로 생각한다. 인공지능이 데이터를 수집하고 학습하는 딥러닝은 광고 시장에서 천문학적인 금액의 투자가 이루어지고 있다. 나는 얼마 전에 유튜브 뮤직을 처음으로 이용해 보았는데. 유튜브 뮤직은 평소 내가 유튜브에서 검색해서 들었던 음악을 자동으로 추천해 주었다.

 

유튜브 뮤직

 빠른 선곡을 통해서 듣기 시작한 유튜브 뮤직에서 특정 곡에 '좋아요' 버튼을 누르면 해당 곡이 등장한 작품의 곡을 추가로 재생 리스트에 추가하거나 같은 비슷한 음악을 계속해서 다음 재생 리스트에 자동으로 배치가 되었다. 그렇게 유튜브의 알고리즘은 우리가 더욱 많은 시간을 유튜브의 콘텐츠를 소비하면서 보낼 수 있도록 자극한다.

 

 <AI 2041>은 이렇게 우리가 흔히 접할 수 있는 알고리즘이라는 형태로 마주하는 인공지능의 딥러닝에 대해 가장 먼저 설명하면서 보다 심층적으로 AI 기술이 일으킬 변화에 대해 이야기한다. 그 이야기는 단순히 전문적인 지식을 열거하는 것이 아니라 하나의 소설 같은 이야기를 그린 이후 거기서 AI 기술과 관련된 핵심을 정리하고 있다.

 

 개인적으로 나는 블로그를 운영하면서 글을 쓰는 나름의 콘텐츠 생산자이다 보니 딥페이크 같은 기술에 흥미를 갖고 책을 읽어볼 수 있었다. 현재 정보 과잉 시대를 살아가고 있는 우리는 유튜브와 블로그, SNS 매체 등을 통해서 '진실로 판명되지 않은' 유언비어에 속거나 진실처럼 꾸며진 가짜 뉴스에 속아 잘못된 판단을 하는 경우가 잦다.

 

 가짜 뉴스는 이제 단순히 인터넷 커뮤니티 게시판에 올라오는 조잡한 이야기를 짜깁기 한 수준이 아니다. 딥페이크 기술을 이용해서 어떤 사람이 실제로 그 사건과 연루되어 있는 듯한 사진을 만들 뿐만 아니라 AI가 자동으로 '좋아요'를 누르거나 리트윗이 되도록 해 어느 순간 사람들이 사실로 받아들이거나 의심하도록 교묘하게 유도한다.

 

 이 기술은 단순히 정치 사회 분야에서 가짜 뉴스로 악용되는 것이 아니라 리벤지 포르노를 비롯해서 음지에서 크게 활용이 되면서 많은 부작용을 낳았다. 덕분에 우리 사회는 AI 기술이 발전함에 따라 그 기술의 남용을 막기 위한 규제를 만들고 있지만, 입법과 행정은 기술이 발전하는 속도를 미처 따라가지 못해 계속 논란이 일어나고 있다.

 

AI 2041 목차

 최근 한 언론사는 "오보도 표현의 자유다."라고 말하면서 일부 사람들의 눈살을 찌푸리게 했다. 물론, 정말 실수로 잘못된 기사를 적었을 수도 있지만, 일부 언론은 특정 세력을 변호하기 위해서 일부러 확인되지 않은 가짜 뉴스를 진실인 것 마냥 보도한 이후 가짜 뉴스로 판명이 되더라도 아주 짤막한 사과 한 줄로 끝내는 경우가 잦다.

 

 일부 인터넷 언론 같은 경우에는 그런 AI 기술이 적용된 자동 글쓰기 기능을 통해 무분별하게 가짜 뉴스 기사를 작성해 여러 SNS 채널에 퍼뜨리면 그것을 바로잡기가 쉽지 않다. 과거 미국에서는 가짜 뉴스와 전쟁을 선포하면서 가짜 뉴스 유포자를 엄벌에 처하겠다고 했지만, AI 딥러닝 기술을 활용한 자동 글쓰기를 막을 수 없었다.

 

 그리고 AI 딥러닝 기술을 활용한 자동 글쓰기와 자동 배포는 광고 시장에서도 특정 상품을 홍보하기 위한 목적으로 곧잘 활용되고 있다. 이제는 AI가 마치 사람이 쓴 것처럼 정교한 글쓰기를 할 수 있을 뿐만 아니라 진짜 사람이 말하는 것처럼 텍스트를 음성으로 바꾸는 기술도 정교해지면서 유튜브와 다양한 분야에서 활용되고 있다.

 

 유튜브 채널을 본다면 콘텐츠 제작자가 자신의 얼굴과 목소리로 직접 카메라와 대면한 상태에서 말하지 않고, AI 보이스로 텍스트를 읽게 하거나 아예 AI 가상 아바타와 보이스를 이용해서 콘텐츠를 생산하는 모습을 쉽게 볼 수 있다. 현재 아프리카 TV 시장을 뜨겁게 달군 버튜버도 어쩌면 사람이 아니라 AI가 대신하게 될지도 모른다.

 

 그렇게 생각한다면 딥러닝과 딥페이크 기술의 발전은 놀라운 변화를 이끌게 될 것이다. 이미 AI CHAT을 이용해서 책을 작성해 아마존에 전자책으로 자가 출판을 하는 사람도 있고, AI가 그려준 일러스트와 만화를 이용해서 웹툰에 활용하는 사람도 있다. AI의 기술일 발전함에 따라 초래할 새로운 시대에서 우리는 어떻게 대처해야 할까?

 

 그 질문에 대한 답을 <AI 2041>이라는 책을 통해 고민해 볼 수 있도록 하자.

 

이 엄청난 과제를 맡을 용기와 담대함을 어디서 찾을 것인가? 우리는 인공지능이 창출할 전례 없는 부를 물려받을 세대로서 인류 번영을 촉진하기 위한 사회계약을 재작성하고 경제의 방향을 재설정하는 책임을 져야 한다. 그것만으로 충분치 않다면 우리의 후손에 대해 생각해 보라. 인공지능은 우리가 일상적이고 반복적인 일에서 해방되도록 해주고 자기 마음을 따라 살 기회를 주며, 인간을 인간답게 만드는 것이 무엇인지에 관해 더 깊이 생각하게 할 것이다. (본문 429)

 

AI 2041 - YES24