오늘날 디지털 경제 체제에서 인간은 빅테크 기업에겐 그냥 데이터 상품일 뿐입니다. 지금은 많은 사람들에게 알려져 있지만 인간은 자신도 모르는 사이에 매일매일 경매 당하면서 살고 있습니다. 내가 스마트폰으로 SNS에 접속하거나 배달음식을 시켜 먹는 순간 나의 모든 이메일, 생활용품 구매기록, 최근 거래 내역 등의 개인정보는 실시간으로 광고업체에 공유되고 경매^{RTB, Real Time Bidding}됩니다. 그리고 가장 높은 가격으로 내 정보를 산 광고업체의 광고가 내 디지털 기계에 실시간으로 뜹니다. 표적광고입니다.

지금 당장 ‘엘리의 데이터 경매’를 검색해보시면 금방 확인할 수 있습니다. 구글이 다른 빅테크 기업과의 차별화 전략으로 이용자 데이터 추적에 대한 개인의 사전 동의 의무화를 내걸면서 제작한 광고입니다. 스마트폰은 빅테크 기업들이 트루먼 쇼처럼 이용자의 일거수일투족을 발가벗겨 들여다보게 만드는 CCTV와 같습니다. 

네이버, 카카오, 페이스북, 인스타그램, 구글, 아마존 등 거대 빅테크 기업들은 내가 컴퓨터와 스마트폰을 처음 개통해서 눈을 뗄 수 없는 ‘환상의 디지털 세계로 발을 들여놓은 순간부터 지금 이 순간까지 나의 심리상태, 생각, 취미 변화에서 가족과 사회관계, 이동의 궤적까지 구석구석 모든 데이터를 분석해 나보다 더 나를 훤히 알고 있습니다. 인공지능의 알고리즘이 순식간에 그야말로 눈 깜빡할 사이에 이런 일을 할 수 있기 때문에 가능한 ‘멋진 신세계’입니다.

2021년 미국에서는 매일 2,940억 회, 유럽에서는 1,970억 회 실시간 경매가 이루어졌습니다. 2022년 페이스북을 운영하는 메타 총수익의 97%, 구글 총수익의 81%가 디지털 광고에서 나왔습니다. 이용자를 광고 보고 그대로 따라 하는 좀비로 만들어 놓고 떼돈을 벌고 있는 것입니다. 페이스북과 구글의 IT 전문가들이 직접 고백한 말입니다.

인터넷 초기에 무료로 제공되었던 이메일이나 이후 스마트폰의 보급 확대와 함께 지금도 무료로 제공되고 있는 SNS 서비스 등 수많은 무료 앱 서비스는 이용자를 끌어모아 개인정보를 수집하기 위한 낚시 미끼였습니다. 돈벌이가 목적인 빅테크의 진정한 고객은 광고주입니다. 다시 반복하겠습니다. 이용자는 그저 판매용 데이터 상품일 뿐입니다.

빅테크 기업들의 '인간 데이터 가두리 양식장' 

2017년 미 질병통제예방센터^CDC는 청소년 50만 명을 대상으로 조사한 결과 15~19세 소녀들의 자살률이 2007년에서 2015년 사이에 2배나 늘었다고 발표했습니다. 2023년 5월 3일 영국의 시사주간지 「이코노미스트」는 2003~2020년 사이 미국과 유럽의 17개국에서 10대 소녀들의 10만 명당 평균 자살률이 50%나 늘어났다는 분석 자료를 공개했습니다. 11개국에서는 자해로 입원한 10대 소녀 비율이 2010~2021년 사이 평균 2.5배나 늘어났습니다. 이런 현상은 2010년 SNS인 인스타그램 출시 이후 특히 현저하게 일어났습니다. 외모에 대한 악플과 콤플렉스 조장이 주요인인 것으로 분석됩니다. 인스타그램 사용자의 40% 이상이 22살 아래입니다. 

한국에서도 하루 4시간 이상 스마트폰을 사용하는 청소년들은 4시간 이하 이용 청소년에 견주어 스트레스, 자살, 우울증 등을 겪을 위험이 더 큰 것으로 나타났습니다. 특히 음주, 흡연, 스마트폰 과의존은 1.5~2배 이상 높은 것으로 조사되었습니다. 이와 관련해서 카카오톡, 페이스북, 인스타그램의 앞 글자를 따서 ‘카페인 우울증’이라는 신조어까지 만들어졌을 정도입니다. 

SNS는 이용자를 꾸미기에 집착하는 인터넷 성형중독증 환자들로 바꾸어 놓습니다. 현실의 자기 자신과는 완전히 다른 본캐-부캐의 디지털 성형을 갈수록 부추깁니다. 결국 실제 현실의 자아는 화면 속 자아로 대체되는 가치 전도가 일어나고, 현실에 대한 절망감과 현실 도피는 갈수록 증폭됩니다. 

10살짜리 소녀가 1998년 자신이 만든 블로그에 이런 글을 남깁니다. “아빠 회사에서 처음으로 인터넷을 써보자마자 난 사랑에 빠졌고 끝장나게 멋지다고 생각했다.” 인터넷과 SNS에 푹 빠졌던 미국의 문화비평가 지아 톨렌티노는 자신의 경험을 바탕으로 『트릭 미러』라는 책을 썼습니다. 그녀는 20년이 지나 기억에도 전혀 없던 자신의 블로그 글을 보면서 놀라서 기절할 뻔했다고 적었습니다. 

그녀는 SNS를 한마디로 자아를 과시하고 부풀려 ‘좋아요’나 ‘하트’를 구걸하지 않으면 아무 주목도 못 얻는 세계라고 말합니다. 매시간 타자의 반응을 확인하고 관심을 끌지 못하면 자기가 사라지는 듯한 디지털 우울증을 일으키는 세계라는 것입니다. SNS는 SNS에 갇혀 세계를 인식하게 만드는 강한 중독성이 있으며, 사실^팩트보다 더 의견을 중시하게 만들고 정상보다 비정상을, 상식보다 파격을, 중도보다 극단을 더 증폭해 분노-혐오 놀이가 기승을 부리도록 구조화되어 있다고 비판합니다. 

빅테크 기업들이 만든 SNS는 파블로프의 개에게 주는 먹이 대신 타인의 감정 반응 버튼을 주면서 이것이 사회성 연결이라고 세밀하게 환상을 조작하는 일종의 ‘인간 데이터 가두리 양식장’입니다. 

극단의 세계를 만든 AI 빅테크 범죄 기업들 

2004년 2월 세계 최초의 SNS 서비스 페이스북이 선을 보였습니다. 페이스북은 12년이 지난 2016년 2월 ‘좋아요’ 하나만 있던 감정 반응 버튼을 ‘싫어요’, ‘화나요’ 등 6개의 버튼으로 늘렸습니다. 2018년에도 일부를 개편합니다. 문제는 ‘좋아요’ 버튼에는 1점을, ‘화나요’ 버튼에는 5점을 주도록 알고리즘을 변경했다는 것입니다. 당시 페이스북 데이터 과학자들은 저커버그에게 이는 페이스북을 ‘화난 공간’으로 만들 것이라고 경고했다는 사실이 나중에 드러났습니다.

구글 유튜브도 2016년 인공지능이 결합된 딥러닝 알고리즘을 개인별로 특화해서 적용하는 새 버전을 출시합니다. 많은 분들이 알고 있지만, 이 사건은 인공지능의 알고리즘 버튼 하나가 얼마나 세상을 뒤바꿀 수 있는지 극명하게 보여주는 사례입니다. 

이 때부터 세계는 정당간, 젠더간, 세대간, 인종간, 지역간 증오와 혐오가 점점 더 극단화되는 ‘극단의 세계’로 바뀝니다. 오늘날 우리는 매일매일 그 강도가 더욱 세지고 있는 온갖 가짜뉴스의 홍수 사태, 트럼프의 대통령 당선, 전 세계에서 벌어지고 있는 극우 혐오 배제의 극단주의 정치세력 득세 등을 목격하고 있는 중입니다. 

2021년 9월 「월스트리트저널」이 ‘페이스북 파일즈’라는 제목으로 페이스북 내부 문건을 폭로했습니다. 앞서 말한 10대 소녀 자살 급등 현상과 인스타그램의 상관관계 등도 여기에서 드러난 사실입니다. 이에 따르면 페이스북의 2018년 알고리즘 변경 이후 유럽 정당들은 페이스북에 민주주의를 파괴할 수도 있다는 깊은 우려를 전달합니다. 개편 이후 정당들의 트래픽이 대폭 감소했고, 이전에 5대 5였던 긍정 부정 게시물 비율을 2대 8로 부정 게시물 비중을 대폭 올렸을 때 비로소 이전의 조회 수를 회복할 수 있었다는 것입니다. 참고로 2023년 7월 기준 전 세계 SNS 이용자 수는 약 49억 명이나 됩니다. SNS 월간 활성 이용자 수가 가장 많은 것은 페이스북으로 약 30억 명입니다. 그다음이 25.3억 명의 유튜브, 3위가 20억 명의 왓츠앱, 4위가 20억 명의 인스타그램입니다. 

2021년 10월 5일 페이스북의 내부고발자 프랜시스 하우겐은 미국 상원의 청문회에 출석해서 증언했습니다. 그녀는 “페이스북의 알고리즘은 사악하다”며 “페이스북은 아이들에게 직접 해를 끼치고, 사회의 분열을 조장하며, 민주주의를 위협하는 플랫폼”이라고 밝혔습니다. 페이스북은 문제를 해결할 방법을 알고 있지만, 사람들의 안전, 안위보다 오직 회사의 성장, 이윤을 최우선으로 고려하기 때문에 스스로 문제를 해결할 수 없다고까지 단언했습니다. 페이스북 최고경영자 마크 저커버그는 내부 직원들의 문제 제기에 페이스북 조회수^트래픽를 해치지 않는 선에서 개선을 지시했다고 합니다. 지금의 알고리즘을 바꾸지 않겠다는 말이었습니다. 저커버그는 2021년 10월 메타로 회사 이름만 변경했습니다.

2022년 통계를 보면 구글의 유튜브 방문자는 월 143억 명이고 매 분마다 69만 4000시간의 동영상이 스트리밍됩니다. 전 세계 안드로이드 스마트폰 사용자는 월평균 23.7시간을 유튜브에서 보냅니다. 사람들은 자신의 자유 의지로 콘텐츠를 본다고 생각하지만, 착각입니다. 유튜브에서 재생되는 콘텐츠의 70%는 AI인 ‘유튜브 봇’의 추천 알고리즘에 의해 선택된 것입니다. 

알고리즘에 의해 극단화된 혐오와 분열의 세계는 한국의 경우도 마찬가지입니다. 「조선일보」라는 이름만 들어도 외면하고 그게 언론이냐고 언성을 높이는 분들이 많을 것입니다. 그런데 한국의 극단화된 보수-진보 갈등과 분열, 이른바 ‘개딸’과 ‘태극기’ 부대를 심층취재한 「주간조선」의 기사를 보시면 「조선일보」에도 이런 기사다운 기사를 쓰는 기자가 있구나 싶을 것입니다.(김희권, ‘우린 서로 다른 세상에 산다… 알고리즘이 극단을 만드는 법’, 「주간조선」 2023. 7. 2.)

김희권이 기사 첫머리에 인용한 전 세계 대상 유명 여론조사 기관 입소스와 영국 킹스칼리지 정책연구소의 2021년 6월 보고서 ‘세계 문화 전쟁’은 한국의 문화전쟁을 숫자로 보여줍니다. ‘진보와 보수 간 갈등이 심각하다’는 데 동의한 한국인은 87%로 28개국 중 1위였습니다. ‘지지 정당이 다른 사람과의 갈등이 심각하다’는 답변도 91%로 1위, ‘남녀 간 갈등이 심각하다’도 80%로 1위, ‘빈부격차로 생긴 갈등이 깊다’도 91%로 1위, ‘세대 간 갈등이 심하다’도 80%로 1위였습니다.

「소셜 딜레마」라는 다큐멘타리를 보신 분이 많을 것입니다. 이 다큐에 출연한 빅테크 기업의 SNS 개발자는 한 가지 사실을 환기합니다. 고객을 이용자^user라고 부르는 것은 마약과 소프트웨어 사업뿐이라고. 실제로 SNS는 개발할 때부터 이용자들이 더 자주 더 많은 시간 동안 머무를 수 있게 중독 관련 호르몬인 도파민과 세로토닌 등이 과도하게 분비되도록 설계합니다. 즉, SNS에 중독되게 합니다. 이용자들은 알고리즘에 의해 가짜뉴스를 포함해서 특정 성향의 미디어와 정보에 더 자주 노출되고 이른바 확증편향을 통해 생각까지 조종당하게 됩니다. 실리콘밸리의 개발자 대부분은 자기 자식들에게 성인이 될 때까지 디지털 기계를 주지 않습니다. 

「소셜 딜레마」의 감독 제프 올롭스키는 우리가 자신도 모르게 악마의 거래를 받아들였다고 주장했습니다. “우리는 이미 올더스 헉슬리의 ‘멋진 신세계’에 살고” 있으며 “그러나 멋진 신세계의 시민들과 달리 우리는 비참하다. 온라인 속에서 보내는 시간이 증가함에 따라 특히 젊은이들 사이에서 불안, 우울증, 자살률이 높아졌다”고 지적했습니다. SNS는 “우리를 위해 만들어진 게 아니라 우리를 이용하기 위해 만들어졌다”고 강하게 비판합니다. 

빅테크 ‘인간 동물농장’에서 탈출하기 

「소셜 딜레마」의 메시지는 분명합니다. 매트릭스에 들어가도 이곳이 매트릭스라는 사실을 인지해야 깨어날 수 있다는 것입니다. 49억 명의 트루먼들도 이곳이 현실이 아닌 스튜디오라는 것을 인지해야 탈출할 수 있습니다. 우리는 이미 매트릭스에 살고 있으며, 트루먼쇼의 주인공으로 살고 있습니다. 해야 할 일은 그저 깨어나는 것이고, 이 시대가 만든 뛰어나고 편리한 발전^?!, 인터넷 사회의 윤리를 고민하고 해결책을 실행해 나가야 합니다. 

인터넷 중독 현상을 밝혀내고 1995년 인터넷 중독센터를 설립했던 미국의 심리학자 킴벌리 영 이후 수많은 과학자들이 입증한 명백한 사실은 알고리즘 중독은 현대사회의 가장 큰 질병 중 하나라는 것입니다. 디지털 플랫폼 산업은 마약과 똑같이 인간 뇌의 쾌락과 충동 조절 메커니즘을 무너뜨리고 금단이나 내성을 가져와 의존과 남용을 일으킵니다.

애플, 아마존, 마이크로소프트, 페이스북 등 4개 플랫폼 거대 기업들의 2020년 12월 기준 시가총액을 합하면 무려 5조 9,000억 달러, 우리 돈으로 약 8,000조 원에 달합니다. 이보다 국내총생산^GDP이 큰 나라는 미국, 중국, 일본, 독일밖에 없습니다. 알고리즘 한 줄로 사람들을 극단주의자로 만들어 민주주의를 파괴하면서 벌어들인 돈입니다. 자살과 테러, 내란과 전쟁 등을 확대 증폭시켜 빨아들인 피에 젖은 돈입니다. 이들 거대 기업들은 엄청난 돈으로 엘리트 대의정 정치인들을 매수해 규제의 법과 제도 제정 자체를 방해하고 있습니다. 한국은 한 걸음 더 나아가 오히려 규제 대신 데이터산업진흥법 제정과 정부 산하 데이터산업진흥원 설치로 네이버, 카카오 등에 날개를 달아주고 있습니다.

이용자들이 이런 사실을 인지하고 깨어나지 못하는 한 이익은 사유화하고 비용은 사회화하는 빅테크 거대 기업들의 인간동물농장은 무한 지속될 것입니다. 1946년 조지 오웰은 구소련의 전체주의 체제를 풍자한 소설 『동물농장』을 발표했습니다. 오늘날 우리는 단 몇 시간이라도 스마트폰과 컴퓨터의 전원을 끄고, 우리는 이미 빅테크 전체주의 체제 속에서 사육되고 있는 AI의 ‘인간동물농장’ 노예들은 아닌지 진지하게 되돌아보지 않을 수 없습니다. 인간은 자신의 사회성을 SNS에 편리하고 손쉽게 외주화했습니다. 그 대가가 자신의 사회성 축소와 해체, 사회의 연결과 공감, 조화의 파괴로 귀결되었습니다. 

챗GPT의 등장은 그동안 사람의 지능이 해왔던 거의 모든 일을 인공지능이 대체할 수 있다는 점을 확인시켜 주고 있습니다. 우리가 SNS 중독에서 채 깨어나기도 전에 인공지능에게 자신의 생각과 일까지 외주화하고 난 다음의 인간은 도대체 어떤 인간으로 살아갈 수 있을까요? 

★ 여섯번째 글로 이어집니다. 이 글은 프레시안과 동시 게재됩니다.