|
|
| 죽은 인터넷 이론을 소개하는 포브스지의 기사 메인 |
[clearfix]
1. 개요
죽은 인터넷 이론(Dead internet theory)은 2010년대 후반, 인공지능 기술의 발달과 미디어 컨텐츠 시장의 규모가 급격히 확대되는 시점에 제시된 정보사회에 관한 비관주의적 가설로, "인터넷에 공급되는 각종 정보 및 컨텐츠는 대부분 자동화 봇(AI)의 산물이며, 이용자 가운데 실제 사람의 참여나 노력으로 생산되는 것은 거의 없게 되었다(= 인터넷은 죽었다)"는 내용을 담고 있다.2. 역사
인터넷(internet)이란 어휘 '사이(inter-)'와 ' 네트워크(network)'의 합성어로, 좁은 의미에서는 단순히 " 네트워크에 접속하는 컴퓨터 간의 연결 상태"를 가리키지만, 넓은 의미로는 "전 세계의 다양한 컴퓨터 네트워크가 상호 연결됨으로써 형성되는, 소통 및 대중 매체, 상거래 등에 관한 정보의 총체"를 가리키기도 한다. 현대의 인터넷은 미국 국방고등연구계획국의 군사 통신 네트워크로 기초 연구가 시작되어, 1996년 CERN에서 월드 와이드 웹을 발명하면서 보급되었다. 이후 2000년대를 거치며 인터넷 산업은 급속도로 성장, 오늘날에 이르러서는 인터넷 없는 삶을 상상하기 어려울 정도로 인간 생활에 큰 영향을 미치게 되었다.죽은 인터넷 이론에서는 후자가 가리키는 '인류의 정보 시스템'이 AI와 AI 기술의 악용에 의해 붕괴될 수 있음을 시사한다. 이 이론은 구별할 수 없을 정도로 정교하게 발달한 AI에 지배된 인터넷 환경이 급격히 삭막해지고, 획일화되며, 질적으로 쇠퇴할 수 있음을 강력하게 경고하고 있다. 음모론에서는 더 나아가 거대 IT기업이나 권력자 등의 의도에 따라 'AI가 아닌 사람의 행동인 것처럼' 조작된 미디어 알고리즘 및 검색 결과가 대중의 인식을 왜곡하고, 특정한 행동이나 사회 현상을 유도하며, 소비 시장 등 경제 흐름을 왜곡하고 종래에는 인간 활동 전체에 간섭, 통제하는 'AI 디스토피아(AI dystopia)'를 만들 수 있다고 주장한다.[1]
여러 트래픽 수집 결과에서 인터넷에 자동화된 인공지능 봇이 범람하고 있다는 것은 기정 사실이며, 일부에서는 이미 2017년경부터 AI 봇의 트래픽이 인간의 트래픽을 넘어서 '인터넷이 죽기 시작했다'는 견해를 주장한다.
이론 자체는 2021년 포럼 《아고라 로드(Agora Road)》의 <매킨토시 카페(Macintosh Cafe)>에 투고된 "죽은 인터넷 이론: 대부분의 인터넷은 가짜다"라는 기고문 #에서 유래한 것으로 추정되나, 이론을 둘러싼 논의와 논쟁은 이미 AI가 발달하기 전부터 온라인 포럼, 기술 회의, 학계에서 널리 퍼져 있던 것으로 보인다. 관련 논변은 인터넷의 증가된 복잡성, 취약한 인프라 의존성, 잠재적인 사이버 공격 취약성, 인공지능 기능과 사용의 기하급수적인 증가에 대한 우려와 궤를 같이 하며, 현대 사회의 인터넷 의존적 환경과 관련된 잠재 위험을 탐구하고자 하는 연구자들 사이에서 논의되며 설득력을 얻었다.
이어 《디 애틀랜틱(The Atlantic)》이 "아마도 당신은 몰랐겠지만, 인터넷은 5년 전에 '죽었다'"라는 기사 #를 보도하면서 이 이론을 소개했고, 세간의 이목을 끌었다. 이 기사는 비슷한 주제를 다룬 다른 기사들에도 인용되었다.
2022년 이전까지는 학계에서도 단순한 음모론으로 취급받았으나, ChatGPT와 Stable Diffusion같은 생성형 인공지능이 등장하면서 상황이 바뀌기 시작했다. 인공지능이 생성한 컨텐츠가 점차 웹을 잠식하기 시작하였고 인공지능이 발전함에 따라 사람이 만든 컨텐츠와 구별하기가 더욱 어려워지고 있으며, AI가 내뱉은 데이터를 상호 모방하며 전체적인 정보의 질을 떨어트린다는 주장까지 나오고 있다. #
이 시기를 기점으로 국내에서도 관심을 가지는 경우가 늘기 시작했다. 트위터같은 소셜 미디어에 AI 계정이 글을 대량으로 쓰며 여론조작을 하는 시도가 여러 차례 적발되기도 했고 이 중 일부는 국가 차원에서 정보전을 목적으로 개입한 것이라는 의혹까지 있다. #
GPT보다 원시적이고 느리긴 해도 충분히 그럴듯한 글을 작성 가능한 영어 AI는 이미 2010년대에도 등장했고 상용화까지 가능한 수준이었기 때문에 영미권에선 몇 년 더 일찍 이런 이야기가 나왔다. 그러나 그 당시 영미권에서도 대부분의 봇은 같은 문장이나 무작위 어휘를 도배하는 수준에 불과했기 때문에 크게 지지받지는 못했다. 하지만 2022년 이후 ChatGPT로 사람이 직접 쓴듯한 텍스트, 그림 인공지능으로 생성한 그림과 사진들이 각종 사이트에 도배되기 시작하면서 경각심이 생기게 것이다.
3. 주장과 증거들
3.1. 대형 언어 모델과 생성형 인공지능
GPT(Generative Pre-trained Transformer)는 인공 신경망을 사용하여 사람이 만든 것같은 콘텐츠를 생성하는 대형 언어 모델(LLM)의 한 유형이다. 이 모델들 중 첫 번째는 OpenAI 회사에서 개발되었다. 이 모델은 많은 논란을 불러일으켰다. 한 예로, 코펜하겐 미래 연구재단(Copenhagen Institute for Futures Studies)의 티모시 쇼우프(Timothy Shoup)는 "GPT-3가 풀리는 시나리오에서는 인터넷은 완전히 알아볼 수 없게 될 것"이라고 말했다. 그는 이 시나리오에서 2025년~2030년까지 인터넷 콘텐츠의 99.9%가 봇이 생성한 것이 될 수 있다고 예측했다. #3.1.1. ChatGPT
ChatGPT는 2022년에 출시된 AI 챗봇으로 죽은 인터넷 이론에 불을 지폈다. 그 이전까지 죽은 인터넷 이론은 주로 정부 기관, 기업 및 기술에 능통한 개인을 지목했지만, ChatGPT는 AI의 힘을 일반 인터넷 사용자의 손에 쥐어주었다. 이 기술은 '인터넷이 봇이 만든 콘텐츠로 채워지고 실제 사람이 만든 콘텐츠는 묻힐 것'이라는 우려를 불러일으켰다.3.2. 트래픽
2016년, 보안 회사 Imperva는 봇 트래픽에 대한 보고서를 발표했다. 보고서에 따르면 봇이 웹 트래픽의 52%를 담당하고 있었다. 이는 처음으로 실제 사람의 트래픽을 능가한 것이다.3.3. 트위터(X)
트위터의 몇몇 계정들이 "I hate texting", "i hate texting I just want ur hand ur hand", "i hate texting just come live with me"같은 무의미한 트윗을 올렸고, 수만 건의 좋아요를 받았다. 많은 사람들은 이 계정들을 봇 계정으로 의심했다.북미와 일본 등 대형 트위터 언어권에서는 이미 2020년부터 임프레션 좀비라고 불리는 대량 생성된 계정이 가짜 여론을 만들고 잘못된 이슈를 실시간 인기 해시태그로 만드는 등의 문제가 지적되었다.
3.3.1. 일론 머스크의 트위터 인수
일론 머스크가 트위터를 인수하는 과정에서 봇 계정의 비율이 주요 이슈가 되었다. 이 과정에서 머스크는 수익성 있는 일일 활성 사용자(mDAU)의 5% 미만이 봇이라는 트위터의 주장에 이의를 제기했다. 이 논쟁 동안, 머스크는 Cybra에 트위터 계정의 몇 퍼센트가 봇인지 추정하도록 의뢰했는데, 13.7%~11%로 추정되었다.머스크는 봇을 방지하기 위해 매년마다 1달러를 지불해야 사이트를 이용할 수 있는 요구 사항을 만들었고 필리핀에 시범적으로 도입하였다. #
3.4. 페이스북
2024년부터 페이스북에 AI 이미지가 대량으로 도배되고 있다. #3.5. 검색 엔진
구글 검색은 이미 ChatGPT가 등장하기 훨씬 전부터 SEO를 악용하는 저질 사이트들 때문에 검색 결과의 질이 떨어지고 있다는 비판을 받고 있었으나, 생성형 인공지능이 등장하면서 이러한 현상은 더욱 심해지고 있다. 2024년 3월 구글은 해당 사이트들을 검색 결과에서 삭제하고 있다고 밝혔으나 선량한 사이트들도 덩달아 삭제하면서 검색이 더욱 어려워지고 있다.이미지 검색도 큰 영향을 받았다. AI 이미지를 대량으로 공유하는 사이트들이 검색 결과에 뜨기 시작하면서 사용자들이 불편함을 호소하고 있다. AI 사이트들을 완벽하게 거르는 방법은 없지만 검색어에 "-ai before:2022"를 뒤에 붙여쓰면 대다수는 거를 수 있다.
Pinterest에도 AI 이미지가 도배되기 시작하면서 참고용 사진을 찾으려는 화가들이 어려움을 겪고 있다.
3.6. 유튜브
한때 봇으로 인한 가짜 조회수가 너무 만연해서 일부 엔지니어는 이를 감지하는 유튜브의 알고리즘이 가짜 조회수를 기본값으로 취급하고 실제 조회수를 잘못 분류하기 시작할 것이라고 우려했다. 유튜브의 엔지니어들은 이 현상을 설명하기 위해 "The Inversion"이라는 용어를 만들었다.AI를 이용한 영상을 공장처럼 대량으로 찍어 내는 소규모 채널들이 우후죽순 생겨났다. Sad cat story[2]라고도 불리는, AI로 만들어낸듯한 이야기[3] 에 AI로 만든 이미지들을 슬라이드나 AI로 이은 애니메이션으로 보여주는 컨텐츠가 대표적. 그리고 AI로 만든 저질 노래[4]를 대량으로 업로드하는 것도 속한다.
4. 관련 문서
[1]
Mariani, Robert. "The Dead Internet to Come." The New Atlantis 73, no. 73 (2023): 34–42. JSTOR 27244117. Archived January 23, 2024.
[2]
https://youtube.com/shorts/atIPqLJO3vs?si=0cdWC6hYjnEXON8y
[3]
물론 이것은 추측이며 아닐 수도 있다.
[4]
https://youtube.com/@ulpuofficial?si=sVWa972BJheVm1yS