링크가 복사되었습니다!

8GB의 죽음: 로컬 AI가 당신의 노트북을 망가뜨린 방법

단순히 높은 가격의 문제가 아닙니다. 하드웨어가 기능적으로 쓸모없게 되고 있습니다. 'AI PC' 표준은 메모리 요구 사항에 엄격한 하한선을 강제하여 8GB 머신을 전자 폐기물로 만들고 있습니다.

🌐
기계 번역

이 기사는 영어 원문에서 자동 번역되었습니다. 영어 원문 읽기

신경망 시각화를 실행하려고 할 때 메모리 부족 오류를 표시하는 노트북 화면입니다.

8GB의 RAM은 10년 넘게 “이 정도면 충분한” 표준이었다. 학생, 사무직 근로자, 심지어 가벼운 창작 작업을 하는 사람들에게도 안전한 기본값이었다. 애플은 2012년부터 2023년까지 맥북의 기본 사양으로 8GB를 판매했다. 윈도우 노트북들도 웹 브라우징과 스프레드시트 작업에는 8GB로 편안하게 버텨왔다.

그 시대는 끝났다. 웹페이지가 더 무거워져서 끝난 게 아니다(물론 무거워지긴 했지만). 컴퓨터를 사용하는 근본적인 방식이 데이터를 가져오는 것에서 데이터를 생성하는 것으로 바뀌고 있기 때문에 끝난 것이다.

“AI PC”와 로컬 대형 언어 모델(LLM)의 부상은 하드웨어에 새로운 하한선을 도입했다. 마이크로소프트의 Copilot+ 표준은 16GB의 RAM을 요구한다. 애플의 M4 맥은 마침내 16GB부터 시작한다. 이는 단순한 업셀링 마케팅이 아니라 물리학의 문제다. 8GB 머신에서 최신 로컬 AI를 구동하려 하면, 단순히 느리게 작동하는 게 아니라 사실상 작동 불능 상태가 된다.

8GB 노트북이 왜 벽돌이 되어가는지, 그 기술적 실체를 살펴보자.

“벽돌”의 수학

8GB가 왜 죽었는지 이해하려면 대형 언어 모델(LLM)이 메모리를 어떻게 사용하는지 봐야 한다. 사용하지 않을 때 SSD(스왑 파일)에 게으르게 기록될 수 있는 브라우저 탭과 달리, LLM은 지능을 정의하는 매개변수인 “가중치(weights)“가 활성 상태의 고속 RAM에 상주해야만 작동할 수 있다.

4비트 양자화로 실사용 가능한 수준으로 구동되는 표준 “소형” 로컬 모델, 예를 들어 Llama 3 8B나 마이크로소프트의 Phi-3의 수치를 살펴보자.

Model Size8 Billion Parameters×0.5 Bytes (4-bit)4.0 GB\text{Model Size} \approx 8 \text{ Billion Parameters} \times 0.5 \text{ Bytes (4-bit)} \approx 4.0 \text{ GB}

괜찮아 보이지 않는가? 8GB가 있으니 계산해보면: $ 8 - 4 = 4 $. 4GB가 남는다.

Advertisement

틀렸다.

운영체제를 잊었다. 윈도우 11은 백그라운드 서비스 몇 개만 돌려도 유휴 상태에서 쉽게 4GB에서 5GB의 RAM을 소비한다.

Total Required=OS (4.5 GB)+Model (4.0 GB)+Context Cache (0.5 GB)=9.0 GB\text{Total Required} = \text{OS (4.5 GB)} + \text{Model (4.0 GB)} + \text{Context Cache (0.5 GB)} = 9.0 \text{ GB}

웹 브라우저를 열기도 전에 이미 메모리 사용률 112%에 도달한 것이다.

스왑의 죽음의 소용돌이

필요한 메모리가 물리적 RAM을 초과하면, 운영체제는 데이터를 SSD의 “스왑” 또는 “페이지 파일”로 옮긴다.

최신 NVMe SSD의 읽기 속도는 빠르다—대략 5GB/s에서 7GB/s 정도. 하지만 RAM은 그보다 한 자릿수 더 빠르며, 종종 60GB/s에서 100GB/s를 넘어선다. 더 중요한 건 지연 시간(데이터를 찾는 데 걸리는 시간)이 진짜 문제라는 점이다.

LLM이 텍스트를 생성할 때, 생성되는 토큰 하나하나마다 가중치를 반복적으로 훑는다. 이 가중치가 스왑 파일에 있다면, CPU/NPU는 멈춰서 SSD가 데이터를 가져올 때까지 기다려야 한다.

  • RAM 접근: 나노초 단위.
  • SSD 접근: 마이크로초 단위(1000배 느림).

그 결과가 “스왑 스래싱(Swap Thrashing)“이다. 시스템은 실제 연산보다 RAM과 SSD 사이에 데이터를 옮기는 데 더 많은 시간을 쓴다. 초당 토큰 수는 대화하기 적당한 20 T/s에서 고통스러운 0.2 T/s로 떨어진다. 커서가 멈춘다. 오디오가 끊긴다. 프로세스를 강제 종료할 때까지 기기는 “벽돌”이 된다.

맥락으로 보는 역사: 8GB의 긴 황혼

8GB 표준은 놀라울 정도로 오래 버텨왔다.

  • 2012년: 맥북 프로 레티나가 프리미엄 기본 사양으로 8GB를 탑재하고 출시된다. 대부분의 사용자에게는 과분한 사양이었다.
  • 2016~2020년: 8GB가 표준이 된다. 크롬은 점점 더 메모리를 많이 잡아먹고, 일렉트론 기반 앱들(슬랙, 디스코드)이 늘어나지만, 일반적인 생산성 작업에서는 8GB가 그럭저럭 버텨준다.
  • 2023년: 애플이 1,599달러에 8GB RAM을 탑재한 M3 맥북 프로를 출시한다. 리뷰어들과 전문가들이 “용납할 수 없다”며 반발하지만, 애플은 “맥에서의 8GB는 윈도우의 16GB와 같다”고 주장하며 방어에 나선다.

그 주장은 통합 메모리의 효율성 덕분에 영상 편집 등에서는 논쟁의 여지가 있을지언정 사실일 수 있지만, AI 앞에서는 무너진다. 80억 개의 매개변수를 가진 모델은 macOS든 윈도우든 신경 쓰지 않는다—수학적으로 고정된 공간이 필요할 뿐이다. 8GB는 8GB다.

2024년, 이 서사는 급격히 바뀌었다. 마이크로소프트가 차세대 윈도우 노트북을 위한 하드웨어 표준인 “Copilot+ PC” 사양을 발표했다. 요구 조건은 엄격했다:

  • NPU: 40 TOPS 이상(초당 조 단위 연산).
  • RAM: 최소 16GB.

8GB RAM을 탑재한 Copilot+ PC는 존재하지 않는다. 존재할 수가 없다. 256GB 저장 공간, 40 TOPS NPU와 더불어 16GB를 사양에 포함시킴으로써, 마이크로소프트는 업계 전체에 8GB로는 더 이상 의도된 경험을 제공할 수 없다는 명확한 선을 그은 것이다.

Advertisement

NPU 병목 현상

여기에는 또 다른 층위가 있다: 통합 메모리(Unified Memory)다.

최신 “AI PC”(스냅드래곤 X 엘리트, 애플 실리콘, 인텔 코어 울트라)에서는 NPU(신경망 처리 장치)가 CPU, GPU와 메모리를 공유한다. AI 칩을 위한 전용 VRAM은 없다.

이는 곧 반짝이는 새 NPU를 사용해 4K 화면에서 배경을 흐리게 하거나, 이미지를 생성하거나, 실시간 번역 에이전트를 돌리려 하면 그 메모리가 곧바로 시스템 RAM에서 빠져나간다는 뜻이다.

그래픽 카드(GPU)는 바로 이런 이유로 수십 년째 전용 VRAM을 갖춰왔다. 게이밍 PC는 16GB의 시스템 RAM 더하기 8GB의 비디오 RAM을 갖출 수 있다. 최신 노트북은 전체를 합쳐 16GB다. AI가 4GB를 가져가고 GPU가 디스플레이 버퍼와 UI용으로 2GB를 가져가면, CPU는 남은 부스러기를 두고 싸워야 한다.

공유 그래픽과 NPU를 갖춘 8GB 머신에서는 애플리케이션이 “사용 가능한” 메모리가 3GB나 4GB밖에 안 될 수도 있다. 탭 다섯 개를 연 최신 웹 브라우저를 돌리기에도 빠듯한 수준이며, 생산성 작업 흐름은 말할 것도 없다.

전망 분석: 32GB가 새로운 상식

오늘날 AI를 “구동”하기 위한 최소 사양으로 16GB가 널리 받아들여지고 있다면, 미래에 대비하려면 무엇을 사야 할까?

답은 점점 더 32GB로 향하고 있다.

로컬 모델이 더 똑똑해질수록 더 커진다. 우리는 이미 효율성을 추구하는 “양자화 인식 학습(Quantization-Aware Training)“과 “전문가 혼합(Mixture of Experts, MoE)” 모델들을 목격하고 있지만, 지능에 대한 수요는 끝이 없다. 사용자들은 다음과 같은 것들을 동시에 돌리고 싶어할 것이다:

  1. 텍스트 요약 에이전트(백그라운드).
  2. 코딩 어시스턴트(IDE 내부).
  3. 음성 전사 서비스(회의용).

OS와 브라우저를 돌리면서 여러 모델을 동시에 구동하면 16GB는 순식간에 소진된다.

우리는 2000년대 초반과 비슷한 하드웨어 노후화 주기에 접어들고 있다. 그때는 3년 전 컴퓨터로는 최신 소프트웨어를 돌릴 수 없었다. 지난 10년간은 해마다 성능 향상 폭이 미미했다. 2018년형 노트북도 오늘날 웹 브라우징에는 여전히 문제없다.

하지만 2018년형 노트북—혹은 8GB RAM을 탑재한 2023년형 노트북조차도—로컬 AI 혁명에는 참여할 수 없다. 다음 세대 OS 업데이트의 핵심 기능들로부터 사실상 단절되어 있는 것이다.

결론: 오늘 노트북을 산다면 8GB는 사지 마라. 친구들에게도 8GB를 사지 말라고 하라. 그것은 저예산 옵션이 아니라 막다른 길이다. 10년 만에 처음으로, 기본 모델을 사는 것이 단순히 알뜰한 선택이 아니라 실수가 되었다.

출처 (4)

Advertisement

🦋 Bluesky 토론

Bluesky에서 토론하기

게시물 검색 중...