로컬 LLM 실험실

로컬 LLM 모델, VRAM, llama.cpp, vLLM 등 로컬 추론 실험 시리즈

Intel Optane PMem으로 1조 파라미터 LLM 로컬 실행 가이드

작성자:

로컬 LLM 1조 파라미터 실행 — 로컬 LLM 1조 파라미터 모델을 768GB Optane PMem + 12GB GPU로 실행하는 방법. MoE 아키텍처 활용, llama.cpp 설정, 메모리 계층화 전략을 단계별로 설명합니다.

Qwen3 35B vs Gemma 4: 32GB VRAM 로컬 LLM 성능 비교

작성자:

로컬 LLM 32GB VRAM 비교 — 로컬 LLM 32GB VRAM 환경에서 Qwen3 35B A3B, Qwen3 27B, Gemma 4 26B, Nemotron 3 Nano 4개 모델을 코드 이해 태스크로 비교 분석. 장문맥 처리 아키텍처와 실제 성능 평가.

NVIDIA Star Elastic 단일 체크포인트 추론 제어 가이드

작성자:

Star Elastic 추론 제어는 NVIDIA가 공개한 단일 체크포인트 기반 스펙트럼 추론 기술입니다. Gumbel-Softmax 라우터로 30B, 23B, 12B 모델을 제로샷 슬라이싱하여 사고·답변 단계별 동적 용량 할당을 구현하는 방법을 알아보세요.

Qwen 27B KV 캐시 양자화로 262K 컨텍스트 80+ t/s 달성하기

작성자:

KV 캐시 양자화 추론 최적화 — KV 캐시 양자화와 MTP 결합으로 RTX 4090에서 262K 컨텍스트 기반 80+ t/s 달성. Qwen 27B 모델의 VRAM 병목 해소 및 추론 속도 2배 향상 방법을 상세히 분석합니다.

BeeLlama.cpp로 RTX 3090에서 27B 모델 200k 컨텍스트 구동하기

작성자:

BeeLlama.cpp 로컬 추론 — BeeLlama.cpp는 DFlash 스펙큘레이티브 디코딩과 TurboQuant 압축으로 RTX 3090에서 Qwen 27B 모델을 200k 컨텍스트로 구동합니다. 베이스라인 대비 2~3배 처리량 향상, 135 tps 달성…

RTX 4090에서 262K 컨텍스트 달성 — MTP와 TurboQuant 결합 가이드

작성자:

RTX 4090 장문 추론 최적화 — RTX 4090 단일 GPU에서 Qwen 27B 모델로 262K 컨텍스트 조건에서 80~87 t/s를 달성한 실험 결과. MTP 투기적 디코딩과 TurboQuant KV 캐시 압축 결합으로 소비자 GPU의 장문 추론 가능성을…