Qwen3 35B vs Gemma 4: 32GB VRAM 로컬 LLM 성능 비교
로컬 LLM 32GB VRAM 비교 — 로컬 LLM 32GB VRAM 환경에서 Qwen3 35B A3B, Qwen3 27B, Gemma 4 26B, Nemotron 3 Nano 4개 모델을 코드 이해 태스크로 비교 분석. 장문맥 처리 아키텍처와 실제 성능 평가.
장문맥 처리
Qwen 27B KV 캐시 양자화로 262K 컨텍스트 80+ t/s 달성하기
KV 캐시 양자화 추론 최적화 — KV 캐시 양자화와 MTP 결합으로 RTX 4090에서 262K 컨텍스트 기반 80+ t/s 달성. Qwen 27B 모델의 VRAM 병목 해소 및 추론 속도 2배 향상 방법을 상세히 분석합니다.