DGX Spark GB10에서 vLLM 실행하기: 커뮤니티 최적화 설정
DGX Spark GB10 vLLM 설정의 실전 가이드. NVIDIA 공식 포럼 기반 커뮤니티 최적화 레시피, 메모리 대역폭 제약 극복 방법, Llama 3.1 벤치마크 결과를 한눈에 정리했습니다.
온프레미스 AI
RTX 4090에서 Qwen 27B를 80+ t/s로 구동하는 MTP·TurboQuant 설정법
RTX 4090 LLM 추론 최적화 실험 결과 분석. MTP 드래프트 추론과 TurboQuant KV 캐시 압축으로 Qwen 27B를 80+ t/s로 구동하는 기술 메커니즘, 재현 조건, 한계점을 상세 검토합니다.