SmolVLA 파인튜닝, GPU 메모리는 얼마나 필요할까: 단일 GPU VRAM 계산법
450M 파라미터 SmolVLA를 파인튜닝할 때 가중치·그래디언트·옵티마이저 상태·활성화 메모리를 나눠 계산하고, 기본 설정(행동 전문가만 학습)과 전체 학습의 차이, 24GB·48GB 카드에서 배치 크기를 정하는 방법을 정리합니다.
450M 파라미터 SmolVLA를 파인튜닝할 때 가중치·그래디언트·옵티마이저 상태·활성화 메모리를 나눠 계산하고, 기본 설정(행동 전문가만 학습)과 전체 학습의 차이, 24GB·48GB 카드에서 배치 크기를 정하는 방법을 정리합니다.
ACT·Diffusion Policy·SmolVLA 논문이 실제로 쓴 시연 수, 학습 조건, 추론 지연을 표로 비교하고, 같은 50개 데이터에서 사전학습 여부가 성공률을 40%에서 78.3%로 바꾼 근거와 데이터 규모별 선택 기준을 정리합니다.