NVIDIA 후학습 절차와 GitHub AI 비용 관리 #85
오늘의 레터
NVIDIA, TAO로 Cosmos 3 Nano 하루 후학습
- NVIDIA가 7월 14일 기술 블로그에서 TAO 에이전트 스킬로 Cosmos 3 Nano 비디오 질의응답 모델을 하루 안에 후학습하는 절차를 공개함
- LoRA 1회 실행만으로 4지선다 exact-match 정확도가 54.41%에서 87.14%로 상승했고, TAO AutoML 스윕 기준 최고 93.35%를 기록함
- 대상 데이터셋은 Woven Traffic Safety이며, 도메인별 카메라 각도·엣지 케이스·환경 차이에 맞춘 특화가 핵심 사례로 제시됨
- Cosmos 3는 텍스트·이미지·비디오·사운드·액션 추적을 묶는 MoT 구조로, 추론용 autoregressive 경로와 생성용 diffusion 경로를 분리한 이중 타워 설계임
- TAO 에이전트 스킬은 데이터 처리, 기준 성능 평가, LoRA 설정, 하이퍼파라미터 탐색, 학습 컨테이너 실행 단계를 코딩 에이전트가 순서대로 수행하도록 묶어 제공함
- NVIDIA는 이 흐름이 Cosmos 3의 Reasoner 가중치만 자동 분리해 다운스트림 태스크에 맞게 조정하며, LoRA가 전체 파라미터 SFT 대비 약 7배 적은 GPU 시간으로 빠른 반복에 적합하다고 설명함
GitHub, 비용 센터별 AI 크레딧 풀 UI 지원
- GitHub가 billing UI에서 비용 센터 생성·수정 시 AI 크레딧 풀을 직접 관리할 수 있도록 추가함
- 기존에는 GitHub REST API로만 설정 가능했으며, 대상은 GitHub Enterprise Cloud의 Copilot Business·Copilot Enterprise임
- AI 크레딧 풀을 켜면 배정된 Copilot 라이선스를 기준으로 한도값이 자동 계산되며, 라이선스 증감 시 한도도 함께 조정됨
- 한도 도달 시 포함 사용량을 차단하거나, 엔터프라이즈에서 초과 과금을 허용한 경우 추가 지출로 계속 처리하도록 선택 가능함
- 이 기능은 각 비용 센터가 자체 Copilot 라이선스로 충당되는 포함 AI 크레딧 범위 안에서 쓰도록 제한하는 용도임
- 비용 센터 예산과는 별도 개념이며, 예산은 크레딧 풀이 소진된 뒤의 계량 과금을 제한함
- 동일한 비용 센터에 AI 크레딧 풀과 예산을 함께 설정할 수 있어 팀별 Copilot 비용 통제가 세분화됨
원문: github.blog
조코레터는 개발자와 만드는 사람을 위해 AI, 소프트웨어, 제품 흐름을 한국어로 정리합니다.
#GitHub #NVIDIA