Copilot 지표 API와 LLM 서빙 도구 공개 #33
오늘의 레터
GitHub, Copilot 도입 단계 지표 API 추가
- GitHub가 2026년 5월 29일 Copilot usage metrics API에 AI 도입 단계 분류 기능을 추가함
- 최근 28일 기준 최소 2일 이상 사용한 Copilot 제품 범위를 바탕으로 사용자별 `ai_adoption_phase` 필드를 제공함
- 단계는 Phase 0 `No cohort`, Phase 1 `Code first`, Phase 2 `Agent first`, Phase 3 `Multi-agent`의 4단계로 구분됨
- 엔터프라이즈·조직 리포트에는 `totals_by_ai_adoption_phase` 배열이 추가돼 단계별 참여 사용자 수와 사용자당 평균 활동 지표를 집계함
- 집계 항목에는 상호작용 평균, 코드 생성·수락 활동 평균, 추가·삭제 코드 줄 수 평균, PR 생성·머지·리뷰 평균, 머지까지의 중앙 시간 평균이 포함됨
- 각 단계 값에는 `version` 필드가 함께 제공되며, 초기 분류 로직 버전은 `v1`로 시작함
- GitHub는 단순 활성 사용자 수를 넘어서 코드 완성 중심 사용에서 에이전트 기반 사용으로의 전환 추적이 가능하다고 설명함
- 해당 지표는 REST API를 통해 Copilot 사용 지표에 접근할 수 있는 엔터프라이즈 관리자와 조직 소유자에게 제공됨
원문: github.blog
NVIDIA, LLM 서빙 시뮬레이터 DynoSim 공개
- NVIDIA가 2026년 5월 29일 NVIDIA Dynamo 서빙 스택용 이산 이벤트 시뮬레이터 DynoSim을 공개함
- 실제 GPU 실험 전에 후보 구성을 대량 검증해 워크로드별 파레토 프런티어 탐색에 쓰는 구조임
- 모델 백엔드, 텐서 병렬 형태, 스케줄러, 라우팅, KV 캐시, 오토스케일링, 토폴로지 상호작용을 가상 타임라인에서 재현함
- 요청 도착, 스케줄러 단계, 포워드 패스, KV 전송, 워커 기동, 플래너 동작을 이벤트 단위로 처리함
- 단일 엔진에서는 vLLM과 SGLang 스케줄러 차이를 반영하고, 멀티 엔진에서는 Router와 Planner 동작까지 포함함
- 엔진 실행 시간 추정에는 AI Configurator(AIC)를 사용해 모델, 시스템, 텐서 병렬 형태, 패스 구성별 지연을 계산함
- Apple M4 MacBook Air에서 23,608개 요청 Mooncake 트레이스를 8개 라운드로빈 워커와 512토큰 블록 기준 2.41초에 재생했다고 밝힘
- 같은 실험의 시뮬레이션 서빙 구간은 60.1분으로, 실시간 대비 약 1,500배 빠른 오프라인 검증 속도를 제시함
조코레터는 개발자와 만드는 사람을 위해 AI, 소프트웨어, 제품 흐름을 한국어로 정리합니다.
#GitHub #NVIDIA
