AWS·NVIDIA 발표와 AI 개발 흐름 변화 #71
오늘의 레터
AWS, 허깅페이스-SageMaker 원클릭 연동 공개
- AWS가 7월 6일 Hugging Face 모델 페이지에서 Amazon SageMaker Studio로 바로 이동하는 딥링크 연동을 발표함
- 지원 모델 페이지에서 Customize on SageMaker AI 또는 Deploy on SageMaker AI를 누르면 선택한 모델이 미리 설정된 Studio 화면으로 연결됨
- 새 Studio 환경은 모델 커스터마이징, 학습 작업, 노트북 실험, 엔드포인트 배포에 필요한 권한을 사전 구성하며 AmazonSageMakerModelCustomizationCoreAccess 관리형 정책을 자동 연결함
- 서버리스 모델 커스터마이징 작업에서 SFT, DPO, RLVR, RLAIF를 지원하고, 배포 대상은 SageMaker AI 또는 Amazon Bedrock 엔드포인트로 이어짐
- 기존에는 콘솔 진입, 도메인 생성, IAM 권한 설정, GPU 할당량 확인이 별도 단계였지만 이번 연동으로 모델 탐색부터 실험·배포까지 경로를 단축함
- 인스턴스 선택 화면에서 G5·G6 GPU 할당량을 바로 표시하며, 한도 증액이 필요하면 해당 Service Quotas 페이지로 직접 이동됨
원문: aws.amazon.com
(검증 부족)
- Anthropic 공식 페이지에 "The Making of Claude Code" 제목과 byline만 확인됨
- 제공된 primary 본문에는 Claude Code의 기능, 구조, 일정, 수치가 포함되지 않음
- entities 기준으로 확인 가능한 고유명은 Anthropic과 Claude Code에 한정됨
- 보조 매체 교차 확인만으로는 핵심 발표 내용을 사실 bullet 5건 이상으로 확정하기 어려움
- 검증 가능한 세부 사실 부족으로 본문 사용 부적합
원문: anthropic.com
참고: thiagolira.blot.im · analyticsinsight.net · whimfiles.com
NVIDIA, 비균일 텐서 병렬화로 LLM 학습 Goodput 개선
- NVIDIA가 대규모 LLM 학습의 Goodput 개선 방안으로 비균일 텐서 병렬화(NTP) 실험 프레임워크를 7월 6일 공개함
- NTP는 일시적 GPU 가용성 저하가 발생하면 텐서 병렬화 차수를 동적으로 조정해 전체 학습 작업의 정지를 줄이는 구조임
- Goodput은 단순 처리량이 아니라 수렴에 실제로 기여한 유효 작업량 지표로 정의되며, 장시간·대규모 학습에서 핵심 운영 지표로 제시됨
- 필요한 텐서 리샤딩을 겹쳐 수행해 추가 오버헤드를 1% 미만으로 억제하고, 동적 전력 부스트와 결합해 처리량 저하를 보완하는 방향을 설명함
- NVIDIA는 Blackwell·Blackwell Ultra 계열에서 NVLink가 최대 72개 GPU를 1,800 GB/s로 단일 홉 연결하며, 8개에서 72개 GPU 규모 확장 구간에서 건강한 GPU의 작업 지속성이 중요하다고 설명함
원문: developer.nvidia.com
참고: blockchain.news
조코레터는 개발자와 만드는 사람을 위해 AI, 소프트웨어, 제품 흐름을 한국어로 정리합니다.
#AWS #Anthropic #NVIDIA