AI 모델 업데이트와 GPU 인프라 운영 변화 #140
오늘의 레터
DeepSeek, V4.1 Flash-1017 업데이트 공개
- DeepSeek-V4.1-Flash의 마이너 업데이트인 DeepSeek-V4.1-Flash-1017 공개
- 추론·코딩·에이전트 작업·비전 벤치마크 성능 개선
- 작업 실행 시간과 출력 길이를 줄여 처리 비용 절감
- Terminal-Bench 4.0에서 42.3점, DeepSWE v1.1에서 77.0점 기록
- NL2Repo-Bench 68.2점, Automation-Bench v1.0.6 60.5점 달성
- Chartography 83.0점, BabyVision 92.5점, ZeroBench-main 51.0점 기록
- Transformers·vLLM·SGLang·Docker Model Runner를 통한 실행 방법 제공
- MIT 라이선스와 8비트·FP8 관련 모델 파일 지원, Jinja 형식 채팅 템플릿은 미제공
원문: huggingface.co
참고: startupfortune.com · shattered.io
NVIDIA Run:ai, Kubernetes용 GPU 오케스트레이션 플랫폼
- NVIDIA Run:ai는 Kubernetes 기반의 오픈소스 AI 워크로드·GPU 오케스트레이션 플랫폼
- 개발·학습·추론 워크로드를 온프레미스, 클라우드, 하이브리드 환경에서 실행
- GPU 스케줄링, 자원 관리, 워크로드 오케스트레이션, 거버넌스, 모니터링 기능 제공
- 중앙 제어 영역과 클러스터 서비스로 구성되며 여러 Kubernetes 클러스터를 관리
- 클러스터 서비스가 Kubernetes 기본 스케줄링을 GPU 인식 방식으로 확장
- 웹 UI, CLI, REST API를 통해 사용자와 외부 시스템이 워크로드를 제출하고 상태를 확인
- 제어 영역·클러스터 서비스·설치 도구·클라이언트 패키지·MCP 서버를 하나의 저장소에서 제공
- Apache-2.0 라이선스로 공개
원문: github.com
참고: techrepublic.com · aithority.com · neoteo.com
조코레터는 개발자와 만드는 사람을 위해 AI, 소프트웨어, 제품 흐름을 한국어로 정리합니다.
#DeepSeek #NVIDIA