AI 개발 도구와 모델 실행 환경 업데이트 #144

오늘의 레터

  1. GitHub Copilot, Visual Studio 2026 기능 업데이트
  2. Hugging Face, AWS Trainium 모델 지원 조회 도구 공개

GitHub Copilot, Visual Studio 2026 기능 업데이트

  • 2026년 9월 업데이트에서 Visual Studio용 GitHub Copilot의 pull request 탐색, BYOM, NuGet 취약점 수정 기능을 추가
  • Git agent가 GitHub Copilot Chat에서 pull request를 요약하고 관련 댓글·파일로 이동하는 링크를 제공
  • GitHub와 Azure DevOps MCP 서버를 연결해야 pull request를 Git agent의 문맥으로 첨부 가능
  • BYOM 프리뷰에서 Microsoft Foundry, OpenAI, Anthropic, Ollama 모델을 지원하며 Community·Professional·Enterprise 에디션에서 기본 활성화
  • BYOM은 새 Agent(Preview) 모드에서만 지원되며 기존 Ask·Agent 모드 설정과 일부 Ollama 모델은 재구성 필요
  • NuGet Audit 경고에 fixer action을 추가해 NuGet MCP 서버와 에이전트 모드로 취약 패키지 수정 가능
  • Copilot Free, Student, Pro, Pro+, Max, Business, Enterprise 등 모든 요금제에서 제공

원문: github.blog


Hugging Face, AWS Trainium 모델 지원 조회 도구 공개

  • Hugging Face가 AWS Trainium에서 Transformers 모델의 실행 가능 여부를 확인하는 torch-neuronx Model Support Space 공개
  • 모델별 Trainium 코어 수, 실행 시간, 컴파일을 포함한 전체 소요 시간, 최대 디바이스 메모리 제공
  • Downloads·Trending 목록에서 모델을 검색하고 neuronx-cc와 Transformers 버전별 테스트 결과 조회 가능
  • 테스트에 사용한 Neuron 스택, 설치 패키지, 실행용 run.py 스크립트와 공개 NEFF 캐시 경로 제공
  • 테스트는 Trainium2 인스턴스에서 모델을 가중치가 수용되는 최소 코어 수로 분할해 32개 토큰을 생성하는 방식
  • 현재 Transformers의 text-generation과 image-text-to-text 모델 중 최대 4개 Trainium2 디바이스, 16코어까지 지원
  • 전체 결과와 오류, 라이브러리 버전, 실행 스크립트는 aws-neuron/torch-neuronx-model-support 데이터셋의 Parquet 파일로 공개

원문: huggingface.co


조코레터는 개발자와 만드는 사람을 위해 AI, 소프트웨어, 제품 흐름을 한국어로 정리합니다.

#GitHub #HuggingFace

조코레터 구독하기

Read more

실시간 음성 에이전트와 개발 인프라 변화 #143

오늘의 레터 1. Vercel, 스킵된 모노레포 배포의 한도 차감 제외 2. Mistral, 실시간 음성 에이전트 Voxtral 3 공개 Vercel, 스킵된 모노레포 배포의 한도 차감 제외 * Vercel이 모노레포에서 자동으로 건너뛴 배포를 배포 횟수 제한에서 제외 * 변경되지 않은 프로젝트는 같은 한도 안에서 더 많은 배포 가능 * Turborepo 패키지 그래프와 lockfile 분석으로 커밋

By TaeyoungPark

AI 모델 업데이트와 GPU 인프라 운영 변화 #140

오늘의 레터 1. DeepSeek, V4.1 Flash-1017 업데이트 공개 2. NVIDIA Run:ai, Kubernetes용 GPU 오케스트레이션 플랫폼 DeepSeek, V4.1 Flash-1017 업데이트 공개 * DeepSeek-V4.1-Flash의 마이너 업데이트인 DeepSeek-V4.1-Flash-1017 공개 * 추론·코딩·에이전트 작업·비전 벤치마크 성능 개선 * 작업 실행 시간과 출력 길이를 줄여 처리 비용 절감 * Terminal-Bench 4.0에서

By TaeyoungPark