AI 에이전트 운영과 커스터마이징 업데이트 #10
오늘의 레터
- Google, Gemini API 이벤트 기반 웹훅 도입
- AWS, AgentCore Optimization 프리뷰 공개
- Amazon SageMaker AI, 에이전트형 모델 커스터마이징 공개
Google, Gemini API 이벤트 기반 웹훅 도입
- Google이 Gemini API에 이벤트 기반 웹훅을 도입해 장시간 실행 작업의 완료 알림을 폴링 없이 받을 수 있게 함
- 대상 시나리오는 Deep Research, Batch API 같은 분~수시간 단위 작업이며, 응답 대기와 반복 요청에 따른 지연·오버헤드 감소가 목적임
- 작업이 끝나면 지정한 엔드포인트로 HTTP 콜백을 보내는 구조이며, 클라이언트가 상태를 계속 조회하지 않아도 됨
- 웹훅 전달은 at-least-once 방식으로 동작하고, 실패 시 최대 24시간 동안 자동 재시도를 지원함
- Python SDK와 함께 소개됐고, Gemini API 기반 비동기 워크플로를 운영하는 개발자 쪽 구현 부담을 낮추는 변경으로 볼 수 있음
원문: blog.google
참고: news.google.com
AWS, AgentCore Optimization 프리뷰 공개
- AWS가 5월 4일 Amazon Bedrock AgentCore용 신기능 AgentCore Optimization 프리뷰를 공개함
- 운영 중인 에이전트의 프로덕션 trace와 평가 결과를 분석해 시스템 프롬프트나 도구 설명 수정안을 추천하는 구조
- 추천안은 CloudWatch Log group의 trace를 입력으로 받고, 내장 evaluator 또는 커스텀 evaluator를 보상 신호로 지정해 생성됨
- 검증 단계로 사전 데이터셋 대상 batch evaluation과 실서비스 트래픽 분할 A/B 테스트를 함께 제공함
- A/B 테스트는 AgentCore Gateway에서 트래픽 비율을 나눠 실행하고, 신뢰구간과 p-value를 포함한 비교 결과를 보고함
- 설정 변경은 runtime ARN 기준의 불변 configuration bundle로 관리되며, 모델 ID·시스템 프롬프트·도구 설명을 버전별로 분리 가능
- AgentCore Observability는 모델 호출, 도구 호출, 추론 단계를 OpenTelemetry 호환 trace로 기록하고 평가 점수와 연결함
- AWS는 수동 프롬프트 수정과 제한적 테스트 중심의 기존 개선 절차를 자동 추천·오프라인 검증·온라인 검증 루프로 바꾸는 방향을 제시함
원문: aws.amazon.com
참고: news.google.com
Amazon SageMaker AI, 에이전트형 모델 커스터마이징 공개
- AWS가 5월 4일 Amazon SageMaker AI에서 자연어 지시만으로 모델 커스터마이징 전 과정을 진행하는 에이전트 기반 워크플로를 발표함
- 데이터 준비, 기법 선택, 평가, 배포까지 AI 코딩 에이전트가 이어서 처리하며, 생성된 코드는 수정 가능한 재사용 아티팩트로 제공됨
- 모델 커스터마이징 전용 스킬 9종이 함께 제공되며, use case 정의, 계획 수립, 데이터셋 검증·변환, 파인튜닝, 평가, 배포 단계를 모듈식으로 담당함
- 지원 파인튜닝 기법은 SFT, DPO, RLVR 3종이며, 평가 단계에서는 LLM-as-a-Judge 지표를 구성하고 배포 경로는 SageMaker AI 엔드포인트 또는 Amazon Bedrock 중에서 결정함
- SageMaker AI Studio JupyterLab에서는 Kiro가 기본 통합되며, ACP 호환 에이전트인 Claude Code 등도 같은 스킬 연동을 받을 수 있음
- 사용 조건으로는 SageMaker AI Studio JupyterLab용 SageMaker AI Distribution 이미지 4.1 이상, 실행 역할 권한, S3 버킷, SageMaker 도메인 구성이 필요함
원문: aws.amazon.com
참고: news.google.com
조코레터는 개발자와 만드는 사람을 위해 AI, 소프트웨어, 제품 흐름을 한국어로 정리합니다.
#AWS #Google
