AI Gateway 세션 로그와 웹 검색 API 공개 #141

오늘의 레터

  1. Vercel, AI Gateway 세션 기반 로그 뷰 공개
  2. DeepSeek, Search & Fetch API 공개

Vercel, AI Gateway 세션 기반 로그 뷰 공개

Vercel, AI Gateway 세션 기반 로그 뷰 공개
  • 2026년 10월 17일 AI Gateway 로그에 요청을 세션별로 묶는 Sessions 뷰 추가
  • Claude Code, Codex, Cursor 등 세션을 실행한 코딩 에이전트·앱과 비용·모델·프로바이더·입력 캐시량 표시
  • 세션별 캐시 적중률, 지속 시간, 세션 경로와 각 요청의 모델·처리 시간·프로바이더 확인 가능
  • 세션 어피니티가 직전 요청을 처리한 프로바이더로 다음 요청을 보내 프롬프트 캐시 비율을 높이는 방식
  • 턴 수, 클라이언트, 모델, 프로바이더, 인증 방식, 비용 기준으로 세션 필터링 가능
  • text·chat 요청에는 세션 어피니티가 기본 적용되며, 같은 sessionId 또는 x-session-id 헤더로 직접 세션 그룹 지정 가능
  • 식별자가 없는 요청은 대화 시작 부분의 지문을 기준으로 그룹화되며, 기본 필터에서는 단일 요청 세션이 숨겨짐

원문: vercel.com
참고: tech-insider.org · startupfortune.com


DeepSeek, Search & Fetch API 공개

  • DeepSeek가 실시간 웹 검색과 페이지 조회를 제공하는 Search & Fetch API를 공개
  • Search API는 자체 검색 엔진으로 웹 페이지를 찾고 구조화된 결과를 반환
  • Fetch API는 단일 웹 페이지를 가져와 Markdown 형식으로 반환
  • 두 API 모두 DeepSeek API와 동일한 Bearer 인증을 사용하는 원시 JSON API로 제공
  • 엔드포인트는 v1/tools/search와 v1/tools/fetch이며 검색 결과 수는 1~50개로 설정 가능
  • 검색어는 1~128자의 유니코드 문자열을 지원하고 사이트·언어·날짜 필터 연산자를 제공
  • 성공 요청 1,000건당 가격은 $0.75로 안내됨

원문: api-docs.deepseek.com
참고: bloomberg.com · startupfortune.com


조코레터는 개발자와 만드는 사람을 위해 AI, 소프트웨어, 제품 흐름을 한국어로 정리합니다.

#DeepSeek #Vercel

조코레터 구독하기

Read more

실시간 음성 에이전트와 개발 인프라 변화 #143

오늘의 레터 1. Vercel, 스킵된 모노레포 배포의 한도 차감 제외 2. Mistral, 실시간 음성 에이전트 Voxtral 3 공개 Vercel, 스킵된 모노레포 배포의 한도 차감 제외 * Vercel이 모노레포에서 자동으로 건너뛴 배포를 배포 횟수 제한에서 제외 * 변경되지 않은 프로젝트는 같은 한도 안에서 더 많은 배포 가능 * Turborepo 패키지 그래프와 lockfile 분석으로 커밋

By TaeyoungPark

AI 모델 업데이트와 GPU 인프라 운영 변화 #140

오늘의 레터 1. DeepSeek, V4.1 Flash-1017 업데이트 공개 2. NVIDIA Run:ai, Kubernetes용 GPU 오케스트레이션 플랫폼 DeepSeek, V4.1 Flash-1017 업데이트 공개 * DeepSeek-V4.1-Flash의 마이너 업데이트인 DeepSeek-V4.1-Flash-1017 공개 * 추론·코딩·에이전트 작업·비전 벤치마크 성능 개선 * 작업 실행 시간과 출력 길이를 줄여 처리 비용 절감 * Terminal-Bench 4.0에서

By TaeyoungPark