AI 에이전트 운영과 개발 도구, 오픈소스 변화 #117
오늘의 레터
Rust 1.98, 비동기 서비스 vtable 슬롯 생성 오류
- Rust 1.98.0에서 callable boxed async service의 컴파일러 생성 vtable에 빈 메서드 슬롯이 삽입되는 버그 발생
- 안전한 Rust 코드가 해당 슬롯을 호출하면서 주소 0에서 SIGSEGV 발생
- rust-lang/rust GitHub 이슈 #161441에 aarch64-apple-darwin 환경의 재현 사례와 최소 재현 절차 등록
- Rama 기반 HTTP 프록시가 Rust 1.97.1에서는 502 Bad Gateway를 반환했지만 1.98.0에서는 CONNECT 요청 중단 후 종료
- nightly-2026-07-16에서는 문제가 재현되지 않아 1.98.0의 회귀로 분류됨
- vtable의 drop·size·alignment 항목은 정상이나 첫 메서드 슬롯이 비어 있으며, 관련 모노모픽 코드 생성 차이가 원인으로 지목됨
원문: github.com
로컬 LLM, 실행 환경에 따라 응답 품질 달라질 수 있음
- 보도에 따르면 동일한 로컬 LLM도 GPU, 추론 엔진, 어텐션 구현, 양자화 방식에 따라 계산 결과와 응답이 달라질 수 있음
- 약 10만 토큰의 에이전트 작업 문맥에서 Qwen3.6-27B는 어텐션 백엔드에 따라 후반부 최상위 토큰 선택이 달라졌으며, 차이는 특정 내용 구간에 집중됨
- BF16 가중치를 유지한 채 KV 캐시를 INT8·INT4로 낮춰도 차이가 발생했으며, 도구 호출에서 INT8은 오류 후 복구했지만 INT4는 복구하지 못함
- 가중치 양자화에서는 INT8 W8A16이 BF16 기준에 FP8과 NVIDIA NVFP4보다 가까웠고, NVFP4는 88k 문맥 측정 위치의 약 절반에서 최상위 토큰이 변경됨
- 짧은 프롬프트나 KLD 수치만으로 판단하기보다 실제 런타임에서 긴 문맥, 도구 호출, 도메인 작업을 함께 평가해야 함
원문: news.hada.io
Sponsored · 조코헌트 · 욕망 테스트 (그리스 신화) (자동)
🏆 조코헌트 TOP1 · 그리스 신화로 살펴보는 나의 욕망 관계 테스트
그리스 신화를 바탕으로 내게 가장 중요한 욕구가 무엇인지 5분 안에 짚어보는 웹 테스트입니다.
나와 가까운 사람의 욕망 관계를 보완인지 대립인지 함께 살펴볼 수 있어, 성향 파악을 넘어 관계의 맥락까지 돌아보게 합니다.
조코레터는 개발자와 만드는 사람을 위해 AI, 소프트웨어, 제품 흐름을 한국어로 정리합니다.
#Qwen #Rust