AI 가시성
AI 앱 출시 이후의 호출 체인을 추적합니다. tracing, 비용 배분, 지연 지표가 어떻게 문제 지점을 찾아내는지, 게이트웨이 제품이 무엇을 보완하는지 다룹니다.
호출 체인이 길어지면 어느 계층에서 실패했는지 특정하기 어려워집니다. 생성형 앱 출시 이후 흔히 겪는 막힘입니다. LangChain은 tracing을 감싼 모델과 도구 호출 단위까지 밀어내렸고, Portkey.ai는 라우팅, 폴백, 예산 상한, 엔드투엔드 추적을 하나의 게이트웨이로 묶었습니다. 지연, 호출당 비용, 품질 지표가 새로운 조사 항목이 되었고 비용 배분은 용량 계획에도 영향을 줍니다.
