F5 AI Gateway JWT 인증 및 클레임 기반 라우팅 구성 가이드 F5 AI Gateway 는 JWT(JSON Web Token)를 통해 인증을 진행하고, 클레임값에 따라 지정한 서비스(모델)로 요청을 라우팅하도록 구성할 수 있습니다. 이를 통해, 토큰 내 정보를 기반으로 백엔드 LLM을 선택적으로 사용할…
NGINX Plus R34 출시 F5 NGINX Plus R34의 출시를 발표하게 되어 기쁘게 생각합니다. NGINX Open Source를 기반으로 하는 NGINX Plus는 유일한 ALL-IN-ONE 소프트웨어 웹 서버, 로드 밸런서, 리버스 프록시, 콘텐츠 캐싱 및 API Gateway 입니다. NGINX Plus R34의 새롭고 향상된…
F5 AI Gateway 언어 기반 라우팅 구성 가이드 F5 AI Gateway 는 요청의 언어 에 따라 지정된 LLM 서비스로 요청을 라우팅할 수 있습니다.Language Identification Processor를 통해 입력 언어를 판별하고, 해당 언어에 최적화된 백엔드 LLM으로 요청을 전달합니다.또한, 별도의 패턴 분석을 통해…
NGINX Gateway Fabric NGINX Plus JWT 구성 가이드 NGINX Plus 로 구성된 NGINX Gateway Fabric 은 F5 레지스트리에서 컨테이너 이미지를 다운받기 위해 유효한 JSON Web Token (JWT)가 필요합니다. 1.5.0 버전부터 이 JWT 토큰은 NGINX Plus 실행에도 필요합니다. 이 요구 사항은…
Kubernetes NGINX 트레이싱 구성 (OpenTelemetry + Grafana Tempo) Kubernetes 환경에서 마이크로서비스 간의 요청 흐름을 추적하고 분석하는 것은 장애 대응 및 성능 최적화에 매우 중요합니다. 본 문서에서는 NGINX의 OpenTelemetry 모듈을 활용하여 트레이싱 데이터를 수집하고, OpenTelemetry Collector 및 Grafana Tempo와 연동하여 분산…
Grafana Tempo Kubernetes 배포, 구성 가이드 Grafana Tempo 는 분산 추적을 위한 고성능 오픈 소스 시스템으로, 다양한 Tracing 프로토콜을 지원하여 애플리케이션의 성능을 모니터링하고, 시스템 내의 문제를 신속하게 진단하는 데 중요한 역할을 합니다. 분산 시스템에서 발생하는 여러 요청 흐름을 추적하고 시각화할…
F5 AI Gateway 헤더 기반 라우팅 구성 가이드 F5 AI Gateway 는 요청의 헤더 값에 따라 지정한 서비스(모델)로 요청을 라우팅하도록 구성할 수 있습니다. 이를 통해, 사용자의 요청 특성(예: 모델 명시, 사용자 그룹, 기능 요구 등)에 맞는 백엔드 LLM을 선택적으로 사용할…
F5 CIS (Container Ingress Services), Manifest 및 Helm Chart를 통해 설치 F5 CIS, BIG-IP Container Ingress Services(CIS)는 Kubernetes나 OpenShift의 기본 CLI/API를 사용하여 F5 BIG-IP 장치를 관리할 수 있게 해주며, Kubernetes나 OpenShift를 BIG-IP Orchestration 플랫폼으로 사용할 수 있는 Cloud-native connector 입니다.…
F5 AST 를 NGINX Plus Ingress Controller를 사용하여 노출 F5 AST(application study tool)는 프로덕션 수준보다 낮은 안정성으로 애플리케이션 인사이트를 신속하게 구축하고 실행하는 데 필요한 모든 기능을 제공합니다. 이번 포스트는 NGINX Plus Ingress Controller 를 사용하여 F5 AST를 노출시키는 방법에 대해…
F5 AI Gateway 모델 기반 라우팅 구성 가이드 F5 AI Gateway 는 다중 모델 서비스를 운영할 수 있는 구조를 제공하며, 요청에 포함된 모델 정보에 따라 요청을 특정 LLM 모델로 라우팅할 수 있습니다. 이 포스트는 클라이언트 요청의 model 필드 값을 기준으로…
댓글을 달려면 로그인해야 합니다.