곳곳에 흩어진 API 키
프로바이더별 키가 애플리케이션과 담당자마다 분산되어 안전한 관리가 어려워집니다.
모든 AI 요청을,
하나의 게이트웨이로.
흩어진 API 키, 파악하기 어려운 모델 사용량과 비용, 제각각 설정된 도구 권한. AI Gateway는 AI 에이전트와 LLM·MCP 사이에 공통 관리 지점을 두어 연결·제어·가시성을 하나로 통합합니다.
AI 에이전트 연결
조직·멤버 관리
- SSO
- Okta 동기화
- RBAC
AI Gateway
Gateway Key
LLM Gateway
MCP Gateway
접근 제어
로그·감사
LLM 프로바이더
- 로컬 LLM
MCP 서버
- SaaS
- 사내 도구
AI 운영의 과제
AI 사용이 확대되면 연결 대상, API 키, 도구 권한이 분산됩니다. 사용 현황과 비용을 파악하고 일관된 정책으로 관리할 체계가 필요합니다.
제각각인 도구 권한
에이전트마다 설정이 달라 누가 어떤 도구를 사용할 수 있는지 파악하기 어렵습니다.
사용 후에야 드러나는 비용
어떤 팀이 무엇을 얼마나 사용했는지, 지출 내역을 한눈에 파악하기 어렵습니다.
모델을 바꿀 때마다 재설정
모델이나 프로바이더를 변경할 때마다 각 애플리케이션의 연결 설정을 점검해야 합니다.
AI 통합 관리
모델 연결부터 API 키, 사용 한도, 로그까지 하나의 게이트웨이에서 관리합니다. 개발자는 익숙한 도구로 조직의 정책에 맞게 AI를 사용할 수 있습니다.
여러 모델을 하나의 API로 연결
OpenAI·Anthropic·Gemini 등의 모델을 OpenAI·Anthropic 호환 API로 이용할 수 있습니다. 프로바이더마다 다른 연결 방식을 통합해 애플리케이션 연동을 단순화합니다.
재배포 없이 모델 전환
애플리케이션에서 사용하는 모델 별칭과 실제 모델을 Gateway에서 연결합니다. 앱의 모델명을 수정하지 않고 라우팅 설정으로 연결 대상을 바꿀 수 있습니다.
API 키를 안전하게 통합 관리
프로바이더 API 키는 암호화해 보관합니다. 사용자는 프로젝트에 연결된 Gateway Key로 접속하므로 원본 API 키를 각 앱이나 사용자에게 배포할 필요가 없습니다.
필요한 MCP 도구를 한곳에
여러 MCP 서버에서 필요한 도구를 선택해 하나의 연결 지점으로 통합합니다. 실행 시 프로젝트 정책을 확인하여 허용된 도구만 사용할 수 있습니다.
비용과 사용량 제어
프로젝트별 요청 수·토큰 수·월간 예산·요청 속도 제한을 설정합니다. 단가표에 기반한 추정 비용으로 예산을 관리하며, 가격 정보가 없는 모델은 비용 확인 불가로 표시합니다.
LLM·MCP 로그 통합 기록
누가 어떤 모델이나 도구를 사용했고 어떤 결과가 나왔는지 기록합니다. 토큰 수·추정 비용·응답 시간도 확인할 수 있어 일상적인 운영과 감사를 지원합니다.
DLP로 기밀정보 보호
보호할 정보와 대응 정책을 설정하고, AI 입력에 포함된 기밀정보를 감지해 제어합니다. 탐지 내역은 감사 로그로 확인하며 조직의 데이터 보안 정책을 한곳에서 관리합니다.
보호할 정보와 정책 설정
개인정보와 기밀정보 등 탐지할 대상과 감지 시 대응 방침을 정하고, 조직의 데이터 보안 정책을 한곳에서 관리합니다.
기밀정보 감지·제어
AI 입력에 포함된 민감정보를 감지하고, 설정한 정책에 따라 대응해 기밀정보 유출 위험을 줄입니다.
감사 로그로 결과 확인
탐지 내역을 감사 로그에서 확인합니다. 민감한 값은 가린 채 결과를 검토하고, 후속 점검과 정책 개선에 활용합니다.
| 사용자 | 탐지 결과 | 패턴 |
|---|---|---|
| kim.j | 고객 개인정보 0.96 …고객 연락처 010-****-5821… | 전화번호 3 · 이메일 2 |
| park.h | 인사·급여 0.93 본문 미표시 · 패턴 일치 없음 | — |
| lee.s | 대외비 문서 0.31 …OPENAI_API_KEY=sk-****… | API 키·토큰 1 |
ACP 보안 연동
QueryPie ACP와 연동해 AI의 사내 데이터·시스템 접근까지 보호합니다. ACP가 제공하는 MCP 도구를 통해 허용된 리소스에 안전하게 접근할 수 있습니다.
사용자
AI 모델
- 로컬 LLM
AI Gateway
MCP 도구
QueryPie ACP
데이터베이스
서버
Kubernetes
웹 애플리케이션
AI Gateway로 시작하세요
LLM·MCP 활용 현황과 접근 제어, 비용 관리 과제에 맞춰 도입 구성과 운영 방법을 제안합니다.
