설계 · 검증 단계AI 에이전트 보안 게이트웨이

AI 에이전트가 회사 시스템에 닿기 전에,
확인하고 판정하고 기록합니다.

Graatii는 AI 에이전트와 회사의 도구 · 데이터 · API 사이에 서는 보안 게이트웨이를 만들고 있습니다.

한눈에

자리
에이전트와 도구 · 데이터 · API 사이
하는 일
신원 전달 · 정책 판정 · 자격 증명 중개 · 철회 · 감사 증거
기본 동작
확인되지 않은 요청은 거부
지금
설계 · 검증 단계, 출시된 제품 없음

01문제

에이전트가 일을 맡으면, 권한이 질문이 됩니다

AI 에이전트는 사람을 대신해 메일을 보내고, 파일을 고치고, 결제 API를 부릅니다. 그때 회사가 답해야 할 질문은 「모델이 얼마나 똑똑한가」보다 「이 요청을 누가, 어디까지 허락했나」에 가깝습니다.

  1. 누구의 뜻인지 흐려집니다

    에이전트는 사람을 대신해 움직입니다. 도구 쪽에서는 그 요청이 어느 사용자의 뜻인지, 어떤 업무를 위해 허락된 것인지 구별하기 어렵습니다.

  2. 비밀이 오래, 넓게 남습니다

    API 키와 토큰을 에이전트 설정에 그대로 넣어 두면, 그 비밀은 한 번의 작업에 필요한 것보다 넓은 범위에서 오래 쓰입니다.

  3. 읽은 내용이 행동을 바꿉니다

    문서 · 웹 페이지 · 도구 설명에 섞인 지시가 에이전트의 다음 행동을 바꿀 수 있습니다(프롬프트 인젝션). 모델의 판단만으로 이를 확실히 걸러 내기는 어렵습니다.

  4. 일어난 일을 증명하기 어렵습니다

    무엇이 허용되고 무엇이 막혔는지, 권한을 거둔 뒤에도 남은 길이 없는지를 나중에 증거로 보여 주기 어렵습니다.

02방식

에이전트와 시스템 사이에서,
요청마다 판정합니다

Graatii 게이트웨이는 에이전트의 요청이 도구 · 데이터 · API로 가는 길목에 섭니다. 아래는 지금 설계하고 검증하는 동작입니다.

Graatii 게이트웨이를 지나는 요청의 흐름 AI 에이전트의 요청은 Graatii 게이트웨이에서 신원 확인, 정책 판정, 자격 증명 중개, 증거 기록을 거칩니다. 허용된 요청만 회사의 도구 · 데이터 · API로 전달되고, 승인 대기 요청은 사람이 승인한 뒤 전달되며, 거부된 요청은 멈춥니다. 자격 증명은 분리된 금고에서 호출마다 빌려 오고, 판정과 전달은 증거 기록에 남습니다. 게이트웨이를 거치지 않는 직접 연결은 막혔는지 시험으로 확인하고, 확인하지 못하면 관리 밖으로 표시합니다. 요청하는 쪽 AI 에이전트 사내에서 만든 에이전트 클라우드 에이전트 개발 도구 에이전트 요청 Graatii 게이트웨이 1 신원 확인 2 정책 판정 3 자격 증명 중개 4 증거 기록 허용 — 전달 승인 대기 — 사람이 승인한 뒤 거부 — 멈춤 회사의 시스템 도구 · 데이터 · API MCP 서버 사내 API SaaS 자격 증명 금고 분리된 영역 호출마다 빌려줌 증거 기록 판정 · 전달 · 근거 게이트웨이를 거치지 않는 직접 연결 막혔는지 시험으로 확인하고, 확인하지 못하면 「관리 밖」으로 표시합니다 Graatii 게이트웨이를 지나는 요청의 흐름 AI 에이전트의 요청은 Graatii 게이트웨이에서 신원 확인, 정책 판정, 자격 증명 중개, 증거 기록을 거칩니다. 판정 결과는 허용, 승인 대기, 거부 가운데 하나이고, 허용된 요청만 회사의 도구 · 데이터 · API로 갑니다. 자격 증명은 분리된 금고에서 호출마다 빌려 오고, 판정과 전달은 증거 기록에 남습니다. 게이트웨이를 거치지 않는 직접 연결은 막혔는지 시험으로 확인하고, 확인하지 못하면 관리 밖으로 표시합니다. 요청하는 쪽 AI 에이전트 사내에서 만든 에이전트 클라우드 에이전트 개발 도구 에이전트 요청 Graatii 게이트웨이 1 신원 확인 2 정책 판정 3 자격 증명 중개 4 증거 기록 허용 승인 대기 거부 자격 증명 금고 분리된 영역 호출마다 빌려줌 증거 기록 판정 · 전달 · 근거 허용된 요청만 회사의 시스템 도구 · 데이터 · API MCP 서버 사내 API SaaS 게이트웨이를 거치지 않는 직접 연결 막혔는지 시험으로 확인하고, 확인하지 못하면 「관리 밖」으로 표시합니다.
그림 1. 요청은 게이트웨이에서 확인과 판정을 거친 뒤에만 목적지로 갑니다. 게이트웨이를 거치지 않는 길은 막혔는지 따로 확인합니다.
  • 신원 전달Identity

    어떤 에이전트가, 어느 사용자를 대신해, 어떤 일로 요청하는지 확인하고 그 신원을 요청과 함께 전달합니다. 이 연결을 확인하지 못한 고위험 요청은 보내지 않습니다.

  • 정책 판정Policy decision

    요청을 실행 전에 허용 · 거부 · 승인 대기 가운데 하나로 판정합니다. 최종 근거는 사람이 읽을 수 있는 정책이고, AI 모델의 판단은 참고 재료로만 씁니다.

  • 자격 증명 중개Credential brokering

    에이전트에게 오래가는 비밀을 맡기지 않습니다. 판정을 통과한 호출 하나, 목적지 하나에 필요한 만큼만 짧게 빌려주고, 비밀은 분리된 영역에 둡니다.

  • 철회Revocation

    권한을 거두면 새 요청뿐 아니라 이미 열린 연결과 발급된 자격 증명까지 막혔는지 확인합니다. 확인이 끝날 때까지는 「철회 적용 중」으로 보입니다.

  • 감사 증거Audit evidence

    무엇을 판정했고, 실제로 전달했는지, 근거가 무엇이었는지를 기록으로 남깁니다. 보호 수준은 그 증거가 뒷받침하는 만큼만 표시합니다.

03원칙

설계를 붙잡는 네 가지 원칙

기능을 더할 때마다 이 네 가지에 비추어 봅니다.

  1. 기본은 거부

    확인된 허락만 지나갑니다. 해석할 수 없거나 모호한 요청은 거부하고, 등록되지 않은 작업은 허용으로 넘어가지 않으며, 고위험 요청은 판정에 실패하면 닫힙니다.

  2. 「완료」는 증거가 있을 때만

    권한 철회는 모든 경로가 막혔다는 증거가 남은 뒤에만 완료로 표시합니다. 새 연결이 막힌 것만으로는 부족합니다. 이미 열린 연결로 옛 권한이 지나갈 수 있기 때문입니다.

    보호 표시도 같습니다. 증거가 없으면 「안전함」이라고 쓰지 않습니다.

    1. 철회 요청

      권한을 거두라는 요청을 받습니다

    2. 철회 적용 중

      경로마다 막혔는지 확인합니다

      확인할 경로

      • 새 연결
      • 이미 열린 연결
      • 발급된 자격 증명
      • 다시 시작한 서버
    3. 철회 완료

      모든 경로가 막혔다는 증거가 남은 뒤

    그림 2. 철회 상태가 바뀌는 조건. 하나라도 확인되지 않으면 「적용 중」에 머뭅니다.
  3. 독립 검증

    설계를 서로 다른 검토자와 실측으로 거듭 확인합니다. 시험이 실패를 정말 잡아내는지 보려고 일부러 망가뜨린 구성으로도 돌려 봅니다. 겉으로는 통과하지만 실제로는 권한이 새는 경우를 찾으면, 그 경우를 규칙과 시험에 넣습니다.

  4. 복잡함은 수면 아래

    판정과 증거의 깊이는 시스템 안에 둡니다. 사람이 보는 곳에는 위험 · 이유 · 영향 · 다음 행동이 바로 읽히도록 설계합니다.

04단계

지금은 설계 · 검증 단계입니다

단계마다 다른 증거로 판정하고, 한 단계의 증거로 다음 단계를 주장하지 않습니다. 출시된 제품은 아직 없습니다.

  1. 1지금

    설계 · 검증

    보안 계약과 신뢰 경계를 문서로 정하고, 독립 검토와 작은 실측으로 확인합니다.

  2. 2

    구현

    계약대로 만들고, 미리 정해 둔 합격 시험으로 확인합니다.

  3. 3

    독립 검증

    만든 사람과 다른 검증자가 같은 조건으로 다시 실행해 같은 결과를 얻습니다.

  4. 4

    운영 준비

    장애 대응과 고객 간 분리 같은 운영 기준을 확인한 뒤에야 고객 환경에 둡니다.

05연락

문의는 메일이나 전화로 받습니다