알람은 많고 원인은 불명확하다
도구별로 분리된 알람이 쏟아지지만 상관관계가 없어 원인 판단은 여전히 숙련 운영자의 경험에 의존합니다.
01 / THE PROBLEM
장애는 복합 요인으로 발생합니다
메시징·데이터베이스·API 게이트웨이·컨테이너·애플리케이션이 얽힌 환경에서 장애는 복합 요인으로 발생합니다. 도구는 늘었지만 판단과 조치와 책임은 여전히 사람에게 남아 있습니다.
조치는 여전히 수동이다
탐지는 자동화되었지만 실제 조치는 수동입니다. 야간·휴일 대응 지연이 그대로 MTTR로 누적됩니다.
자동 조치를 켤 수 없다
자동 조치를 켜면 오작동·중복 실행·무한 루프 위험이 생깁니다. 정책과 원복 장치 없이는 켤 수 없습니다.
증빙이 남지 않는다
금융·공공 감사에서 요구하는 것은 복구 사실이 아니라 판단 근거와 승인 기록, 조치 결과의 불변 증빙입니다.
Orbiton.AI는 이 네 가지를 하나의 제어 루프로 통합합니다.
02 / CATEGORY
모니터링에서 자율 운영으로
글로벌 시장은 이미 관측(Observability)을 넘어 AI 기반 자율 운영으로 이동하고 있습니다. Orbiton.AI는 마지막 단계에 위치합니다.
- 01Monitoring“무슨 일이 일어났는가”
지표 수집과 임곗값 알람
- 02Observability“왜 일어났는가”
메트릭·로그·트레이스 통합 분석
- 03AIOps“무엇을 해야 하는가”
상관분석·이상 탐지·조치 권고
- 04Autonomous Ops“스스로 처리했는가”
정책 기반 자동 실행·검증·원복·증빙
Orbiton.AI
글로벌 AIOps 시장은 Dynatrace(인과 AI 기반 근본 원인 분석), Datadog(통합 관측 + ML 이상 탐지), BigPanda·Moogsoft(이벤트 상관분석·노이즈 감소), ServiceNow(ITSM 워크플로 결합), IBM Instana(하이브리드 클라우드 운영)가 주도하고 있습니다. 이들의 공통 한계는 조치의 실행·검증·원복과 규제 대응 증빙이 별도 제품군으로 분리되어 있다는 점이며, Orbiton.AI는 이 구간을 하나의 엔진으로 통합합니다.
03 / OVERVIEW
운영 신호를 조치로 전환합니다
기업이 이미 운용 중인 관측 스택과 실행 도구 사이에 위치하는 AI 컨트롤 플레인(Control Plane)입니다.
예측한다
시계열 예측과 비지도 이상 탐지로 임곗값 초과 이전에 위험을 감지합니다. 규칙 기반 위험 점수와 ML 모델을 병행 운용하므로 학습 데이터가 부족한 도입 초기에도 동작합니다.
- 시계열 예측
- 이상 탐지
- 원인 분류
- 위험 점수
조치한다
정책 엔진이 허용 여부와 승인 필요 여부를 결정하고, 워크플로 엔진이 실행·검증·원복까지 상태머신으로 수행합니다. 실패 시에는 반드시 원복합니다.
- Policy-as-Code
- HITL 승인
- 자동 검증
- 자동 원복
증명한다
탐지부터 종료까지 모든 판단 근거와 승인 기록을 불변 저장소에 남기고, 감사 리포트와 주·월간 운영 보고서를 자동 생성합니다.
- Evidence Store
- 감사 리포트
- 정기 보고서
- WORM 보관
Kafka · RabbitMQ · Pulsar · Kubernetes · Database · API Gateway · 사내 애플리케이션 — 대상 시스템은 드라이버로 교체됩니다.
04 / ARCHITECTURE
네 개의 논리 계층
각 계층은 표준 인터페이스로만 결합됩니다. 어느 한 계층을 교체해도 나머지는 그대로 동작합니다.
04증빙 계층Evidence
- 불변 증빙 저장 (WORM)
- 감사 리포트 자동 생성
- 주·월간 운영 보고서
- ITSM 티켓 첨부
03통제 계층Control
- 정책 엔진 (OPA/Rego)
- 워크플로 엔진 (SOAR)
- 승인·조치·검증·원복
- 중복 실행 방지
02지능 계층Intelligence
- 예측·이상 탐지 모델
- 근본 원인 분류
- 조치 권고 엔진
- 모델 거버넌스 (MRM)
01관측 계층Observability
- 풀스택 관측 가능성
- OpenTelemetry 표준 수집
- 메트릭·로그·트레이스 정규화
- Query Adapter · 시스템 드라이버
멀티테넌시(tenant_id / cluster_id)와 데이터 경계는 모든 계층에서 강제되며, 서비스 간 통신은 mTLS로 고정됩니다.
05 / CAPABILITIES
여섯 개의 핵심 모듈
예측 및 이상 탐지
LSTM · Prophet · TFT · N-BEATS문제를 더 빠르게 감지하고 안정성을 높입니다. 네 종의 시계열 모델과 Isolation Forest·USAD 앙상블이 적체와 자원 위험을 임곗값 도달 이전에 포착합니다.
인과 기반 원인 추론
DoWhy 4-step사고 조사를 앞당깁니다. 4단계 인과 추론으로 지표 변화가 실제 원인인지 판별하고 그 근거를 함께 제시합니다.
SOAR 워크플로
YAML · DAG조치를 선언형 정의로 관리합니다. YAML로 정의한 DAG 워크플로가 조건 분기·재시도·쿨다운·검증·원복을 수행합니다.
정책 기반 통제
OPA Rego실행 범위를 정책으로 고정합니다. 자동 실행 허용 여부, 승인 필요 여부, 시도 예산, 쿨다운, 위험도별 허용 조치 목록을 정책이 판정합니다.
증빙 및 리포팅
Hash chain규제 대응 근거를 자동으로 축적합니다. 해시 체인으로 보호되는 감사 로그와 사건별 스냅샷을 저장하고, Post-Mortem·RCA 문서와 주·월간 보고서를 자동 발행합니다.
Operator Agent
SSE streaming스트리밍 대화로 상태를 질의하고 원인과 조치 후보를 확인합니다. 실행은 반드시 정책 판정과 승인 게이트를 통과해야 합니다.
여섯 모듈은 하나의 닫힌 제어 루프로 연결되어 동작합니다.
06 / AI ENGINE
12개 모델이 하나의 판단을 도출합니다
단일 모델에 의존하지 않습니다. 예측·판정·추론·학습·품질 감시를 서로 다른 모델이 분담하고, 그 결과를 종합해 하나의 결정을 도출합니다.
예측 · 판정
| 모델 | 역할 | 구현 |
|---|---|---|
| LSTM | 예측 | PyTorch · PyTorch-Forecasting |
| Prophet | 예측 | Prophet · holidays-KR |
| Temporal Fusion Transformer | 예측 | PyTorch-Forecasting (Lim 2021) |
| N-BEATS | 예측 | PyTorch (Oreshkin 2020) |
| 이상 탐지 앙상블 | 이상 탐지 | Scikit-learn Isolation Forest · USAD |
| 인과 추론 | 원인 판별 | EconML · DoWhy (Pearl 4-step) |
학습 · 품질
| 모델 | 역할 | 구현 |
|---|---|---|
| 강화학습 정책 | 조치 선택 | Stable-Baselines3 PPO |
| 연합학습 | 분산 학습 | Flower FedAvg |
| 차등 프라이버시 연합학습 | 프라이버시 | Opacus DP-SGD · Flower |
| 지속학습 | 지식 유지 | EWC (Kirkpatrick 2017) |
| 드리프트 감지 | 품질 감시 | Evidently PSI·KS · River Page-Hinkley |
| 하이퍼파라미터 튜닝 | 재탐색 | Optuna TPE sampler |
전 모델이 독립 추론 엔드포인트로 배포됩니다. 모든 모델은 학습·추론·재학습 이력이 모델 레지스트리에 버전으로 남고, 승인된 버전만 실제 의사결정에 사용됩니다.
07 / INTEGRATION
재구축 없이 기존 스택에 연동합니다
Orbiton.AI는 특정 벤더 제품을 전제하지 않습니다. 외부와 접하는 경계를 세 종류의 플러그인으로만 정의하고, 나머지 엔진은 그대로 재사용합니다.
관측 데이터 조회
메트릭·트레이스·로그 조회 인터페이스만 고정하며, 백엔드는 교체할 수 있습니다.
- Prometheus / OTLP
- Grafana · Tempo · Loki
- Elastic · OpenSearch
- 상용 관측 플랫폼
대상 시스템 제어
자원 조회·메트릭 수집·조치 실행을 공통 모델로 추상화합니다.
- 메시징 (Kafka·RabbitMQ·Pulsar)
- 컨테이너 오케스트레이터
- 데이터베이스 · 캐시
- API 게이트웨이 · 사내 앱
업무 프로세스 연계
표준 이벤트 스키마와 웹훅으로 양방향 동기화합니다.
- ITSM · 티켓 시스템
- 협업 · 알림 채널
- SIEM · SOAR
- 이메일 · 사내 포털
플러그인 표준 — 서명된 매니페스트 · 권한 스코프 선언 · 샌드박스 격리 실행 · 호환성 매트릭스 · SBOM 검증 · 지수 백오프 재시도 및 실패 이벤트 보존
08 / DRIVER MODEL
수작업 없이 대상 자원을 탐색하고 추가합니다
대상 시스템마다 엔진을 새로 구현하지 않습니다. 드라이버가 네 개의 메서드만 구현하면 예측·이상 탐지·정책·워크플로·증빙 엔진을 그대로 재사용합니다.
| 공통 개념 | Kafka | RabbitMQ | Pulsar |
|---|---|---|---|
| 적체 (backlog) | Consumer Lag | Queue Depth | Backlog |
| 목적지 | Topic | Queue · Exchange | Topic |
| 소비 단위 | Consumer Group | Consumer | Subscription |
| 분할 단위 | Partition | Shard(옵션) | Partition |
| 유입 · 처리율 | Produce · Consume | Publish · Deliver | Publish · Ack |
| 노드 상태 | Broker Health | Node Health | Broker Health |
명칭이 다를 뿐 동일한 개념입니다. 엔진은 매핑된 공통 값만 참조합니다.
list_resources클러스터·큐·토픽 등 관리 대상 자원 목록을 조회합니다fetch_metrics시스템 고유 지표를 공통 지표로 정규화해 수집합니다execute_action확장·재기동·설정 변경 조치를 실행합니다fetch_schema_samples메시지 샘플을 수집해 스키마 변화를 감지합니다
드라이버가 바뀌어도 예측 앙상블·이상 탐지·인과 추론·정책 엔진·워크플로·승인 콘솔·증빙 저장소는 그대로입니다. 대상 환경의 지표 이름과 조치 API만 확정하면 연결이 완료됩니다.
09 / GOVERNANCE
거버넌스와 통제 아래 대규모로 실행합니다
AI가 운영 조치를 실행하는 제품은 보안과 거버넌스 요건을 충족하지 못하면 도입 심사를 통과할 수 없습니다.
- 다층 인증과 권한 분리
- JWT + OAuth2 인증에 MFA(TOTP)를 결합하고, RBAC로 운영자·승인자·관리자를 분리합니다. CSRF Double-Submit과 CSP/HSTS를 기본 적용합니다.
- 변조 불가능한 감사 추적
- 감사 로그를 해시 체인으로 연결해 중간 변조가 즉시 드러나게 하고, SIEM 훅으로 외부 보안 관제에 실시간 전달합니다.
- 이상 행위 탐지 (UEBA)
- 계정과 권한 사용 패턴을 학습해 내부자 위협과 권한 오남용 징후를 탐지하고, 위험 신호를 보안 이벤트로 승격합니다.
- 모델 리스크 관리
- 모델은 섀도 모드로 먼저 배포되고, Drift 감지(PSI·KS·Page-Hinkley)가 성능 저하를 상시 추적합니다. Optuna로 재튜닝하고 EWC로 기존 지식을 유지한 채 학습합니다.
- 데이터 주권
- 저장 리전, 추론 수행 위치, 보관 기간, 개인정보 처리 방식을 테넌트별 정책으로 선언하고 위반 시 저장·전송을 차단합니다.
- 폐쇄망 운영
- 오프라인 레지스트리, 서명 검증, 오프라인 플러그인 번들을 지원해 인터넷 연결 없이 설치·갱신할 수 있습니다.
10 / DEPLOYMENT
폐쇄망을 포함한 운영 환경에 배포합니다
제품이 정지하면 자동화와 가시성, 감사 기능이 동시에 정지합니다. Orbiton.AI는 자체 고가용성과 재해 복구를 제품 기능으로 제공합니다.
3AZ가용 영역 분산
컨트롤 플레인과 데이터 플레인을 분리해 지역별 독립 실행
15–30분목표 복구 시간 (RTO)
옵션 구성 시 5분까지 단축
0–5분목표 복구 시점 (RPO)
동기 복제 옵션 적용 시 0
0무중단 업그레이드 · 롤백
순차 롤링과 기능 플래그로 점진 활성화
- 배포 방식
- Kubernetes Helm Chart · HPA 오토스케일 · GPU nodeSelector · replicas 2 이상 이중화
- 단일 노드 구성
- Docker Compose(16GB RAM 이상) + nginx 리버스 프록시 — 소규모·폐쇄망 환경용
- 서비스 구조
- 7개 마이크로서비스 독립 배포. GitHub Actions 기반 빌드·테스트·배포 파이프라인
- 하드웨어 사양
- 추론 지연은 연산 자원에 비례. CPU 단일 노드 · GPU 1장(권장) · GPU 전용 노드 3단계 구성
- 운영 산출물
- 설치·업그레이드·롤백 절차서, 재해 복구 절차서, 보안 가이드, 운영 점검 체크리스트
11 / POSITIONING
기존 도구와의 관계
Orbiton.AI는 기존 관측 도구를 대체하지 않습니다. 그 상위에서 판단·조치·증명을 담당하는 계층으로 동작합니다.
| 비교 축 | 관측 · 모니터링 중심 | 이벤트 상관분석 중심 | Orbiton.AI 통합 컨트롤 플레인 |
|---|---|---|---|
| Dynatrace · Datadog · Instana | BigPanda · Moogsoft · ServiceNow | ||
| 강점 | 전 구간 관측과 근본 원인 분석 | 알람 노이즈 감소와 사건 통합 | 예측·판단·조치·증빙의 닫힌 루프 |
| 자동 조치 | 권고와 트리거 중심 | 티켓 생성·라우팅 중심 | 정책 판정 후 실행·검증·원복 내장 |
| 승인 절차 | 별도 도구로 분리 | ITSM 워크플로에 의존 | 제품 내 승인 콘솔과 SLA 타이머 |
| 감사 증빙 | 대시보드 조회 기반 | 티켓 이력 기반 | 불변 저장 + 감사 리포트 자동 발행 |
| 대상 확장 | 에이전트 지원 범위에 종속 | 연동된 알람 소스에 종속 | 드라이버 플러그인으로 대상 교체 |
| 설치 형태 | SaaS 우선 | SaaS 우선 | 온프레미스 · 폐쇄망 포함 |
비교 내용은 각 제품의 공개 자료를 기준으로 한 포지셔닝 관점이며, 개별 기능의 우열 판정이 아닙니다.
12 / USE CASES
하나의 엔진을 산업별로 적용합니다
거래 지연의 사전 차단과 감사 대응
결제·주문 처리 경로의 적체를 사전에 감지해 승인 기반으로 확장하고, 판단 근거와 승인 기록을 감사에 그대로 제출합니다.
설비 데이터 수집 파이프라인 안정화
현장 설비에서 올라오는 데이터 흐름의 이상을 조기에 탐지하고, 인력이 상주하지 않는 시간대에도 정책 범위 내에서 자동 복구합니다.
폐쇄망 환경의 무인 운영
인터넷 연결 없이 설치·갱신하며, 데이터 저장과 추론 위치를 국내로 강제하고 모든 조치를 불변 기록으로 남깁니다.
행사 트래픽 급증 대응
프로모션 구간의 급증 패턴을 학습해 사전 확장하고, 종료 후 자원을 되돌려 비용 증가를 억제합니다.
공통 엔진은 동일합니다. 산업별 차이는 정책 번들과 워크플로 번들, 드라이버 조합으로 흡수합니다.
13 / ADOPTION
도입 여정
안전 모드로 시작해 신뢰가 축적되는 만큼 자동화 범위를 확대합니다. 도입 초기에는 자동 조치를 활성화하지 않습니다.
- PHASE 01
연결과 관찰
기존 관측 스택에 어댑터를 연결하고 대상 시스템 드라이버를 붙입니다. 자동 조치를 비활성화한 상태에서 예측과 이상 탐지만 관찰합니다.
산출 · 탐지 품질 기준선 확보 - PHASE 02
승인형 자동화
정책을 정의하고 승인 콘솔을 엽니다. 모든 조치는 사람 승인을 거치며, 검증과 원복 경로를 실제로 검증합니다.
산출 · 조치 성공률과 원복 동작 확인 - PHASE 03
선별 자율화
위험도가 낮고 성공률이 검증된 조치부터 승인 없이 실행하도록 정책을 완화합니다. 나머지는 승인 게이트를 유지합니다.
산출 · 야간·휴일 대응 시간 단축 - PHASE 04
범위 확장
드라이버와 커넥터를 추가해 인접 시스템으로 넓히고, 축적된 운영 데이터로 모델을 재학습합니다.
산출 · 전사 운영 표준으로 확장
각 단계는 기능 플래그로 전환되며, 문제가 발생하면 플래그를 해제해 즉시 이전 단계로 복귀할 수 있습니다.
14 / TECH STACK
기술 구성
전 구간을 오픈소스와 공개 표준 위에 구성했습니다. 특정 클라우드나 상용 제품에 종속되는 지점이 없습니다.
백엔드
- FastAPI 0.115 · Python 3.x
- PostgreSQL + pgvector
- SQLAlchemy · Alembic
- Redis
프론트엔드
- Vue 3 (Composition API)
- Vite 6.0 · Pinia · Vue Router 4.5
- Bootstrap 5.3
- ApexCharts
AI / ML
- PyTorch · PyTorch-Forecasting
- Prophet · Optuna · Evidently
- Stable-Baselines3 · Flower(FL)
- EconML · DoWhy · River
LLM / RAG
- LangChain 1.x · LangGraph
- pgvector · BM25(rank_bm25)
- BGE 재순위화
- Ollama · OpenAI · Anthropic · Gemini
운영 / 배포
- Kubernetes (Helm)
- Docker Compose
- Prometheus · OpenTelemetry
- Loki · Grafana · GitHub Actions
보안
- JWT + OAuth2 · MFA(TOTP)
- RBAC · OPA Rego
- Audit Hash Chain · SIEM Hook
- CSP / HSTS · CSRF Double-Submit
15 / ROADMAP
로드맵
각 항목은 기존 구조를 변경하지 않고 확장하는 형태로 설계했습니다. 계층 인터페이스가 고정되어 있어 엔진 교체 없이 기능을 더할 수 있습니다.
GPU 가속 추론
추론 서비스를 CUDA 기반 이미지로 전환해 시계열·딥러닝 모델의 응답 지연을 단축합니다.
Shadow Mode OOD
학습 도메인을 벗어난 입력을 자동 분류하고 주제 이동을 감지해, 모델이 모르는 상황에서 조용히 틀리지 않게 합니다.
스트리밍 확장
장시간 응답 구간의 연결 유지와 재개를 보강해 대화형 인터페이스의 안정성을 높입니다.
모바일 앱
iOS·Android 앱으로 승인과 알림을 현장에서 처리합니다. 골격 구현이 준비되어 있습니다.
고급 UEBA
행동 군집화와 이상 탐지를 결합해 실시간 행동 분석 정확도를 높입니다.
연합학습 고도화
다중 클라이언트 환경에서 프라이버시 보존 학습을 확장해, 고객사 간 데이터 공유 없이 모델 품질을 개선합니다.
AUTONOMOUS OPERATIONS PLATFORM
인사이트에서 조치로, 조치에서 증빙으로.
탐지까지는 이미 여러 제품이 수행합니다. 그 다음 단계인 판단과 조치, 검증과 원복, 증빙까지를 하나의 엔진으로 담당합니다.