오믈렛의 경로 최적화 AI 에이전트, TOAST
TOAST가 수퍼바이저, 전문 에이전트, 라우팅 엔진을 어떻게 연결하는지와 이준의 및 공동 저자의 구현 노트를 다룹니다.
기사 읽기엔지니어링 · 엔지니어링
공통 ID, 권한, 배포, 관측성을 바탕으로 최적화 기능을 비즈니스 애플리케이션에 연결하는 방식을 설명합니다.
솔버는 계획을 계산할 수 있습니다. 애플리케이션은 그에 더해 누가 요청했는지, 어느 조직의 데이터를 사용할 수 있는지, 문제가 생겼을 때 실행 과정을 어떻게 추적할지도 알아야 합니다. 이런 과제는 경로 계획, 스케줄링을 비롯한 여러 운영 의사결정에서 반복됩니다.
OIP(Operational Intelligence Platform)는 오믈렛 아키텍처의 공통 인프라 계층입니다. OCP 서비스와 비즈니스 애플리케이션의 운영에 ID, 권한, 배포, 관측성, 감사를 결합하는 역할을 맡습니다.
애플리케이션은 사람이 해야 하는 일을 표현합니다. OCP 서비스는 그 일을 도메인별 최적화 기능과 연결합니다. OIP는 이 둘을 둘러싼 공통 운영 기반을 제공합니다. 이렇게 역할을 나누면 도메인 팀은 운영 인프라를 공유하면서 문제 정식화와 해의 품질에 집중할 수 있습니다.
요청에는 프롬프트 이상의 것이 필요합니다. 플랫폼은 인증된 ID와 권한이 부여된 조직 맥락을 서비스 경계 너머까지 전달하도록 설계해야 합니다. 도구에 대한 접근과 그 바탕 데이터에 대한 접근은 서로 연관된 결정이며 여러 팀이 같은 기능을 사용할 때는 둘 다 중요합니다.
오래 실행되는 최적화 작업에서 유용한 운영 뷰는 요청, 실행 상태, 결과 출력을 서로 연결합니다. 트레이스는 실패와 지연을 조사하는 데 도움이 됩니다. 감사 기록이 있으면 어떤 조치가 누구의 권한으로 이루어졌는지 설명할 수 있습니다. 이는 계산된 해의 품질과 함께 다뤄야 하는 엔지니어링 과제입니다.
애플리케이션을 설계하고 검증하는 일과 조직 안에 배포하고 운영하는 일은 서로 다른 활동입니다. OIP는 이 두 번째 활동이 자리할 공통 아키텍처 기반을 제공합니다. 각 애플리케이션의 워크플로와 최적화 로직은 명시적으로 유지하면서 운영 기능은 여러 애플리케이션에서 재사용하는 것을 목표로 합니다.
이 글은 OIP의 아키텍처상 역할을 소개합니다. 릴리스 노트가 아니며, 모든 연동이 배포된 환경에서 제공된다는 뜻도 아닙니다.