엔지니어링
오믈렛의 경로 최적화 AI 에이전트, TOAST
자연어 요청을 오믈렛의 Routing Engine과 다중 에이전트 워크플로에 연결하는 TOAST를 기술적으로 소개합니다.
기존 오믈렛 홈페이지에 발표한 글을 옮겼습니다. 기술·제품·연구 계획에 관한 설명은 원문 작성 당시의 관점입니다.
TOAST 엔지니어링
Juni Lee, Seunghyun Kang, Jiwoo Son이 2025년 7월 16일 AWS 기술 블로그에 게시한 기술 글입니다.
대화와 계산을 분리합니다
TOAST는 LangGraph 슈퍼바이저로 문서 검색, 데이터 처리, 경로 최적화를 조율합니다. 언어 모델은 Amazon Bedrock에서 실행됩니다. 경로는 준비된 입력을 받아 오믈렛의 Routing Engine이 계산합니다.
요청마다 데이터에 근거합니다
업로드한 파일은 표준 형식으로 바꾸고 검증합니다. 시스템은 등록된 거점, 차량, 주문을 조회해 엔진 요청을 준비합니다. 결과는 경로 요약과 지도로 돌아옵니다. 사용자의 피드백으로 최적화를 다시 실행할 수도 있습니다.
실행 과정을 들여다볼 수 있게 합니다
Phoenix로 모델과 도구 호출을 추적해 엔지니어가 지연 시간과 토큰 사용량을 살펴볼 수 있습니다. 이 글은 2025년의 구현과 그 설계 선택을 설명합니다.
AWS에서 엔지니어링 글 전문 읽기오믈렛 원문 소개
물류 현장의 배차 담당자는 매일 수십 개의 배송지와 여러 대의 차량을 고려해 최적 경로를 짜야 합니다. 하지만 시간 제약, 차량 용량, 교통 상황까지 동시에 고려하는 것은 사람의 한계를 넘어서는 복잡한 문제죠.
기존 최적화 솔루션들은 강력하지만, 복잡한 API 문서를 이해하고 수학적 모델링을 거쳐야 하는 진입 장벽이 높았습니다.
오믈렛의 TOAST(Transportation Optimization Agentic System & Technology)는 이런 한계를 돌파합니다. Amazon Bedrock Claude 4 Sonnet 모델 기반의 멀티 에이전트 시스템으로, 복잡한 코딩 없이도 자연어만으로 경로 최적화를 수행할 수 있습니다.
"강남구 배송지만 3톤 트럭으로 처리해줘"라고 말하면, AI가 데이터를 자동 분석하고 최적화 엔진을 호출해 결과를 지도로 시각화까지 해줍니다.
오믈렛의 독자적인 Routing Engine의 AI 기반 문제 해결 방식, LangGraph 기반 멀티 에이전트 아키텍처, 그리고 대화형 최적화 워크플로우 - 이것이 바로 복잡한 최적화 기술을 누구나 쉽게 사용할 수 있는 일상 도구로 만든 TOAST의 핵심 혁신입니다.
더 자세한 기술적 구현 내용과 아키텍처 상세사항은 AWS 기술 블로그에 게시된 글을 참고해주세요.