Perspectives

A paradigm shift in optimization: data-driven learning and the role of AI

Jinkyoo Park · · Korean only

Moved from LinkedIn. Descriptions of technology, products, and research plans reflect the view at the time of writing.

Original comparison of modeling and solving with a learning-based optimization approach.
Diagram comparing optimization approaches, attached to the original post.
On this page
  1. 기존 최적화 접근법의 한계
  2. 컴퓨팅 및 AI 기술의 발전
  3. 추론 AI: 새로운 최적화 도구
  4. AI 에이전트(AI-Agent)의 역할
  5. 미래를 위한 준비: 산업계와 교육의 변화

기존 최적화 접근법의 한계

기존 최적화 접근법은 대상 문제의 특성을 수학적 언어로 추상화하고, 이를 통해 모델링한 후, 적절한 알고리즘을 적용하여 해를 찾는 방식으로 구성됩니다. 이러한 접근은 제한된 컴퓨팅 자원 하에서 문제를 해결하는 것을 목표로 했으며, 복잡도를 적절히 조정하여 사람이 직접 혹은 컴퓨터가 해결 가능한 수준으로 모델을 단순화해야 했습니다. 운영 연구(Operation Research) 분야에서는 현실 세계의 복잡한 문제들을 다양한 형태로 추상화하고, 그에 맞는 알고리즘을 개발하며 이론적 분석을 수행해왔습니다. 이는 세상을 표준화된 틀로 이해하고, 그 틀 안에서 문제를 해결하려는 시도로, 컴퓨팅 자원이 제한적이었던 시기에 산업 시스템의 효율성을 개선하고 인간의 지식 체계를 확장하는 데 기여했습니다. 그러나 이러한 접근은 필연적으로 문제의 단순화와 근사화를 동반하며, 현실 문제의 복잡성을 충분히 반영하지 못하는 한계를 지니고 있었습니다. 특히, 실제 산업 문제의 복잡성은 기존 모델링 방식으로 충분히 포괄되지 않는 경우가 많아 최적화의 효과성을 제한하였습니다.

컴퓨팅 및 AI 기술의 발전

최근의 컴퓨팅 성능과 인공지능 기술의 비약적인 발전은 기존 최적화 접근법에 근본적인 변화를 가져왔습니다. GPU(그래픽 처리 장치)와 분산 컴퓨팅 기술의 발전은 방대한 해 공간을 탐색하는 능력을 크게 향상시켜, 복잡한 문제에서도 신속하게 해를 찾을 수 있는 기반을 마련했습니다. 동시에, 인공지능은 문제의 해와 목적 함수 간의 복잡한 관계를 학습함으로써 보다 정교한 해를 탐색하고 최적화하는 과정을 효과적으로 지원하게 되었습니다. 이러한 발전은 문제 해결에서 인간의 도메인 지식과 수학적 추상화에 대한 의존성을 점차 줄여오고 있습니다. 이제 우리는 최적화 모델의 구조화된 틀로 문제를 바라보기보다는, 인공지능의 강력한 학습 능력과 컴퓨팅 자원을 활용해 더 복잡한 해 공간에서 보다 나은 해를 탐색할 수 있게 되었습니다. NVIDIA의 최적화 라이브러리 출시와 같은 사례는 이러한 흐름을 잘 반영하고 있습니다.

이러한 변화는 '모델 기반의 문제 해결'에서 '데이터 기반 학습과 컴퓨팅 기반의 문제 해결'로의 패러다임 전환을 의미합니다. 그렇다면, 이 새로운 시대에서 복잡한 산업 문제를 해결하기 위해 주목해야 할 핵심 기술은 무엇일까요?

추론 AI: 새로운 최적화 도구

복잡한 산업 문제 해결을 위해 주목해야 할 첫 번째 기술은 '추론 AI'입니다. 최근 몇 년간 주목받았던 생성형 AI 모델은 방대한 데이터로부터 대규모 모델을 구축하고, 주어진 조건에 맞는 데이터를 생성하는 방식으로 발전해 왔습니다. 그러나 이러한 모델은 기존 데이터에 내재된 패턴을 학습해 주어진 조건에 대한 그럴듯한 해를 확률적으로 도출하는 데 중점을 두고 있습니다. 이는 최적화 문제에서 요구되는 '이전에 관측되지 않았던 최적의 해'를 찾는 목적과는 근본적인 차이가 있습니다.

이러한 한계를 극복하기 위해 등장한 '추론 AI'는 보다 능동적인 방식으로 문제 해결에 접근합니다. 예를 들어, OpenAI의 o1 모델은 주어진 조건에 대응하는 해를 도출하는 과정에서 반복적 추론을 통해 점진적으로 더 나은 결과를 생성하는 능력을 보여줍니다. 'Chain of Thought' 과정은 도출된 결과를 반복적으로 평가하고 수정하여 더 좋은 결과를 찾아가는 방식입니다. 이러한 접근은 기존 데이터에 존재하지 않았지만 더 좋은 성능의 결과물을 창출할 수 있도록 합니다. 이와 같은 추론 AI 기술은 산업 현장에서 복잡한 최적화 문제를 해결하는 데 매우 유용한 도구로 자리 잡을 것입니다.

AI 에이전트(AI-Agent)의 역할

주목해야 할 두 번째 기술은 'AI 에이전트(AI-Agent)'입니다. AI 에이전트는 과거의 경험이나 데이터를 바탕으로 주어진 작업(task)을 효과적으로 수행하기 위해 전체적인 계획을 수립하고 작업을 세분화하며, 각 세분화된 작업을 수행하기 위해 필요한 도구들을 적절히 활용하여 문제를 해결하는 자율적 시스템을 의미합니다. 현재 AI 에이전트는 주로 단순한 사무 자동화나 개인 업무 처리를 대행하는 수준에 머물러 있지만, 추론 AI의 발전에 따라 AI 에이전트는 복잡하고 고차원적인 문제를 스스로 해결하며, 더 나은 대안을 제시하는 역할로 확장되고 있습니다.

예를 들어, 물류 산업에서는 AI 에이전트가 물류 센터 간의 자원 할당 및 최적의 배송 경로를 자동으로 계획하고 실행할 수 있습니다. 과거에는 이러한 최적화 문제를 해결하기 위해 전문가의 도메인 지식과 많은 수작업이 필요했지만, AI 에이전트는 실시간으로 변동하는 상황에 맞춰 적응하며 최적의 솔루션을 도출할 수 있는 능력을 갖추고 있습니다. 이는 인간이 복잡한 문제를 해결할 때 복잡한 알고리즘을 개발하거나 코딩할 필요 없이, AI 에이전트와 대화하듯 문제를 설명하고 이를 해결할 수 있는 새로운 방식을 제공합니다. 기존 소프트웨어의 작동 방식을 혁신적으로 바꾸는 이러한 기술은 더 많은 자율성과 적응성을 산업 전반에 제공할 것입니다.

미래를 위한 준비: 산업계와 교육의 변화

미래에는 문제 해결 방식과 업무 수행 과정 모두에서 큰 변화가 일어날 것입니다. 이러한 시대에 산업계는 어떻게 대응해야 할까요? 또한 교육은 어떤 방향으로 변화해야 할까요? 이러한 질문들에 대한 심도 있는 고민이 앞으로 중요한 과제가 될 것입니다.

산업계는 AI 에이전트와 추론 AI를 활용하여 더욱 복잡한 문제를 효율적으로 해결하고, 이를 통해 새로운 기회를 창출하는 방향으로 나아가야 합니다. 예를 들어, 제조업에서는 생산 계획 및 자원 최적화를 위해 AI 에이전트를 도입함으로써 생산 효율성을 극대화할 수 있습니다. 물류, 에너지, 의료 등 다양한 산업에서도 AI 기반 최적화 기술이 적용되어 혁신적인 변화를 이끌어낼 것입니다. 이 과정에서 인공지능의 안정성을 높이고 보안을 강화하는 기술도 활발히 연구되고 적용되어야 할 것입니다. AI 에이전트를 통해 인간이 이미 잘하던 일을 자동화하는 것에 만족하지 않고, 인간이 할 수 없었거나 해결하기 어려웠던 문제를 효율적으로 해결하고 자동화하는 도전적인 방향으로 발전해야 합니다.

교육 또한 기존의 정형화된 문제 풀이 방식에서 벗어나, 문제를 발굴하고 해결하는 능력을 기르는 방향으로 나아가야 합니다. 현재 인간이 수행하는 많은 사무와 의사결정 작업들이 미래에는 AI 에이전트에 의해 대체될 것이 자명합니다. 문제를 해결하는 것은 AI가 담당하더라도, AI가 풀어야 할 문제를 정의하고 그 결과를 평가하는 것은 여전히 인간의 역할입니다. 이러한 변화는 사회 전반에 걸쳐 큰 영향을 미칠 것이며, 우리가 직면할 미래의 중요한 도전이자 기회가 될 것입니다.