인공지능(AI) 기술이 문서 탐색 기반의 질의응답을 넘어 문제 해결 계획을 수립하고 실제 행동까지 수행하는 ‘에이전틱 AI(Agentic AI)’로 진화해 나가고 있다. 단순히 검색에 대한 결과값을 제공하거나 업무의 효율성을 높이는 도구에 그치지 않고, 워크플로우(Workflow) 안에 유기적으로 통합돼 주어진 과업을 처리하는 능동적인 실행 주체로 거듭나고 있는 것이다.

그러나 AI에게 실무의 조종키를 맡기는 이러한 변화는 필연적으로 의구심을 동반한다. 현재 AI 기술의 주류를 형성하고 있는 대규모 언어모델(LLM)만으로 과연 복잡한 현실 세계의 맥락을 충분히 고려해 판단할 수 있느냐 하는 점이다. 방대한 텍스트 데이터를 학습한 LLM은 탁월한 언어 이해 능력을 갖추고 있지만, 본질적으론 확률 기반의 패턴 생성 모델에 가깝다. 경험적으로 맥락을 이해할 수 있는 인간과는 달리, AI는 데이터 속 단어 간의 관계를 통계적으로 학습할 뿐 현실 세계에서의 입체적인 개념과 복잡다단한 관계 구조를 온전히 파악하긴 어렵다. 이러한 간극으로 인해 AI는 고차원적인 의사결정이나 복합적인 추론이 필요한 상황에서 종종 한계를 드러내곤 한다.

그러므로 에이전틱 AI가 진정한 의미의 지능형 시스템으로 발전하기 위해서는 단순히 언어적 패턴을 학습하는 것을 넘어 현실 세계에 대한 체계적 이해를 지원하는 구조화된 지식 모델을 탑재해야 한다. 이 과정에서 중요한 역할을 하는 것이 바로 ‘온톨로지(Ontology)’다. 온톨로지는 특정 영역에 존재하는 개념과 그 관계를 정의하고 체계화한 지식 구조라 할 수 있는데, 그 중요성에 관해서는 아래와 같은 예시로 설명해볼 수 있을 것이다. 

식자재 관리 AI에게 ‘갓 입고된 사과와 배를 창고에 배치하라’는 명령이 떨어졌다고 가정해 보자. LLM은 사과와 배가 모두 과일에 속한다는 사실에 근거해 두 품목을 같은 신선식품 창고에 나란히 보관하라고 지시할 수 있다. 하지만 이는 치명적인 실수다. 사과에서 방출되는 에틸렌 가스가 함께 둔 배를 빠르게 부패시킨다는 생물학적 상극관계를 간과했기 때문이다. 이때 ‘사과는 에틸렌 가스를 방출한다', '배는 가스에 민감하다'처럼 사물 간의 간섭 효과와 관리 규칙을 정의한 온톨로지가 LLM과 결합된다면, AI는 '배를 사과와 격리해 보관하라'는 식의 정확한 실행 명령을 내릴 수 있을 것이다. 

이처럼 온톨로지는 단어와 단어 사이의 통계적 거리가 아닌 사물과 사건의 실제 관계를 정의하는 '지식의 지도'다. AI가 현실의 질서를 이해하도록 돕고, 판단과 행동의 준거가 되어줄 일종의 세계관을 제공하는 셈이다. 이러한 구조 위에서 AI는 검색 증강 생성(RAG) 중심 챗봇 어시스턴트의 한계를 극복하고, 복잡한 상관관계와 제약 조건까지 치밀하게 계산해 최적의 판단을 내리는 ‘실행형 에이전트’로 진화한다. 사물의 미세한 특성부터 거대한 운영 규칙까지 데이터 이면의 인과성을 정확히 인식해야만 자원 배분이나 위험 평가 같은 고도의 의사결정에서 유효한 조치를 이끌어낼 수 있기 때문이다.

이러한 효용성으로 인해 온톨로지에 대한 시장의 수요는 공공과 민간 모두에서 크게 증가하고 있다. 그저 많은 데이터를 확보하는 일보다는 이를 관통하는 명확한 지식 체계를 구축하는 것이 AI 전환(AX)의 성패를 좌우하는 진정한 경쟁력임을 깨달았기 때문이다. 이에 부응해 온톨로지 설계 및 관리 솔루션 시장 역시 빠르게 성장하는 추세다. 필자가 속한 기업 또한 지난 2024년 도메인 특화 온톨로지 플랫폼을 출시, 사이버범죄 추적 및 위협 대응 분야에서 축적해온 온톨로지 기반 지식그래프 기술력을 밑거름 삼아 제조·금융·방산 등 미션 크리티컬(Mission-critical) 산업군의 의사결정 체계를 고도화하는 데 주력하고 있다.

지난 생성형 AI 시대가 '데이터의 양'을 겨루는 전쟁이었다면, 에이전틱 AI 시대는 이를 얼마나 ‘밀도 높은 의미망’으로 재편하느냐의 경쟁이 될 것이다. 그 중심에 있는 온톨로지는 AI가 복잡한 현실을 이해하고 인간과 실질적으로 협업하기 위한 필수적인 토대가 될 전망이다.