Tech Dive

AI는 왜 기대만큼 일하지 못할까? - Data + AI Summit 2026 참관기

들어가며

안녕하세요. 
AX미래기술원 AX Data Lab 데이터거버넌스정책팀 전현식, 데이터Intelligence팀 오지용입니다.

저희는 2026년 6월 15일부터 18일까지 4일간 미국 샌프란시스코 Moscone Center에서 개최된 Databricks Data + AI Summit 2026에 참석했습니다.

이미지


Data + AI Summit은 Databricks가 매년 개최하는 대표 행사로, 올해는 전 세계 174개국에서 10만 명 이상의 참가자가 등록하고 3만 명이 넘는 인원이 현장을 찾으며 역대 최대 규모로 진행되었습니다. 행사장 곳곳에서는 데이터와 AI를 활용한 혁신 사례와 최신 기술 발표가 이어졌고, 데이터와 AI가 산업 전반에 가져올 변화에 대한 높은 관심과 열기를 직접 체감할 수 있었습니다.


행사를 둘러보며 가장 인상 깊었던 점은 'AI'라는 단어가 거의 모든 세션의 중심에 있었다는 것입니다. 하지만 단순히 새로운 AI 모델이나 기능을 소개하는 분위기는 아니었습니다.


오히려 많은 발표에서 공통적으로 다루고 있던 주제는 '기업에서 AI를 어떻게 제대로 활용할 것인가' 였습니다.


AI Agent가 실제 업무를 수행하려면 무엇이 필요한지, AI가 기업의 데이터를 어떻게 이해해야 하는지, 그리고 AI를 어떻게 안전하게 운영할 것인지에 대한 논의가 제품 발표와 고객 사례 전반에 걸쳐 이어졌습니다. 처음에는 개별 기능을 소개하는 행사라고 생각했지만, 여러 세션을 들으면서 Databricks가 전달하려는 하나의 큰 방향성이 보이기 시작했습니다.


이번 글에서는 저희의 관심사인 Data Governance, Semantic Layer, Ontology를 중심으로 여러 세션을 관통했던 Databricks의 메시지와 방향성을 정리해 보려고 합니다.


1. 똑똑한 AI, 왜 기대만큼 일하지 못할까?

이번 Summit에서 Databricks가 전달하고자 한 핵심 메시지는 이것이었습니다.

"AI doesn't have an intelligence problem. It has a context problem."
이미지

처음에는 조금 의아했습니다.

ChatGPT나 Claude 같은 최신 LLM은 이미 어려운 자격시험을 통과하고, 수준 높은 코드를 작성하며, 긴 문서도 자연스럽게 요약합니다. 객관적으로 보면 AI의 지능(Intelligence) 은 이미 상당한 수준에 도달했습니다. 그런데 왜 Databricks는 AI의 문제가 지능이 아니라 Context(맥락) 라고 이야기했을까요?

생각보다 답은 우리 주변에 있습니다.

회사에서 AI에게 "지난달 고객 ARPU를 보여줘."라고 질문했다고 가정해 보겠습니다. 사람에게는 어렵지 않은 질문이지만, AI에게는 생각보다 많은 정보가 필요합니다.

  • 우리 회사에서 고객(Customer)은 누구를 의미하는가?
  • 휴면 고객도 포함하는가?
  • ARPU는 어떤 계산식을 사용하는가?
  • 사업부서마다 정의가 다르다면 어떤 기준을 따라야 하는가?
  • 매출은 청구 기준인가, 수납 기준인가?

데이터는 존재하지만, 그 데이터를 어떻게 해석해야 하는지는 별개의 문제입니다. AI는 테이블과 컬럼은 읽을 수 있지만, 그 안에 담긴 비즈니스의 의미와 업무 규칙까지는 알지 못합니다.

이것이 Databricks가 말하는 Context Problem입니다.

결국 기업에서 AI가 기대만큼 성과를 내지 못하는 이유는 모델의 성능이 부족해서가 아니라, 우리 회사의 업무를 아직 배우지 못했기 때문입니다. 

Databricks는 이러한 문제를 해결하기 위한 방향을 매우 명확하게 제시했습니다. 좋은 기업 AI는 단순히 더 큰 모델을 사용하는 것이 아니라, 기업의 데이터를 이해하고, 업무 규칙을 학습하며, 안전하게 운영될 수 있어야 한다는 것입니다.

이를 위해 Databricks는 기업형 AI 플랫폼이 갖추어야 할 네 가지 요소를 제시했습니다.

이미지



  • Choice : 특정 모델이나 클라우드에 종속되지 않고 상황에 맞는 AI를 선택할 수 있어야 한다.
  • Context : AI가 기업의 데이터와 업무, 비즈니스 규칙을 이해할 수 있어야 한다.
  • Control : AI가 허용된 범위 안에서 안전하게 동작하도록 정책과 거버넌스를 적용할 수 있어야 한다.
  • Cost : AI 사용량과 비용을 추적하고 지속 가능한 수준으로 운영할 수 있어야 한다.

흥미로운 점은 이 네 가지가 각각의 요소가 아니라 기업에서 AI를 운영하기 위한 하나의 흐름이라는 것입니다.

  첫째, 먼저 적합한 AI 모델을 선택하고(Choice), 
  둘째, AI에게 우리 회사의 업무를 학습시킨 뒤(Context), 
  셋째, AI가 올바르게 행동하도록 통제하고(Control), 
  넷째, 마지막으로 비용까지 관리하는 것(Cost). 

이것이 Databricks가 생각하는 Enterprise AI의 운영 방식입니다. 

이번 Summit에서 발표된 Genie Ontology, Unity Catalog Semantics, Genie, Unity AI Gateway 등과 같은 신기능들도 결국 이 네 가지 방향성을 구현하기 위한 퍼즐 조각들이었습니다.

이번 글에서는 이 흐름을 따라 Databricks가 제시한 Enterprise AI를 살펴보려고 합니다.

2. AI에게 일을 가르치기

​앞에서 AI의 가장 큰 문제는 Context라고 이야기했습니다. 그렇다면 AI에게 Context를 알려준다는 것은 무엇을 의미할까요?


많은 사람들이 AI를 학습시킨다고 하면 방대한 데이터를 준비하거나 더 좋은 모델을 사용하는 것을 떠올립니다. 

하지만 기업에서는 조금 다른 접근이 필요합니다.


AI는 우리 회사의 데이터를 모두 읽을 수 있다고 해서 바로 일을 잘하는 것이 아닙니다. AI가 정말 알아야 하는 것은 데이터보다 업무를 이해하는 방식입니다.


예를 들어 "지난달 고객 ARPU를 보여줘."라는 질문을 생각해 보겠습니다. 사람은 자연스럽게 고객의 정의를 알고, 어떤 계산식을 사용해야 하는지 알고 있으며, 회사에서 사용하는 용어도 이해합니다.


반면 AI는 테이블과 컬럼은 볼 수 있지만,


  • 고객이 누구인지
  • ARPU를 어떻게 계산하는지
  • 어떤 데이터가 신뢰할 수 있는 데이터인지
  • 어떤 대시보드가 공식 지표인지


와 같은 업무의 맥락(Context) 은 알지 못합니다.


Databricks는 이러한 문제를 해결하기 위해 Genie Ontology와 Unity Catalog Semantics를 함께 발표했습니다. 저희는 이 두 기능을 각각의 제품으로 보기보다 하나의 구조로 이해하는 것이 훨씬 쉬웠습니다. 사람이 회사의 업무를 정의하고, AI가 그것을 학습하는 구조입니다.


■ Genie Ontology - AI가 회사를 이해하는 지식 그래프

Genie Ontology는 Databricks가 이번 Summit에서 가장 강조한 신기능 중 하나입니다.

이미지

Databricks는 Genie Ontology를 Living Context Graph라고 표현했습니다. 말 그대로 AI가 기업의 데이터를 이해하기 위한 비즈니스 컨텍스트 레이어(Business Context Layer) 입니다.

뒤에서 살펴볼 Genie One은 이 컨텍스트 레이어를 자동으로 생성하고 지속적으로 유지합니다. SQL, 테이블, Notebook, Dashboard뿐 아니라 업무 문서와 연결된 애플리케이션까지 분석하여 지식 스니펫(Knowledge Snippet) 을 추출하고, 이들 간의 관계를 하나의 그래프로 연결합니다.

기존 RAG 역시 검색을 통해 LLM에 필요한 정보를 제공하지만, Genie Ontology는 기업의 비즈니스 의미를 하나의 컨텍스트로 구조화한다는 점에서 접근 방식이 다릅니다. 차이점을 정리하면 다음과 같습니다.


기존 방식 (RAG / Vector Search)
Genie Ontology 방식
검색 방법
질문과 유사한 텍스트 조각을
벡터 유사도로 검색
OntoRank (권위도 순위 엔진)기반
Knowledge Graph에서 검증된 정의 조회
답변 생성
검색된 조각을 기반으로 LLM이 개방형 추론
(Open-ended Reasoning)
검증된 정의를 기반으로 SQL 쿼리 실행
→ 사실 기반 답변
Context 유지
매 대화마다 Context 재발견
(반복 비용 발생)
누적 기억(Cumulative Memory)으로
학습 결과 영구 유지
비즈니스 이해
스키마는 알지만
비즈니스 의미(meaning)는 모름
비즈니스 의미를 구조화하여
정확한 해석 수행
비용/속도
개방형 추론으로 인한
높은 토큰 비용 + 느린 응답
검증된 경로로 직접 조회
→ 낮은 토큰 비용 + 빠른 응답

단순히 문서를 많이 검색한다고 해서 AI가 올바른 답을 하는 것은 아닙니다.  

예를 들어 데이터 파이프라인, SQL, Dashboard, 업무 문서, 코드, 협업 문서 등을 분석하여

  • 어떤 KPI가 존재하는지
  • 어떤 데이터가 함께 사용되는지
  • 어떤 문서가 공식적인 정의인지
  • 어떤 업무 흐름으로 연결되는지

를 하나의 그래프로 구성합니다.

그리고 OntoRank라는 알고리즘을 이용하여 어떤 정보가 가장 신뢰할 수 있는지 우선순위를 판단합니다. 여러 문서에 서로 다른 정의가 존재하더라도, 공식 메트릭, 인증된 데이터, 데이터 스튜어드가 관리하는 정의 등을 우선적으로 참조하여 일관된 답변을 제공합니다.

또 하나의 특징은 Cumulative Memory입니다. 기존 RAG는 질문이 들어올 때마다 필요한 정보를 다시 검색하지만, 
Genie Ontology는 사용 과정에서 축적된 지식과 사용 패턴을 지속적으로 반영합니다.  즉, 사용할수록 기업의 업무와 데이터를 더 잘 이해하는 살아있는 Context로 발전하게 됩니다.

덕분에 AI는 단순히 관련 문서를 찾는 것이 아니라 조직에서 실제로 사용되는 지식을 우선적으로 활용할 수 있게 됩니다.


■ Unity Catalog Semantics - 사람이 만드는 Context


하지만 Genie Ontology가 모든 Context를 스스로 만들어내는 것은 아닙니다. AI가 학습할 수 있는 좋은 Context는 결국 사람이 만들어야 합니다. 

Databricks는 이를 위해 Unity Catalog Semantics를 발표했습니다.

이미지

Unity Catalog Semantics는 사람과 AI가 동일한 의미로 데이터를 이해할 수 있도록 하는 Semantic Layer입니다.

Databricks는 이를 Shared Source of Meaning이라고 표현했습니다. 즉, 비즈니스 용어, KPI, 업무 규칙 등을 하나의 기준으로 정의하여 사람과 AI가 동일한 의미를 공유하도록 만드는 것입니다.

이를 위해 Unity Catalog Semantics는 다음 다섯 가지 요소로 AI가 이해할 수 있는 Context를 구성합니다.

  • Glossary가 비즈니스 용어를 정의하고,
  • Domains가 비즈니스 단위로 Context를 구성하며,
  • Metrics가 표준 KPI를 정의하고,
  • External Lineage가 End-to-End 데이터 흐름을 추적하며,
  • Table Insight가 데이터 활용 중요도를 분석합니다.

이렇게 만들어진 Context는 Genie Ontology와 결합되어 AI가 기업을 이해하는 Living Context Graph를 완성합니다.


▶ Glossary - 비즈니스 용어를 정의하다

‘고객', '매출', '파트너’, 'ARPU', 'VIP' 처럼 조직마다 의미가 달라질 수 있는 용어를 하나의 기준으로 정의하여, 사람과 AI가 동일한 의미를 이해할 수 있는 Single Source of Truth를 제공합니다. 


또한 각 용어는 실제 데이터와 메트릭, 관련 용어까지 함께 연결되며,  AI를 활용해 용어 정의 초안을 작성하거나 기존 정의를 개선하는 것도 지원합니다.

▶ Domains - 업무별 Context를 구성하다

AI에게 모든 데이터를 보여주는 대신 고객, 마케팅, 재무, 인사 등 필요한 업무 영역(Domain) 만 참조하도록 하여 더 정확하고 효율적인 답변을 제공합니다. 탐색 범위를 줄임으로써 정확도뿐 아니라 응답 속도와 비용까지 함께 개선할 수 있습니다.

또한 AI가 데이터 사용 패턴을 분석하여 적절한 Domain 구성을 제안하는 기능도 제공될 예정으로, 초기 분류 작업의 부담도 줄여줄 것으로 기대됩니다.

▶ Metrics - 표준 KPI를 정의하다

매출, 이탈률, 활성 사용자, 마진과 같은 KPI를 Unity Catalog에서 한 번 정의하면 SQL, BI 도구, API, AI Agent가 모두 동일한 기준으로 활용할 수 있습니다. 덕분에 도구마다 서로 다른 계산식을 사용하는 문제를 줄이고, AI 역시 사람이 사용하는 것과 같은 기준으로 데이터를 이해하게 됩니다.

이번 Summit에서는 단순히 KPI를 등록하는 수준을 넘어 다중 Fact 관계, LOD 계산, Window Measure 등 복잡한 시맨틱 모델링까지 지원하는 방향으로 발전하고 있음을 소개했습니다. 

또한 Materialization을 통해 자주 사용하는 지표를 미리 계산해 AI와 대시보드의 응답 속도를 높이고, 기존 Power BI나 Tableau 모델을 가져와 활용할 수 있는 점도 인상적이었습니다.

▶ External Lineage - 데이터 흐름을 추적하다

Unity Catalog Lineage를 Databricks 외부 시스템까지 확장하여, 업스트림 소스부터 다운스트림 BI 리포트까지 End-to-End 데이터 흐름을 하나의 Lineage Graph로 관리할 수 있습니다. 이를 통해 AI는 데이터의 출처와 변환 과정을 함께 이해하여 더욱 신뢰할 수 있는 답변을 생성할 수 있습니다.

▶ Table Insight - 데이터 활용 중요도를 분석하다

과거 쿼리 이력을 분석하여 어떤 컬럼이 자주 활용되는지 자동으로 측정하고, 이를 Popularity 시그널로 제공합니다. 이 정보는 Genie Ontology에 반영되어 AI가 실제 업무에서 많이 사용되는 데이터를 우선적으로 활용할 수 있도록 돕습니다.



인상 깊었던 점은 메타데이터를 바라보는 관점의 변화였습니다.


예전에는 메타데이터가 사람이 데이터를 찾기 위한 정보였다면, 이제는 AI가 기업을 이해하기 위한 학습 데이터가 되고 있었습니다. 결국 사람이 Glossary와 Domain, Metric을 정의하면, Genie Ontology는 이를 지속적으로 학습하여 살아있는 Context로 발전시킵니다.

즉, Unity Catalog Semantics가 기업의 지식을 정의하는 계층이라면, Genie Ontology는 그 지식을 AI가 이해할 수 있도록 연결하는 중간 계층이라고 이해하면 가장 자연스러울 것 같습니다.

이렇게 업무를 이해한 AI는 이제 단순히 질문에 답하는 것을 넘어, 실제 업무를 수행하는 단계로 나아갑니다.


3. AI는 어떻게 일을 할까?

​앞에서 AI에게 일을 가르치는 과정을 살펴봤습니다.

Genie Ontology와 Unity Catalog Semantics를 통해 AI는 우리 회사의 용어와 업무 규칙, 데이터의 의미를 이해하게 되었습니다. 그렇다면 이렇게 학습한 AI는 실제로 어떤 일을 할 수 있을까요?

■ Genie - AI Coworker의 시작

이번 Data + AI Summit에서 Databricks가 제시한 답은 Genie였습니다.

기존에는 자연어로 데이터를 분석하는 기능을 의미했던 Genie가, 이제는 기업의 Context를 이해하고 실제 업무를 수행하는 AI Coworker 제품군으로 확장되었습니다. Databricks는 하나의 AI가 모든 일을 처리하는 것이 아니라, 역할에 따라 서로 다른 AI가 협력하는 형태를 제시했습니다. 사용자는 하나의 AI와 대화하지만, 그 안에서는 분석, 개발, 업무 수행, 운영 등 목적에 맞는 AI가 함께 동작합니다.

그리고 이러한 다양한 AI 경험을 하나로 연결하는 중심에 Genie One이 있습니다.

▶ Genie One - 하나의 AI, 다양한 업무


Genie One은 사용자가 AI와 협업하는 중심 인터페이스입니다.

이미지

새로운 AI 모델이라기보다 다양한 AI 기능을 하나의 대화형 인터페이스에서 제공하는 AI Workspace에 가깝습니다. 기존 Genie가 질문에 답하는 대화형 분석 기능이었다면, Genie One은 "Insight에서 Action까지" 수행하는 Agentic AI 경험으로 확장되었습니다. 사용자는 하나의 대화창에서 데이터를 분석하고, 문서를 생성하며, 모니터링과 알림을 설정하고, Custom Skill과 MCP를 통해 실제 업무까지 수행할 수 있습니다.

또한 Slack, Microsoft Teams, 모바일 앱 등 사용자가 이미 일하고 있는 환경 어디에서나 동일한 경험을 제공하여Databricks로 이동하지 않고도 AI와 협업할 수 있습니다.  Databricks는 이를 AI Coworker라고 표현했습니다.

▶ Genie Code - AI와 함께 개발하기


Genie Code는 데이터 엔지니어와 개발자를 위한 AI 코딩 도우미입니다.

이미지

SQL과 Python 코드 작성은 물론 데이터 파이프라인 생성, 테스트 코드 작성 등을 지원하며, 프로젝트의 메타데이터와 데이터 구조를 이해하여 프로젝트에 맞는 코드를 제안합니다. Databricks는 내부 Lakeflow 파이프라인의 상당수가 이미 Genie Code의 도움을 받아 개발되고 있다고 소개했습니다.

▶ Genie Agents - 업무를 수행하는 AI Agent


Genie Agents는 기존 Genie Spaces를 발전시킨 Domain 특화 AI Agent입니다.
이미지
MCP를 통한 외부 시스템 연동, 작업 예약, 문서 생성 등 여러 단계를 거치는 업무를 자율적으로 수행하며, 
정형 데이터뿐 아니라 문서와 파일 등 다양한 지식 자산을 함께 활용하여 실제 비즈니스 Context를 이해합니다.

또한 Genie One이나 Genie Code에서 자연어로 원하는 역할을 설명하는 것만으로 Agent를 생성할 수 있으며, 
업무 범위를 설정하고 검증한 뒤 팀원들과 공유하여 함께 활용할 수 있습니다.

결국 Genie Agents는 도메인 전문가의 업무 지식과 검증된 업무 절차를 AI Agent로 만들어 조직 전체가 함께 활용할 수 있도록 하는 기능이라고 볼 수 있습니다.

▶ Genie ZeroOps - 운영도 AI에게 맡기다


저희가 Genie에서 가장 흥미롭게 본 기능은 Genie ZeroOps였습니다.

이미지

Databricks는 이를 플랫폼에 내장된 Background Agent로 소개했습니다. 운영 중인 데이터·AI 자산을 지속적으로 모니터링하며, 문제가 발생하면 원인을 분석하고 수정안을 생성합니다. 생성된 수정안은 운영 환경과 격리된 샌드박스 환경에서 이를 검증한 뒤 사용자 승인 하에 적용되도록 설계되었습니다.



이번 Summit을 보며 가장 크게 느낀 변화는 AI의 역할이 '답변'에서 '실행'으로 이동하고 있다는 점이었습니다.

Genie는 데이터를 분석하고, Genie Code는 개발을 돕고, Genie Agents는 업무를 수행하며, Genie ZeroOps는 운영까지 지원합니다. 이 모든 기능은 사용자에게는 하나의 Genie One으로 제공됩니다. 

Databricks가 말하는 AI Coworker는 여러 AI 도구를 사용하는 것이 아니라, 기업의 Context를 이해하고 다양한 업무를 함께 수행하는 하나의 AI 동료였습니다.

하지만 AI가 실제 업무를 수행하기 시작하면 또 다른 질문이 생깁니다.


4. AI는 정말 일을 잘하고 있을까?


​앞에서 살펴본 것처럼 AI는 이제 단순히 질문에 답하는 수준을 넘어 데이터를 분석하고, 코드를 작성하며, 실제 업무를 수행하는 단계까지 발전하고 있습니다. 그렇다면 자연스럽게 새로운 질문이 생깁니다.

"AI가 정말 의도한 대로 일하고 있는가?"

사람에게 업무를 맡기면 결과를 검토하고, 권한을 관리하며, 문제가 발생하면 원인을 추적합니다.  AI도 마찬가지입니다. 

오히려 AI는 짧은 시간에 수많은 요청을 처리하고 여러 시스템과 동시에 상호작용하기 때문에 AI를 운영하는 체계가 더욱 중요해집니다. Databricks는 이러한 개념을 Runtime Governance라고 설명했습니다.

■ Runtime Governance - AI가 일하는 과정을 관리하다

기존의 거버넌스는 주로 데이터 자산의 접근 통제, 보호, 리니지, 품질 관리에 초점이 맞춰져 있었습니다.

  • 누가 데이터를 조회할 수 있는가?
  • 개인정보는 잘 보호되고 있는가?
  • 데이터 품질은 유지되고 있는가?

하지만 AI 시대에는 이것만으로는 부족합니다.

AI는 단순히 데이터를 조회하는 것을 넘어 모델을 호출하고, 다양한 도구와 MCP 서비스를 호출하며, 외부 시스템과 상호작용해 실제 작업을 수행합니다. 그래서 Databricks는 거버넌스의 대상을 데이터와 AI 자산 자체에서 한 단계 더 확장해, AI가 런타임에서 수행하는 상호작용과 행동까지 관리해야 한다는 메시지를 강조했습니다. 

이 역할의 중심이 Unity AI Gateway입니다.

■ Unity AI Gateway - AI를 위한 중앙 관제탑

이러한 Runtime Governance의 중심에는 Unity AI Gateway가 있습니다.

이미지

처음 이름만 들었을 때는 단순히 여러 LLM을 연결하는 API Gateway 정도로 생각했습니다. 하지만 발표를 들으면서 AI Gateway는 훨씬 더 큰 역할을 한다는 것을 알 수 있었습니다. Databricks는 AI Gateway를 다양한 AI 모델과 AI Agent를 하나의 정책과 거버넌스 체계 아래에서 운영하기 위한 플랫폼으로 소개했습니다. OpenAI, Anthropic, Gemini, 자체 모델 등 어떤 모델을 사용하더라도 기업은 동일한 방식으로 AI를 관리할 수 있습니다.

즉, 모델을 연결하는 것이 목적이 아니라 AI 운영을 표준화하는 것이 핵심입니다

이를 위해 Unity AI Gateway는 크게 Govern, Monitor, Cost, Open Ecosystem 네 가지 영역의 기능을 제공합니다.

▶ Govern - AI를 통제하다

AI는 단순히 모델만 호출하는 것이 아니라 Agent, MCP Tool, 외부 시스템까지 함께 사용합니다. Unity AI Gateway는 이러한 AI 자산을 하나의 정책 체계에서 관리할 수 있도록 지원합니다.

Runtime Policy를 통해 AI가 어떤 데이터를 사용할 수 있는지, 어떤 Tool을 호출할 수 있는지, 승인 절차가 필요한 작업은 무엇인지 등을 제어할 수 있습니다. 즉, AI가 무엇을 할 수 있는지뿐 아니라 무엇을 하면 안 되는지까지 정의하는 것이 핵심입니다.

▶ Monitor - AI의 실행 과정을 추적하다

AI는 하나의 요청에서도 여러 모델과 Agent, MCP Tool을 함께 사용하기 때문에 문제가 발생했을 때 원인을 파악하기가 쉽지 않습니다. Unity AI Gateway는 Unified Tracing을 통해 모델 호출부터 MCP 실행까지 하나의 Trace로 기록합니다.

또한 Genie를 이용해 AI 코딩 Agent의 로그를 자연어로 분석하거나, Lakewatch와 연계하여 정책 위반과 이상 행동을 조사할 수도 있습니다. AI도 이제는 실행 과정을 모니터링하고 감사(Audit)하는 시대가 된 것입니다.

▶ Cost - AI 비용을 관리하다

AI Agent는 하나의 요청에서도 여러 모델과 Tool을 사용할 수 있기 때문에 예상보다 많은 비용이 발생할 수 있습니다. Unity AI Gateway는 사용자와 팀별 AI 사용량과 비용을 통합 관리하고 시각화하며, 예산(Hard Spend Cap)을 초과하는 요청을 제한할 수도 있습니다.

또한 작업 특성에 맞는 모델을 선택할 수 있도록 지원하여 비용과 성능을 함께 최적화합니다.

▶ Open Ecosystem - 기존 보안 체계와 연결하다

기업의 AI는 하나의 플랫폼만으로 운영되지 않습니다. Databricks는 Unity AI Gateway를 중심으로 다양한 AI 모델뿐 아니라 IAM, 보안, DLP, 위협 탐지 솔루션 등 기존 Enterprise 보안 생태계와 연계할 수 있는 개방형 구조(Open Ecosystem)를 제시했습니다.

이를 통해 기존 보안 체계를 유지하면서도 AI를 하나의 거버넌스 체계 안에서 운영할 수 있도록 지원합니다.



가장 크게 느낀 변화는 거버넌스의 대상이 데이터에서 AI로 확장되고 있다는 점이었습니다.

예전에는 데이터를 안전하게 관리하는 것이 데이터 거버넌스의 핵심이었다면,  이제는 AI가 어떤 데이터를 사용했고, 어떤 판단을 내렸으며, 어떤 행동을 수행했는지까지 관리해야 하는 시대가 되었습니다. Databricks는 이러한 변화를 Runtime Governance라는 개념으로 설명했습니다.

결국 앞으로의 AI 플랫폼은 단순히 성능 좋은 모델을 제공하는 것이 아니라, AI를 얼마나 신뢰할 수 있게 운영할 수 있는가가 중요한 경쟁력이 될 것입니다.

이 점에서 Unity AI Gateway는 단순한 Gateway가 아니라, Enterprise AI를 위한 운영 플랫폼이라는 인상을 받았습니다.



5. AI 시대에 Databricks가 던진 메시지

새로운 기능보다 더 중요한 변화

이번 Data + AI Summit 2026를 돌아보며 가장 크게 느낀 것은 Databricks가 더 이상 데이터 플랫폼만을 이야기하지 않는다는 점이었습니다.

몇 년 전까지만 해도 Databricks의 핵심 키워드는 Lakehouse, Open Format 처럼 데이터를 저장하고 처리하는 기술이었습니다.  이후 Unity Catalog를 통해 데이터 거버넌스를 강화했고, 올해 Summit에서는 그 범위가 자연스럽게 AI까지 확장되었습니다.

처음에는 Genie Ontology, Unity Catalog Semantics, Genie One, Unity AI Gateway처럼 새로운 기능이 많이 발표된 행사라고 생각했습니다. 하지만 발표를 모두 듣고 나니 각각의 기능보다 그 기능들이 하나의 방향성을 향하고 있다는 점이 더 인상적이었습니다.

돌이켜 보면 이번 글에서 살펴본 내용도 하나의 흐름으로 이어집니다.

먼저 AI가 우리 회사의 데이터를 이해할 수 있도록 Context를 만들고, 사람이 용어와 KPI, 업무 규칙을 정의하여 그 Context를 지속적으로 관리합니다. 이렇게 만들어진 Context를 기반으로 AI는 실제 업무를 수행하고, 마지막으로 AI의 모든 실행 과정을 추적하고 통제하며 안전하게 운영합니다.

즉, Databricks가 그리고 있는 AI 플랫폼은 단순히 좋은 LLM을 연결하는 플랫폼이 아니라,

  • AI에게 일을 가르치고(Context)
  • AI가 실제 업무를 수행하며(Execution)
  • AI를 안전하게 운영하는(Governance)

이번 Summit에서 소개된 대부분의 신기능은 결국 이 세 가지를 완성하기 위한 퍼즐 조각이었습니다.


사람과 AI를 위한 메타데이터


저희에게 가장 인상 깊었던 변화는 메타데이터를 바라보는 관점이었습니다.

과거에는 메타데이터가 사람이 데이터를 찾고 이해하기 위한 정보였다면, 이제는 AI가 기업을 이해하기 위한 핵심 Context가 되고 있습니다. AI는 단순히 테이블과 컬럼을 읽는 것이 아니라, Glossary, Domain, Metric과 같은 메타데이터를 바탕으로 비즈니스 의미를 이해하고 올바른 판단을 수행합니다.

즉, 메타데이터는 더 이상 문서화나 관리만을 위한 정보가 아닙니다. AI가 신뢰할 수 있는 답변을 생성하기 위한 학습 데이터이자 비즈니스 Context로 그 역할이 확장되고 있습니다.

Databricks가 강조한 것도 바로 이 점이었습니다. 앞으로 AI 경쟁력은 모델 자체보다, 기업의 메타데이터를 얼마나 AI가 이해할 수 있는 Context로 구축하고 관리하느냐에 달려있습니다.


AI, 동료가 되다


또 하나 인상 깊었던 점은 Databricks가 AI를 단순한 챗봇이나 질의응답 도구로 바라보지 않는다는 점이었습니다. Databricks가 지향하는 AI는 질문에 답하는 수준을 넘어, 기업의 업무를 이해하고 실제 작업을 수행하는 Coworker에 더 가까웠습니다.

이를 위해 AI가 기업의 데이터를 이해할 수 있는 Context를 구축하고, 그 Context를 기반으로 실제 업무를 수행하며, 모든 실행 과정을 거버넌스 아래에서 신뢰할 수 있게 운영하는 구조를 하나의 플랫폼 안에서 제공하려 하고 있었습니다.

Databricks가 제시한 AI 플랫폼의 목표는 좋은 모델을 연결하는 것이 아니라, 기업이 신뢰할 수 있는 AI가 실제 업무를 수행할 수 있는 환경을 만드는 것이라고 느껴졌습니다.



이번 Data + AI Summit은 저희에게 새로운 기능을 소개하는 행사라기보다,  기업이 AI를 어떻게 도입하고 운영해야 하는지에 대한 방향성을 제시한 행사였습니다.  

앞으로 기업의 AI 경쟁력은 단순히 더 뛰어난 모델을 도입하는 것으로 결정되지 않을 것입니다.

단단한 거버넌스와 Context를 기반으로 AI가 실제 업무를 수행하며, 신뢰할 수 있게 운영할 수 있는가 . 그 결과를 ...
확실한 비즈니스 가치로 연결하는 것. 

이것이 이번 Data + AI Summit 2026을 통해 "AI 시대에 Databricks가 던진 메시지"였습니다.


References

※ 이 글은 Data + AI Summit 2026 세션 발표와 Databricks 공식 블로그를 함께 참고하여 작성되었습니다.

전현식, 오지용

전현식 : KT 데이터 자산의 신뢰성과 활용 가치를 높이기 위해 데이터 거버넌스 정책을 수립하고 이행을 돕습니다.

오지용 : KT 데이터를 AI가 활용할 수 있는 자산으로 전환하는 일을 연구하고 있습니다.