기업에 AI를 도입하는 이야기가 나오면, 대부분의 사람은 두 가지 선택지만 봅니다. 그리고 둘 다 막다른 길입니다. AI를 아예 금지하면 직원들은 여전히 통제 밖의 개인 도구에 회사 데이터를 조용히 붙여 넣을 것이고, 반대로 모든 것을 외부로 넘기면 재무와 인사, 생산 문서 하나하나가 자신의 경계를 벗어납니다. 문제는 두 극단 모두가 단순한 사실 하나를 놓친다는 데 있습니다: 모든 AI 작업이 똑같은 위험을 지니는 것은 아니라는 사실 말입니다. 이 글에서는 세 번째 길(각 작업을 데이터 민감도에 따라 라우팅하는 하이브리드 아키텍처)을, 그리고 민감한 자산은 내부에 지키면서도 대형 모델의 힘은 놓치지 않도록 바로 적용할 수 있는 분류 프레임워크와 함께 살펴보겠습니다.
왜 두 극단이 모두 막다른 길인가
AI를 완전히 금지하는 것은 안전하게 들리지만, 그것은 수요를 그림자 속으로 밀어 넣을 뿐입니다: 직원들이 통제 밖의 개인 도구에 회사 데이터를 스스로 붙여 넣게 됩니다. 훨씬 더 보기 어려운 진짜 위험입니다. 반대 극단에서, 모든 것을 외부 모델에 떠넘기는 것은 빠른 출발을 돕지만 재무, 인사, 생산 문서 하나하나를 시스템을 벗어난 데이터로 만듭니다. 문제는 안전과 생산성 사이의 선택이 아니라, 어떤 작업이 무엇을 필요로 하는지 구분할 메커니즘이 없다는 것입니다.
세 가지 작업 그룹, 세 가지 처리 수준
하이브리드 아키텍처의 첫 단계는 기술이 아니라 분류입니다. 기업의 AI 업무 대부분은 입력 데이터의 민감도에 따라 세 그룹으로 나뉩니다:
- 고민감: 데이터가 시스템을 벗어나서는 안 되는 것: 급여 분석, 원가, 계약, shop-floor 데이터, 총계정원장. 여러분의 인프라 위에서 바로 돌아가는 내부 AI로 처리합니다.
- 중간: 내부 데이터이지만 익명화되면 위험이 낮은 것: 회의록 요약, 프로세스 초안 작성, 지원 요청 분류. 내부에서 처리하거나, 걸러내고 익명화한 뒤 외부로 보낼 수 있습니다.
- 저민감: 사적 데이터를 담지 않는 것: 마케팅 이메일 작성, 공개 콘텐츠 번역, 아이디어 브레인스토밍. 최고 품질을 위해 외부 대형 모델을 씁니다.
세 그룹 사이의 경계는 공급업체가 아니라 여러분의 결정입니다. 그리고 그 경계를 명확한 정책으로 써 내려가는 것이야말로 가장 어렵고 가장 중요한 부분입니다.
라우팅은 버튼이 아니라 정책입니다
Apus에서 각 AI 작업은 여러분이 설정한 정책을 읽는 라우팅 레이어를 거칩니다: 민감으로 라벨된 데이터는 붙들려 내부 모델로 처리되고, 일반 작업은 외부 대형 모델을 호출하도록 허용됩니다. 모든 운영 데이터가 이미 하나의 데이터 레이어 위에 있기 때문에, 시스템은 어느 요청이 급여를 건드리는지 아니면 공개 콘텐츠만 건드리는지 알고, 사용자가 매번 스스로 판단하게 두는 대신 그에 맞게 라우팅합니다.
구체적인 운영 예시
기획 부서에서 온, 겉보기엔 단순한 질문 하나를 그려 봅시다: 왜 이번 분기 A 제품 라인의 이익률이 떨어졌는가? 이에 답하려면 원가, shop-floor의 OEE 데이터, 판매 단가를 건드려야 합니다. 모두 민감하므로, 이 분석 부분은 내부에서 돌려야 합니다. 하지만 결과가 원본 수치가 사라진 요약이 되고 나면, 그것을 매끄럽게 다시 표현하거나 파트너를 위해 영어로 번역하는 것은 저민감 작업이므로 외부 모델에 얼마든지 맡길 수 있습니다. 하나의 업무 흐름, 두 구간, 두 가지 처리 방식. 이것이 바로 '하이브리드'가 뜻하는 바입니다.
흔히 마주치는 함정들
하이브리드 아키텍처는 허술하게 구현하면 저절로 옳아지지 않습니다. 자주 나오는 몇 가지 실수가 있습니다:
- 과잉 분류: 모든 것에 '민감' 라벨을 붙이면 내부 AI가 과부하되고 사용자는 다시 몰래 쓰는 도구로 돌아갑니다.
- 겉핥기 익명화: 이름은 지웠지만 고객 코드나 역산 가능한 숫자를 남겨 두면 데이터는 여전히 새어 나갑니다.
- 로그 누락: 어느 작업이 어디로 라우팅되었는지 기록하지 않으면 문제가 생겼을 때 감사할 수 없습니다.
- 일회성 확정: 데이터의 민감도는 시간과 규제에 따라 바뀝니다. 라우팅 정책은 주기적으로 재검토되어야 합니다.
어디서 시작할 것인가
모델 선택으로 출발하지 마십시오. 각 부서와 마주 앉아 그들이 실제로 필요로 하는 AI 작업을 나열하고, 각 작업을 위의 세 그룹 중 하나에 배치하는 것으로 시작하십시오. 그 목록이 바로 여러분의 라우팅 정책 설계도입니다. 데이터가 시스템을 벗어나지 않는 가치가 가장 뚜렷한 곳, 즉 고민감 프로세스 하나를 골라 먼저 내부에서 돌리고, 점차 확장하십시오. 기업에 좋은 AI는 가장 강력한 모델이 아니라, 데이터의 이동 경로를 여러분이 통제할 수 있는 모델입니다.
“기업에 가장 좋은 AI는 가장 강력한 모델이 아니라, 귀사가 통제할 수 있는 AI입니다.”