고객 문의가 몰릴 때 AI 에이전트가 매번 긴 답변을 만들고 다시 분류하느라 시간을 쓰고 있나요? 이런 반복 판단에는 문장 생성보다 정해진 선택지를 빨리 고르는 모델이 더 잘 맞을 수 있습니다. 카카오가 2026년 11월 6일 공개한 카나나-2-v-디사이드는 텍스트와 사진을 함께 읽고 확률·선택·점수를 반환하는 모델입니다. 다만 ‘0.04초’와 ‘상업적 이용 가능’이라는 말만 보고 바로 붙이기에는 살펴볼 조건이 꽤 있습니다.
저는 이번 발표에서 속도보다도 결과를 다음 업무 단계에 곧장 연결할 수 있는 구조가 더 흥미로웠습니다. 현장에서 필요한 것은 화려한 답변이 아니라, 접수된 문의를 올바른 담당자에게 보내는 안정적인 판단인 경우가 많거든요.
0.04초 응답과 43배 속도는 어떤 조건에서 나왔을까
카카오의 공식 발표와 기술 설명에 따르면, 엔비디아 H200 그래픽처리장치 한 장에서 측정한 응답 시간은 약 42밀리초, 곧 0.04초 수준입니다. 카카오는 이 조건의 비교에서 GPT-6 루나보다 약 43배 빠른 결과를 얻었다고 밝혔습니다. 숫자만 보면 거의 즉각적인 반응인데, 기준 작업을 빼고 읽으면 오해하기 쉽습니다.
속도 측정은 한국어 상품 리뷰 관련 판단 작업을 기준으로 제시됐고, 입력 토큰 수에 따라 시간은 달라집니다. 다른 하드웨어, 여러 요청을 동시에 처리하는 서버, 이미지 크기, 네트워크 왕복 시간까지 합치면 운영 환경의 지연 시간은 달라질 수 있어요. 더구나 이 모델은 장문의 대화를 쓰는 범용 모델이 아니라 선택지를 평가하는 판단 전용 모델입니다. 서로 다른 일을 시켜 놓고 모든 분야에서 43배 빠르다고 결론 내리기에는 무리가 있습니다.
저라면 시연 영상의 순간 속도보다 우리 서비스에서 반복되는 분류 요청 100건의 지연 분포를 먼저 보겠습니다. 평균이 짧아도 일부 요청이 오래 걸리면 상담 화면이나 자동 처리 흐름에서는 체감이 크게 떨어지기 때문이죠.
카나나 멀티모달 모델이 확률·선택·점수를 반환하는 방식
카나나-2-v-디사이드는 기존 카나나 멀티모달 모델을 기반으로 만들었으며, 입력으로 글과 이미지를 함께 받아들이도록 설계됐습니다. 결과는 긴 한국어 설명이 아니라 정해진 형식의 값으로 나옵니다. 이 때문에 호출한 프로그램이 답변 문장에서 결론을 따로 뽑아낼 필요가 줄어듭니다.
| 판단 방식 | 출력 의미 | 잘 맞는 업무 |
|---|---|---|
| 확률(Noul) | 특정 조건이 참일 가능성 | 사진 속 상품 파손 여부 |
| 선택(Choice) | 후보별 확률과 선택된 항목 | 고객 문의 담당 부서 분류 |
| 점수(Score) | 순서가 있는 평가 단계의 기대 점수 | 문의의 감정 강도나 우선순위 평가 |
예컨대 배송받은 물건이 깨졌다는 문장과 사진이 들어오면 파손 가능성을 계산하고, 문의 유형에서 ‘교환’을 선택하며, 고객 감정을 점수로 표현하도록 구성할 수 있습니다. 한 요청에 여러 질문을 함께 담는 기능도 지원한다고 해요. 단, 모델이 반환하는 확률은 우리가 지정한 선택지에 영향을 받으므로 후보를 바꾸면 분포도 달라질 수 있습니다. 숫자가 나왔다고 곧바로 객관적인 사실이 되는 것은 아니라는 점이 중요합니다.
성능 1위라는 평가 결과를 읽을 때 놓치기 쉬운 점
공식 보도자료는 마이크로소프트 디시전-1, 제브, 솔라 디사이드 등을 포함한 비교군에서 자체 한국어 평가와 공개 평가의 성능 우위를 설명합니다. 카카오 기술 글에서도 여러 비교 모델과의 평가 수치를 제시했죠. 하지만 모든 데이터셋의 모든 항목에서 무조건 1등이라고 받아들이면 곤란해요. 비교 대상과 평가 시점을 고정한 결과인지부터 봐야 합니다.
현재 공개된 허깅페이스 모델 카드에는 한국어 자체 평가 72.50점, 공개된 디시전 인덱스 61.34점, 이미지 포함 평가 61.12점, 공개 두 평가의 평균 61.23점이 제시돼 있습니다. 같은 표에서 다른 모델이 디시전 인덱스 단일 항목에서는 더 높은 점수를 받기도 합니다. 따라서 ‘공개 두 평가 평균에서 비교군 중 최고’와 ‘모든 지표 1위’는 다르게 읽는 편이 정확합니다.
개인적으로는 한국어 실제 고객 문장에서 평가했다는 점이 반갑습니다. 그렇다고 우리 회사의 반품 규정이나 내부 상품명까지 잘 알아맞힐지는 별개의 문제예요. 일반 벤치마크가 좋더라도 현업에서 자주 헷갈리는 사례를 따로 모아 시험하지 않으면 도입 뒤에 곤란한 상황이 생길 수 있습니다.
실무 AI 에이전트에 연결하는 고객 문의 처리 흐름
가장 현실적인 시작점은 고객 문의를 부서별로 보내는 작업이라고 봅니다. 상담원이 사진을 열고 문의 내용을 읽은 다음 ‘파손’, ‘단순 변심’, ‘배송 지연’을 구분하는 일은 시간이 들지만 결과 형식은 비교적 분명하죠. 이런 곳에 모델을 넣으면 자연어를 길게 생성하는 중간 단계 하나를 줄일 여지가 있습니다.
- 고객이 남긴 문장과 첨부 사진을 수신한다.
- 모델에 ‘파손 여부’, ‘문의 유형’, ‘감정 단계’의 판단 질문을 전달한다.
- 반환된 확률과 선택 항목을 업무 규칙 및 내부 데이터와 대조한다.
- 확신이 낮거나 분쟁 소지가 있는 건은 상담원에게 넘기고, 나머지는 적절한 처리 흐름으로 보낸다.
모델 카드에 공개된 실행 예시는 파이썬의 트랜스포머스 라이브러리로 모델을 불러온 뒤 system_one에 입력 상태와 질문 목록을 보내는 형태입니다. HTTP 방식의 예제 서버도 제공되며, 질문 유형에는 choice, noul, score가 사용됩니다. 다만 원격 코드를 신뢰해 실행하는 설정이 포함돼 있으므로 사내 보안 검토가 끝난 격리 환경에서 시작하는 것이 좋겠습니다.
사진 판단이나 도구 선택이 아무리 빠르더라도 환불 승인, 계정 제한, 금융 거래 같은 중요한 행동을 확률 한 번으로 자동 확정하기는 조심스럽습니다. 저는 처음에는 ‘추천과 분류’만 맡기고, 결정 후의 실행 권한은 기존 정책 엔진에 남기겠습니다. 속도를 얻는 과정에서 사람이 고칠 기회까지 없애고 싶지는 않거든요.
카나나 오픈 라이선스의 상업적 이용 조건
카나나 오픈 라이선스는 연구와 자체 상업 서비스 개발·운영을 허용합니다. 그렇다고 아무 제약 없는 공개 소프트웨어로 생각하기는 어렵습니다. 실제 라이선스 전문에는 제삼자에게 모델이나 파생 모델을 API·클라우드 접근 서비스로 제공하거나 재판매하는 경우, 시스템 통합·온프레미스 솔루션으로 제공하는 경우, 기기에 내장해 제공하는 경우 별도의 상업 라이선스가 필요하다고 적혀 있습니다.
반면 별도 허가가 필요한 유형에 해당하지 않는 자사 서비스 개발과 운영은 가능하다고 명시합니다. 재배포 시 라이선스 사본 제공, 수정 사실 표시, 고지 파일과 ‘Powered by Kanana’ 문구 표시 등도 살펴볼 부분이에요. 이용 조건이 세세해서 의외였는데, 기업 입장에서는 도입 후가 아니라 계약과 유통 구조를 설계할 때부터 확인해야 할 항목입니다.
예를 들어 우리 쇼핑몰 안에서 분류용으로 쓰는 것과 외부 고객에게 ‘AI 판단 API’를 구독 상품으로 파는 것은 다른 사업입니다. 똑같은 모델이라도 서비스 형태가 바뀌면 계약 검토가 달라질 수 있죠. 저는 유료 고객사에 모델 자체의 접근권을 제공할 계획이라면 배포 전에 권리 범위를 서면으로 정리하겠습니다.
개발자와 서비스 운영자가 도입 전에 시험할 항목
허깅페이스에는 모델 가중치와 사용법이 올라와 있습니다. 공개 모델 카드의 사양은 약 36억 7천만 개의 매개변수, 최대 이미지 10장과 입력 토큰 2만 480개이며, 영상 입력은 지원하지 않는다고 설명합니다. 이 한도를 서비스 전체의 처리량으로 오해하지 말고 실제 입력 형태에 맞춰 요청을 구성하는 편이 낫겠습니다.
- 정확도: 자사 문의와 이미지에서 오분류율을 직접 측정했는가?
- 지연 시간: 사용 중인 서버에서 평균뿐 아니라 느린 요청도 측정했는가?
- 불확실성: 판단 확률이 낮을 때 상담원 확인으로 넘길 기준이 있는가?
- 보안: 고객 사진과 개인정보를 어떻게 보호하고 저장할 것인가?
- 라이선스: 자사 운영인지 외부 API·솔루션 제공인지 사업 형태를 구분했는가?
처음부터 전체 에이전트를 교체하기보다, ‘고객 문의 유형 선택’처럼 정답을 확인하기 쉬운 한 단계에만 연결해 보는 것을 추천합니다. 기존 모델과 병렬로 돌려 응답 지연, 분류 정확도, 상담원의 수정 비율을 비교하면 도입 여부를 결정하기 쉬워져요. 빠른 모델을 선택하는 이유도 결국 업무 처리의 품질과 비용이 좋아져야 한다는 데 있으니까요.
자주 묻는 질문
Q. 카나나-2-v-디사이드가 GPT-6보다 모든 일을 43배 빨리 하나요?
아닙니다. 카카오가 공개한 특정 판단 작업과 H200 한 장의 측정 결과를 비교한 수치입니다. 장문 작성, 복잡한 추론, 여러 도구를 호출하는 전체 에이전트 업무의 속도는 별도로 평가해야 합니다.
Q. 텍스트뿐 아니라 상품 사진도 분석하나요?
네. 텍스트와 이미지를 함께 입력해 정해진 선택지와 평가 기준에 따라 판단할 수 있습니다. 공식 모델 카드에는 이미지 입력 예시와 제한이 나와 있습니다.
Q. 기업에서 비용 없이 써도 되나요?
자체 서비스 운영 등 허용된 사용 유형에서는 별도 상업 라이선스 없이 활용할 수 있지만, 재판매형 API나 외부 고객용 일부 솔루션 제공에는 별도 계약이 필요할 수 있습니다. 실제 배포 방식과 원문 조건을 맞춰 봐야 합니다.
Q. 바로 서비스에 넣는다면 첫 실험은 무엇이 좋을까요?
문의 유형 분류나 사진의 파손 여부 판단처럼 답의 형식이 분명하고 사람이 결과를 확인할 수 있는 작업을 권합니다. 처음에는 자동 승인보다 보조 판단에 두는 편이 부담이 적습니다.
출처와 참고한 곳
- 카카오 공식 보도자료 — 모델 공개 일자, 속도 비교 조건과 활용 분야
- 카카오 기술 블로그 — 구조와 측정 방법, 모델 성능 평가
- 허깅페이스 모델 카드 — 입력 사양, 공개 평가 수치와 실행 예시
- 카나나 오픈 라이선스 전문 — 기업 사용과 배포 관련 제한
