[NCTM] 퇴근길 테크 밋업 후기: 클로바 스튜디오의 미래

 

 
2월 1일에 열린 퇴근길 테크 밋업 후기를 남깁니다. 짧게 작성해보았습니다.
 

판교에서 네이버를 바라보다

즐겁게 초대를 받아 참여한 퇴근길 테크밋업, 기대를 갖고 참여했습니다.
 

 
이렇게 메일을 받았고, 간단한 스케줄표를 받아서 혼자 어떤식으로 진행될지 상상해보았습니다. 즐겁지 않을까? 가벼운 마음으로 참여했네요. 새로운 만남은 늘 설레는 법이죠.

네이버클라우드 퇴근길 테크밋업
클로바 스튜디오로 생성형 AI 만들기
 
- 일시 : 24. 2. 1(목) 19:00 ~ 21:00 
- 장소 : 판교테크원 4층 HALL #3
- 주소 : 성남시 분당구 분당내곡로 131 (네이버 지도) * 판교역 1번 출구 연결
- 내용 :
▸하이퍼클로바X 적용 솔루션 '클라리오' (클라비 DX 사업실 정상권 상무이사) - 20분
▸AI 기반 면접 코칭 서비스 '티키타카' (스톤즈랩 정진협 기획자) - 20분
▸직무별 네트워킹 - 60분

 
 
 
 
 

 
 
 
 
 
다만 그 위치가 회사에서 1시간 20분정도 걸린다는 사실을 뒤늦게 깨달았네요. 생각보다 거리가 있다는 사실을 다시 한번 깨닫습니다.
 
 

 
리셉션 데스크로 와보니, 반대편에서 출입증을 수령해야한다는 사실을 들었습니다. 바로 뒤돌아서 이름표와 임시 출입증을 받아서, 판교 테크원이라는 곳에 마련된 HALL에 들어와서 앉았습니다.
 

 
 
오자마자 고정석으로, 자리를 배정해서 앉도록 했습니다. 맛있는 저녁식사와 함께 즐거운 모임이 될 것이라 기대했습니다. 자리도 각 개인별 선호도를 반영하고자 했다네요.
 
퇴근길이라는 이름은, 개인이 "자발적"으로 온 행사가 되길 바라는 마음으로 이름을 붙였다고 합니다. 이전에도 늘 참여하고 싶었지만, 직장인이 아니었던 시절이라 퇴근이 없어서 미루었네요. 다행히 이번에 취업을 해서 올 수 있었네요.
 
기획/마케팅과 사업/개발로 크게 두 그룹으로 나누고, 그 내부에서 8인 1조로 네트워킹도 진행하게 됩니다. 먼저는 간단한 클로바 스튜디오 활용 사례와 실사업 적용 발표를 들었습니다.
 

금강산도 식후경

 
네이버클라우드가 준비한 저녁 식사와 간단한 기념품(달력과 파우치)를 받았습니다. 당연히 직접 만드신 것은 아니고, 괜찮은 카페에서 잘 포장해주셨다고 합니다. 아이스티와 쿠키, 오트밀을 담은 과일 요거트, 간단한 잠봉뵈르 느낌의 크루아상 샌드위치로 구성되었고 맛있었습니다. 추가로 달력과 파우치도 있었는데, 좋네요.
 
 

밋업의 시작

 
김상인님이 진행해주셨습니다. 위에서 언급한 퇴근길 밋업에 대한 소개와 배경을 언급해주셨고 일정을 간략히 소개해주셨습니다.
 
Session

• AI 기반 면접 코칭 서비스 '티키타카'- 스톤즈랩 우원•황호윤 개발자
• 하이퍼클로비X 적용 솔루션 '클라리오' - 클라비 DX 사업실 정상권 상무이사

 
Networking

• 사전질문 Q&A
• 사업/개발 6그룹, 기획/마케팅 4그룹 - 총 10 그룹으로 나누어 교류

 

AI 기반 면접 코칭 서비스 '티키타카'

 
 '티키타카'부터 시작했습니다. 스톤즈랩의 개발자 두분(프론트, 백)이 돌아가며 소개해주는 콘텐츠였습니다. AI 면접 코칭 서비스로, 하이퍼클로바와 멋진 조합을 강조해주셨습니다. 이 프로젝트는 참고로 포텐데이라는 행사에서 완성한 작품입니다. 네이버클라우드가 크레딧을 제공하는 형태로 후원하는 행사인데, 참가한 다양한 프로젝트 중에서 1등으로 선정되어 소개해주셨습니다. 다양한 분들이 모여서 스톤즈랩이라는 팀명으로 10일만에 완성한 프로젝트라고 하네요!
 
https://www.tikitaka.chat/

티키타카

 

면접준비(정보수집, 역량확인)과 면접결과(피드백)에 대한 취준생, 이직러의 문제를 해결하기 위해 단 1분내로, 지원자의 이력서와 지원하는 회사의 채용공고를 바탕으로 학습된 생성AI 기반의 면접 시뮬레이션을 제안합니다.

 

 
하이퍼클로바의 뛰어난 한국어 기반 학습 및 생성 능력을 잘 활용해낸 작품입니다. 앞으로도 계획도 다양한 투자를 받고, 정부 지원을 받아 멋진 스타트업으로 성장하려는 계획이 인상적이네요. 좋은 목적으로 잘 만든 작품인만큼, 앞으로도 잘 되었으면 합니다.
 
 
 

하이퍼클로비X 적용 솔루션 '클라리오'

 
정상권 이사님께서 클라비라는 회사에서 개발한 솔루션 클라리오를 소개해주셨습니다. 이사님 혼자서 진행하시는 모습이 기억이 나네요. 준비를 많이 해오신 것과 클라리오에 대한 애정과 열정이 느껴졌습니다. 
 
클라비의 DX 사업의 사전 미팅 이야기

• 하이퍼클로바 X의 기술 : 가이드 → 어떤 데이터 → 이것을 하고 싶다 도출 → 챗봇 서비스 제공
• 경북 교육청이 하나의 사례, 출시 세달 전부터 내부적 개발 → 경북 교육청 먼저 이유는 추진 의지도 강하지만, API 먼저 받아서 브레인스토밍 가능 → 10월 개장 → 11월 서비스 오픈(2개월 브레인스토밍 + 1개월 준비)
• 3개월만에 출시를 한 제품이고 완성도도 만족스럽다고 합니다.

 

적용 사례1: 경상북도교육청 학교종합자료실

https://www.gbe.kr/edupia/main.do

 
이렇게 사용해보면 멋진 챗봇을 만들었고, 잘 작동하는 것으로 보입니다. 답변에 대해 표 방식으로도 구성할 수 있었다네요. 아주 깔끔합니다.
 

적용 사례2: 동아사이언스 - 2024년 3월 베타 서비스 예정

민간 기업 중 자기 서비스에 생성형 AI를 붙여서 가치를 높이고 구독형 고객에게 이걸 제공하여 가치를 높인다고 합니다. 학생들이 과학 잡지 질의응답을 기본으로 합니다. 그 외에 과학과 관련된 모의면접, 마이페이지도 가능해보입니다. 좋은 출발, 멋진 사업을 기대합니다.
 
참고로, 클라리오 세션은 Q&A가 유익했습니다. 클라리오가 제시한 비용은 VM, Network Security 커스터마이징, 보안서비스 등이 포함됩니다. 이렇게 사업을 진행하는데, 고객사가 생성형 AI에 대해 추구하는 바를 세가지로 정리해주셨습니다.
 

기업의 생성형 AI 쓰고 싶은 이유 3가지

1. 내부 직원 업무 경감
2. 공공기관: 대민 서비스
3. 민간기업: 기업이 가진 서비스의 가치 향상

이렇게 정리할 수 있다고 합니다. 추가로 질의응답을 정리해보면 다음과 같습니다.
 
1. 내부 직원 업무 경감은 "인사규정, 계약"의 비중이 상대적으로 가장 많다고 합니다.
2. 대민 서비스는 민원 처리를 가장 우선시합니다. 민원 대응을 위해 앱, 웹페이지에 생성형 AI를 활용하는 챗봇 등을 붙일 수 있습니다. 특히, 시군구는 선거, 지자체의 장은 재임이 되는 게 중요합니다. 그래서 특정 시는 이 생성형 AI를 "24시간 시민의 곁에 있는 시장님"이란 아이디어로 진행하기도 한다네요. 
 
차후 CLOVA Speech 등을 연동하여 대화하는 챗봇 모델을 만들고자 한다네요. 클라리오, 기대가 됩니다!

 

직무별 네트워킹: 서로 친해져요!

 
명함을 교환하며 네이버의 하이퍼클로바에 대한 경험을 나누고, 네이버 직원들과 교류하는 좋은 자리였습니다. 사전 질의를 먼저 직원분들이 답해주시고, 자유롭게 대화할 수 있는 시간이었습니다.
 
 

 
 

네이버 팀의 사전 질의 응답

사전 질문을 제가 기억나는대로 정리한 것만 살펴보면 다음과 같습니다.
 

1. 업무 Process Innovation 외 생성형 AI가 기업 업무에 적용될 수 있을만한 분야는 어디라고 생각하십니까?
2. 클로바 스튜디오에서 가장 추천하는 기능이 궁금하고, 해당 기능을 활용하는 방법은 어떤 것인가요?
3. 클로바 스튜디오와 하이퍼 클로바 X의 개발 방향, 비전, 목표가 궁금합니다.
4. 성능 측면에서 다른 언어 모델 대비 하이퍼클로바 X의 강점이 궁금합니다.
5. 저변 확대를 위해 기능별 API로 배포되는 걸 패키지 형태로 배포할 생각이 있으신가요?

 
그 중 답변을 정리해본 것입니다. 참고만 해주시면 되겠습니다.
 
Q. 클로바 스튜디오에서 가장 추천하는 기능이 궁금하고, 해당 기능을 활용하는 방법은 어떤 것인가요?
 API를 호출을 해서, 기존에 갖고 있었던 모델의 할루시네이션 문제나 실시간성 문제들을 좀 해결을 할 수 있습니다. 그래서 스킬 트레이너를 가장 추천을 합니다. 스킬트레이너는 LLM이 어떠한 문제를 해결하기 위해서 생각을 하고 액션을 해서 어떤 API를 호출할 지를 튜닝하는 과정이라고 생각하시면 되고요. 그래서 어떤 질의가 들어왔을 때 어떤 API를 호출해야 되겠다는 것을 모델이 스스로 이제 생각을 해서 그 API를 호출할 수 있도록 하는 것입니다. 그래서 이제 할루시네이션 자체를 100% 해결할 수는 없겠지만, 그래도 이전에 API를 프롬프트만으로 호출할 수 없었던 문제들을 스킬 트레이너를 통해서 정확하게 호출할 수 있는 가능성이 높아질 것입니다. 그것이 이제 할루시네이션을 줄일 수 있을 것이다고 보고 있습니다. 의사결정하는 시나리오들을 조금 준비를 해서 그 시나리오를 학습시키는 것이 이제 스킬 트레이너이고요. 스피드 체인을 통해서 서비스가 갖고 있는, 가령 맛집 조회 API나 정렬 API 등 정확한 API를 호출하겠다고 판단하여, 그 API를 호출할 수 있도록 하는 것입니다.
 
 
Q. 클로바 스튜디오와 하이퍼 클로바 X의 개발 방향, 비전, 목표가 궁금합니다.
 하이퍼 클로바 X 같은 경우에는 이제 B2B 사업을 위해서 우선 첫 번째로는 저희 한국어 모델을 제공하고 있기 때문에 한국 특성에 맞는 비즈니스 모델을 저희가 만들어가는 게 목표입니다. 아시겠지만 한국 기업의 특성상 Neuro라는 새로운 시스템이 나왔고요. 또 커스터마이징을 좋아하시는 한국 기업의 특성에 맞게 "어드벤스드 튜닝"이라는 기능들을 개발하면서 좀 확장해 가고 있습니다.
 두 번째로는 저희가 이제 B2B뿐만 아니라 네이버 서비스에도 이거를 고도화하는 것이 또 비전이고 목표이긴 합니다. 그래서 이게 궁극적으로는 저희 네이버 서비스가 하이버 클로바 X를 통해서 고도화되면 이용자들이 손쉽게 AI를 사용하실 수 있고요. 네이버와 연결돼서 사업하시는 많은 소상공인들이나 연결된 사업자분들에게 더 나은 AI를 좀 제공해 드릴 수 있고, AI에 관련된 데이터를 같이 구축해 나갈 수 있는 그런 시스템이 되고요. 궁극적으로는 AGI 영역까지 좀 확대할 수 있는 점이 저희의 목표라고 보시면 될 것 같습니다.
 
 
Q. 성능 측면에서 다른 언어 모델 대비 하이퍼클로바 X의 강점이 궁금합니다.
 하이퍼 클로바 X가 어떤 점에서 타 모델 대비 강점이 있느냐, 두 가지 부분 말씀드리고 싶습니다. 첫 번째는 한국어 성능, 두 번째로는 준비하고 있는 어드벤스드 튜닝을 말씀드리고 싶습니다.
 첫 번째 한국어 성능은 저희가 아무래도 타 LLM 대비해서 한국어 데이터를 많이 학습을 했기 때문에 그만큼 한국어 답변을 생성하는 데 좀 더 높은 이해도나 문화 및 맥락에 대한 높은 이해를 보이고 있고요. LLM에서 글자를 카운트하는 단위인 토큰을 생성하는 그 효율이 타 LLM에 대비해서 한국어에서는 오픈 AI보다 4배 정도 높은 효율을 한국어 생성에서 보이고 있습니다. 이것이 결국, 토큰 단위로 비용을 부과하기 때문에 비용 효율성으로도 이어질 수 있는 강점이 있습니다.
 두 번째로는 어드벤스드 튜닝에 관한 것입니다. 현재 나와 있는 대부분의 LLM 모델의 튜닝은 LLM이 답변하는 그 답변에 대한 튜닝, 답변하는 스타일에 대한 튜닝이라면 준비하고 있는 어드벤스트 튜닝은 좀 더 그 언어 모델 자체에 행동을 좀 주입하거나 혹은 지식을 좀 더 주입을 해서 좀 더 심화된 튜닝을 제공하려고 하고 있고요. 아마 상반기 내에 기업형 플랜에서 만나보실 수 있을 것 같습니다. 
 
 
 
Q. 저변 확대를 위해 기능별 API로 배포되는 걸 패키지 형태로 배포할 생각이 있으신가요?
 물어보신 게 오픈 소스 같은 SLLM 같은 것 때문에 물어보신 걸로 예상을 하는데요. 사실 저희는 네이버 클라우드 닷컴으로 있는 플랫폼을 더 적극적으로 사용하는 것을 권장하는 것을 목표로 하고 있습니다. 그럼에도 불구하고 지속적으로 화면에 보이는 것 같은 요구사항들은 많이 받고 있는 상태이고요. 아직 공개적으로 말씀드릴 수 있는 내용들은 아니지만, 그래도 뭔가 여러 가지들을 여러 방면으로 열어놓고 고민중에 있다 이 정도까지만 답변드릴 수 있을 것 같습니다.

 
 
마지막 질문은 이렇게 다양한 가능성을 열어주셨습니다. 상상해보면 되는 것이겠죠?
 

네트워킹 

저와 함께 있는 팀은 하이퍼클로바의 기획자분과 이사님 한 분이 계셨습니다. 그리고 백엔드 개발자, 빅데이터 사업부 데이터 엔지니어, 클라비 직원 두 분과 함께했습니다. 하이퍼클로바에 대한 진솔한 대화를 나눌 수 있어 즐거웠습니다. 스스럼없이 대화해보면서, 네이버 직원 분들의 생성형 AI에 대한, 그리고 하이퍼클로바 X에 대한 열정도 느껴지고, 준비를 많이 했다는 느낌을 받았습니다. 생성형 AI는 외산도 많고 좋은 점이 많습니다. 그러나 그 치열한 생성형 AI의 경쟁 속에서 네이버의 하이퍼클로바 X가 살아남은 이유를 알 수 있던 자리였습니다.
 
다음 밋업에도 가능하면 참가해서 더 멋진 하이퍼클로바의 성장에 함께하고 싶네요!