[NCMD] Naver Cloud Master Day 후기: 마스터의 이야기

Master에 대한 생각

 

GPT로 표현한 마스터의 이미지

 

Master라는 말은, 과거 만화를 보다가 "나는 포*몬 마스터가 될거야!"라고, 소리치던 주인공에게 처음 들었습니다.

 

간단히 생각하면 높은 사람(주인)일 수도 있고, 한 분야의 정점에 도달한 사람이기도 합니다. 여기서는 네이버클라우드가 인정하는 해당 분야의 전문가로 이해하려고 합니다.

 

좋은 기회가 있어, 판교 테크윈 타워에서 열리는 마스터 분들의 컨퍼런스 행사에 참여할 수 있었습니다.

 

 

시간과 장소

• 일정 : 2024.7.5(금) 14:00~18:00
• 장소 : 판교테크원 4층 HALL #3 (성남시 분당내곡로 131)

 

오프닝: 네이버클라우드 마스터(Master) 소개

마스터 데이 소개: 김상인님

 

총 5분의 마스터와 이달의 Nclouder 두 분의 발표, 그리고 즐거운 네트워킹 시간으로 알차게 준비가 되었습니다.

 

마스터 분들의 발표 중에서는 VMware를 네이버클라우드로 이관하는 작업에 유달리 관심이 갔습니다. 아무래도 업무와 관련된 부분이 눈에 띄는 점은 어쩔 수 없는 것입니다.

 

마스터 제도 소개

 

수시로 마스터를 영입하고 있고, 가장 중요한 조건이 2년 이상의 네이버클라우드 사용 경험이라고 합니다. 조금 더 채워서 저도 도전해볼 생각이에요. 최근 업무로 조금 어렵긴 하지만, 내가 배운 것을 남에게 공유하려는 마음은 가득합니다.

 

혜택이 참 마음에 드는데요, 이 혜택은 모두 네이버클라우드를 더욱 잘 배울 수 있는 기회이자 네이버클라우드의 지원으로 생각하면 되겠습니다.

 

여러분도 도전하세요! 할 수 있습니다!

네이버클라우드 마스터 지원

 

 

 

이후, 마스터 분들의 강의가 이어졌습니다. 30분 간격으로 짧고 굵게 진행해주셨습니다. 크게 나누어 Multicloud, Migration, AI(HCX), Network로 정리했습니다.

 

마스터의 강의 분류

 

Master Session 1. Multicloud: 보안과 오픈소스

멀티 클라우드: 보안과 오픈소스

 

남재희님의 "Cloud Security Watcher로 멀티 클라우드 보안 관제", 송재희/김재현님의 "오픈소스 멀티클라우드 플랫폼과 NCloud 의 만남" 이야기를 들었습니다. 

 

멀티 클라우드는 하이브리드 클라우드와 다르게 다양한 CSP사가 제공하는 클라우드를 함께 다루는 방법입니다. 하이브리드는 온프레미스와 클라우드를 함께 활용하구요. 이 멀티 클라우드에 대해 관심이 많아지는 추세입니다. 단순히 돈을 더 내고 관리하기 복잡해지지 않을까 싶은데, 각 CSP사가 제공하는 특화된 서비스를 자유롭게 활용해볼 수 있는 점이 가장 큰 장점이라 생각합니다.

 

문제는 관리가 복잡해지는 점입니다. 이를 위해 다양한 도구가 있습니다. 예를 들어, 멀티 클라우드 환경에서 보안 관제에 불편함을 느낀다면, 남재희님의 Cloud Security Watcher 도구를 사용해볼 수 있습니다. 혹은 멀티 클라우드에서 쿠버네티스 관리를 한다면 오픈소스인 Cloudforet 도구를 사용할 수 있습니다. 각자의 목적에 따라 다양한 도구를 활용해볼 수 있습니다. 이를 통해 단점을 보완하고, 다양한 CSP사의 특화 서비스를 자유롭게 활용해보면서, 관리 부담을 덜 수 있다면 충분히 시도해볼만 합니다.

 

Cloud Security Watcher로 멀티 클라우드 보안 관제

재희님은 Cloud Security Watcher(CSW) 라는 네이버클라우드 서비스를 소개해주셨습니다.

 

cloud security watcher

 

보안 프레임워크 준수 현황 점검, 리소스 현황 식별, 자산 변경 감시를 지원하는 클라우드 보안 형상 관리 서비스

 

 

초반에 Cloud Security Posture Management(CSPM)이라는 보안 형상관리 툴을 소개하고, 네이버클라우드 상품인 CSW를 관련하여 소개해주셨습니다. 이 서비스의 기능과 연동 방법과 활용 케이스를 알려주셨습니다. 네이버클라우드 서비스이지만, AWS, Azure와 같은 타 CSP사의 클라우드와 연동이 가능하며, 한눈에 대시보드를 통해 시각적으로 보안 관리가 가능합니다. 즉, 멀티 클라우드 상에서 보안 형상 관리가 가능합니다. 템플릿을 통해 보안 컴플라이언스를 제공해주며, 각 CSP사에 맞춤 제공을 해주어 편리합니다. 실제 연동 가이드와 데모 영상으로 실 사례를 간단히 확인해볼 수 있었습니다.

 

오픈소스 멀티클라우드 플랫폼과 NCloud 의 만남

송지형님과 김재현님은 오픈소스 멀티 클라우드 플랫폼 Cloudforet을 소개해주셨습니다.

cloudforet

 

멀티 클라우드 플랫폼인 Cloudforet을 기존에 타CSP(Aws, azure, gcp)만 연동되었다가, 송지형 마스터님이 오픈소스 경진대회에서 만난 김재현님 외 4분과 함께, 리눅스 재단이 운영하는 제도를 활용하여 네이버클라우드를 연동시킨 이야기를 간단히 들었습니다. 이제는 Ncloud도 함께 관리가 가능한 멀티 클라우드 플랫폼이 된 것입니다.

 

https://github.com/cloudforet-io

Cloudforet

 

 

멀티클라우드의 세가지 중요한 고려사항을 제시해주셨습니다.

1. 다양한 클라우드를 단일 아키텍처로 관리
2. 유연성/확장성
3. 벤더 의존성 낮추기

이를 모두 고려하는 플랫폼으로 Cloudforet을 소개해주셨고, 기존에 제공되는 네이버클라우드 API 및 SDK도 연동하는 모습을 보여주셨습니다. Plugin 형태로 연동하였고, 그 과정에서 Plugin Connector Code, gRPC 기반 통신 등 개발 코드도 상세히 설명해주셨습니다. 그리고 NKS(Ncloud Kubernetes Service)와 연동하는 아키텍처도 보여주시며 상세한 설명을 해주셔서 이해하기 좋았습니다.

 

 

Master Session 2. Gen AI with HyperCLOVA X

HCX 활용기

 

서현석님의 "크리스마스 카드 만들기, CLOVA MBTI" 소개와 김세은님의 "아동용 릴레이 창작 동화 만들기"라는 제목으로, 업무적이라기보다는 재밌고 친숙하게 생성형 AI 제품 HyperCLOVA X(HCX)를 사용해본 경험담과 활용 노하우를 제공해주셨습니다.

 

크리스마스 카드 만들기, CLOVA MBTI

서현석님은, 기존에도 회사 내에서 음성인식과 관련된 생성형 AI 및 LLM 분야에 전문성을 갖고 있습니다. 그래서 LLM에 관한 기본 용어(LLM, Prompt)부터 CLOVA 상품군의 비교해주셨습니다. 많이 헷갈리는 CLOVA Chatbot과 CLOVA Studio를 활용한 챗봇 서비스에 관한 장단점 비교가 명확히 이해가 되었습니다.

• FAQ형 챗봇은 → 클로바 챗봇이 적합(규칙 기반)
• 범용성있고 빠르게 나오는 챗봇은 → 클로바 스튜디오가 적합(학습 기반)

 

여기에 네이버클라우드의 HCX 상품을 적극적으로 활용해보고 포텐데이라는 해커톤을 통해 개발한 크리스마스 카드 만들기 페이지와 추가로 개발하신 CLOVA MBTI라는 웹 어플리케이션을 공유해주셨습니다.

 

1. 크리스마스 카드 만들기 https://xmas.swygbro.com

2. CLOVA MBTI https://clova-mbti.kro.kr

 

그 과정에서 프롬프트 팁, 페르소나 만드는 방법 등을 소개해주셨습니다. 특히 기억에 남는 것이 Cloud Functions 연동하는 부분입니다. HCX와 연동해서 백엔드 서버 띄울 필요없이 1000 건 까지 무료 호출 가능하고, API Gateway를 활용해서 별도로 트래픽 효율적 제어 및 설정이 가능하다는 점과 서버에서 직접 구축 안해도, 미리 만든 Cloud Functions로 어플리케이션 구축 가능하다는 점입니다. 특히, "프롬프트 로깅"으로, Cloud functions의 연동된 Log Analytics으로 HCX를 사용하며 발생하는 오류도 일부 해결할 수 있다는 점도 기억이 납니다.

 

아래 대시보드를 보면, 좌측이 CLOVA Studio 기본 대시보드이고, 우측 두 그림은 HCX를 API로 Cloud Functions의 연동된 대시보드입니다. 꽤 많은 차이가 보입니다. 이렇게 상세한 모니터링이 가능하다는 점이 큰 장점입니다. 프롬프트 로깅은 아래와 같이, Cloud functions의 액션의 실행 결과를 통해 특정 프롬프트를 입력할 때 로그 모니터링 결과를 확인해보면서 바로 수정해보는 일종의 디버깅이 가능해지네요.

 

CLOVA Studio vs Cloud functions 비교

 

그 외에 질의응답도 잘 해주셔서 정리해보았습니다. 풍부한 경험을 바탕으로 나온 답변이라 잘 정리해두었다가 요긴하게 사용해보려고 합니다.

 

Q1. 답변을 빠르게 나오게 하는 방법이 궁금합니다.

A. 답변을 짧게 나오도록 요청합니다. 혹은 프롬프트 체이닝으로 잘게 쪼개서 호출하거나, 최근 출시된 HCX-DASH 같은 경량화 모델 활용하는 방법이 있습니다.

 

Q2. 스킬트레이너 적용된 HCX 테스트 앱 사용해서 앱 구현시 긴 응답시간으로 문제가 되는데, 스킬이 적용된 경우 응답속도 줄이는 방법은 없나요?

A. 스킬 트레이너 자체가 무겁다고 생각합니다. 플래닝 단계를 거치고 알맞는 API 호출해서 답변 가져와서 LLM으로 답변 생성하는 구조이기 때문에 무겁고, Cloud function과 잘 맞지는 않을 수 있습니다. 다른 방법을 생각해본다면, Cloud function의 액션 타임아웃을 높게 해서 오류가 나지 않게 설정할 수 있습니다.

 

아동용 릴레이 창작 동화 만들기

김세은님은 이달의 NCLOUDER로 선정되며 NCUC 온라인 모임에서 발표도 하신 바 있습니다. HCX를 활용한 졸업 프로젝트를 수행했고, 그 경험을 정리해주셨습니다.

 

프로젝트 이름은 "우리두리" 프로젝트입니다. 우리가 둘이서 만들어가는 동화를 만든다는 의미입니다. 아동과 AI가 릴레이로 만드는 동화, 아름답네요. 여기에 생성형 AI 도구인 HyperCLOVA를 곁들인 것입니다. 텍스트 생성은 HyperCLOVA, 이미지 생성은 OpenAI 사의 DALLE 2를 사용하며, 태블릿에서 구동하기 위해 React Native도 사용했다고 합니다.

 

아키텍처 구조

 

그 외에도 HyperCLOVA API 활용하는 방법을 간단히 더 소개해주셨고, 프롬프트 엔지니어링과 튜닝에 관해 간략히 정리해주셨습니다. 특히 프롬프트 엔지니어링에서 인컨텍스트 러닝 방식에 대해 소개해주시고, 그 작업에서 예시의 중요성을 많이 강조해주셨습니다. 이 프로젝트에서는 두 개 이상의 예시를 사용하는 퓨샷 러닝을 활용했습니다. 튜닝은 파인 튜닝과 프롬프트 튜닝이 있는데, 그 중 프롬프트 튜닝이 훨씬 적은 웨이트(weight)를 사용하여 학습 부담이 접고 유연하게 확장이 가능하다는 점을 강조해주셨습니다. 또한, 튜닝 과정에서 활용 데이터가 한 행을 기준으로 400건 이상을 요구하는데, 실제로 프로젝트에서는 최소 3천건은 사용해야 반복해도 일관되게 원하는 형태의 결과물이 나왔다고 하니 참고해두면 좋겠습니다.

 

Master Session 3. Migration

VMware에서 네이버클라우드 이관기

 

최승림님의 "VMware 환경에서 네이버클라우드로의 전환 전략"은, VMware라는 온프레미스 가상 환경에서 클라우드  전환시에 필요한 전략과 그 필요성을 ZConverter 제품을 통해 풀어내주셨습니다. 단순한 자사 솔루션 홍보가 아니라, 실질적인 Migration 시에 필요한 아키텍쳐와 시나리오를 제공해주셔서 더욱 뜻깊은 시간이었습니다.

 

최근 VMware가 최근 브로드컴에 인수되면서, 라이선스 비용을 최소 3배에서 5배 이상 인상되었습니다. 이 과정에서 많은 VMware 고객사에서 non-VMware 방향을 고민하고 있는 가운데, 클라우드로 migration을 할 경우 시나리오와 장단점을 상세히 소개해주셨습니다. 특히 "네이버클라우드"와 비교해서 장단점을 비교하고 그 중 네이버클라우드가 VMware 대비 매우 높은 확장 가능한 에드온을 제공한다는 점을 강조해주셨습니다. 다만, 네이버클라우드는 자체적으로 가상디스크 등을 지원해주지 않기 때문에, 이를 ZConverter와 같은 써드파티를 활용하면 큰 에러 없이 migration이 가능하다는 것입니다. 물론, 써드파티는 라이선스 비용이 추가로 들지만, VMware의 인상 요금 대비 저렴하긴 하니까요. 적극 사용해봐야겠습니다. 현재 네이버클라우드 마켓플레이스에서 제공하네요!

 

https://www.ncloud.com/marketplace/zccm?searchKey=zconverter&page=1

 

 

Master Session 4. Network

5G 네트워크

 

마지막은 임창식님의 "네이버 클라우드 플랫폼에 5G 특화망 CP Core 올리기"로 강의 세션의 마무리를 했습니다. 다양한 경험과 오랜 네트워크 노하우를 바탕으로, 네이버클라우드의 신규 사옥인 1784에서 적용한 5G 특화망을 어떻게 구성했는지 그 도전 경험을 생생하게 들려주셨습니다. 당시 구성한 시점과 현재 네이버클라우드의 제공 서비스에 차이가 있고, 그 점을 확인해서 5G 구축에 대한 전략을 상세히 들을 수 있었습니다.

 

5G 특화망은 이음 5G로도 부르며, 이통사가 사용하는 공용 5G와 다르게, 일반 기업이 특정 지역에 필요한 5G 통신망 직접 구축 사용하는 “사설 맞춤형 5G 네트워크”라고 볼 수 있습니다. 5G 특화망의 네가지 구축 모델을 먼저 소개해주셨고, 그 중에서 네이버클라우드는 5G Core 전체 공유형에 해당하는 것으로 보였습니다. Edge Cloud가 아니라 전부 Public Cloud에 올려서 구동하는 5G 특화망 구축 방식입니다. 이게 가능하려면 데이터 센터 등 실제 장비와 물리적 위치가 가까워서 초저지연 환경이 마련되어야 합니다. 그게 가능했던 것이죠.

 

장점은 역시 전파의 간섭 없이, 자유롭게 5G 전용 주파수를 사용해서 초저지연 네트워크 환경을 사용할 수 있는 점입니다. 게다가 네이버 사옥에 있는 로봇들이 브레인리스형으로 사용할 수 있다는 점도 있습니다. 브레인리스 로봇은 온디바이스 AI형태가 아니라 중앙 관리형으로 동작하는 로봇으로, 5G와 같은 초저지연 환경에서는 중앙에서 관리하더라도 브레인 로봇과 속도 등에서 큰 차이가 없이 대량으로 활용할 수 있습니다. 브레인리스가 일반 브레인 로봇보다도 저렴하므로 이를 고려했을 때, 비용이 확실히 저렴해집니다.

 

문제는 5G 특화망(이음 5G) Core CP를 네이버클라우드에 적용할 때 3가지 정도 문제가 있었습니다. 그 해결 방법에 관해 상세히 소개해주셨습니다. 첫번째는 작업 시점(2023년 9월)에서 네이버클라우드 방화벽(ACG 등)에서 SCTP라는 프로토콜을 미지원했던 점인데, 현재는 PROTOCOL NUMBER를 132로 입력하여 SCTP로 ACG 설정이 가능합니다. 두번째는 서비스 연속성을 위해서는 Ingress, egress를 동시에 지원하는 로드밸런서가 없다는 점입니다. 이를 LoxiLB라는 외부 도구로 해결했다고 하니 천천히 읽어보려고 합니다.

 

https://ko.loxilb.io

홈 | LoxiLB

 

마스터와의 만남: 네트워킹 시간

네트워킹은 고정된 자리에서, 비슷한 경험을 가진 분들과 8인 1조로 모여서 이야기를 해볼 계획이었습니다. 다만 금요일 저녁이라는 특성상,  기존 인원보다 많이 줄어든 상태로 자유롭게 마스터 분들과 대화하는 방향으로 변경되었습니다. 오히려 더 편하기도 하고, 마스터 분들의 위치가 다 제각기 분산되어 있었던 점을 감안하면 이렇게 자유롭게 진행하는 것도 괜찮은 방법이라 생각했습니다.

 

대화하면서 깨달은 바는, 마스터 분들이 공통적으로 업무 외에도 다양한 분야에서, 새로운 일이라도 적극적으로 배우고 공유하기를 즐거워하는 사람들이라는 사실입니다. 클라우드 카페를 운영하는 태호님, HCX 관련 블로그를 운영해주시는 현석님, 수진님, 수현님 등 각자의 방식으로 네이버클라우드와 관련된 콘텐츠를 꾸준히 만들고 공유해주셔서, 저같은 엔지니어가 성장하는데 큰 도움이 되고 있습니다. 업무 노하우도 아낌없이 공유해주시고 기술에 관해서는 순수하게 열정 가득한 분들이라 그런지 더 마음에 들었습니다.

 

다음 네이버클라우드 Master Day는 10월 경에 열린다고 하니, 그전까지 이번 테크 컨퍼런스에 배운 내용을 소화하고 준비해서 성장해보려고 합니다. 내년부터는 더욱 열심히 공유해서 마스터에 도전해보려고 합니다. 그전까지 많이 배우고 이해한 내용을 다른 분들께 공유하며 성장해오겠습니다.