AI-Generated Video Summary by NoteTube
MSC 2026 | 사례 세션: The Secret Agent - AI 서비스 구축 사례 (Channel Corp., Wrtn AX, LBOX, Config)
Microsoft Korea
1:10:30
Overview
본 영상은 AI 서비스 구축 성공 사례를 공유하는 세션입니다. 채널 코퍼레이션은 Azure를 활용하여 상담 에이전트 '알프'를 성공적으로 구축하고 운영 중이며, 리튼 AX는 기업의 AI 전환(AX) 과정에서 겪는 어려움과 이를 극복하기 위한 전략을 공유합니다. 엘박스는 법률 전문가를 위한 에이전틱 AI 서비스 전환 경험을, 컨피그는 로봇 모델 개발을 위한 데이터 플랫폼 구축 사례를 소개합니다. 네 기업 모두 Azure의 안정성과 확장성을 기반으로 AI 서비스의 성공적인 구축 및 운영 방안을 제시하며, AI 서비스 성공의 핵심 요소로 운영, 모델 전략, 데이터, 그리고 AI 활용 관점을 강조합니다.
How was this?
This summary expires in 30 days. Save it permanently with flashcards, quizzes & AI chat.
Chapters
- •AI 서비스 성공 구축 및 확장을 위한 기업 사례 공유
- •채널 코퍼레이션: 상담 에이전트 '알프' 구축 경험 (Azure 활용)
- •리튼 AX: 기업 AX 전환 시 고려사항 및 장애물 극복 방안
- •엘박스: 법률 전문가 업무 변화를 위한 에이전틱 AI 사례
- •컨피그: 범용 로봇을 위한 데이터 플랫폼 구축 사례
- •채널톡 서비스 소개: 다양한 채널 문의 통합 및 CRM 데이터 관리
- •상담 에이전트 '알프' 소개: 지식 기반 답변 및 액션 자동화
- •음성 상담 에이전트 개발 경험: TTS 모델 학습 및 숫자 발화 정확도 개선
- •Azure 활용 이유: LLM API 안정성, SLA 보장, 데이터 보안, 빠른 모델 출시
- •향후 개선 방향: 에이전틱 서치 강화 및 상담 데이터 활용 고도화
- •리튼 소개: 모두의 AI 추구, 700만 MA 돌파 스타트업
- •AI 전환의 두 가지 고민: 지속 가능한 AI 비용 및 생산성 병목 해결
- •LM 가격 하락 및 모델 오케스트레이션의 중요성
- •Azure 활용: 안정적인 요청량 처리, 다양한 모델 실험 및 배포 환경 구축
- •AX 성공/실패 요인 분석: 명확한 목표 정의, 기술력 확보, 경영진 의지 중요
- •법률 분야의 특징: 고비용, 노동 집약적, 텍스트 기반 데이터
- •엘박스 소개: 판결문 검색 서비스 기반 리걸테크 기업
- •에이전틱 AI 전환 목표: 법률 전문가의 복잡한 과업 완결적 수행 파트너
- •스태틱 워크플로우의 한계점: 복잡성 증가, 확장성 저하, 성능 향상 제한
- •에이전틱 AI 구조 도입 효과: 추론 성능 향상, 복잡한 질의 이해, 확장성 증대
- •컨피그 소개: 로봇 모델 개발 및 자동화 플랫폼 제공
- •로봇 분야의 변화: 룰베이스에서 일반화된 AI 기반 로봇으로의 전환
- •로봇 데이터 확보의 어려움: 달걀과 닭의 문제, 휴먼 데이터 활용 기술
- •데이터 파이프라인 구축: 휴먼 데이터 수집, 로봇 데이터 변환, 파운데이션 모델 학습
- •Azure 활용: 컴퓨트 헤비 환경 지원, 데이터 관리, AKS 기반 워크플로우 자동화
- •운영 자체가 제품: 설계 단계부터 운영 요소(응답 속도, 비용, 장애) 고려
- •모델 전략: 멀티모델 및 백업 전략 활용, 항상 답변 가능한 서비스 구축
- •데이터 중심 접근: LRM 성능보다 데이터 흐름 및 개선 기반 마련 중요
- •AI 활용 관점: 단순 응답 넘어 액션 수행 에이전트 개발 집중 (ROI 시발점)
- •통합 플랫폼의 중요성: 모델, 데이터, 인프라, 운영 통합 제공 (Microsoft Foundry)
Key Takeaways
- 1AI 서비스 성공의 핵심은 운영 단계까지 고려한 설계에 있습니다.
- 2단일 모델보다는 유지케이스별 최적화된 멀티모델 전략과 백업이 중요합니다.
- 3LLM 성능 향상보다 데이터의 흐름과 이를 통한 서비스 자동 개선 기반 마련이 더 중요합니다.
- 4단순 응답을 넘어 실제 액션을 수행하는 에이전트 개발이 AI 서비스 ROI의 시작점입니다.
- 5Azure는 AI 서비스 구축에 필요한 안정성, 확장성, 다양한 모델 지원 등 강력한 기반을 제공합니다.
- 6기업의 AI 전환(AX)은 명확한 목표 정의, 기술력 확보, 경영진의 의지가 뒷받침될 때 성공 가능성이 높습니다.
- 7법률, 제조 등 특정 도메인에서는 높은 정확성과 신뢰성을 갖춘 에이전틱 AI가 필수적입니다.
- 8로봇 분야에서는 휴먼 데이터를 로봇 데이터로 변환하는 기술이 AI 모델 학습의 핵심입니다.