세션 유형
Leadership
세션명
Innovation with AI/ML to transform your business
강연자
- Marco Görgmaier, BMW Group 데이터 변환 및 인공 지능 총괄 관리자
- Bratin Saha, ML 및 AI 서비스 부사장, AWS
- AK Karan, 수석 이사 – 디지털 혁신, Baxter
- 아마존 알렉사 AI 부사장 아난드 빅터
세션요약자
최민준(Mnjun Choi)
핵심내용 요약
- 기계학습의 민주화
- AWS SageMaker의 3 Layer ( ML framework & infra, Amazon SageMaker, AI service )
- ML의 6 Trend
- Model 정교함 ( Model sophistrication )
- 데이터의 증가 ( Data Growth )
- ML의 산업화 ( ML Industrialization )
- UseCase기반 ML의 자동화 ( ML-Powered use case )
- 설명가능한 AI ( Responsible AI )
- ML 민주화 ( ML democratization )
키워드
- AWS ML capability – 3 Layer
- Amazon CodeWhisperer(Preview)..
- Stability AI Models on Amazon SageMaker (GA)
- Amazon EC2 Trn1 instance(GA)
- Amazon SageMaker geospatial capabilities(GA)
- The Next generation of sagemaker studio notebooks(GA)
- Amazon TRanscribe call Analytics(GA)
- Amazon Textract Analyze Lending(GA)
- Amazon Monitron(‘20. GA)
- Responsible AI
- AWS AI Service Cards
- Machine Learning University
- Amazon SageMaker Canvas(‘21 출시)
상세내용
이제 데이터로 부터 통찰력을 얻을 수 있는 기계학습(ML)은 필수 불가결한 요소가 되고 있다. 이러한 기계학습(ML)에서도 민주화가 이루어 지고 있고, 데이터가 이를 뒷받침하고 있습니다.
가트너에 의하면 21년 현재 56%의 기업이 하나이상의 기능에 AI를 사용하고 있고 100,000고객이상이 AWS AI/ML서비스를 사용하고 있습니다.
이러한 기계학습서비스를 위해서 AWS는 세가지 계층을 구축하여 지원하고 있습니다.
- ML Framework & Infrastructure
- 2) Amazon SageMaker
- 3) SaaS AI ( AI Services )
이제 모든 도메인과 지역에 걸쳐서 많은 고객이 이러한 서비스를 활용하여 서비스를 개선하고 혁신하고 있습니다.
이러한 ML혁신을 주도하는 주요 트렌드가 있고 이를 활용하는 것은 중요합니다.
ML혁신 트렌드(촉매제)
- Model Sophistrication(모델의 정교화)
- Data growth(데이터의 증가)
- ML Industrialization(ML의 산업화)
- ML-Powered use cases(실사례기반 ML강화)
- Responsible AI(책임있는 AI)
- ML Democratization(ML민주화)
첫번째 모델의 정교함이 기하급수적으로 증가하고 있습니다.
기계학습의 정교화를 측정하는 기준인 기계학습에 사용되는 매개변수가 ‘22년 현재 5000억개 이상이 되고 있으며, 이는 최근 3년간 1600배가 증가한 결과입니다. 이렇게 만들어진 모델이 기초모델이고 이를 활용하여 기계학습 개발을 위한 비용과 노력이 줄어들수 있습니다.
이를 위하여 아마존에서는 기계학습기반의 코딩 어시스트인 Amazon CodeWhisperer(Preview)를 출시하였습니다. 이는 개발자의 의도를 파악하여 다음 단계를 수행할 수 있는 솔루션입니다. 이를 통해서 코딩에 대한 패러다임이 변경될 것 입니다.
마찬가지로 다른 고객도 기초모델을 많이 사용하고 있습니다.
LG AI가 그 예로 “EXAONE”이라는 기초모델을 만들었고 이기초모델을 통해서 패션쇼에 사용될 수 있는 3,000개이상의 이미지를 생성하는 틸다라는 AI 서비스를 개발하였습니다.
그래서 AWS에서는 Stability AI의 기초모델을 SageMaker기반으로 활용할 수 있도록 오픈하였습니다. Stability AI를 개발한 Stability AI에서는 Stable Diffusion이라는 솔루션을 출시하였고 이를 통해서 몇가지 단어를 통해서 원하는 이미지는 빠른 시간내에 생성할 수 있는 기능을 제공하고 있습니다. 이는 지속적으로 성장하고 있고 처리시간, 처리스탭이 단순화되면서 고해상도 이미지를 실시간으로 생성할 수 있는 방향으로 나아가고 있습니다.
그리고, 이러한 기초모델을 기반으로 생성된 모델을 훈련하기 위해서는 많은 컴퓨팅 리소스 필요하고 저렴한 비용이 필요합니다.
AWS에서는 이런 기초모델을 훈련할 수 있는 ‘Amazon EC2 Trn1 Instance’를 출시하였습니다. 60%이상의 메모리가속력을 가지고 있고, 2배이상의 네트웍밴드폭을 가지는 Trainium 인스턴스로 모든 프로세서 중 최소비용을 제공하고 있습니다.
두번째는 기계학습모델을 교육하는데 사용할 수 있는 다양한 데이터를 활용하는 것입니다. 데이터는 기계학습을 위한 연료를 공급하는 부분으로 AWS에서는 SageMaker ground truth, data wrangler, Studio notebook등을 제공하여 데이터를 확장하는데 지원해왔습니다.
최근 데이터확보 측면에서 데이터위치와 관련된 정보를 활용한 ML개발에 대한 니즈가 늘어나고 있습니다. 그래서 ‘Amazon SageMaker geospatial capability’(Preview)를 출시하였습니다. 이를 통해서 언제 어디서에 대한 대답을 할 수 있는 기능을 개발할 수 있을 것입니다. 이러한 기능은 ‘BMW에서 효과적으로 활용하고 있습니다.
셋째는 기계학습의 산업화에 적용 또는 기계학습인프라와 도구의 표준화가 필요합니다. 아직까지는 산업규모의 ML개발/운영환경이 부족합니다. 산업화에 적용하기 위해서는 개발된 기계학습모델이 강력하고 확장가능하며 안정적으로 만들 수 있어야 합니다. 즉, 기계학습 도구 및 기계학습인프라의 표준화가 필요합니다. AWS에서는 SageMaker를 기반으로 이러한 환경을 제공하고 있으며 가장 복잡하고 많은 ML모델이 운영되고 있는 Alexa도 SageMaker를 활용하고 있습니다. SageMaker를 통해서 ML개발 협업 및 훈련을 단순화 시켰고 보안기준도 높였습니다.
추가적으로 ‘The next generation of SageMakr Studio notebook’를 출시하여 ML개발자가 협업할 수 있는 환경을 제공할 것 입니다. 그리고, Automated notebook deployment 기능을 통해서 수일이 소요되는 Deployment 단계를 단순화 시켰습니다.
넷째는 기계학습을 내장하여 사용 사례를 자동화하거나 ML기반 사용 사례가 있습니다. 고객이 요구하는 문서처리, 개인화, 예측, 이상감지, 언어번역 등의 일반적인 사례를 자동화하기 위하여 AWS에서는 다양한 SaaS 서비스를 제공하고 있습니다. 고객센터의 혁신을 위하여 사용되던 ‘Amazon Transcribe’를 사용하여 통화 후 분석과 실시간 분석을 모두 지원하는 ‘Amazon Transcribe Call Analytics’를 출시하였습니다. 실시간 통화분석을 통해서 고객의 감정을 인지하는 기능을 제공합니다.
문서처리에 활용되는 ‘Amazon Textract’를 활용하여 ‘Amazon Textract Analyze Lending’을 출시하였습니다. 많은 양식 문서를 기반으로 필요한 정보를 간편하게 추출할 수 있을 것입니다.
추가적으로 일반 산업현장을 모니터링하고 장비를 유지관리하기 위한 환경으로 20년도에 Amazon Monitron’을 출시하였습니다. Monitron은 센서, 게이트웨이 및 ML Application의 조합으로 ML에 대한 경험이 불필요하고, 센싱을 위한 장비에 센서를 부착하면 게이트웨이를 통해서 ML Application을 통한 이상감지를 할 수 있는 솔루션으로 Baxter에서 적용하여 많은 효과를 보았습니다.
다섯째는 책임있는 AI로 기계학습을 적절한 방식으로 사용하고 있는지 확인할 필요가 있습니다. IDC에 따르면 AI관련기술에 전세계 지출이 ‘25년까지 2,000억달러를 넘어설 전망입니다. 그리고 3년내에 AI가 조직을 변화시킬 것이라고 합니다.
그러므로 AI를 책임감있게 사용해야 하는 현실입니다. AI를 책임감있게 사용한다는 것은 Fairness(공정성), Explainability(설명가능), Robustness(견고성), Privacy and Security(개인정보보호 및 보안), Governance(관리기능), Transparency(투명성)을 보장한다는 의미입니다.
그래서, AWS에서는 ‘AWS AI Service Cards’를 통해서 모든 책임 있는 AI질문에 대한 원스톱상점역할을 수행하게 될 것입니다.
추가적으로 9시간의 ‘New fairness and bias mitigation course’를 신설하여 ML모델을 편향되지 않게 개발할 수 있는 방법을 교육할 것 입니다.
마지막으로 기계학습민주화로 더 많은 사용자가 기계학습도구 및 기술을 엑세스할 수 있도록 하여야 합니다. 고객들은 ML개발자 및 데이터사이언티스트 채용에 많은 어려움을 겪고 있습니다. 그래서 AWS에서는 21년 ‘Amazon SageMaker Canvas’를 출시하였고, Canvas는 기계학습을 수행하기 위한 완전히 코드가 없는 도구로 비숙련자가 데이터를 준비하고 모델을 구축하고 교육한 다음 완전히 설명 가능한 모델을 배포할 수 있습니다.
추가적으로 AWS에슨 25년까지 무료 클라우드 컴퓨팅 기술 교육을 통해서 2900만명의 사람들에게 기술 교육시킬 것입니다.
Bespin’s Comment
- 최근 3년간 ReInvent를 통해서 AIML과 관련된 SageMaker기능 확장에 중점
- 산업현장에 직접활용될 수 있는 SaaS형 서비스 출시
- ML모델을 메모리기반 가속화할 수 있는 Instance 출시
- 활용사례 확대에 집중하고 있음.