[2022 AWS re:Invent] The power of responsibility in AI/ML

by
세션 유형

Leadership

세션명

The power of responsibility in AI/ML

강연자

Aileen Smith, Diya Wynn, Vipul Nagrath

세션요약자

박선영(SeonYeong Park)

핵심내용 요약

편견과 배제 없이 공정성과 책임을 가지고 AI/ML 을 활용 하는 방법

키워드
  1. Responsibletech
  2. Diversity, Equity, & Inclusion (DEI)
  3. AI/ML
상세내용

Use Case: ADP Workfroce Now 

  • AWS의 AI/ML을 통해 Human Capital Management 데이터 세트를 보유 하고 있으며 데이터의 규모, 범위 및 깊이는 전 직원의 라이프사이클 정보 (급여 정보, 개인의 특징, 근무일수, 휴가일수, 성과 등)를 포함합니다. 
    최초의 목적은 AI와 ML을 통해 패턴을 인식하고 예측하며 이러한 학습과 통찰력을 토대로 프로세스를 자동화 하거나 성공적인 비즈니스 의사결정 이행이었으나 이 데이터를 사용하여 사회적 선을 행하고 개인의 성과를 개선하는데도 활용 하였습니다. AWS 의 AI/ML을 사람 중심의 경험 공유(데이터)를 기반으로 책임감있게 적용 하는 case study를 공유 합니다. 
    • 개인정보 보호 및 보안에 엄격한 표준을 적용 하여 신뢰성 확보
      AI/ML 모델을 검수 하기 위해 감사 및 위험 평가를 구현하여 데이터에 접근, 이동, 이용 하는 것에 대한 안정성을 확보하여 개인의 참여도(동의) 증진
    • 사람 중심의 경험과 복잡성에 초점 맞추기
      라이프사이클 정보를 통해 성과, 기회 격차, 이직위험 등과 관련된 통찰력을 도출
  • AWS는 고객중심 회사로서 고객, 즉 사람을 고려하는것이 얼마나 중요한지에 대해 이야기할 것이며 위협을 줄이고 의도하지 않은 영향을 완화하기위해 사람, 프로세스 및 기술을 조정하는 방법에 대해 프레임워크-전체론적 접근방식을 만들었습니다.
    • 가치 정렬: 
      AI/ML 을 사용하려는 방식이 조직이 추구하는 미션, 비전, 가치와 일치하며 적합한것인지를 확인 하기  
      또한 우리 조직이 속한 산업의 규정, 규칙, 정책, 프로세스, 표준에 부합 하는지를 고려하기
    • 포용:
      제품의 영향을 받거나 제품을 활용 할 수 있는 잠재고객, 이해관계자 또는 개인의 일부만 고려하는 것이 아닌 서로 다른 배경을 가진 개인을 참여시키기
    • 훈련과 교육:
      • 고등학생과 대학생들을 AI/ML AWS 장학 프로그램에 참여시켜 기술만을 보유 하도록 하지 않고 책임감 있는 개발과 구축을 모색 하도록 함 
      • 이는 나아가 그들이 향후에 속할 조직에서 AI/ML 을 적용시키는 첫 단계부터 가장 중요하게 여겨야 할 부분은 책임감과 배제된 존재가 없는 기술이여야 함을 상기 시키며 책무성을 긴밀히 연결 시켜 발전 시킴
  • AWS의 SageMaker, SageMaker Clarify, CodeWhisperer을 통해 조직과 개발자가 어떻게 책임감있고 포용적 구조로 AI/ML을 다룰 수 있는지도 알 수 있을 것 입니다.
Bespin’s Comment
  1. 기계 학습(ML)을 통해 적용되는 인공 지능(AI)은 축적된 수많은 데이터를 기반으로 우리는 인류가 직면한 어려운 문제를 해결하고 비즈니스 성과를 증대하며 생산성을 극대화하는 혁신적인 기술을 경험하고 있습니다. 이러한 기술을 인간 중심으로 책임감 있게 사용하는 것이 지속적인 혁신을 촉진하는 데 핵심입니다
  2. IDC는 2025년까지 새로운 엔터프라이즈 애플리케이션의 90%가 AI를 사용 할 것이고 2,040억 달러의 글로벌 지출을 예측하므로 사용량이 커질수록 기술을 책임감 있게 사용 하는 것의 중요성도 커집니다. 76%의 CEO는 편견과 투명성 부족의 가능성에 대해 우려하며 이것은 우리의 공유된 경험과 인간 중심으로 기술을 사용 하는 것이 얼마나 중요 한 것인지 보여줍니다. 즉, 준법정신을 가지고 법치를 존중하고 형평성과 사생활보호, 포괄성이라는 우리의 공유 가치를 보존하도록 구축 되어야 할 것 입니다. 왜냐하면 우리가 소외된 개인을 포함하는 것이 단지 그들을 위해 이 기술을 구축 하는것이 아닌 그들과 함께 이 기술을 구축 해 나가는 것 이고. 다양한 개인들은 모두에게 적합한 AI 기술을 구축하는데 매우 중요하기 때문입니다. 
    기술과 기계는 데이터를 기반으로 추천할 수 있지만 옳은 선택은 인간인 우리의 몫입니다. 
  3. AI/ML을 통해 편견을 완화 하고 알고리즘의 성능을 이해하고 더 나은 가능성을 기대할 수 있으며 투명성을 확보하고 필요한 경우 작업 흐름을 자동화하거나 사람의 관점에서 참여를 자동화 할 수 있습니다.

Leave a Comment