[Microsoft AI School 6기] 5/13(94일차) 정리 - AI-900 자격증 시험 대비 - 책임있는 인공지능

책임 있는 인공지능

 

책임 있는 인공지능 원칙

 

 

마이크로소프트사의 책임있는 인공지능 원칙

 

• 투명성
• 책임성
• 공정성
• 신뢰성 및 안정성
• 개인정보 보호 및 보안
• 포용성

 

투명성

- 인공지능 동작에 대한 이해가능성 또는 설명 가능성

XAI(explainable AI)

- 개발자, 서비스 제공자, 이용자 모두의 노력 필요

• 개발자 : 은닉 기능을 개발하지 않으며, 위험에 대한 예측에 노력
• 제공자 : 위험 관련 정보 이용자와 공유, 교육과 메뉴얼 제공
• 이용자:  서비스 과정에 대한 설명을 공급자에게 요구할 권리가 있음, 투명성이 확보된 기술 사용

 

책임성

• 개발자 : 개발 과정부터 결과까지 품질을 인정하기 위해 노력, 윤리적 절차를 따라야 함
• 제공자: 사고에 따른 책임과 보상 원칙도 마련
• 이용자: 윤리 책임을 잘 숙지하고, 문제 발생시 책임을 물음

 

공정성

- 개발자는 데이터 입력시 공정성이 보장되는 지를 인지하고 있어야 함.

• 학습 데이터의 선택 시 운영 상황 고려
• 편견 탐지 및 완화에 도움이 되는 리소스 사용
• 인공지능 결과의 의미를 파악

 

신뢰성 및 안정성

- 어떤 상황에서도 안전하고 일관되게 가동하는 가

• 데이터: 부적절한 데이터가 포함되지 않았는 지 확인할 수 있어야 함
• 모니터링: 인공지능 운영 상황을 문서화하고 감시할 수 있어야 함
• 제어권: 인간이 쉽게 이해할 수 있는 방식으로 조정할 수 있어야 함
• 피드백: 사용자가 겪은 문제를 쉽게 보고할 수 있는 피드백 체계가 제공되야 함

 

개인정보 보호 및 보안

인공지능은 이용자에게 자신의 데이터 이용 방법을 선택할 수 있는 제어권을 요구하는 개인 정보 보호 규정을 준수해야 함

 

포용성

인공지능은 의도치 않게 사람들을 배제하거나 차별할 가능성이 있는 제품이나 환경의 잠재적 장애 요소들을 파악하고 해결해야 함

- 배제되는 사람이 없도록

- 하나의 솔루션에서 여러 솔루션으로 확장

- 다양성으로부터 배우기

 

공정성 vs 포용성

 

공정성 vs 포용성

 

 

 

출처

 

-If any problem for references, or any questions please contact me by comments.

-This content is only for recording my studies and personal profiles

 

일부 출처는 사진 내에 표기되어 있습니다

본문의 내용은 학습과 개인 profile 이외의 다른 목적이 없습니다

출처 관련 문제 있을 시 말씀 부탁드립니다

상업적인 용도로 사용하는 것을 금합니다

본문의 내용을 Elixirr 강의자료 내용을 기반으로 제작되었습니다

Microsoft에서 제공하는 정보를 담고 있습니다.

깃허브 소스코드의 내용을 담고 있습니다

본문의 내용은 MS AI School 6기의 강의 자료 및 수업 내용을 담고 있습니다.