지난주 MCT 써밋에서 한번 정리해 보아야 하겠다고 생각한 내용입니다.
담당 AI 이해
Microsoft에서 AI 소프트웨어 개발은 AI 애플리케이션이 의도하지 않은 부정적인 결과 없이 어려운 문제에 대한 놀라운 솔루션을 제공하도록 설계된 6가지 원칙 집합에 의해 안내됩니다.
공정성
AI 시스템은 모든 사람을 공평하게 대해야 합니다. 예를 들어 은행의 대출 승인 애플리케이션을 지원하는 기계 학습 모델을 만든다고 가정합니다. 모델은 대출이 바이어스 없이 승인되거나 거부되어야 하는지를 예측해야 합니다. 이러한 바이어스는 성별, 민족 또는 특정 신청자 그룹에게 불공정한 이익 또는 불이익을 주는 기타 요인을 기반으로 할 수 있습니다.
Azure Machine Learning에는 모델을 해석하고 데이터의 각 기능이 모델의 예측에 영향을 미치는 정도를 정량화하는 기능이 포함됩니다. 이 기능을 통해 데이터 과학자와 개발자는 모델의 바이어스를 식별하고 완화할 수 있습니다.
또 다른 예로 Microsoft가 Face 서비스를 통해 책임 있는 AI를 구현한 경우 감정 상태 및 ID 특성을 유추하는 데 사용할 수 있는 얼굴 인식 기능을 사용 중지합니다. 이러한 기능은 오용될 경우 사람들이 고정 관념, 차별 또는 불공정한 서비스 거부를 겪을 수 있습니다.
공정성과 관련된 고려 사항에 대한 자세한 내용을 보려면 다음 비디오를 시청하세요.
신뢰성 및 안전성
AI 시스템은 안정적이고 안전한 방식으로 작동해야 합니다. 예를 들어 자율 주행 차량에 대한 AI 기반 소프트웨어 시스템 또는 환자 증상을 진단하고 처방전을 권장하는 기계 학습 모델을 생각해 보세요. 이러한 종류의 시스템을 믿을 수 없다면 인간의 삶에 상당한 위험을 초래할 수 있습니다.
AI 기반 소프트웨어 애플리케이션을 개발할 때는 출시 전에 예상대로 작동하는지 확인하기 위해 엄격한 테스트 및 배포 관리 프로세스를 실시해야 합니다.
신뢰성과 안전성의 고려 사항에 대해 자세 알아 보려면 다음 영상을 시청하세요.
개인 정보 보호 및 보안
AI 시스템은 안전하고 개인 정보를 보호해야 합니다. 기계 학습 모델을 기준으로 하는 AI 시스템은 대량의 데이터에 의존하며, 여기에는 비공개로 유지해야 하는 개인 정보가 포함될 수 있습니다. 모델이 학습되고 시스템이 프로덕션 환경에 있는 경우에도 개인 정보 보호 및 보안을 고려해야 합니다. 시스템에서 새 데이터를 사용하여 예측하거나 조치를 취할 때 데이터와 데이터에서 내린 결정 모두 개인 정보 보호 또는 보안 문제의 대상이 될 수 있습니다.
개인 정보 및 보안 고려 사항에 대한 자세한 내용은 다음 비디오를 시청하세요.
포용성
AI 시스템은 모든 사람에게 힘을 주고 사람들과 관계를 맺어야 합니다. AI는 신체적 능력, 성별, 성적 지향, 인종 또는 기타 요인에 관계없이 사회의 모든 부분에 혜택을 가져다 주어야 합니다.
포용성과 관련된 고려 사항에 대한 자세한 내용을 보려면 다음 비디오를 시청하세요.
투명성
AI 시스템은 이해하기 쉬워야 합니다. 사용자는 시스템의 목적, 작동 방식 및 예상되는 제한 사항에 대해 충분히 인식해야 합니다.
투명성과 관련된 고려 사항에 대한 자세한 내용을 보려면 다음 비디오를 시청하세요.
책임성
사람들은 AI 시스템에 대한 책임을 져야 합니다. AI 기반 솔루션의 설계자와 개발자는 솔루션이 명확하게 정의된 윤리적 및 법적 표준 충족을 보장하는 거버넌스 및 조직 원칙의 프레임워크 내에서 작동해야 합니다.
댓글 없음:
댓글 쓰기
참고: 블로그의 회원만 댓글을 작성할 수 있습니다.