디지털의료기기 AI 제어조치 심사기준(제5조 관련)

개요

서식에 들어가는 칸 60

• 1. 일반 사항
• 1.1 AI 제어 조치
• 가. 조직은 디지털의료기기에 포함된 AI/ML 소프트웨어 시스템 또는 항목
• 의 품질관리를 위하여 다음 영역에 필요한 AI 제어 조치를 결정하고 조
• 직 전반에 해당 조치를 적용하여야 한다.
• 1) 경영진 참여, 정책 수립 및 적용 등 경영책임
• 2) AI/ML 소프트웨어의 잠재적인 위험 식별, 평가, 완화 등 위험관리
• 3) 책임, 의사결정 및 승인 절차 등 거버넌스 체계
• 4) 학습용 데이터 품질 관리, 데이터 비식별화 조치 등 데이터 처리
• 5) 인공지능 모델 설계 및 구현
• 6) 학습용 데이터 및 인공지능 모델을 결합한 AI/ML 소프트웨어 시스템
• 개발
• 7) AI/ML 소프트웨어의 주기적인 정확도 확인 등 운영 및 모니터링
• 나. 조직이 정의하는 AI 제어 조치는 다음 내용을 포함하여야 한다.
• 1) 해당되는 경우, 프로세스 입력 이전에 수행된 프로세스의 산출물, 품질
• 관리시스템 내의 문서관리시스템에 기록된 기타 자료 등 프로세스 입력
• 사항
• 2) 프로세스 내 활동 수행 절차
• 3) 수행된 프로세스의 산출물 등 프로세스 출력 사항
• 다. 결정된 AI 제어 조치들은 기존 품질경영시스템의 소프트웨어 수명주기
• 프로세스 내의 활동으로 정의될 수도 있고 독립적인 소프트웨어 수명
• 수기 프로세스로 정의될 수도 있는데 어떤 경우든 문서화되고, 실행 기
• 록은 기록되며 산출물은 문서화하여야 한다.
• 라. 조직이 수행하는 활동이나 소프트웨어 특성으로 인하여 위 요구사항이
• 적용되지 아니하는 경우, 조직은 이를 포함시키지 아니할 수 있다. 다만,
• 조직은 적용하지 아니하기로 결정한 모든 요구사항에 대하여 정당성에
• 대한 근거를 기록하여야 한다.
• 1.2 경영책임
• 가. 최고 경영자는 AI 제어 조치의 개발 및 실행, 그리고 AI 제어 조치의
• 효과성을 유지하기 위한 의지의 증거를 다음을 통하여 제시하여야 한다.
• 1) AI 방침(AI Policy) 수립
• 2) AI 목표(AI Objective) 수립
• 3) 검토 수행
• 나. 최고 경영자는 AI 방침이 다음과 같음을 보장하여야 한다.
• 1) 조직의 목적에 적절할 것
• 2) 요구사항을 준수하고 AI/ML 소프트웨어 시스템의 효과성을 유지하려
• 는 의지를 포함할 것
• 3) AI 목표를 수립하고 검토하기 위한 기반을 제공할 것
• 4) 조직 내에서 의사소통이 이루어질 것
• 5) 지속적인 적절성을 위하여 검토될 것
• 다. 최고 경영자는 AI 목표가 적용되는 법적 요구사항과 제품에 대한 요구
• 사항을 충족시키는데 필요한 사항을 포함하고, 조직 내의 관련 기능 및
• 계층에서 수립됨을 보장하여야 한다.
• 라. AI 목표는 측정 가능하여야 하며, 품질방침과 일관성이 있어야 한다.
• 마. 최고 경영자는 다음 항목을 포함하여 경영검토를 수행하여야 한다.
• 1) AI 제어 조치 관련 경영검토에 대한 절차 문서화
• 2) 문서화된 계획된 주기로 AI 제어 조치를 검토하여, AI 제어 조치의 지
• 속적인 적합성, 적절성 및 효과성 보장
• 3) AI 방침 및 AI 목표를 포함하여 AI 제어 조치의 변경 필요성 및 개선
• 가능성에 대한 평가
• 바. 경영검토에 관한 기록은 문서화하고, 유지하여야 한다.
• 1.3 자원 관리
• 가. 조직은 다음에 필요한 자원을 결정하고 확보하여야 한다.
• 1) AI 제어 조치의 실행 및 그 효과성 유지
• 2) 적용되는 법적 요구사항 및 고객 요구사항의 충족
• 나. AI 제어 조치 업무를 수행하는 인원은 적절한 교육, 훈련, 숙련도 및
• 경험을 바탕으로 능력을 갖추어야 한다.
• 다. 조직은 AI 제어 조치 운영에 필요한 인원이 갖추어야 할 역량을 확립
• 하고, 인원에게 필요한 훈련을 제공하며, 인원의 인식을 보장하기 위한
• 프로세스를 문서화하여야 한다.