주요업무
[Mission of the Role]
AI Safety Manager는 당사 AI 기반 인지 소프트웨어의 SOTIF(Safety of the Intended Functionality)와 AI-Safety(ISO/PAS 8800)를 안전 전략 수립 단계부터 제품 출시를 뒷받침하는 근거 확보까지 전체 과정을 책임집니다.
엔지니어링 조직 전반에 적용될 SOTIF/AI-Safety 프로세스를 정의하고 적용하며, 딥러닝 기반 컴포넌트의 기능적 불충분성(functional insufficiency)와 트리거링 조건(triggering condition)을 식별 및 평가하는 작업을 주도하고, 잔존 위험(residual risk)이 수용 가능한 수준임을 입증하는 수용 기준(acceptance criteria)과 검증 목표(validation target)에 합의합니다.
Functional Safety, Cybersecurity, Perception 개발팀과 긴밀히 협업하며, 고객·감사인·심사원을 대상으로 당사의 SOTIF/AI-Safety 논증(argumentation)을 대표해 제시합니다.
[Key Responsibilities]
• 전사 표준 프로세스의 일환으로 SOTIF(ISO 21448)/AI-Safety(ISO 8800) 프로세스를 정의하고 적용하며 지속적으로 개선하고, AI 개발 생애주기 전반에 걸쳐 준수되도록 관리합니다.
• DNN 기반 인지 컴포넌트(peception components)의 기능적 불충분성(functional insufficiencies), 성능 한계, 트리거링 조건을 식별합니다. (FI-to-TC, TC-to-FI 분석 경험 보유)
• 잔존 위험(residual risk)에 대한 수용 기준(acceptance criteria), KPI 목표, 검증 전략을 도출하고 합의합니다.
• Functional Safety Manager와 함께 hazard analysis and risk assessment (HARA)를 지원합니다.
• AI 시스템 안전 요구사항을 정의하고, 이것이 설계, 데이터 전략, 학습, 검증 및 확인(verification and validation) 활동에 통합되도록 관리합니다.
• AI 기반 시스템의 정상 성능(nominal performance)을 평가하고, 테스트 데이터 및 필드 데이터 커버리지를 검토하며, 그 결과를 바탕으로 개선이 필요한 영역을 파악합니다.
• SOTIF/AI-Safety 논증과 그 근거를 개발 및 유지하고, 이를 사내 이해관계자, 고객, 감사인, 심사원에게 제시합니다.
• 엔지니어링, 제품 개발, 법무, 컴플라이언스 팀과 협업하여 안전 표준 및 새롭게 등장하는 AI 규제 준수를 보장합니다.
• 개발팀을 대상으로 SOTIF/AI-Safety 방법론에 대해 코칭하고, 조직의 AI Safety 역량을 향상시킵니다.
• SOTIF/AI-Safety 요구사항에 따라 안전 관련 문서와 기록을 작성하고 관리합니다.