국내에서 처음으로 인공지능(AI)의 윤리와 신뢰성 기준을 제시한 단체표준이 제정됐다.
과학기술정보통신부(과기정통부)는 한국정보통신기술협회(TTA)와 함께 6일 TTA 제104차 정보통신표준총회를 열고 'AI 시스템 신뢰성 제고를 위한 요구사항' 정보통신단체표준(단체표준)을 제정했다고 12일 밝혔다.
단체표준은 특정 전문분야에 적용되는 기호, 용어, 기술, 절차 및 시험방법에 대해 전문기관 또는 단체가 제정한 표준을 말한다. 이번에 제정된 단체표준은 과기정통부가 2020년부터 발간한 '국가 AI 윤리기준', 분야별 '신뢰할 수 있는 AI 개발안내서' 6종을 기반으로 신뢰성 적용범위, 특성, 시스템 생명주기 및 이해관계자 등 AI 시스템 신뢰성 구성요소와 요구사항을 제시했다.
기준에 따르면 AI를 개발할 때 AI의 보안성, 설명가능성, 예측가능성, 제어가능성, 투명성 등 12개 특성을 고려해야한다. AI 제공자, AI 생산자, AI 고객 등 이해관계자를 고려해야하며 초기 설계·개발부터 재평가 및 폐기 단계까지 AI의 총 생명주기를 고려해 개발하도록 했다.
또 AI 시스템 위험관리 계획 및 수행, 수집‧가공된 학습데이터의 편향 제거, AI 모델의 편향 제거, AI 시스템의 안전모드 구현 및 문제발생 알림절차 수립 등의 요구사항을 만족해야한다.
과기정통부는 AI 신뢰성 관련 국제표준인 ISO/IEC TR 24028(신뢰성 개요), ISO/IEC 23894(위험관리), ISO/IEC 22989(용어)의 신뢰성 개념과 용어, 요구사항와 일관된 내용의 표준을 제정해 국제 호환성을 확보했다고 설명했다.
이어 이번 단체표준 제정을 시작으로 향후 단체표준의 요구사항에 대한 검증 프로세스를 표준화하고 단체표준의 내용을 분야별로 확대해 위험 기반의 검증 항목·절차에 대한 표준화를 지속 추진하겠다고 밝혔다. 미국‧영국 등 글로벌 주요국과 표준화 협력을 강화해 AI 윤리·신뢰성 관련 표준에 대한 글로벌 주도권을 확보하겠다는 계획이다.
박윤규 과기정통부 2차관은 "그간 정부가 추진해 왔던 AI 윤리‧신뢰성 제고를 위한 정책적 노력으로써 AI 시스템의 신뢰성 확보를 위한 기준이 마련되었다는 점에서 의미가 크다"며 "국내기업들이 글로벌 진출을 확대해 나갈 수 있도록 AI 신뢰성 분야 국제표준화도 적극 추진해 나가겠다"고 말했다.
동아사이언스(dongascience.com) 박건희 기자 wissen@donga.com 2023.12.12 12:00