테스트웍스는 이번 행사에서 ‘AI 신뢰 및 안전을 위한 AI·SW Safety & Testing’을 주제로 홍보 부스를 운영하고 발표 세션에 참가했다. 테스트웍스 AI 기능 안전 센터를 리드하고 있는 김병철 센터장(동아대학교 산업경영학과 교수)은 “AI 기술이 발전하고 사회 전반에 걸쳐 더 많은 영향을 미치면서 신뢰할 수 있는 AI를 구축하는 것이 더 중요한 이슈가 되고 있다”며 발표 세션을 진행했다.
‘신뢰할 수 있는 AI’는 AI 시스템이 안전하고 윤리적이며 공정하게 설계되고 운영될 수 있도록 보장하는 개념이다. 김병철 센터장은 이와 관련하여 ▲공정성 ▲책임성 ▲투명성 ▲안전성 ▲프라이버시 및 보안 ▲윤리적 사용 ▲지속 가능성을 포함한 15개 리스크 항목에 대해 짚어가며, 각 항목이 부족할 경우 초래될 수 있는 AI 리스크와 해결하고자 하는 노력에 대해 설명했다. 특히, 그는 “안전하지 않은 AI는 생명과 직결된 사고로 이어질 수 있기 때문에 AI 시스템이 예측 불가능한 행동을 하지 않도록 설계되는 것이 중요하며, 동시에 사용자의 안전을 위협하지 않아야 한다”라고 설명하며 “예를 들어, 자율주행차나 의료 시스템 등의 산업에서는 특히 높은 안전 기준을 충족해야 한다”고 강조했다. 또한, 이를 배경으로 AI에 대한 시스템적 결함 및 랜덤 하드웨어 결함 없이 안전성이 확보되고 있는지 시험, 심사, 평가하여 적합성 증서를 부여하는 AISC(AI•SW SAFETY CERTIFICATION) 제도에 대해서도 소개했다.
AISC는 세계 최초로 AI와 SW의 안전성을 보장하기 위해 AI•SW 전문 검증 및 KOLAS 국제공인시험기관인 테스트웍스, 네덜란드 인증기관인 Kiwa, SW 관련 협회인 한국정보산업연합회 3개 기관이 공동으로 글로벌 표준에 근거하여 Safety Integrity Level(안전성 무결성) 수준에 따라서 인공지능 안전경영 프로세스, 인공지능 안전수명주기, 품질레벨 요구사항인 안전성수준, 성능수준, 공정성 수준(AISL, AIPL, AIFL)에 적합할 경우 인증서를 발행하는 인증 제도이다.
[안재후 글로벌에픽 기자/anjaehoo@naver.com]
<저작권자 ©GLOBALEPIC 무단 전재 및 재배포 금지>
