이번 가이드북은 2023년 6월 발표한 ‘챗GPT 등 생성형AI 서비스 활용 보안 가이드라인’을 한국 내 여러 분야의 AI도입 확산과 AI시스템에 대한 위협 증가 등 변화된 환경에 맞춰 개정한 것이다.
국가정보원에 따르면, 이번 개정 과정에서는 실용성을 높이기 위해 300개 공공기관을 대상으로 한 AI 도입·보안관리 실태 조사 결과와 유관 기관·학계·산업계 등 현장 및 전문가 의견을 폭넓게 반영하였다.
또한 새로운 가이드북에선 ▲미국 NIST AI RMF ▲ISO/IEC 42001 ▲OWASP LLM 10대 취약점(OWASP Top 10 for LLM) ▲MITRE ATLAS ▲영국 NCSC의 AI 시스템 안전성 가이드라인 등 국내외 주요 문서를 참고하여 내용을 보완·정교화하였다. 다만 본 가이드북은 AI 시스템의 보안성과 안전성에 초점을 두고 있어, 답변 편향이나 환각 등과 같은 이슈는 범위에서 제외하였다.
주요 내용으로는 생성형 AI, 에이전틱 AI, 피지컬 AI 등 다양한 유형의 AI 시스템의 특징을 소개하고, 학습데이터 오염 등 15개 보안위협과 30개 보안대책을 제시하였다. 또한 데이터 수집, AI 학습, 시스템 구축, 운영 등 AI 시스템 수명주기 단계별 보안위협 및 대응 방안과 함께 57개 보안 체크리스트를 포함하였다. 아울러 챗GPT, 클로드, 제미나이 등 주요 생성형 AI 도구를 사용할 때 적용해야 할 보안 설정·규칙도 상세히 설명하였다.
국정원
국정원 국가인공지능안보센터장은 10일 보도자료를 통해 “이번 가이드북이 안전한 AI시스템 도입ㆍ활용을 위한 이정표로서, 기관별 자체 보안 강화에 도움이 되길 기대한다”면서 “앞으로도 국가 AI대전환이 안전하게 이루어질 수 있도록 적극 뒷받침 하겠다“라고 설명했다.
AI 보안 가이드북의 자세한 내용은 국정원 홈페이지의 ‘발간자료’ 메뉴에서 확인할 수 있다.
한편, 국정원 국가인공지능안보센터는 2025년 2월 신설된 부서로서 ▲AI 안보 관련 위협정보의 수집·분석 및 대응 ▲국가·공공분야 AI 도입‧활용에 대한 보안정책 수립 ▲AI 안보 위협 대응기술 연구개발 ▲국제 협력을 통한 글로벌 AI 안보 네트워크 구축 등을 수행하고 있다.
[email protected]