ETRI 인공지능연구소(AISI) 주관 AI 안전 컨소시엄 2025년도 최종 합동회의


한국전자통신연구원(ETRI) 인공지능안전연구소(AISI)가 17일, 조선그라비티 서울 판교 호텔에서 국내 AI 안전 분야 전문가가 참여한 가운데 AI안전 컨소시엄 합동회의를 개최했다.
이번 회의에서는 국제 AI 평가·안전 네트워크 주요 동향, AISI의 지난 1년간 활동 성과, 컨소시엄 핵심 의제 추진 현황 등을 중심으로 논의가 진행됐다.
우리나라는 'AI기본사회' 실현을 목표로 AI 혁신 생태계 조성, 전면적인 인공지능 전환 바다이야기오락실 (AX), 글로벌 거버넌스 선도 등을 추진하며 국가 AI 전략을 체계적으로 강화하고 있다. 이 과정에서 국민이 체감할 수 있는 AI 안전 확보는 필수 요소로 부각되고 있으며, 글로벌경쟁력 핵심 기준으로 자리 잡고 있다.
AISI는 이런 정책적 요구에 부응해 독자 AI 파운데이션 모델의 안전성·신뢰성 평가, 국제 AI 안전 네트워크 공동 평 모바일릴게임 가 참여 등 국내외에서 AI 안전성 확보를 위한 노력을 지속해 왔다.
특히 AISI는 국내 AI 안전 연구의 구심점 역할을 해온 AI안전컨소시엄과 함께 연구성과 확산, 안전 평가 기술공유, 정책·제도 논의 등 다각적 협력 기반을 강화하고 있다.
이번 회의에서는 △국제 AI 안전연구소 네트워크의 활동 현황 △AISI의 1년 모바일릴게임 간 연구성과 △AI안전 컨소시엄 분과별 추진 결과와 향후 계획 등이 논의됐다.
또 12월 첫째 주 미국 샌디에이고에서 열린 제2회 글로벌 AI안전 네트워크 회의의 주요 내용을 공유했다. 이번 국제회의에서는 연구소 명칭 변경, 의장국 재편(영국), 네트워크 운영체계 조정 등 국제 AI 안전 협력 환경이 새롭게 변화하고 있으며, AISI는 이 게임릴사이트 에 대한 대응 방향과 국내 적용 방안을 제시했다.
AISI는 올해 구축한 데이터셋 및 안전성 평가 방안 초안을 이날 회의에서 처음 공개하고, 전문가 검토를 통해 활용성과 유효성을 높이기 위한 의견을 수렴했다. 앞으로도 기술적 검토와 공동연구를 지속해 국내 AI 안전 기술 체계를 고도화할 계획이다.
AI안전 컨소시엄은 향후 온라인골드몽 더 많은 기업·기관 참여를 유도해 국내 AI 안전 생태계를 확장하고, AI 안전 정책·연구 아젠다를 적극 발굴할 예정이다. 이를 위해 이날 회의에서는 신규 참여 희망 기관의 가입 절차와 역할을 논의했다. 추가 가입 신청은 AISI 홈페이지에서 가능하며, 의사 표명 시 준회원으로 등록되고 이후 심의를 거쳐 정회원으로 활동할 수 있다.
김명주 ETRI 인공지능안전연구소장은 “내년은 국가 AI 정책과 글로벌 거버넌스가 크게 변동하며 국가 간 경쟁과 협력이 복잡하게 얽히는 전환점이 될 것”이라며 “ETRI가 중심이 돼 굳건한 AI 안전 생태계를 구축하고, 국민 안전·안심과 글로벌 경쟁력을 동시에 확보할 수 있도록 AI안전컨소시엄 활동을 적극 확대하겠다”고 밝혔다.
이번 성과는 과학기술정보통신부가 지원하는 '생성형 AI 안전성 평가 기반 마련' 사업을 통해 추진됐다.
김영준 기자 kyj85@etnews.com