AI는 전 산업에 빠르게 확산되며 일상 속 활용도가 높아지고 있다. 정부는 국가AI전략위원회를 발족하며 글로벌 3대 AI 강국 도약을 위한 전략을 추진 중이다. 그러나 이러한 AI 확산의 전제조건은 안전성 확보다. 기술이 사회 전반에 적용되면서 오류, 편향, 규제 대응 등 신뢰성 문제 해결이 필수적이기 때문이다. 이에 따라 국내에서는 AI 안전을 체계적으로 연구하고 제도화하기 위한 논의가 활발해지고 있다.

한국전자통신연구원(ETRI)의 인공지능안전연구소(AISI)가 AI 안전성과 신뢰성 확보를 위해 AI 안전컨소시엄 합동회의를 개최하며 활동을 본격화한다고 30일 밝혔다.

AISI는 지난해 11월 개소 이후 국내 AI 안전 연구의 전담 조직으로 활동하며 24개 기업·기관이 참여하는 AI안전컨소시엄을 출범시켰다. 이날 회의에서는 ▲AI안전연구소 주요 추진 현황 및 성과의 공유 ▲AI안전컨소시엄의 운영체계의 확정 및 분과별 의제에 대해 논의할 예정이다.

컨소시엄은 정책·평가·연구 등 3개 분과로 운영된다. 정책 분과는 국내외 규제와 대응 전략, 특히 EU AI 법안 대응을 논의한다. 평가 분과는 글로벌 AI 안전 평가 사례를 공유하며 실제 평가 수행 방안을 검토한다. 연구 분과는 연구소의 성과를 확산하고 산학연 연계를 강화하는 역할을 맡는다.

국제 협력과 비교 사례

AI 안전 연구는 미국 AI표준혁신센터(Center for AI Standard and Innovation), 일본 AI안전연구소(AI Safety Institute)도 민간 중심의 컨소시엄을 운영하며 자국 역량을 확산하는 방식으로 추진 중이다. 한국 역시 AI안전컨소시엄을 통해 정책 제안, 평가 기준 마련, 연구 성과 공유 등을 수행하며 국가AI 거버넌스 체계 확립에 기여한다는 방침이다.

AISI는 올해 중 추가 멤버 합류 절차를 마련해 역량 있는 기업과 기관의 참여를 적극 유도할 계획이다. 또한 하반기에도 정책, 평가, 연구 성과를 공유하고 산학연 협력을 지속적으로 확대할 예정이다. 이를 통해 국내 대응 체계를 공고히 하고 AI 안전 담론을 선도하는 구심점 역할을 강화한다.

ETRI 김명주 인공지능안전연구소장은“AI 안전은 AI 기술 혁신을 뒷받침하는 기반이자, 글로벌 경쟁력을 결정짓는 핵심 기술 요소인 만큼 AI안전컨소시엄의 활동을 적극적으로 확대해 나가겠다.”라고 말했다.