유럽연합(EU)이 AI 규제 법안인 'AI 법(Artificial Intelligence Act)에 대한 잠정 합의에 도달했다.

로이터, 블룸버그, 워싱턴포스트 등 다수의 외신에 의하면 EU 27개국과 EU 의회 의원들은 사흘간 37시간의 마라톤 회의 끝에 AI 법에 대한 잠정 합의에 도달했다고 보도했다.

이번 법안은 AI의 위험성을 분류하고 투명성을 강화하며, 규정을 준수하지 않는 기업에는 벌금을 부과하는 내용이 포함돼 있다.

이번 합의에서 오픈소스 모델에 대한 강력한 규제가 면제된 것에 이어 안면 인식에도 예외 사항을 인정했다. 안면 인식 데이터베이스 구축을 위해 인터넷이나 보안 영상에서 생체 정보를 스크랩하는 것을 금지했지만, 사법당국의 인신매매 피해자 수색, 테러 위협 예방, 살인·강간 등 범죄 용의자 추적 등을 위한 ‘실시간’ 안면 인식은 허용하는 등 일부 예외 조항을 둔 것이다. 또한, 오픈AI의 챗GPT, 구글 바드와 같은 대규모 언어 모델은 규제하지만, 국가 안보와 법 집행을 위해 활용하는 AI에는 광범위한 예외 조항을 두기로 했다.

이번 기술 규제 법안이 마련됨에 따라 EU에서 사업하려는 기업들, 특히 자율주행차나 의료 장비와 같은 고위험 기술을 선보이는 기업은 데이터를 공개하고 엄격한 테스트를 수행해야 한다. 규정을 위반하는 기업은 750만 유로(약 100억 원) 또는 매출액의 1.5%부터 3500만 유로(약 500억 원) 또는 전 세계 매출액의 7%에 이르는 다양한 벌금을 부과하기로 했다.

특히 '챗GPT'와 같은 범용 AI 파운데이션 모델은 출시 이전에 투명성 의무를 준수해야 하며, 여기에는 시스템에 대한 자세한 문서(시스템 카드), EU 저작권법 준수 사항 , 모델 학습 데이터에 대한 자세한 내용 등을 EU에 보고하는 것이 포함된다. 특히 시스템적 위험이 있는 영향력이 큰 파운데이션 모델, 즉 첨단 프론티어 모델은 자체 및 외부 레드팀에 의한 위험 테스트를 수행하는 것은 물론 사이버 보안을 보장하고 에너지 효율성에 대해 보고하는 것은 물론 추가 조사를 받게 된다. 

EU는 정치적, 종교적, 철학적 신념, 성적 취향과 인종을 추론하기 위해 인지 행동 조작, 인터넷이나 CCTV 영상에서 얼굴 이미지를 의도적으로 스크랩하거나 생체 인식 분류 시스템을 사용하는 것을 금지했다. 다만 각 정부는 테러 공격과 같은 위협을 예방하고 심각한 범죄자를 수색하는 경우에만 공공장소에서 실시간 생체 인식 감시를 ​​사용할 수 있다고 합의했다.

EU의 AI 규제 논의는 행정부 격인 집행위원회가 2021년 4월 법안 초안을 발의하면서 본격적으로 시작됐다. 그러나 이후 새로운 기술 혁신이 등장하면서 법안을 재작성하는 과정을 거쳤다. 특히 프랑스와 독일 등 일부 국가들이 자국 기업에 불리할 수 있다는 이유로 일부 규정을 완화해달라고 나서면서 수차례 난관에 부딪히기도 했다.

앞으로 며칠간 세부 사항을 논의할 예정이며, 이로 인해 최종 법안의 형태가 바뀔 수 있다.

이미 일부에서는 생체 인식에 대한 예외 조항에 대한 불만은 물론이고, 다른 한편에서는 AI 서비스를 포함해 AI 기술에 이르는 포괄적인 규제로 인해 기업에 큰 부담이 될 것을 우려하는 목소리 또한 높아지고 있다.

이번 EU의 AI 법이 향후 다른 국가의 관련 법 제정에 가이드라인이 될 가능성이 높기에 이번 법안에 대한 관심의 눈길이 더욱 모이고 있는 상황이다.

이번 AI 규제 법안의 최종 합의문은 아직 유럽 의회와 회원국들의 공식 승인을 거치지 않아 공개되지 않았으며, 승인 후 완전히 발효되기까지는 2년이 소요될 것으로 예상되고 있다. 이후 EU는 AI 규제를 위한 국가별, 범유럽 규제 기관을 창설할 예정이다.

[알림] GTT KOREA의 동영상 마케팅 플랫폼 GTT SHOW는 오는 12월 14일 목요일 오후 2시부터 오후 3시까지 “기업의 데이터 중심 성과향상과 의사결정 효율 높이는 '전사 기업성과관리' 전략”을 주제로 무료 온라인 세미나를 진행한다. 기업의 다양한 성과 지표의 측정과 분석, 경영계획, 이동계획, 차이 및 변수 별 분석 등 경영 의사결정을 돕고 경쟁력을 강화하는 기업성과관리(CPM) 솔루션 및 ERP와 함께 운용했을 때의 장점과 실제 도입 사례를 통해 전사 CPM과 경영계획 프로세스를 개선하는 전략과 활용법이 소개된다.