유럽연합(EU)이 세계 최초로 마련한 포괄적 인공지능(AI) 규제법이 압도적 찬성으로 통과됐다. 전 세계적으로 AI 기술 경쟁이 확산하며 그 위험성에 대한 우려가 끊임없이 제기되는 가운데, EU가 처음으로 이를 제한하기 위한 엄격한 규제안을 마련한 것이다. 이 법은 AI 규제를 위해 고심하는 다른 국가에도 이정표 역할을 할 것으로 보인다.

13일(현지시간) AFP통신 등에 따르면 유럽의회는 이날 프랑스에서 열린 본회의에서 ‘AI 법’ 최종안을 찬성 523표, 반대 46표, 기권 49표로 가결했다.

티에리 브르통 EU 내수시장 집행위원은 “신뢰할 수 있는 AI를 위한 세계 최초의 포괄적이고 구속력 있는 EU AI 법안에 대해 유럽의회가 압도적인 지지를 보냈다”면서 “유럽이 AI 분야에서 글로벌 표준을 제시했다”고 밝혔다.

EU는 이 법이 빠른 속도로 발전하는 기술의 위험으로부터 시민을 보호하는 동시에 혁신을 촉진할 것이라고 보고 있다.

이 법은 AI를 위험에 따라 분류하고 차등 규제한다. 법안에 따르면 EU는 AI 활용 분야를 총 네 단계의 위험 등급으로 나눈다. 고위험 등급으로 분류되는 의료·교육을 비롯한 공공 서비스나 선거, 핵심 인프라, 자율주행 등에서 AI 기술을 사용할 때 사람이 반드시 감독하도록 하고 위험관리시스템을 구축해야 한다.

범용 AI(사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI)를 개발하는 기업에 대해서는 ‘투명성 의무’를 부여하기로 했다. 이는 2021년 발의된 초안에는 없었지만, 이후 챗GPT 등 생성형 AI가 확산되면서 AI 오남용에 대한 우려가 커지자 입법 과정에서 추가됐다.

또 광범위한 사이버 공격, ‘유해한 선입견’ 전파 등 EU가 시스템적 위험이라고 규정한 사고 발생을 방지하기 위한 조처를 해야 한다. 별도의 정보 공개·고지 의무도 부과된다.

일부 AI 기술 활용은 원천 금지된다. 이른바 개인의 특성·행동과 관련된 데이터로 개별 점수를 매기는 관행인 ‘사회적 점수 평가’(소셜 스코어링)가 대표적이다. 경찰이 공공장소에서 AI로 시민의 얼굴을 인식하는 것 등 AI를 활용한 실시간 원격 생체인식 식별 시스템을 사용하는 것도 중대 범죄 용의자를 수색하는 등 예외적인 경우를 제외하곤 사실상 금지된다.

아울러 딥페이크 영상이나 이미지는 AI로 만든 조작 콘텐츠라는 점을 표기하도록 했다.

이 법안은 EU 27개국 장관들이 다음달 최종 승인하면 관보 게재를 거쳐 발효된다. 일부 금지 조항은 발효 뒤 6개월부터 적용되며 이후 단계적으로 도입돼 2026년 이후 전면 시행된다.

이 법은 제품이 개발된 지역에 상관없이 EU 시장에서 사용되는 AI 제품에 적용된다. 법을 위반할 경우 경중에 따라 전 세계 매출의 1.5%에서 최대 7%에 해당하는 과징금이 부과될 수 있다.

포레스터의 수석 애널리스트 엔자 이아노폴로는 “AI 법의 채택은 새로운 인공지능 시대의 시작을 알리는 것이며, 그 중요성은 아무리 강조해도 지나치지 않다”고 말했다.

CNN은 “(EU의 AI 법은) 지난해 척 슈머 상원 민주당 원내대표가 이 문제를 최우선 의제로 삼고 노력을 기울였음에도 아직까지 AI 관련 연방 법안에서 의미 있는 진전을 이루지 못하고 있는 미국과 뚜렷한 대조를 이룬다”고 평가했다.