유럽연합(EU) 회원국들이 세계 최초로 인공지능(AI) 규제법을 승인했다는 소식이 전해졌습니다. 전세계적으로 AI 개발이 가속화되면서 AI의 위험성에 대한 경고의 목소리는 꾸준히 있어왔는데요. ChatGPT의 OpenAI CEO 샘 알트먼은 AI에 대한 과잉 규제를 비판하기도 했습니다. AI는 규제의 대상일까요? 세계 최초로 AI법을 제정한 EU는 AI규제에 대해 어떻게 접근하고 있는지 알아보겠습니다. 

EU의 AI법 도입 과정

AI법은 긴 논의 과정을 통해 승인되었습니다. EU 내에서도 각 국가별로 AI산업에 대한 발전 정도나 대응 방안이 달라 합의점을 도출하기 어려웠기 때문인데요. 특히 2021년 AI법이 처음 발의될 때는 없던 생성형 AI 관련 조항이 이듬 해 ChatGPT가 각광을 받으면서 오남용 우려가 확산되자 입법 과정에서 관련 조항이 추가되기도 했습니다. 

2021년 4월 EU의 AI법 첫 발의

2023년 12월 EU의 3대 규제 기구(*)가 첫 AI법에 합의​

             *유럽의회, 27개 회원국을 대표하는 이사회, 유럽연합집행위원회(EC) 

2024년 2월 유럽연합 회원국 만장일치로 AI법 승인

2024년 3월 유럽연합 의회 본회의에서 AI법 최종안 가결

2024년 5월 유럽이사회 AI법 최종 승인

2024년 5월 중 유럽이사회 인준 거치면 AI법이 확정되어 내년부터 발효될 것으로 예상

EU의 AI법 주요 내용

티에리 브레토 EU 내수시장 담당 위원은 "EU는 AI분야의 글로벌 표준 설정자가 됐다"고 강조했는데요, 세계 첫 AI 규제법인 만큼 그 내용에 관심이 집중되고 있습니다. AI 기술을 투명하고 책임성있게 사용하도록 하기 위하여 AI 시스템과 AI모델에 대한 신뢰성, 투명성 책임 의무를 부과하는 것이 주요 내용입니다. 

⚠️ AI 위험 수준 4단계 정의

▶​ 수용할 수 없는 위험(사용 금지) 

▶​​ 고위험(중요 인프라 및 취업·교육 등에 관한 시스템 포함) 

▶​​ 제한된 위험(자신을 AI로 인식하는 챗봇과 같은 '특정 투명성 의무'가 있는 시스템 포함)

▶​​ 최소 위험 또는 무위험(AI 지원 게임 및 필터 기술 등 대다수 시스템) 

🔍​ 생성 AI 개발 업체에 투명성 의무 강화

▶​​ 생성형 AI 기술은 시장에 내놓기 전에 투명성 의무를 준수하도록 의무화

▶​​ ‘딥페이크’ 같은 이미지는 반드시 AI로 생성했다는 사실 공개 의무화

▶​​ 자율주행차 같은 고위험 기술을 사용하는 기업들 역시 데이터 공개 의무화

▶​​ 자율주행차 안전 강화를 위해 엄격한 테스트 의무화

🧑‍🤝‍🧑​ 생체 정보 수집을 엄격하게 제한

▶​​ 핵심 쟁점 중 하나였던 얼굴인식 기술 사용도 엄격하게 제한하고, 테러범 추적이나 국가 안보 같은 꼭 필요한 경우 외에는 얼굴인식 기술을 사용 금지

💰​ 규정 위반시 벌금 부과

▶​​ 금지 규정 위반에 대한 벌금은 위반 유형에 따라 다양하며, 최대 3천500만 유로(약 500억원) 혹은 세계 매출의 7%에 해당하는 벌금 부과​

새로운 법안 대부분의 조항은 2026년에 적용되지만, 소셜 스코어링(개인이나 기업에 대한 평판 및 신용 측정), 예측적인 치안조치, 인터넷에서 얼굴 이미지 추출 등 인권침해적 AI 서비스에 대한 규제는 새 규정이 발효된 6개월후부터 즉시 적용됩니다. 또한 EU 역외 회사라해도 AI 플랫폼에서 EU 고객 데이터를 사용하는 경우 이를 준수해야하므로, 다른 국가와 지역에서도 EU의 AI법을 청사진으로 사용할 가능성이 높습니다. 우리나라에서도 AI법 제정을 위한 논의가 진행중인데요 오랫동안 국회에 계류되고 있는 AI법이 국제사회의 움직임에 맞추어 속도를 낼지 궁금합니다.

[관련 기사]

"AI 규제 필요하나 너무 과하면..." 오픈AI CEO, 유럽 운영중단 경고 - 머니투데이

EU 'AI법' 초안 3월 나온다...첫 AI 규제에 관심 집중 - AI타임스​

EU, 세계 첫 'AI법' 확정... 이사회 최종 승인 - ZDNET Korea​

EU, 세계 첫 AI법 승인...6월 발효돼 내년부터 적용 - ZDNET Korea​​