Open AI가 ChatGPT를 선보이고 AI가 전 산업의 주목을 받기 시작한지도 벌써 2년이 되어가고 있습니다. AI는 더 이상 허상의 존재가 아니라, 스마트폰, 가전 등의 일상제품부터 기업이 사용하는 다양한 소프트웨어에까지 적용되기 시작했습니다. 그러나 AI는 대량의 데이터를 기반으로 학습되고, 사용되는 과정에서도 사용자의 정보를 활용하는 만큼 그 개발과 사용에 있어서 엄격한 규제가 필요합니다.

유럽연합(EU)은 세계 최초로 'AI 법(AI Act)' 시행을 앞두고, 미국 또한 AI 산업 진흥에 초점을 맞춘 AI 정책을 시행하는 상황에서, 국내에서는 AI와 관련해 어떤 법안이 준비되고 있는지 살펴보고자 합니다.

-

발의된 “인공지능” 관련 법안: 총 15개

24년 5월 3일을 기준으로, 국회 의안정보시스템에서 확인되는 “인공지능” 관련 법안은 총 15개입니다. 이 중 제20대 국회의 임기만료로 2건의 법안이 폐기되었으며, 나머지 13개의 법안은 제21대 국회의 임기가 종료됨에 따라 폐기 위기에 놓여있습니다.

[사진1] 국내 ‘인공지능’ 관련 법안

인공지능산업 육성 및 신뢰 확보에 관한 법률안

이 중 국내 1호의 AI법안이 될 것으로 주목받았던 “인공지능산업 육성 및 신뢰 확보에 관한 법률안”(이하 ‘AI기본법’)은 2020년부터 발의된 인공지능 관련 7개의 개별 법률안을 통합하여 발의되었습니다. 

법률안은 다음과 같은 주요 내용을 포함합니다.

• 가) 인공지능산업을 진흥하고 인공지능사회의 신뢰기반 조성에 필요한 기본적인 사항을 규정함으로써 국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상과 국가경쟁력을 강화하는 데 이바지함을 목적으로 함(안 제1조).

• 나) 과학기술정보통신부장관은 관계 중앙행정기관의 장 및 지방자치단체의 장의 의견을 들어 3년마다 인공지능 기본계획을 인공지능위원회의 심의？의결을 거쳐 수립·시행하도록 함(안 제5조).

• 다) 인공지능사회의 구현 및 인공지능산업의 진흥과 관련된 사항을 심의？의결하기 위하여 국무총리 소속으로 인공지능위원회를 두도록 함(안 제6조).

• 라) 기본계획의 수립·시행에 필요한 전문기술의 지원, 인공지능과 관련한 시책의 개발 및 관련 사업의 기획·시행에 관한 전문기술의 지원 등의 사업을 수행하는 국가인공지능센터를 두도록 함(안 제10조).

• 마) 과학기술정보통신부장관은 인공지능기술 개발 활성화를 위해서 인공지능기술의 연구？개발, 활용 등 사업을 지원할 수 있도록 하고, 인공지능기술의 안전하고 편리한 이용을 위하여 「지능정보화 기본법」 제60조제1항 각 호의 사항에 관한 기술의 연구개발 등 사업을 지원할 수 있도록 함(안 제12조).

• 바) 국가 및 지방자치단체는 인공지능기술 도입 촉진 및 활용 확산을 위하여 관련 기업에 대한 컨설팅, 중소기업 및 벤처기업의 임직원에 대한 인공지능기술 도입 및 활용 관련 교육, 관련 자금 등의 지원을 할 수 있도록 함(안 제15조).

• 사) 과학기술정보통신부장관은 인공지능산업 진흥 및 인공지능 신뢰성 제고를 위하여 법령의 정비 등 관련 제도를 개선할 수 있도록 노력하고, 이에 관해 필요한 경우 관계 중앙행정기관의 장에게 협조를 요청할 수 있도록 함(안 제18조).

• 아) 인공지능 및 인공지능기술을 개발？제작하는 자는 인공지능의 신뢰성 확보를 위하여 인공지능의 작동 과정과 결과 등이 논리적？객관적으로 설명이 가능한 기술을 개발하고, 이용자의 기본적 권리를 보호하는 등 노력을 하여야 함(안 제24조).

• 자) 인공지능 또는 인공지능을 이용한 제품 및 서비스를 개발？활용？제공하려는 자는 그 인공지능이 고위험 영역에서 활용되는 인공지능에 해당하는지에 대한 확인을 과학기술정보통신부장관에게 요청할 수 있고, 과학기술정보통신부장관은 이에 대한 확인을 하도록 함(안 제26조).

• 차) 고위험 영역에서 활용되는 인공지능을 이용하여 제품 또는 서비스를 제공하려는 자는 해당 제품 또는 서비스가 고위험 영역에서 활용되는 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 함(안 제27조).

하지만 빠르게 변화하는 AI산업에서 한국의 AI기술력이 경쟁력을 갖기 위해 포함한 “우선허용ㆍ사후규제 원칙”은 이슈가 되기도 했는데요.

제11조(우선허용ㆍ사후규제 원칙) ① 국가와 지방자치단체는 인공지능 기술의 연구ㆍ개발 및 인공지능제품 또는 인공지능서비스의 출시를 허용하는 것을 원칙으로 한다. 다만, 인공지능기술, 인공지능제품 또는 인공지능서비스가 국민의 생명ㆍ안전ㆍ권익에 위해가 되거나 공 공의 안전 보장, 질서 유지 및 복리 증진을 현저히 저해하는 경우에는 이를 제한할 수 있다. ② 국가와 지방자치단체는 인공지능기술, 인공지능제품 또는 인공지능서비스 관련 소관 법령 및 제도를 제1항의 원칙에 부합하게 정비하는 방안을 강구하여야 한다.

국가인권위원회는 AI기본법이 “인공지능 개발·활용 과정에서 발생할 수 있는 인권침해, 차별, 사회적 편견의 확대·재생산, 개인정보 유출, 허위정보 생산 및 저작권 침해 등의 문제를 예방 및 규제하는 규정이 미흡”하며 “우선허용ㆍ사후규제 원칙” 또한 삭제되어야 한다고 의견을 표했습니다.

하지만 이러한 AI기본법을 발의한 제21대 국회의 임기가 이번 달에 종료되면서, 한 달 안에 본 법안이 본회의를 통과할 가능성 또한 희박해보이는데요. 유럽에서는 지난 3월 13일(현지시간) 유럽의회 본회의에서 AI법이 가결되면서, 세계 최초로 민간/정부를 아우른 포괄적인 AI기술 규제법안을 마련해 주목 받았습니다. 그 핵심은 다음과 같습니다.

유럽연합(EU)의 세계 최초 AI법 “Artificial Intelligence Act”

• AI의 위험도에 따라 구분하여 규제

A. 허용되지 않는 AI시스템 (Prohibited AI System): 허용되지 않는 위험(Unacceptable risk)을 포함하는 AI는 금지된다. 개인이나 집단을 개인적 특징이나 사회적 행동에 기반해 평가하는 소셜 스코어링(Social Scoring) 하는 경우나 “실시간 생체정보 수집 및 식별 시스템” 또한 여기에 포함된다.

B. 고위험 AI시스템(High risk AI System): 유럽연합의 제품 안전 법안에 포함되는 제품(예: 자동차, 장난감, 의료기기)에 활용되거나, 주요 인프라 시스템(예: 도로교통관리 시스템, 수도,가스, 전기 등의 공급 관리 시스템)이나 교육, 고용관리 등의 영역에 적용되는 경우 위험 관리 시스템, 데이터 거버넌스를 구축하고 시행하며, 인간이 직접 감독할 수 있는 환경을 제공하는 등 위험을 최소화 해야한다.

C. 일반목적AI (General Purpose AI, GPAI): 모든 GPAI 제공자는 AI의 훈련과 테스트 및 그 결과에 대한 기술 문서, 사용안내서를 공개해야 하며, 저작권 지침을 준수하고, 해당 모델을 훈련시키기 위해 사용된 콘텐츠에 대해 충분히 기술해야 한다.

D. 무료로 제공되는 오픈 라이선스 GPAI(Free and open license GPAI): 저작권 지침을 준수하며, 해당 모델을 훈련시키기 위해 사용된 콘텐츠에 대해 충분히 기술해야 한다.

본 법안은 ChatGPT와 같은 생성형 AI를 고위험군으로 분류하고 있지 않지만, 이러한 GPAI에 대해서도 투명성을 요구하며, (1) AI로 생성된 콘텐츠에 대해 그 사실을 표기할 것과, (2)불법 콘텐츠 생성을 예방할 것, (3)모델 훈련에 사용된 저작물에 대해서 공개할 것을 명시했습니다.

본 법안은 EU에 서비스를 제공하는 AI제공자를 대상으로 적용된다는 점에서, 유럽 시장 진출을 고려하는 국내 기업들에게 영향을 줄 뿐만 아니라, 세계의 첫번째 AI관련 규제 법안으로써, 한국을 비롯한 여러 국가의 AI법안 마련에 참조될 것으로 보입니다.

-

Reference

의안정보시스템
https://likms.assembly.go.kr/bill/main.do 

의안정보시스템, “인공지능산업 육성 및 신뢰 확보에 관한 법률안”
https://likms.assembly.go.kr/bill/billDetail.do?billId=PRC_H2X2J1V2M0Q1B0F9V2P9Q1E2D9T1Z2

김앤장 법률사무소, “인공지능법 제정안 국회 법안심사 소위원회 통과”
https://www.kimchang.com/ko/insights/detail.kc?sch_section=4&idx=26911 

전자신문, “'AI 전쟁' 치열한데...국회 문턱 못 넘는 'AI기본법'”
https://www.etnews.com/20240428000042 

세계법제정보센터, AI법 
https://world.moleg.go.kr/web/wli/lgslInfoReadPage.do?CTS_SEQ=51409&AST_SEQ=93 

중앙일보, “유럽의회, 세계 첫 'AI법' 통과...AI로 생체 정보 수집 금지”
https://www.joongang.co.kr/article/25235203#home 

EU Artificial Intelligence Act
https://artificialintelligenceact.eu/about/ 

European Parliament, “EU AI Act: first regulation on artificial intelligence”
https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence