인공지능 통제와 규제를 위한 시사점과 대응 방안

2023년 12월, 인공지능 법안 시행에 최종적으로 잠정 합의한 유럽연합 등 국외 법안 사례를 통해 인공지능 관련 규제가 위험성 통제를 위한 제도로서 적절한지 확인하기 위해 먼저 짚어볼 수 있는 부분은, ‘우선 허용·사후 규제 원칙’의 타당성 여부이다. 

유럽연합의 인공지능 법안의 내용을 살펴보면, 사전 규제 원칙이 비교적 엄격하게 적용된다. 물론 사전 규제가 아닌 선제적 허용 및 사후 규제 원칙은, 기술 관련 산업 발전을 위한 불가피한 조치일 수 있다. 인공지능 관련 산업의 특성상 기술 개발 속도에서 뒤처지거나 해당 영역의 원천 기술력을 확보하지 못한다면 글로벌 기술 패권 경쟁에서 밀려날 수밖에 없기 때문이다. 

IT기술 강국인 우리나라가 인공지능 기술 분야의 선두 자리를 유지하기 위해서는 기술 발전의 발목을 잡을 수 있는 법적 규제를 최소화함으로써 탄탄한 산업 기반을 조성할 필요가 있을 것이다. 하지만 앞서 살펴본 바와 같이 인공지능은 복잡하고 전문적이며 불확실성을 안고 있어 잠재적 위험을 항상 내포하고 있으므로, 사전에 현저한 위험을 파악해 규제를 적용하기란 사실상 불가능한 일이다. 이에 따라 과학기술, 교육, 의료, 문화 등 우리 사회의 다양한 영역에서 인공지능 관련 위험성 이슈에 대한 사전 규제 방식을 적절하고 타당하게 설계하여 적용할 필요가 있다. 

또한 유럽연합의 인공지능 법안에서는, 인공지능 규제 대상을 크게 ‘최소 위험’(minimal risk), ‘제한된 위험’(limited risk), ‘고위험’(high risk), ‘수용 불가 위험’(unacceptable risk) 등 4단계로 분류하고 있다. 특히 수용 불가 위험은 인공지능 개발과 활용을 전면 금지하는 강력한 규제로 적용된다. 아울러 ‘고위험’ 영역에는 ‘건강, 안전, 기본권, 환경에 대한 위험성’이 강조되고 있고, ‘정치 캠페인 등 선거운동에서 유권자에게 영향을 미치는 인공지능 시스템, 4천5백만 명 이상의 사용자를 보유한 SNS 플랫폼에서 사용하는 추천 시스템’ 등이 포함되어 있다. 

따라서 우리나라에서 준비하는 관련 법안에도 규제 대상을 세분화하는 한편, ‘고위험’ 영역을 구체화하여 인간의 기본권은 물론 생명이나 안전성 등에 있어 위험이 예상되는 내용을 세부적으로 포함해야 할 것으로 판단된다. 이밖에 앞서 논의한 바와 같이 유럽연합의 인공지능 법안에는 ‘수용 불가 위험’이나 ‘고위험’ 영역에서 위배 사안이 발생할 경우, 높은 금액의 과태료 부과를 강제하고 있다. 이처럼 규제 위배에 대한 제재 방안을 명확하게 정의함으로써 가이드라인이나 권고 수준이 아닌, 글로벌 표준에 부합하는 실질적 조치를 통해 법안의 실효성을 높여가야 할 것이다. 

종합해 보면, 인공지능 기술 발전으로 인해 야기될 위험에 대한 통제 및 규제의 필요성은 더 이상 일부 국가가 주도적으로 해결해야 할 문제가 아닌 글로벌 협력을 통해 대응해야 할 난제가 되었다. 인공지능 기술 발전에 따라 발생할 수 있는 부작용이나 사회문제는 데이터 활용 문제나 개인 정보 유출, 사생활 침해, 저작권 논란 등에 국한되지 않는다. 인공지능 알고리즘 운용에 따른 자동화된 의사결정은 과학기술, 교육, 문화 등 사회 전반의 시스템에 막대한 영향력을 발휘할 수 있고, 인간의 기본권과 가치는 물론 민주주의 구현 자체에도 영향을 미칠 수 있으므로 현시점에서 대응 방안을 설정하는 것이 무엇보다 중요하다. 기술 선진국 등의 법안을 선제적으로 면밀하게 검토하고 올바른 방향성을 설정함으로써 효율적인 규제 거버넌스를 구축해야 하는 이유이다. 기술 발전과 진화가 불러올 부작용이나 위험성에 얼마나 적절하고 효율적으로 대처할 수 있을지, 그리고 사회문제 최소화 방안을 얼마나 선제적으로 마련할 수 있을지가 인공지능 기술 중심의 미래 전망을 밝게 하는 핵심 요소가 될 것이다.

출처 : 한국과학창의재단 이슈페이퍼 2023.5호(발행일 : 2023.12.18)