[블로터11th] “인공지능 규제? 상시적 영향평가 필요해”

[인터뷰] IT법학 전문가 심우민 법학박사

‘인공지능(AI)이 규제의 대상일까? 감시의 대상은 아닐까? 누구를 만나 물어야 하지? 철학자, 공학자, 법학자, 사회과학자, 미래학자? 이 모두를 만나야 하는 게 아닐까?’ AI 그리고 규제. 두 단어를 마주하고 머릿속에서 여러 생각이 어지러이 엉켰다.
수챗구멍에 엉켜있는 머리카락 뭉치 같은 생각을 정리하지 못한 채 9월2일 심우민 경인교대 교수와 마주했다. 그는 국내 몇 안 되는 IT법학 전문가다. 2000년 연세대 대학원 법학과에 진학하며 IT법학에 뛰어들었다. 이후 IT법학이 부흥기를 맞았을 때나 침체기를 겪었을 때나 IT법학 연구를 해왔다. 그와 질펀하게 이야기를 나눈 후, 머릿속을 어지러이 했던 물음표들이 하나둘 해소되는 걸 느꼈다. 그와 나눈 이야기를 전한다.
심우민 경인교대 교수·법학박사.

‘알고리즘 기반 규제’로부터의 자유를 고민하는 IT법학자 

기자 : AI가 규제의 대상인가, 감시의 대상인가?
심우민 : 규제냐 감시냐… 오히려 AI가 인간을 감시하고 인간 행위를 규제하는 거 아닌가?
AI 규제를 논하기 위해선 AI에 규제가 필요한 이유가 설명돼야 한다. 심우민 교수는 ‘알고리즘 기반 규제’로 이를 설명했다. 알고리즘 기반 규제는 기술적 구조가 인간 행위, 인간 자유에 제약을 가하는 것을 뜻한다. 기술은 편리를 제공해 인간 행위의 자유를 증진하는 동시에 기술적 구조 안에서만 판단하고 행동하도록 제약하기 때문이다.
예를 들어, 미국 법원은 피고인의 재범 가능성을 추측하는 컴퓨터 프로그램을 사용한다. 과거 재범 가능성을 예측하는 것은 인간의 영역이었다. 그런데 이제는 알고리즘의 영역으로 넘어간 것이다. 판사는 알고리즘이 추측한 재범 가능성을 바탕으로 피고인의 형량, 보석금 액수 등을 결정한다. 결과적으로 판사의 판단이 알고리즘의 제약을 받게 된 것이다.

“AI 규제? 기존 법적 규제와 달리 접근해야!”

기자 : AI 규제, 어떻게 해야 하나?
심우민 : 일단 국가가 법을 통해 개입하는 건 가급적 자제해야 한다. 또 전통적인 법적 규제와는 다른 관념으로 접근해야 한다.
심우민 교수는 국가가 법을 통해 AI 규제에 개입하는 건 되도록 자제해야 한다는 입장이다. 국가가 인허가 혹은 행위규제 방식으로 AI 산업을 규제하면 당연한 순리로 자율성이 저하된다. 엔지니어도 폭발적인 아이디어를 내기 어렵다. 심 교수는 또 “사람들이 우려하는 인간 수준의 AI는 아직 세상 어느 곳에도 없다”라며 직접적 법적 규제는 현 단계에서 논의할 수준이 아니라고 말했다.
심 교수는 ‘상시적 영향평가’라는 규제 방식을 제시했다. 그는 “반드시 무언가를 ‘하지 말라’라고 하는 것만이 규제가 아니다”라며 “지속해서 추적 평가하는 것도 법적 규제의 한 방식”이라고 말했다. 심 교수는 구글, 페이스북 등 유수 기업이 자발적으로 AI 기술 윤리위원회를 만들어 운영하는 사례를 들며 “한계는 있지만, 사업자들이 스스로 윤리위원회를 구성해 자발적 성찰을 하도록 하는 게 바람직하다”라고 말했다.
물론 기업의 손에 전적으로 인류와 AI의 미래를 맡기자는 게 아니다. AI 기술에 대한 상시적 추적 평가는 국가적 차원에서 필요하다. 심 교수는 국가적 차원의 관리감독 기관이 AI 기술에 대한 상시적이고 실질적인 영향평가를 해야 한다고 말했다.
상시적이고 실질적인 영향평가는 이벤트성 기술 영향평가가 아닌 지속적인 영향평가와 단순 정량 분석에서 나아간 의견 수렴 과정을 포괄하는 개념이다. AI 기술과 윤리, 위험성 판단은 통계적 정량 분석으로만 할 수 있는 영역이 아니다. 통계적 분석만을 근거로 법, 규제, 정책을 입안하는 건 사실상 불가능하다. 정량 분석 자료를 놓고 의견 수렴 절차를 거쳐야 한다. 가령 A의 수용 여부를 논의하고, 그 결과 및 근거 등을 기록·공개하는 것이다. 이같은 의견 수렴 과정을 거치면 이후 A와 관련된 입법이 잘못됐을 때 이를 추적해 정책적, 행정적 책임을 물을 수 있다.
“‘AI 규제’라는 문제를 놓고 ‘분석을 해보니까 이런 규제가 필요할 거 같은데 어떻게 생각하느냐’라고 생산자, 소비자 등에게 물어보는 겁니다. 다양한 의견이 나오겠죠. 그러면 정부는 이 의견들을 다 모아서 이에 대해 평가를 해야 합니다. 그래서 어떤 의견을 수용하고 또 어떤 의견을 수용하지 않을지 제시하고, 또 이 결정에 대해 평가하는 절차를 반복하는 것이죠.”

“러다이트 운동 일어날 수도…이해관계 조율할 메커니즘도 필요”

기자 : 상시적이고 실질적인 기술 영향평가만 하면 되나?
심우민 : 사회적 이해관계를 조율하는 국가적 차원에서의 메커니즘도 필요하다.
시기에 대한 예측은 다양하지만 많은 사람이 AI 기술이 인류에 큰 변화를 가져다줄 것이라고 예측한다. 미래학자 레이 커즈와일은 자신의 저서 <특이점이 온다>에서 특이점을 뒷받침할 가장 심원한 혁명으로 강력한 AI를 앞세운 로봇공학을 제시하기도 했다.
AI 기술을 둘러싼 이해관계의 충돌 역시 폭발적으로 증가할 것이다. 심우민 교수는 AI 기술이 탑재된 새로운 방식이 시장에 들어왔을 때 기존 이해관계 당사자와 의견을 조율할 수 있는 절차가 필요하다고 말했다.
만약 새로운 기술에 기존 이해당사자들이 배제되고, 무조건 손해를 받아들여야 한다면 사회는 큰 혼란에 빠질 것이다. AI의 인간 노동력 대체를 예로 들어보자. AI가 인간 노동력을 대체해서 대량 해고가 연속적으로 일어난다면? 심 교수는 “러다이트 운동이 일어날 수도 있다”라며 의견 조율 메커니즘의 필요성을 강조했다.
운수사업 예도 있다. 차량공유 서비스 ‘우버’가 한국에 진출하려 했을 때 택시, 버스 등 운수사업자들이 반발했다. 이들은 법이 제시하는 조건을 다 지키고 국가의 면허를 받아 운수사업을 하는 사업자들이다. 만약 기존 법을 지키고 있는 당사자들과의 의견 조율 절차 없이 신기술에 맞게 법·제도를 바꾼다면 이들은 그대로 배제돼 손해를 입을 가능성이 높다. 심 교수는 “우버 서비스가 국내에 들어오는 것을 막자는 게 아니라, 조율 체계를 마련해야 한다는 것”이라고 말했다.

“치고 나가는 유럽·일본·미국, 뒤처진 한국”

기자 : 우리나라에서 AI 규제와 관련된 법은 2008년 제정된 ‘지능형 로봇 개발 및 보급 촉진법’이 유일한 건가?
심우민 : 먼저 그 법은 AI와 관련된 법이 아니다. 더구나 ‘규제법’도 아니다. 한국엔 AI 규제 관련 법이 없다고 보면 된다.
세계 각국은 AI 기술 자체뿐 아니라 개발 지침과 관련 가이드라인 등 대응 법제 마련에 힘쓰고 있다. 이는 곧 국제적 기준을 선도하기 위한 경쟁이기도 하다.
올해 2월16일, 유럽연합(EU) 의회는 집행위원회에 로봇 기술 등에 관한 입법조치 검토를 촉구하는 내용의 결의안을 의결했다. 일본 총무성은 AI 안정성과 보안성을 평가하는 공적 인증제도를 운용할 계획이다. 국제적 논의를 선도할 AI 윤리, AI 규제를 법제화하려는 노력들이다.
하지만 한국에는 AI 규제와 관련된 법이 전무하다는 게 심우민 교수의 설명이다. 심 교수는 “사람들이 2008년 제정된 ‘지능형 로봇 개발 및 보급 촉진법(로봇법)’이 AI 규제에 대한 법률이라고 생각하지만, 이는 사실과 다르다”라며 “그 법은 AI와 관련된 법도 아니고 더구나 ‘규제법’도 아니다”라고 말했다.
해당 법은 지능형 로봇을 ‘외부 환경을 스스로 인식하고 상황을 판단해 자율적으로 동작하는 기계장치’로 정의한다. AI 소프트웨어를 포괄하는 정의가 아니다. 심 교수는 “해당 법에서 말하는 지능형 로봇은 소프트웨어가 장착돼 자동으로 움직이는 산업용 로봇팔 같은 것”이라고 말했다.
심 교수는 이어 “10년 전 정부 차원에서 로봇윤리헌장을 만들려는 시도가 있었지만, 초안만 만들어지고 공표가 안 됐다”라며 “준비 작업을 하다 실패한 것”이라고 말했다. 그는 “초안을 보면 로봇윤리헌장에서 얘기하는 윤리는 ‘로봇 자체의 윤리’인데, 최근 논의되는 윤리는 AI 로봇 자체가 아닌 설계자, 제조자, 이용자의 윤리”라고 지적했다.

NOTE. 블로터가 11주년을 맞아 기획성으로 쓴 인터뷰 기사다. 요지는 '국가가 법을 통해 규제하는 것은 가급적 자제하고, 한다해도 일반적으로 생각하는 규제와는 달리, 즉 '상시적 영향평가' 방식으로 해야 한다는 것이다. 그런데 네이버 댓글에는 온통 '규제하려고 밉밥깐다'라는 반응이여서 속상했다. 댓글을 단 사람이 기사를 읽지 않은 것인지 혹은 내가 기사를 명료하게 쓰지 못한 것인지. 각설하고, IT법학이라는 분야에 매료됐다. 앞으로도 취재해야겠다.