정책수립·의사결정에 AI 활용 법적 기반
설명·이의제기·인간 재검토 절차는 미흡
 |
| 기사 이해를 돕기 위해 챗GPT를 활용해 제작 |
[헤럴드경제=김용훈 기자] 정부가 인공지능(AI)을 정책 수립과 행정 의사결정에 활용할 수 있는 법적 기반이 오는 28일부터 본격 시행된다. 공공부문의 AI 활용이 확대되는 계기가 마련된 셈이다.
하지만 AI가 국민의 권리·의무에 영향을 미치는 판단에 활용됐을 때 당사자가 판단 근거에 대한 설명을 요구하거나 이의를 제기하고, 사람에게 다시 판단해 달라고 요구할 수 있는 절차는 아직 충분하지 않다는 지적이 나온다.
22일 국회입법조사처에 따르면 기존 ‘데이터기반행정 활성화에 관한 법률’을 개정한 ‘인공지능 및 데이터 기반 행정 활성화에 관한 법률(인공지능데이터행정법)’이 오는 28일부터 시행된다. 지난 1월 법 개정에 따른 것으로, 공공부문의 데이터 활용을 넘어 AI 도입·활용을 촉진하기 위한 제도적 기반을 마련한 것이 핵심이다.
개정법 시행에 따라 정부의 AI 활용 범위는 한층 넓어진다. 데이터통합관리 플랫폼의 구축·운영 범위에 AI 활용에 관한 사항이 추가되고 여러 공공기관이 AI를 공동으로 도입·활용할 수 있는 공통기반을 구축할 수 있게 된다. 공공기관장이 AI 학습에 사용되는 데이터의 적정한 품질 수준을 확보하도록 하는 근거도 마련됐다.
AI가 정책 판단에 활용될 때 적용되는 안전장치도 생긴다. 공공기관이 AI를 정책 수립이나 의사결정에 활용하더라도 최종적인 권한과 책임은 해당 공공기관이 지도록 했다. 개인정보 보호와 AI·데이터의 편향성, 의사결정의 투명성 등을 고려하도록 했으며 AI 활용 윤리기준도 마련하도록 했다.
특히 AI 서비스를 도입하기 전 국민의 기본권에 미치는 영향을 살펴보는 ‘공공분야 AI 영향평가’가 도입된다. 행정 영역에서 AI 활용이 국민의 권익을 침해할 가능성을 사전에 점검하기 위한 장치다.
문제는 AI가 실제 행정에 투입된 이후다. AI 시스템은 운영 과정에서 사용하는 데이터와 이용 환경, 성능 등이 달라질 수 있다. 도입 당시 문제가 없다고 평가됐더라도 실제 운영 과정에서 새로운 오류나 편향이 나타날 가능성이 있다는 의미다.
그러나 현행 제도는 AI 서비스 도입 전 사전 영향평가에 무게가 실려 있다. 운영 과정에서 나타나는 오류·편향이나 예상하지 못한 결과를 지속적으로 점검하고 사후 재평가하는 체계가 충분하지 않다는 지적이다.
국민이 AI 판단에 문제를 제기할 수 있는 절차도 과제로 남았다. AI가 국민의 권리나 의무에 영향을 미치는 행정결정에 활용됐을 경우 어떤 근거로 그런 결정이 내려졌는지 설명을 요구하거나 이의를 제기할 수 있는지, 나아가 공무원 등 사람에게 다시 판단해 달라고 요구할 수 있는지에 관한 규율이 충분하지 않다.
AI 영향평가에도 사각지대가 존재한다. 국가안전보장·국방 등 보안이나 고도의 기밀 보호가 필요한 경우, 단순·반복적이거나 경미한 사항 등은 영향평가를 하지 않을 수 있다. 면제 여부가 공공기관장의 판단에 맡겨져 있고, 영향평가를 실시하지 않을 때 행정안전부 장관과 협의하도록 했지만 협의 결과가 해당 기관을 구속하지 않는다는 한계도 있다.
AI 행정의 기반인 데이터 문제도 풀어야 할 숙제다. 현행 제도에서는 공동활용이 필요한 데이터를 데이터통합관리 플랫폼에 등록할지 여부가 상당 부분 개별 공공기관의 판단에 맡겨져 있다. 다른 법령에서 비밀로 규정하거나 목적 외 이용을 제한하는 경우에는 기관 간 데이터 제공도 거부할 수 있다.
국가안보와 개인정보 보호 등을 위한 불가피한 제한이지만 거부 사유가 폭넓게 적용될 경우 각 기관이 데이터 제공에 소극적으로 나서면서 기존 ‘데이터 칸막이’가 오히려 강화될 가능성이 있다. 결국 AI 개발·활용에 필요한 충분한 데이터를 확보하기 어려워질 수 있다는 지적이다.
AI 학습용 데이터의 품질관리 기준 역시 구체화할 필요가 있다. 개정법은 공공기관장에게 학습용 데이터의 ‘적정한 품질수준’을 확보하도록 했지만 적정 수준이 무엇을 의미하는지 추상적인 데다 필요한 조치를 구체화하기 위한 위임규정도 마련돼 있지 않다.
데이터의 부정확성이나 특정 집단에 대한 과소평가, 기존의 편향 등이 존재하면 AI가 이를 그대로 학습해 오류나 차별적인 결과를 확대·재생산할 가능성이 있다. 기관별로 품질관리 수준에 차이가 발생하면 AI 행정의 정확성과 공정성, 신뢰성에도 영향을 미칠 수 있다.
이에 따라 공공 AI 확산에 앞서 ‘인간의 최종 통제권’을 보다 명확하게 제도화해야 한다는 지적이 나온다. 특히 국민의 권리·의무에 중대한 영향을 미치는 결정이라면 AI의 판단을 사람이 검토하고 수정할 수 있어야 한다는 것이다.
김인태 국회입법조사처 입법조사관은 “AI가 국민의 권리·의무에 중대한 영향을 미치는 결정에 활용되는 경우 인간이 AI의 판단을 검토·수정할 수 있는 제도적 장치가 필요하다”며 “국민이 설명을 요구하거나 이의를 제기하고 인간에 의한 재검토를 요청할 수 있는 절차도 명확히 규정할 필요가 있다”고 제언했다.
