국민참여예산

제안명

국민이 신뢰하는 공공 AI AI 기반 정책을 위한 '법률 준수·안전성 자가점검' 플랫폼 구축

제안 내용

1. 사업명
국민이 신뢰하는 공공 AI: AI 기반 정책을 위한 '법률 준수·안전성 자가점검' 플랫폼 구축

2. 제안 배경 및 필요성
o 문제점/현황:
- 정부는 이미 복지 대상자 선정, 교통 시스템 개선, 재난 예측 등 국민 생활과 직결된 다양한 정책에 인공지능(AI)을 활용하고 있습니다. 하지만 2026년부터 시행될 「인공지능기본법」에 따르면, 이러한 공공 AI가 만약 불공정하게 설계되거나 오류를 일으킬 경우 국민의 권리를 침해하는 심각한 문제로 이어질 수 있습니다. (예: AI의 잘못된 판단으로 복지 혜택에서 부당하게 탈락, 특정 지역에 교통 정책 불이익 등) 현재 공무원이나 공공기관 연구자가 AI를 활용할 때, 이러한 법적 책임과 안전성을 체계적으로 점검할 수 있는 표준화된 도구가 전무한 실정입니다.
o 필요성:
- AI 정책의 오류는 국민의 삶에 직접적인 피해를 줍니다. 문제가 터진 뒤에 수습하는 것은 늦습니다. 따라서 정책을 만드는 단계부터 AI가 법률을 잘 지키고 있는지, 국민에게 위험하지는 않은지 사전에 꼼꼼히 확인할 수 있는 '안전장치'가 반드시 필요합니다. 이 플랫폼은 공공 AI의 투명성과 책임성을 확보하여, 기술이 국민을 위협하는 것이 아닌, 진정으로 국민을 위해 봉사하도록 만드는 핵심적인 신뢰 인프라입니다.

3. 사업 내용 (무엇을 하는 사업인가요?)
o 주요 내용:
- (공무원/연구자용) '공공 AI 법률 준수' 온라인 자가점검 시스템 개발
. 정책 담당자가 추진하려는 AI 사업의 내용을 입력하면, '데이터 편향성', '설명가능성', '인간의 감독' 등 AI 기본법의 핵심 의무사항을 준수했는지 자동으로 진단해주는 체크리스트 기능 제공
- (실무 지원용) '책임성 있는 AI 정책' 우수사례 및 가이드라인 보급
. 'AI 면접 공정성 확보 가이드라인', '개인정보 비식별화 처리 모범사례' 등 정책 현장에서 바로 적용할 수 있는 분야별 매뉴얼 및 템플릿 제공
- (국민 소통용) '우리 동네 AI 정책' 투명성 정보 공개 창구 운영
. 국민들이 우리 지역과 생활에 영향을 미치는 공공 AI 정책이 무엇인지, 어떤 안전장치를 갖추고 있는지 쉽게 확인하고 의견을 제시할 수 있는 코너 마련

o 사업 대상 및 범위:
- 대상: 중앙부처·지자체 공무원, 공공기관 연구원 (직접 사용자) / 대한민국 국민 전체 (수혜자)
- 범위: 전국 / 온라인 플랫폼 기반

o 추진 방식:
- 주관 부처(예상): 과학기술정보통신부 (국가 AI 정책 총괄)
- 협력 부처(예상): 행정안전부 (정부·지자체 시스템 연계), 개인정보보호위원회 (데이터 규제)

4. 기대 효과 (사업을 통해 무엇이 좋아지나요?)
o 정량적 효과:
- 연간 200건 이상의 신규 공공 AI 사업에 대한 사전 법률·안전성 점검
- 공공 AI 관련 민원 및 정책 재검토 요구 30% 이상 감소
- 연간 1,000명 이상의 정책 담당자에게 책임성 있는 AI 활용 교육 효과

o 정성적 효과:
- AI 기반 행정 서비스에 대한 국민의 신뢰도 획기적 증진
- '깜깜이 AI 정책'을 방지하고, 국민의 권익을 선제적으로 보호
- 데이터에 기반한 합리적이고 공정한 정책 결정 문화 확산

5. 소요 예산 (추정): 총 10억 원
o 플랫폼 개발 및 구축 (자가점검 시스템 등): 5억 원
o 콘텐츠 개발 (가이드라인, 우수사례 DB): 3억 원
o 서버 운영, 유지보수 및 홍보: 2억 원
(※ 예산은 사업 구체화 과정에서 변동될 수 있는 추정치입니다.)

6. [필수] 제안 제외 대상 자체 검토 (체크리스트)
본인이 제안하는 사업이 아래 항목에 해당하지 않음을 확인합니다.
[✔] ① 지방자치단체 고유사무에 해당하지 않습니다.
[✔] ② 재정사업과 무관한 단순 민원, 규제 개선 요구가 아닙니다.
[✔] ③ 현행 법령에 위반되지 않습니다.
[✔] ④ 법령 개정이 선행되어야 하는 사업이 아닙니다.
[✔] ⑤ 실현 가능성이 있으며, 타당성이 부족하지 않습니다.
[✔] ⑥ 기존에 정부가 시행 중인 사업과 중복되거나 차별성이 없지 않습니다.
[✔] ⑦ 특정 공모나 총액계상사업(도로 보수 등)과 관련되지 않습니다.
[✔] ⑧ 대규모 예비타당성조사가 필요한 사업이 아닙니다.
[✔] ⑨ 특정 개인이나 단체에 사적인 이익을 주지 않습니다.
[✔] ⑩ 특정 제품의 판매를 목적으로 하지 않습니다.
[✔] ⑪ 1회성 행사 위주의 사업이 아닙니다.
[✔] ⑫ 기타 정부재정사업으로 수행하기에 부적절하지 않습니다.

사업명

국민이 신뢰하는 공공 AI: AI 기반 정책을 위한 '법률 준수·안전성 자가점검' 플랫폼 구축

지역

전국

국민참여예산

국민참여예산

국민주권예산 (국민제안)

검토 결과