국민참여예산

우수제안사례

연간 운영 계획 우수사업제안 현황

01 사업제안
및 관리
(3~4월)

국민 사업제안

제안사업 적격성 점검
02 각 부처
예산안 요구
(4~5월)

각 부처는 제안사업 숙성 후 후보사업을
포함하여 기재부에 예산안 요구
03 제안사업 논의
(6~7월)

예산 국민참여단 발족

참여단,참여예산 후보사업 압축
04 사업
선호도조사
(7월)

일반국민 설문조사

예산 국민참여단 투표
05 정부
예산안 반영
(8월)

재정정책자문회의 논의

국무회의 정부예산안 확정
06 국회예산안
심의·확정
(9~12월)

국회에서 정부예산안 심의·확정

제안자 정보

제안자명

허*호
성별

남
등록일

2024-04-26 10:52

제안상세내용

회계년도

2025년
제안명

안전한 AI서비스 제공
제안 배경 및 내용

1. 개요
- 챗GPT 출시 이후 국민 일상의 많은 영역에서 인공지능 서비스의 활용이 확산됨에 따라, AI서비스를 안전하게 이용할 수 있는 정부 정책 마련이 필요함

2. 현황 및 필요성
- 언론 등에서 AI의 부작용으로 인한 인간의 생명‧안전, 정신적‧재산적 피해 사례가 다수 보도되고 있음

▪ 벨기에 30대 남성이 인공지능(AI) 챗봇의 부추김을 받아 자살한 사례(‘23.3.28. LaLibre)
▪ 인공지능 생성 조작 사진으로 인한 일시적 미 증시 하락(’23.5월)
▪ 중국에서 딥페이크 기술로 친구 얼굴과 음성을 생성해 돈을 송금 하도록 한 사기 발생(‘23.5월)

- 인공지능서비스는 환각, 비윤리성, 권리침해, 범죄 악용 등과 같은 부작용 및 오‧남용이 발생 가능하기 때문에 인공지능 서비스에 대한 이용자 보호 체계 마련이 선제적으로 필요함
※ 통신서비스에 대한 이용자 보호는 방송통신위원회 소관

3. 제안 내용
- AI 서비스의 부작용 및 오남용을 방지하고, AI의 잠재적 위험성으로부터 이용자를 보호하기 위한 점검·평가 체계 마련

· 텍스트, 이미지, 동영상, 음성 등 생성형AI의 위험성을 사전에 파악하고, 위험을 최소화 하기 위한 테스트 및 평가 체계 마련
※ 방송통신위원회가 진행하고 있는 ‘전기통신사업자 이용자 보호업무 평가’ 참고

· 생성형AI 이용자가 AI서비스의 위험요소를 발견할 경우, 직접 신고할 수 있는 플랫폼을 운영하고 신고 사항을 정부가 검증, 위험요소로 판단될 경우 AI기업에 개선을 유도
※ 방송통신위원회의 ‘플로팅 광고 신고센터’ 참고

· 활성화되고 있는 AI챗봇 상담 서비스의 적정성, 취약계층 이용 편의성, 대체상담 제공 여부 등을 점검하여 미흡한 사항을 기업에 알려 자율개선 유도

- 올바르고 안전한 AI 활용법 확산을 위한 대국민 홍보
· AI에 대한 막연한 불안감 및 우려를 해소하고 AI를 안전하고 올바르게 사용할 수 있는 방안을 콘텐츠로 제작 및 배포
※ 동영상, 웹툰, 책자, 브로셔 등 다양한 콘텐츠로 제작

4. 기대 효과
- AI의 위험과 부작용으로부터 국민을 안전하게 보호 및 피해 예방
- AI의 올바른 사용법과 효용성을 널리 알림으로써, 인공지능을 실생활에서 경제생활의 보조도구로써 유용하게 활용할 수 있게 되어 국민 생산성을 향상시키고, 인공지능 산업의 건전한 발전에 기여
추정 사업비

1,900 (백만원)
산출근거

1. 생성형AI 점검 및 평가 체계 구축·운영(1,600백만원)
- 생성형AI 위험성 점검 및 평가 : 800백만원
- 생성형AI 이용자 참여 플랫폼 구축·운영 : 400백만원
- AI챗봇 품질평가 : 400만원

2. 안전한 AI 활용 확산을 위한 대국민 홍보(300백만원)
- 홍보 콘텐츠 제작 : 50백만원
- 온·오프라인 홍보 : 250백만원

2024년도 국민제안사업 의견 접수가 종료되었습니다.

참여해 주셔서 감사합니다.

[참여예산] to** 2024-06-03 10:46:24

일번적인 서비스에 비해 AI 서비스로 인한 피해가 발생할 경우는 엄청난 피해가 발생될 것으로 생각됩니다 더우기 기술 발전에 비해 안전 장치가 전무한 상황에서 우려가 되어 적극 찬성합니다

34** 2024-05-13 11:54:24

생성형 AI에 대한 대중적인 관심이 생긴지 채 몇년도 되지않아 벌써 수많은 피해 사례들이 생기고 있어... 하루라도 빠른 규제 강화와 국민 보호가 필요합니다... 특히나 노인분들 같은 취약계층들이 얼마나 쉽게 속을지 걱정입니다

[참여예산] kk** 2024-05-13 10:14:27

AI는 방대한 데이터를 기반으로 학습되며, 이 과정에서 개인정보의 무단 수집 및 사용의 위험이 존재합니다. 특히, 언급된 여러 피해 사례들을 통해 볼 때, 이러한 문제는 개인뿐만 아니라 국가 전체에도 심각한 영향을 미칠 수 있음을 알 수 있습니다. 생성형 AI가 올바르고 적절하게 사용되도록 보장하기 위해, 정부는 기업에 대한 규제를 강화하고 AI의 진흥을 적극 지원하면 좋을 것 같습니다.

국민참여예산

국민참여예산

성별

나이

지역

우수제안사례

제안자 정보

제안상세내용

2024년도 국민제안사업 의견 접수가 종료되었습니다.