2024-04-26 10:52

2025년 (회계년도란 향후 최종사업으로 선정된 경우 정부예산이 반영되는 년도입니다.)

안전한 AI서비스 제공

1. 개요
- 챗GPT 출시 이후 국민 일상의 많은 영역에서 인공지능 서비스의 활용이 확산됨에 따라, AI서비스를 안전하게 이용할 수 있는 정부 정책 마련이 필요함

2. 현황 및 필요성
- 언론 등에서 AI의 부작용으로 인한 인간의 생명‧안전, 정신적‧재산적 피해 사례가 다수 보도되고 있음

▪ 벨기에 30대 남성이 인공지능(AI) 챗봇의 부추김을 받아 자살한 사례(‘23.3.28. LaLibre)
▪ 인공지능 생성 조작 사진으로 인한 일시적 미 증시 하락(’23.5월)
▪ 중국에서 딥페이크 기술로 친구 얼굴과 음성을 생성해 돈을 송금 하도록 한 사기 발생(‘23.5월)

- 인공지능서비스는 환각, 비윤리성, 권리침해, 범죄 악용 등과 같은 부작용 및 오‧남용이 발생 가능하기 때문에 인공지능 서비스에 대한 이용자 보호 체계 마련이 선제적으로 필요함
※ 통신서비스에 대한 이용자 보호는 방송통신위원회 소관

3. 제안 내용
- AI 서비스의 부작용 및 오남용을 방지하고, AI의 잠재적 위험성으로부터 이용자를 보호하기 위한 점검·평가 체계 마련

· 텍스트, 이미지, 동영상, 음성 등 생성형AI의 위험성을 사전에 파악하고, 위험을 최소화 하기 위한 테스트 및 평가 체계 마련
※ 방송통신위원회가 진행하고 있는 ‘전기통신사업자 이용자 보호업무 평가’ 참고

· 생성형AI 이용자가 AI서비스의 위험요소를 발견할 경우, 직접 신고할 수 있는 플랫폼을 운영하고 신고 사항을 정부가 검증, 위험요소로 판단될 경우 AI기업에 개선을 유도
※ 방송통신위원회의 ‘플로팅 광고 신고센터’ 참고

· 활성화되고 있는 AI챗봇 상담 서비스의 적정성, 취약계층 이용 편의성, 대체상담 제공 여부 등을 점검하여 미흡한 사항을 기업에 알려 자율개선 유도

- 올바르고 안전한 AI 활용법 확산을 위한 대국민 홍보
· AI에 대한 막연한 불안감 및 우려를 해소하고 AI를 안전하고 올바르게 사용할 수 있는 방안을 콘텐츠로 제작 및 배포
※ 동영상, 웹툰, 책자, 브로셔 등 다양한 콘텐츠로 제작

4. 기대 효과
- AI의 위험과 부작용으로부터 국민을 안전하게 보호 및 피해 예방
- AI의 올바른 사용법과 효용성을 널리 알림으로써, 인공지능을 실생활에서 경제생활의 보조도구로써 유용하게 활용할 수 있게 되어 국민 생산성을 향상시키고, 인공지능 산업의 건전한 발전에 기여

1,900  (백만원) 

1. 생성형AI 점검 및 평가 체계 구축·운영(1,600백만원)
- 생성형AI 위험성 점검 및 평가 : 800백만원
- 생성형AI 이용자 참여 플랫폼 구축·운영 : 400백만원
- AI챗봇 품질평가 : 400만원

2. 안전한 AI 활용 확산을 위한 대국민 홍보(300백만원)
- 홍보 콘텐츠 제작 : 50백만원
- 온·오프라인 홍보 : 250백만원  

240426_국민참여예산제도_업로드.hwp