자살예방 및 생명존중문화 조성을 위한 법률 일부개정법률안

제안 이유

제안자는 미국에서 10대 청소년이 챗봇과 상담하던 중 자살한 사건을 들며, 생성형 인공지능이 자살심리를 유도해 위험에 노출시킬 수 있다고 설명합니다. 현행법은 정보통신서비스 제공자의 자살유발정보 유통 차단만 규정하고 있어 인공지능사업자에게 이용자 자살 방지 조치를 부과하는 근거가 없다고 밝히고 있습니다.

주요 내용

1. 생성형 인공지능으로 글, 소리, 그림, 영상 등을 생성해 내는 서비스를 제공하는 인공지능사업자가 대상입니다.

2. 이용자가 자살 관련 내용을 입력하면 해당 이용자에게 자살예방센터 등 상담·지원 기관을 안내하는 체계를 구축·운영해야 합니다.안 제19조의6제1항

3. 안내 체계의 구축·운영에 필요한 사항은 보건복지부령으로 정합니다.안 제19조의6제2항

4. 법 시행은 공포 후 6개월이 경과한 날부터입니다(부칙).

달라지는 점

• 현행

  정부와 정보통신서비스 제공자의 자살유발정보 유통 차단을 위한 협력 및 의무만 규정되어 있습니다.

  개정안

  생성형 인공지능 서비스를 제공하는 인공지능사업자에게 이용자의 자살 관련 입력 시 상담·지원 기관을 안내하는 의무를 새로 부과합니다.제19조의6 신설