정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안

제안 이유

제안자는 아동·청소년이 인공지능 챗봇과 정서적 종속관계를 형성하거나 자살·자해 권고, 부적절한 성적 대화 등에 노출되는 사례가 빈발하는데 현행법은 선언적 규정만 있어 보호가 부족하다고 설명합니다.

주요 내용

1. 보호 대상이 만 14세 미만 아동에서 「아동·청소년의 성보호에 관한 법률」상 아동·청소년으로 넓어집니다.

2. 적용 대상 시스템에 생성형 인공지능 중 대통령령으로 정하는 인공지능시스템이 추가됩니다.

3. 제공자는 이용자의 연령 및 본인 여부를 확인하고, 아동·청소년인 경우 법정대리인의 동의를 확인해야 합니다.

4. 아동·청소년 또는 법정대리인이 요청하면 이용 방법·시간 등을 제한하고, 이용자가 요청하면 대화의 일시·내용 등 정보를 제공해야 합니다.

5. 자살·자해, 마약류 오용·남용, 성적 착취 또는 학대 등 위험에 노출되거나 노출될 가능성이 있는 경우 신고 및 신고 내역 확인, 위험 제거 등 대응 조치를 해야 합니다.

달라지는 점

• 현행

  정보통신서비스 제공자는 만 14세 미만의 아동에게 그 아동에게 부적절한 내용의 정보가 제공되지 아니하도록 노력하여야 합니다.

  개정안

  정보통신서비스 제공자는 아동·청소년에게 연령 및 본인 여부 확인, 법정대리인 동의 확인 등 다음 각 호의 필요한 조치를 하여야 합니다.

• 현행

  보호 대상은 만 14세 미만의 아동입니다.

  개정안

  보호 대상은 「아동·청소년의 성보호에 관한 법률」 제2조제1호에 따른 아동·청소년입니다.

• 현행

  문자·음성을 이용하여 사람과 대화하는 방식으로 정보를 처리하는 시스템을 기반으로 하는 정보통신서비스가 적용 대상입니다.

  개정안

  문자·음성 등을 이용하는 시스템 또는 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제2조제5호에 따른 생성형 인공지능으로서 대통령령으로 정하는 인공지능시스템을 기반으로 하는 서비스가 적용 대상입니다.

• 현행

  관련 신고, 이용 제한, 대화 정보 제공 등 별도의 의무 규정이 없습니다.

  개정안

  자살·자해, 마약류 오용·남용, 성적 착취 또는 학대 등 위험에 대한 신고 및 신고 내역 확인, 위험 제거 등 대응 의무가 신설됩니다.

• 현행

  조치의 방법 및 절차에 관한 규정이 없습니다.

  개정안

  제1항에 따른 조치의 방법 및 절차 등에 필요한 사항은 대통령령으로 정합니다.