정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안

제안 이유

제안자는 해외 인공지능 서비스가 환각현상으로 부정확한 답변을 생성해 법률·의료 등 전문분야에서 이용자 피해가 생길 수 있는데, 현행법상 국내대리인 업무에 피해 구제가 빠져 있어 해외 사업자에게 책임을 묻기 어렵다고 설명합니다.

주요 내용

1. 국내대리인의 업무에 정보통신서비스 이용에 관한 불만의 처리 및 피해 구제를 위한 접수 및 결과 통보 업무가 추가됩니다.제32조의5제1항제1호

2. 인공지능시스템으로 생성한 음향·이미지·영상 등의 정보를 직접 제작하거나 편집해 제공하는 인공지능 정보제공자는 생성 사실을 고지 또는 표시해야 합니다. 다만 예술적·창의적 표현물 등 대통령령으로 정하는 사용목적에는 예외를 둡니다.제43조의2제1항

3. 보건의료·법률·금융 등 대통령령으로 정하는 전문분야의 결과물을 생성형 인공지능 또는 이를 이용한 제품이나 서비스로 제공하는 경우, 결과물이 전문가의 판단을 대체할 수 없다는 사실을 이용자가 명확히 인식할 수 있도록 고지 또는 표시해야 합니다.제43조의2제2항

4. 위 고지 또는 표시를 하지 않은 자에게 1천만원 이하의 과태료를 부과하는 조항이 신설됩니다.제76조제3항제4호의2, 제4호의3

5. 고지·표시의 방법 등 필요한 사항은 대통령령으로 정하며, 이 법은 공포 후 6개월이 경과한 날부터 시행합니다.

달라지는 점

• 현행

  국내대리인의 업무는 자료의 제출 등 현행 각 호의 사항으로 한정되어 있습니다.

  개정안

  국내대리인의 업무에 이용자 불만의 처리 및 피해 구제를 위한 접수 및 결과 통보 업무가 추가됩니다.

• 현행

  인공지능시스템을 이용해 생성된 정보의 표시 의무를 규정하고 있지 않습니다.

  개정안

  인공지능 정보제공자는 인공지능시스템으로 생성된 음향·이미지·영상 등의 정보임을 고지 또는 표시해야 합니다. 예술적·창의적 표현물 등 대통령령으로 정하는 경우는 예외입니다.

• 현행

  인공지능 결과물에 대해 전문가의 판단을 대체할 수 없다는 고지 또는 표시 의무가 없습니다.

  개정안

  보건의료·법률·금융 등 대통령령으로 정하는 전문분야의 결과물을 제공할 때 전문가의 판단을 대체할 수 없다는 사실을 이용자가 명확히 인식할 수 있도록 고지 또는 표시해야 합니다.

• 현행

  관련 고지 또는 표시 의무 위반에 대한 과태료 규정이 없습니다.

  개정안

  제43조의2제1항 또는 제2항을 위반해 고지 또는 표시를 하지 않은 자에게 1천만원 이하의 과태료를 부과합니다.