인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안

제안 이유

제안자는 현행법이 고지·표시 대상을 한정하지 않아 유통 과정에서 AI 생성 사실이 이용자에게 전달되지 않을 위험이 있다고 설명합니다. 이에 따라 결과물에 워터마크를 삽입해 생성 사실을 표시하고, 이를 훼손하는 행위를 금지하고 처벌하려는 것이라고 밝혔습니다.

주요 내용

1. 인공지능사업자는 실제와 구분하기 어려운 가상의 음향, 이미지, 영상 등의 결과물에 대해 이용자가 식별할 수 있도록 결과물 자체에 코드 또는 문자·부호 등을 삽입하는 방식으로 생성 사실을 고지 또는 표시해야 합니다.

2. 누구든지 이러한 고지 또는 표시를 훼손하거나 위작 또는 변작해서는 안 됩니다.제31조제4항 신설

3. 제31조제4항을 위반해 고지 또는 표시를 훼손하거나 위작·변작한 자는 2년 이하의 징역 또는 2천만원 이하의 벌금에 처해집니다.제42조제2항 신설

4. 이 법은 공포 후 6개월이 경과한 날부터 시행합니다.

달라지는 점

• 현행

  인공지능사업자는 결과물이 인공지능시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시해야 합니다.

  개정안

  이용자가 식별할 수 있도록 해당 결과물 자체에 코드 또는 문자·부호 등을 삽입하는 방식으로 고지 또는 표시해야 합니다.

• 현행

  고지 또는 표시를 훼손하거나 위작·변작하는 행위를 금지하는 규정이 없습니다.

  개정안

  누구든지 제3항에 따른 고지 또는 표시를 훼손하거나 위작 또는 변작해서는 안 됩니다.

• 현행

  고지 또는 표시를 훼손하거나 위작·변작하는 행위에 대한 벌칙 규정이 없습니다.

  개정안

  제31조제4항을 위반한 자는 2년 이하의 징역 또는 2천만원 이하의 벌금에 처해집니다.