인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안

제안 이유

제안자는 이용자가 장시간 대화하거나 정서적으로 몰입하면 인공지능을 실제 사람으로 오인할 우려가 있다고 밝히고 있습니다. 이에 대화 중 고지 의무를 두고 이용자의 알 권리를 보호하려는 것이라고 설명합니다.

주요 내용

1. 이용자와 대화하는 방식으로 상호작용하는 인공지능시스템을 이용한 제품 또는 서비스를 제공하는 인공지능사업자는 이용자가 대화 상대방이 인공지능시스템이라는 사실을 명확하게 인식할 수 있도록 고지하는 등 필요한 조치를 하여야 합니다.제31조제4항 신설

2. 현행법은 이용 전 안내 등으로 고지를 갈음할 수 있으나, 개정안은 대화 도중에도 인식할 수 있도록 하는 조치를 요구합니다.

3. 고지 조치의 방법과 주기 등은 대통령령으로 정합니다.제31조제5항 개정

4. 제31조제4항 위반을 사실조사 및 시정명령의 대상에 포함합니다.제40조제1항 개정

5. 이 법은 공포 후 1년이 경과한 날부터 시행합니다(부칙).

달라지는 점

• 현행

  인공지능사업자의 고지 의무는 제품·서비스 이용 전 사전 고지 등으로 규정되어 있고, 대화형 서비스는 이용 전 안내로 갈음할 수 있습니다.

  개정안

  대화형 인공지능시스템을 이용한 제품 또는 서비스를 제공하는 경우, 이용 중에도 대화 상대방이 인공지능시스템이라는 사실을 명확하게 인식할 수 있도록 고지하는 등 필요한 조치를 하여야 합니다.

• 현행

  제31조제4항에 따른 고지·표시 방법 등은 대통령령으로 정하도록 되어 있고, 조치 대상은 사전고지, 표시, 고지 또는 표시에 한정됩니다.

  개정안

  제31조제4항에 따른 조치의 방법과 주기 등도 대통령령으로 정하도록 합니다.

• 현행

  과학기술정보통신부장관의 사실조사 및 자료제출 요구 대상은 제31조제2항·제3항, 제32조제1항·제2항, 제34조제1항 위반입니다.

  개정안

  사실조사 및 자료제출 요구 대상에 제31조제4항 위반이 포함되도록 제31조제2항부터 제4항까지로 확대합니다.