인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안

제안 이유

제안자는 고성능 인공지능을 악용한 사이버공격, 대규모 허위정보 생성·유포, 국가 중요 데이터 침해 등 새로운 국가안보 및 공공안전 위협이 현실화되고 있다고 밝혔습니다. 현행법은 고영향 인공지능에 관한 일반적 사항만 규정하고 있어 고위험 인공지능 모델에 대한 별도의 안전관리 및 사이버위협 대응체계가 충분하지 않다고 설명합니다.

주요 내용

1. 국가는 고영향 인공지능으로 인한 위험 예방 및 대응을 위한 시책을 마련해야 하며, 시책에는 사이버위협 예방·대응체계 구축, 공공데이터 보호 방안, 학습용데이터 보호 방안, 대통령령으로 정하는 사항이 포함됩니다.제33조의2

2. 인공지능사업자가 고영향 인공지능 또는 이를 이용한 제품·서비스를 제공할 때 지켜야 할 조치에 고영향 인공지능 개발·활용에 이용되는 공공데이터의 보호 및 안전관리가 새로 추가됩니다.제34조제1항제6호

3. 같은 조치 항목에 고영향 인공지능 개발·활용에 이용되는 학습용데이터의 보호 및 안전관리가 새로 추가됩니다.제34조제1항제7호

4. 시행일은 공포 후 6개월이 경과한 날부터입니다.

달라지는 점

• 현행

  고영향 인공지능과 관련한 국가의 시책에 대한 규정이 없습니다.

  개정안

  국가는 고영향 인공지능으로 인한 위험 예방 및 대응을 위한 시책을 마련하여야 하며, 사이버위협 예방 및 대응체계 구축, 공공데이터와 학습용데이터의 보호 방안을 포함해야 합니다.제33조의2 신설

• 현행

  인공지능사업자의 조치 항목은 제1호부터 제6호까지이며, 제6호는 현행 조문에 공공데이터 관련 내용이 없습니다.

  개정안

  인공지능사업자는 고영향 인공지능의 개발·활용에 이용되는 공공데이터의 보호 및 안전관리 조치를 이행해야 합니다.제34조제1항제6호 신설

• 현행

  학습용데이터의 보호 및 안전관리를 사업자 조치 항목으로 정한 규정이 없습니다.

  개정안

  인공지능사업자는 고영향 인공지능의 개발·활용에 이용되는 학습용데이터의 보호 및 안전관리 조치를 이행해야 합니다.제34조제1항제7호 신설