국민의힘 이상휘 국회의원(포항 남·울릉)은 12일, 생성형 인공지능(AI) 또는 인공지능시스템을 이용해 만들어진 결과물에 대한 표시를 훼손 및 위변조하는 행위를 금지하는 내용을 담은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 일부개정법률안을 대표 발의했다고 밝혔다.

현행법은 인공지능의 투명성 확보를 위해 인공지능사업자에게 생성형 인공지능 또는 인공지능시스템을 이용한 결과물에 대해 표시의무를 부과하고 있다. 

그러나 해당 표시를 훼손하거나 위조·변조하는 행위에 대해서는 별도의 제재 규정이 없어, 인공지능으로 생성된 결과물이 사람의 직접 창작물이나 실제로 존재하는 것처럼 유통될 수 있는 규제 공백이 지적돼 왔다.

따라서, 이번 개정안은 이러한 문제점을 해소하기 위해 생성형 인공지능 또는 인공지능시스템을 이용한 결과물에 대한 표시를 훼손·위조·변조하는 행위를 명시적으로 금지하고, 이를 위반할 경우 3천만 원 이하의 과태료를 부과하도록 했다. 이를 통해 인공지능 결과물의 출처와 생성 방식을 명확히 하고, 인공지능 투명성 확보 체계의 실효성을 강화하는 것이 목적이다.

이상휘 의원은 “생성형 AI 기술이 급속히 확산되는 상황에서 결과물의 출처를 명확히 하는 것은 사회적 신뢰를 지키기 위한 최소한의 안전장치”라며 “이번 개정안을 통해 인공지능에 대한 국민 신뢰를 제도적으로 뒷받침하겠다”고 밝혔다.