AI 발전 및 규제 기반 마련
지난 1월 22일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI기본법)’이 시행됐다. AI기본법은 국가 AI 경쟁력을 높이고 안전한 활용 기반을 조성하기 위해 제정된 법안이다. 과기정통부는 앞으로 최소 1년 이상 계도기간을 가지며 지원데스크를 운영한다고 전했다.
AI기본법 시행, 1년간 계도기간 운영
AI기본법은 국가 AI 거버넌스를 법제화하고, AI 산업 활성화를 지원하며, 안전·신뢰 기반을 마련하는 내용을 담고 있다. AI기본법은 유럽연합의 ‘AI 법(AI Act)’에 이어 세계에서 두 번째로 제정된 AI 관련 법안이다. AI 규제 측면에서는 24년 6월에 제정돼 단계적으로 시행 중인 유럽연합의 AI 법과 26년 1월부터 시행 중인 미국 캘리포니아주의 개척자 인공지능 모델 규제의 뒤를 잇는다.
AI기본법은 2024년 12월 여·야 합의를 거쳐 국회를 통과했다. 과기정통부는 지난해 1월부터 하위법령 정비단을 구성해 AI기본법 시행령 초안을 마련했다. 이후 하위법령 전체를 대국민 공개하고 국내외 기업을 대상으로 설명회를 개최해 의견을 수렴했다. 수렴된 의견을 반영한 시행령은 국무회의 의결을 거쳐 지난해 1월 22일 시행됐다. 정부는 혼란을 줄이고 제도를 안착시키기 위해 최소 1년 이상 계도기간을 두기로 했다.
규제보다는 AI 산업 진흥 목표
AI기본법은 AI 정책 기반 구축과 AI 산업 진흥에 방점을 두고 있다. AI 정책의 컨트롤타워인 국가AI전략위원회를 구성·운영하고 AI집적단지를 지정해 AI 거버넌스와 인프라를 마련한다. ▲R&D 및 학습용데이터 구축·제공 ▲AI 도입·활용 지원 및 실증 기반 조성 ▲국제협력 및 해외시장 진출 지원 등의 내용도 포함됐다.
국가AI전략위원회는 대통령 직속 위원회로, AI에 관한 주요 정책 등에 관한 사항을 심의하고 의결하는 역할을 한다. 전략위원회는 정부 위원과 민간 위원 등으로 구성된다. AI기본법은 전략위원회에 관한 세부 사항을 법적으로 구체화해 AI 정책 추진 기반을 마련했다.
AI집적단지를 추진하고 지정해 체계적으로 운영할 수 있게 하는 제도적 기반도 마련했다. AI집적단지로 지정되면 국가 및 지방자치단체로부터 행정적, 재정적, 기술적 지원을 받을 수 있다. 법안이 시행되며 광주 첨단지구 AI 중심 산업융합 집적단지 조성 사업 추진에도 속도가 붙을 것으로 예상된다. AI기본법에 따라 광주 첨단지구에 위치한 인공지능산업융합사업단이 집적단지 전담기관으로 지정된다면 AX(인공지능 전환) 실증밸리 조성사업(AI 2단계) 사업 등 AI관련 사업을 안정적으로 수행할 수 있도록 지원받을 수 있다.
학습용데이터 제공을 위해서는 ‘통합제공시스템’을 구축한다. 과기정통부는 올해 안에 기존 ‘AI 허브’를 개편해 학습용데이터를 확보하고 활용할 수 있는 플랫폼으로 통합제공시스템을 구축함으로써 데이터 혁신 생태계를 조성하는 것을 목표로 한다.
‘인공지능사업자’ 규제, 이용자는 대상 아냐
AI기본법의 적용 대상은 ‘인공지능사업자’로 한정된다. 인공지능사업자는 AI를 개발해 제공하는 ‘인공지능 개발사업자’와 AI 제품·서비스를 제공하는 ‘인공지능 이용사업자’로 구분된다. 여기에는 국내 시장이나 국내 이용자에게 영향을 미치는 해외 인공지능 사업자도 포함된다. 일정 규모 이상의 해외 인공지능 사업자는 국내 대리인을 지정해야 한다.
AI 제품·서비스를 제공받는 ‘이용자’는 AI기본법상 의무가 없다. 예를 들어 생성형 AI로 제작한 동영상을 방영한 방송사, 크리에이터(개인 제작자)는 이용자이므로 의무 이행 대상이 아니다. 개인 취미, 연구 목적으로 활용하는 경우에도 인공지능 사업자에서 제외된다. 다만, 이용자가 AI로 현행 타 법률에 저촉되는 행위를 한다면 해당 법률에 의해 처벌받을 수 있다. 예를 들어 생성형 AI로 타인의 명예를 훼손할 가능성이 있는 영상을 생성한 이용자는 AI기본법상 책임은 없지만, 해당 영상을 온라인으로 유포한다면 정보통신망법 위반에 따른 형사상 책임이 발생할 수 있다.
AI기본법은 안전성·신뢰성 확보를 위해 고성능 AI와 고영향 AI의 판단 기준 및 사업자의 책무를 구체화했다. 또한, 투명성 확보를 위해 표시 의무를 규정했다.
고성능 AI는 안전성 확보 의무의 대상으로 위험을 관리하고 안전사고에 대응해야 한다. 고성능 AI는 ▲학습에 사용된 누적 연산량이 10의 26승 부동소수점 연산(FLOPs)*이상이고 ▲최첨단의 AI기술을 적용하고 ▲위험도가 사람의 기본권에 광범위하고 중대한 영향을 미칠 우려가 있는 경우 등의 조건을 모두 충족하는 AI다. 우리나라에는 아직 이러한 기준을 충족하는 고성능 AI가 없다.
고영향 AI는 법에서 정한 10개 영역**에서의 활용 여부, 영향 및 위험의 중대성, 최종 의사결정에서의 사람 개입 여부 등을 고려해 판단된다. 예를 들어 의료 분야에서 진단을 내리는 AI가 이에 해당한다. 고영향 AI를 사용하는 경우 위험 관리가 필요하며 사전에 이용자에게 설명을 제공해야 한다.
투명성 확보 의무에는 ‘사전 고지’와 ‘표시’ 의무가 있다. 생성형 AI와 고영향 AI는 이용자가 서비스를 이용하기 전에 활용 사실을 알려야 한다. 이용약관이나 로그인 화면에 AI가 사용됐다는 안내 문구가 있는 것이 이에 해당한다. 생성형 AI로 만든 결과물은 생성형 AI에 의해 만들어졌다는 사실을 알리는 표시를 적용해야 한다. 생성된 결과물의 성격에 따라 기호와 같은 가시적 표시 또는 메타데이터***, 워터마크****와 같은 비가시적 표시를 적용할 수 있다. 비가시적 표시를 적용하는 경우에는 별도의 안내 문구 및 음성을 1회 이상 안내해야 한다. 딥페이크 및 딥보이스 생성물은 이용자가 직관적으로 인식할 수 있는 가시·가청적 표시 방법만 허용된다. 이는 딥페이크 생성물이 범죄에 오용돼 발생할 수 있는 사회적 문제에 효율적으로 대처하기 위해서다. 단, 예술적·창의적 표현물이라면 딥페이크 생성물이라도 비가시적 방법 등 전시·향유를 해치지 않는 표시 방법을 허용한다.
AI기본법상 의무를 위반하면 3천만 원 이하의 과태료가 부과되지만, 1년 동안 과태료 및 사실조사가 유예된다. 정부는 1년 뒤 상황에 따라 유예 기간이 추가 연장될 수 있다고 밝혔다.
규제에 대한 우려, 과도 vs. 공백
AI 기본법이 AI 산업 진흥을 위한 기반 마련부터 이용자 보호를 위한 규제에 이르기까지 지나치게 폭넓은 내용을 담고 있고, 고영향 AI 판단 기준, 투명성 의무 이행 방안 등이 모호하다는 지적이 있다. 실제로 정부가 AI기본법 시행을 위해 운영하고 있는 ‘인공지능기본법 지원데스크’ 상담에서 투명성과 고영향 AI 해당 여부에 관한 질문이 가장 많았다. 업계에서는 AI기본법 시행으로 기업 경쟁력 및 발전이 저해될 수 있다는 우려도 있다. 특히 고영향AI에 해당한다면 이에 따른 의무를 이행하기 위해 추가적인 인력과 비용이 발생하기에 우려를 표하고 있다.
해외 기업을 규제할 방안이 없다는 지적도 나온다. 해외 AI 사업자도 의무를 이행하도록 규정하고 있지만 현실적으로 해외 기업에 국내법을 적용하기는 어렵다. 국내 기업과 해외 기업 간 규제 적용에 형평성이 담보되지 않는다면 국내 기업의 경쟁력 약화로 이어질 수 있다는 우려가 나올 수 있다.
한편 이용자를 규제하지 않아 이용자를 보호할 방안이 부족하다는 지적도 있다. AI기본법으로는 생성형 AI를 사용하는 크리에이터를 규제할 수 없다. 이용자는 AI기본법상 적용 대상이 아니며, 이들이 사용하는 AI 제품·서비스에 적용된 표시도 이를 제거하는 등 우회 수단을 쉽게 찾을 수 있기 때문이다. 이로 인해 생성형 AI의 문제로 거론돼 온 딥페이크 성범죄에도 대응하기 어렵다. 지난 1월 xAI의 챗봇 그록이 딥페이크 성착취물 생성으로 논란이 됐지만, 해외 기업과 이용자 모두 사실상 규제가 불가능해 강경한 대응이 어려웠다.
정부는 ‘인공지능 투명성 확보 안내 지침(가이드라인)’을 공개해 이행 방안을 구체화했고, 기업의 의견을 적극적으로 수렴해 이를 지속 보완해 나갈 계획이라고 밝혔다. 또한 문의와 애로사항에 대해 자문을 제공하고 현장 설명회를 개최해 기업의 준비를 지원하고 의견을 청취하겠다고도 전했다.
* 부동소수점 연산(FLOPs): 1초에 수행할 수 있는 부동소수점 연산 횟수로, AI의 계산 속도를 나타내는 지표.
** 에너지, 먹는 물, 의료, 원자력, 범죄 수사, 채용, 대출 심사, 교통, 공공서비스, 교육 등 AI기본법 제2조 제4호에서 정하는 10개 영역
*** 메타데이터: 파일에 내장된 속성 정보의 형태로 저장되어 전용 읽기 도구 등으로 확인 가능한 데이터
**** 워터마크(디지털 식별 무늬): 콘텐츠 내에 사람이 인식할 수 없는 잡음, 무늬 등으로 저작권, 출처 정보를 삽입하는 기법