[우리문화신문=김영조 기자]  우리나라가 오늘 1월 22일 인공지능(AI) 기본법을 시행한다. 전 세계에서 인공지능 규제법을 전면적으로 시행하는 첫 사례다. 인공지능 기술이 산업과 사회 전반에 빠르게 확산하면서, 그 영향력만큼이나 윤리적 문제와 보안 문제에 대한 우려도 커지고 있다. 특히 개인정보와 사생활 침해 문제는 사회적 신뢰를 훼손하고 갈등을 증폭시킬 수 있는 핵심 쟁점으로 꼽힌다.

 

 

인공지능 기본법은 이런 위험을 최소화하고, 인공지능 기술이 안전하고 책임 있는 방향으로 활용될 수 있도록 법적 기준을 마련하기 위해 제정됐다. 생성형 인공지능과 고영향 인공지능을 중심으로 인공지능 개발과 제공, 이용 전반을 규율하며 인공지능 서비스 이용자에게도 보안과 책임 있는 활동을 요구한다. 이번 글에서는. 인공지능 기본법의 주요 내용을 살펴보고, 인공지능 서비스 이용자가 반드시 알아야 할 보안 수칙도 함께 짚어본다.

 

인공지능 기본법 적용 대상은?

 

인공지능 기본법은 모든 인공지능 기술을 일괄적으로 규제하는 법은 아니다. 단순 분류나 예측 기능을 수행하는 인공지능 시스템은 원천적으로 규제 대상에 포함되지 않는다. 대신 사람의 생명과 신체 안전, 기본권에 중대한 영향을 미치거나 그런 위험이 발생할 가능성이 있는 인공지능 시스템을 ‘고영향 인공지능’로 정의하고, 이를 주요 규제 대상으로 삼고 있다.

 

또한, 입력된 데이터를 기반으로 새로운 결과물을 만들어내는 ‘생성형 인공지능’ 역시 인공지능 기본법의 적용 대상에 포함된다. 이와 함께 인공지능 시스템을 개발하거나 제공하는 사업자뿐만 아니라 인공지능을 활용한 제품이나 서비스를 제공하는 사용자도 법 적용 대상에 포함돼 있다. 이를 통해 인공지능 기본법은 인공지능 기술 개발부터 서비스 제공과 활용 단계까지 전반을 규율하는 것을 목표로 한다.

 

인공지능 기본법은 어떤 내용을 담고 있을까?

 

1) 산업 기반 조성

인공지능 기본법의 첫 번째 주요 내용은 국가 차원의 인공지능 산업 기반을 조성하기 위해 과학기술정보통신부 장관이 3년마다 인공지능 기본 계획을 수립하도록 하고, 국가인공지능위원회의 실효성을 강화하며 인공지능 안전연구소 설립 등의 제도적 기반을 마련하는 것이다.

 

2) 고영향 인공지능 개념 도입

이번 법의 핵심 가운데 하나는 ‘고영향 인공지능’ 개념을 도입한 점이다. 의료, 에너지, 채용, 대출 심사 등 국민의 생명과 안전, 기본권에 중대한 영향을 미칠 수 있는 분야의 인공지능 시스템을 고영향 인공지능으로 규정하고, 이를 활용한 제품이나 서비스를 제공할 때 이용자에게 사전에 알리도록 했다. 또한, 고영향 인공지능에는 안전성 관리 의무가 부과되며, 의무 위반 시 과태료 부과 등 법적 규제 대상이 된다.

 

3) 인공지능 투명성 확보

생성형 인공지능을 활용해 만들어진 결과물에는 이용자가 인공지능이 만든 콘텐츠임을 인지할 수 있도록 가시적ㆍ비가시적 방식의 식별무늬(워터마크)를 표시해야 한다.

 

4) 나라 밖 정보기술 대기업(빅테크) 국내 대리인 지정

아울러 나라밖 정보기술 대기업에 대한 관리 체계도 포함됐다. 전년도 기준 글로벌 매출 1조 원 이상이거나, 국내 인공지능 서비스 매출 100억 원 이상, 또는 국내 일평균 이용자 수 100만 명 이상 가운데 하나라도 충족할 때 나라 밖 정보기술 대기업의 국내 대리인을 지정해야 한다. 현재 기준으로는 열린 인공지능과 구글 등이 해당된다.

 

5) 과태료 부과

인공지능 기본법상 의무를 위반할 때는 많게는 3천만 원의 과태료가 부과될 수 있으며, 일정 요건에 따라 1년 이상의 계도 기간이 운영된다.

 

인공지능 서비스 이용자를 위한 보안 수칙

 

1. 공식 누리집에서만 인공지능 서비스 이용

인공지능 서비스는 반드시 공식 누리집이나 검증된 앱 가게를 통해서만 접속해 내려받아야 한다. 유사 도메인이나 검색 광고, 팝업을 통한 접속은 피싱이나 악성코드 유포로 이어질 수 있으므로 주의가 필요하다. 사이트 접속 시 HTTPS(누리 탐색기와 누리집 사이 데이터를 전송하는 데 사용되는 기본 통신 규약) 적용 여부도 함께 확인해야 한다.

 

2. 계정 보안 강화

인공지능 서비스 계정에는 영문 대소문자ㆍ숫자ㆍ특수문자를 조합해 어느 정도 복잡한 비밀번호를 설정하고, 주기적으로 변경해야 한다. 여러 서비스에서 동일한 비밀번호를 재사용하지 말고, 가능하다면 이중 인증을 활성화해 계정 탈취 위험을 줄인다.

 

3. 공용 네트워크 사용 주의

공공 와이파이(Wi-Fi)나 보안이 취약한 네트워크 환경에서는 인공지능 서비스 로그인이나 정보 입력을 자제해야 한다. 불가피하게 이용할 때 가상 사설망(VPN)을 활용하고, 이용한 뒤에는 반드시 나가기(로그아웃)를 해야 한다. 주변에서 화면을 볼 수 있는 환경도 주의가 필요하다.

 

4. 서비스 이용약관과 개인정보 처리방침 확인

가상 사설망 서비스 이용 전 이용약관과 개인정보 처리방침을 확인해 데이터 수집ㆍ저장ㆍ활용 방식과 책임 범위를 이해해야 한다. 서비스 정책이 변경될 때도 변경 내용을 확인하고, 동의 여부를 신중히 판단해야 한다.

 

5. 개인정보와 중요 정보 입력 금지

가상 사설망 서비스에는 개인식별정보, 기업 기밀, 내부 자료 등 민감하거나 중요한 정보를 입력하지 않아야 한다. 입력된 정보는 학습 데이터나 서비스 기록으로 남을 수 있으며, 제3자에게도 드러날 위험이 있다.

 

6. 가상 사설망 결과에 대한 검증 필수

가상 사설망이 생성한 정보나 콘텐츠는 사실 여부와 정확성을 반드시 별도로 확인해야 한다. 하나의 출처만 신뢰하지 않고 여러 자료를 엇갈리게 검증하며 최신 정보 반영 여부, 편향 가능성 등을 고려하고, 중요한 판단이나 의사결정에는 전문가 검토를 병행해야 한다.

 

7. 항상 의심하고 정보 출처 확인

인공지능을 활용해 생성된 이미지나 영상, 음성, 텍스트는 허위 정보나 조작된 콘텐츠일 가능성을 염두에 둬야 한다. 뉴스, 연구 자료, 통계 등은 출처의 신뢰성을 확인하고, 과도하게 자극적인 내용은 특히 주의한다.

 

8. 인공지능 악용이 의심되는 콘텐츠 곧바로 지운다

인공지능을 악용해 제작된 것으로 의심되는 콘텐츠, 프로그램, 파일은 곧바로 지우고 실행하거나 누르지 않아야 한다. 출처가 불분명한 파일이나 링크는 악성코드 감염, 정보 탈취로 이어질 수 있다.

 

9. 인공지능 악용 결과물 공유 금지

악성코드, 허위 정보, 첨단 조작기술(딥페이크) 등 인공지능 악용이 의심되는 결과물을 소장하거나 다른 사람에게 공유해서는 안 된다. 이를 공유할 때 불법 행위에 연루되거나 보안사고 확산의 원인이 될 수 있다.

 

10. 허위 콘텐츠 생성ㆍ유통 금지

인공지능을 이용해 허위 정보, 첨단 조작기술 영상ㆍ이미지ㆍ음성 등을 생성하거나 매매ㆍ유포해서는 안 된다. 이런 행위는 개인과 사회에 피해를 줄 수 있으며, 법적 책임으로 이어질 수 있다.

 

11. 사용 기록과 데이터 관리

인공지능 서비스 이용 뒤 불필요한 입력 기록이나 생성 결과는 지우고, 필요한 데이터는 별도로 안전하게 저장한다. 계정 해지 시 데이터 처리 방식도 확인해 정보가 불필요하게 남지 않도록 한다.

 

12. 최신 보안 업데이트 유지

인공지능 서비스와 연동된 운영체제, 브라우저, 앱, 보안 프로그램은 항상 최신 버전으로 유지해야 한다. 보안 패치를 적용하지 않은 상태에서는 취약점을 악용한 공격이나 데이터 유출 위험이 커질 수 있다.

 

결론

인공지능 기본법 시행은 인공지능 기술을 보다 안전하고 책임 있게 활용하기 위한 제도적 출발점이다. 법과 제도가 마련됐다고 해서 모든 위험이 자동으로 사라지는 것은 아니다. 인공지능 서비스를 사용하는 이용자 역시 보안 수칙을 준수하고, 정보 활용에 대한 책임 있는 태도를 가져야 한다. 인공지능 기본법과 이용자 보안 수칙을 함께 이해하고 실천할 때, 인공지능은 사회에 긍정적인 가치로 자리 잡을 수 있을 것이다.

 

                                                                                     AhnLab 콘텐츠마케팅팀 제공