“챗GPT는 양날의 검”…과기정통부, 생성형 AI 보안 대책 논의 착수
페이지 정보
본문
“챗GPT는 양날의 검”…과기정통부, 생성형 AI 보안 대책 논의 착수
<ⓒ게티이미지뱅크>
| 정부가 챗GPT로 대표되는 생성형 인공지능(AI) 확산에 따른 사이버안보 위협 대책을 마련하기 위한 논의에 착수했다. 생성형 AI를 안심하고 사용할 수 있는 기반을 마련하는 한편 고도화하는 사이버위협에 대응하는 역량을 확보한다는 방침이다. 과학기술정보통신부는 13일 오후 서울 송파구 이글루코퍼레이션에서 현장 토론회를 열고, 생성형 AI에 관한 국가 차원 보안 위협 대응방향을 논의했다. 생성형 AI는 사이버안보에 양날의 검으로 인식된다. 악성코드 생성 시 시간을 단축하고 보안업무를 고도화·자동화할 수 있다. 반면 피싱 메일 생성, 악성코드 생성, 소스코드 내 취약점 식별, 개인정보·민감정보 유출 가능성도 있다. 특히 악의적인 학습데이터 주입으로 결과물에 영향을 주는 데이터 오염 공격을 통해 생성형 AI 자체를 겨냥할 수 있다. 김정희 한국인터넷진흥원(KISA) 미래정책연구실장은 생성형 AI 악용 공격에 대비한 사고 대응체계 정비, 기업 중요 데이터와 개인정보에 대한 안전한 활용 지원, AI 보안 관리 체계 확립 등을 제언했다. 김 실장은 “입력 데이터 변조, 학습 데이터 복원, 모델 복제 공격 등 AI 고유의 보안 위협도 존재한다”면서 “AI 모델·서비스 개발부터 활용까지 AI 자체의 고유한 보안 위협에 대한 AI 보안 대응방안을 마련해야 한다”고 말했다. 정일옥 이글루코퍼레이션 기술위원은 보안에 최적화된 소규모 언어모델(sLLM) 개발이 필요하다고 강조했다. 챗GPT와 같은 대규모 언어모델은 비용이 많이 들고 인프라가 필요한 데다 보안 분야 특성상 데이터 유출 등 우려로 구축형 AI를 선호한다는 설명이다. 정 위원은 또 이글루코퍼레이션이 자체 개발한 AI 모델과 챗GPT를 연계해 사이버 위협 정보를 판단하는 보안 솔루션(이글루XAI)을 시연했다. 이글루XAI는 분류모델, 설명형 모델, 생성형 모델 등 3개의 AI 모델을 적용했다. 정 위원은 “AI 탐지모델의 결과 예측 과정에 영향을 미 친 공격특징(feature)의 중요도를 보여줘, AI 모델이 이러한 결과를 내놓은 이유를 알 수 있다”면서 “이글루코퍼레이션의 두 AI 모델(분류형·설명형)이 내놓은 결과를 챗GPT와 연계한 자연어 형태의 답변으로 확인할 수 있다”고 말했다. 이상근 고려대학교 교수는 생성형 AI와 관련해 △기술 발전 동향 △한계와 보안 위협 분석 △심층 연구 필요성에 대해 발표했다. 박윤규 과기정통부 2차관은 “챗GPT 등 생성형 인공지능 기술은 우리 일상에 폭넓게 보편적으로 사용될 것인 만큼 보안 위협 우려에 적극적으로 대응해 나갈 필요가 있다”면서 “정부는 생성형 AI 서비스를 국민이 안심하고 이용하도록 안전한 사이버 환경을 조성하는 한편, 갈수록 지능화·고도화하는 사이버위협에 대한 대응역랑을 갖추기 위해 최선을 다하겠다”고 말했다. |
기사 원문 읽기
- 이전글서울시, AI 종합계획 수립한다…행정 혁신·시민 편의성 제고 23.06.14
- 다음글‘인터넷 역사 프로젝트 KR50 워크숍 2023’, 27일 코엑스서 열린다 23.06.13
댓글목록
등록된 댓글이 없습니다.