[이슈플러스]작은 고추가 맵다…소형 AI 모델 시장 성장세
페이지 정보
본문
[이슈플러스]작은 고추가 맵다…소형 AI 모델 시장 성장세
게티이미지뱅크
| 글로벌 빅테크 기업간 범용인공지능(AGI) 개발 경쟁이 격화되는 한편에서는 비용 효율적이고 기업·산업에 특화된 소형 인공지능(AI) 모델 개발 경쟁이 한창이다. 경량 거대언어모델(sLLM)과 경량언어모델(SLM)이 계속해서 출시되고 있다. sLLM과 SLM은 LLM의 압축 버전이다. 인간의 뇌에서 뉴런 간 정보 전달의 통로 역할을 하는 시냅스에 해당하는 언어모델의 매개변수(parameter)를 줄였다. 정해진 기준은 없지만, 통상적으로 매개변수 300억 개 이하인 모델을 sLLM, 100억 개 이하인 모델을 SLM으로 부른다. sLLM이 주목받는 이유는 LLM에 비해 저렴하면서도 성능은 뒤지지 않기 때문이다. AI 모델의 매개변수가 많을수록 성능은 높아지지만, 그만한 컴퓨팅 파워가 요구된다. 기업들이 AI 모델을 구동하기 위해서는 소형 AI 모델이 필요한 것이다. 또 소형 AI 모델은 기업에 특화된 데이터를 학습했기 때문에 LLM보다 성능이 낮을 것이라는 우려를 불식한다. LLM은 넓은 범위의 질문에 잘 대답하지만, 기업에 필요한 범위는 한정돼있다. 예컨대 금융권에는 일반적인 대답에 능한 LLM보다 금융 관련 데이터를 학습해 관련 업무에 특화된 소형 AI 모델이 합리적이다. 기업은 LLM 운영에 따른 보안 문제로 인해 sLLM으로 시선을 돌린다. 기업이 챗GPT 등의 LLM을 사용하려면 응용프로그래밍 인터페이스(API)를 활용해야 하는데 이 경우 기업의 데이터가 유출되는 등의 보안에 취약하기 때문이다. 김성언 바이브컴퍼니 대표는 “챗GPT의 API를 활용할 경우 보안 문제뿐만 아니라 API 사용료도 기업에는 부담”이라며 “기업이나 공공 기관에서 자체 AI 모델을 만들려는 움직임이 점점 늘어 sLLM에 대한 수요는 계속 늘어날 것”이라고 말했다. 온디바이스 AI 기기 수요가 늘어나면서 SLM도 주목받고 있다. 마이크로소프트(MS)의 AI PC인 '코파일럿+ PC', 삼성전자의 '갤럭시 S24', 애플의 AI 시스템 '애플 인텔리전스'에 모두 온디바이스 AI가 도입됐다. 온디바이스 AI는 네트워크 연결 없이 기기 자체에서 AI를 사용하는 기술이다. 기기 자체에서 AI를 구동하기 위해서는 100억개 이하 매개변수를 가진 SLM을 활용해야 한다. 유영재 연세대 인공지능학과 교수는 “핸드폰, 작은 로봇 등에 도입될 온디바이스에 대한 니즈가 확실히 있기 때문에 SLM에 대한 수요는 늘어갈 것”이라며 “하드웨어 성능이 좋아짐에 따라 SLM의 사이즈도 점점 커져갈 것”이라고 말했다. 출처: 전자신문, https://www.etnews.com/20240612000211, 24.6.13 |
- 이전글서울시, AI·핀테크 분야 등 해외 투자유치 유망기업 'CORE100' 모집 24.06.17
- 다음글생성형 AI 기반 대국민 디지털고용서비스 '고용AI' 내년 공개 24.06.12
댓글목록
등록된 댓글이 없습니다.