[su_note note_color=”#f8f8f0″ radius=”7″]최근 글로벌 테크 산업에서는 가성비 높은 소형언어모델(sLLM)의 개발에 집중하고 있습니다. 대형언어모델(LLM)에 비해 훨씬 적은 비용으로 유사한 효율을 내는 sLLM은 비용 문제로 고민하던 많은 기업에게 새로운 대안을 제시하고 있습니다.[/su_note]
대형언어모델은 그 성능만큼이나 유지비용도 상당히 높습니다. OpenAI의 샘 올트먼 CEO는 과거에 챗GPT 운영 비용이 매우 높다고 언급한 바 있습니다. 반면, sLLM은 상대적으로 낮은 비용으로도 충분한 성능을 발휘할 수 있어 기업들의 부담을 줄여줍니다. 예를 들어, 구글의 ‘제미나이 나노’와 같은 모델은 수억 개의 매개변수를 가지고 있음에도 불구하고 훨씬 적은 비용으로 운영됩니다.
한국 스타트업 업스테이지와 매스프레소가 공동 개발한 ‘매스 GPT’는 130억 개의 매개변수를 활용하여 수학 문제 해결에 특화된 AI를 선보였습니다. 이 모델은 고난도 수학경시 문제로 구성된 ‘매스 벤치마크’에서 GPT-4를 능가하는 성적을 거두며 그 가능성을 입증했습니다.
sLLM은 그 크기와 효율성으로 인해 온디바이스 AI 적용에 매우 적합합니다. 이는 사용자의 기기에 직접 AI를 탑재하여 인터넷 연결 없이도 AI 기능을 사용할 수 있게 만드는 기술입니다. 이는 특히 개인정보 보호와 데이터 보안이 중요한 분야에서 큰 장점으로 작용합니다.
네이버의 하이퍼클로바X는 신규 경량화 모델 ‘HCX-대시’를 통해 보고서 작성, 챗봇 구현 등 다양한 업무에 활용될 수 있도록 했습니다. 또한, 업스테이지는 ‘솔라 미니’를 오픈소스로 제공하여 사용자가 직접 맞춤형 AI 서비스를 개발할 수 있도록 지원하고 있습니다.
밸류에이츠의 최근 보고서에 따르면 sLLM 시장은 2022년 51억 8000만 달러에서 2029년까지 171억 8000만 달러로 급성장할 전망입니다. 이는 sLLM이 글로벌 AI 기술 시장에서 중요한 위치를 차지하게 될 것임을 시사합니다.
sLLM은 그 가성비와 효율성으로 인해 점차 많은 기업들이 도입하고 있으며, 특히 특화된 분야에서 뛰어난 성능을 발휘하고 있습니다. 이러한 추세는 향후 기술 발전에 있어 중요한 영향을 미칠 것으로 예상됩니다.
KAIST 연구진, 인공 탄수화물 나노입자로 맞춤형 장기 치료의 새 지평 연다
임플란트 틀니 가격, 최신 정보에 대해 알아봅니다. "전체 임플란트는 부담스러운데... 방법이 없을까요?" 정답은 '임플란트 틀니'입니다.…
밤잠 설치는 야간뇨, 나만 이런 걸까? "어젯밤에도 3번이나 깼네..." 혹시 밤새 화장실을 들락날락하느라 깊은 잠을…
50대 남성 활력 저하, 나만 이런걸까?? "알람이 울려도 몸이 천근만근, 5분만 더를 외치게 된다." "점심…
부모님 혈행 개선 어떻게 시작할까? "요즘 부쩍 손발이 차고 저리다", "계단을 오르면 숨이 차고 어지럽다",…
50대 남성 전립선 영양제가 왜 필요할까요? 혹시 오늘도 새벽녘에 잠이 깨셨나요? 자다 깨서 화장실을 다녀와도…
잠 못 드는 갱년기 불면증 "몸은 녹초가 됐는데, 정신만 말짱해서 괴로워요.", "어김없이 새벽 3시면 눈이…