노타, 업스테이지 '솔라 오픈 2' GPU 2장만으로 구동 성공

"슈퍼컴퓨터 방 하나"가 필요했던 AI, 이제 컴퓨터 2대로 돌아간다고요? 😮

AI 하나 돌리려면 커다란 서버실 전체가 필요하다고 생각하셨나요? 이제 그래픽카드(컴퓨터 연산 담당 부품) 딱 2개로도 똑똑한 AI를 쓸 수 있게 됐습니다.

노타라는 국내 AI 회사가 업스테이지의 초거대 AI 모델 '솔라 오픈 2'를 훨씬 가볍게 만드는 데 성공했습니다.

원래는 슈퍼컴퓨터급 장비가 필요했던 AI를, 그래픽카드(GPU) 단 2장만으로 돌릴 수 있게 만든 거예요.

솔라 오픈 2는 무려 2500억 개의 '지식 조각'(매개변수)을 가진 대형 AI입니다.

비유하자면 도서관 책 2500억 권을 다 기억하는 사람 같은 거죠.

그런데 이걸 실제로 쓰려면 도서관 통째로 옮길 만한 컴퓨터 자원이 필요했습니다.

노타는 "필요한 책만 딱 골라 꺼내 쓰게" 만들어서, 작은 사무실 컴퓨터로도 이 AI를 돌릴 수 있게 경량화(가볍게 만듦)한 겁니다.

덩치 큰 AI를 다이어트시켜서 우리 집 컴퓨터에도 들어올 수 있게 만든 셈이네요, 기특하게 😅

AI가 가벼워질수록, 학교나 학원, 심지어 집 컴퓨터에서도 강력한 AI를 더 쉽게 만날 수 있다는 뜻입니다.

지금은 기업 이야기 같지만, 몇 년 후엔 아이 책상 위 노트북에서도 이런 고성능 AI 과외 선생님이 실행될 수 있어요.

즉, "AI는 저 멀리 큰 회사에만 있는 것"이 아니라 "내 주변 어디에나 있을 수 있는 것"으로 바뀌고 있다는 신호입니다.

아이에게 AI를 막연히 무섭거나 먼 존재가 아니라, 점점 가까워지는 도구로 이해시켜 주는 게 중요해요.

- "큰 로봇도 다이어트하면 우리 집에 들어올 수 있대! AI도 그렇게 작아지고 있어" 라고 비유로 설명해보세요.

- "너가 쓰는 AI 앱도 사실 엄청 똑똑한 컴퓨터 여러 대가 도와주는 거야" 라며 AI 뒤에 있는 기술을 궁금해하게 유도해보세요.

우리 아이 컴퓨터에도 언젠가 이런 똑똑한 AI가 쏙 들어온다면, 가장 먼저 뭘 물어보게 하고 싶으신가요? 🎯