gpt-oss 소감
페이지 정보
by리틀캔들관련링크
본문
OpenAI 가 GPT5 발표전에 오픈모델인 gpt-oss 를 내놨습니다.
두가지로 내놨는데요 20B 모델과 120B 모델을 공개하였는데 이건 소개하지 않을수가 없어 여기다 적게되네요.
제가 예전에 딥시크를 썼을때도 좀 놀랐었습니다.
그 모델은 32B 모델을 썼는데 비록 한국어를 능숙하게는 못했지만 이정도면 로컬 챗봇으로 동작해서 서비스 구현까지
가능하지 않을까 하는 가능성을 봤었는데 요번 OpenAI 가 내놓은 이모델은 20B 모델 그러니까 그래픽카드가 16GB 메모리만 있다면
마치 GPT-4o 를 쓰는 정도의 느낌을 받을정도로 부드럽게 돌아갑니다.
게다가 인터넷 검색이나 Chain of Thought 같은 기능이 기본 탑재되어 로컬모델의 한계도 가볍게 뛰어넘었습니다.
이제는 로컬에서 제대로 한국어를 하는 모델을 찾아 헤맬필요가 없다고 느껴질 정도입니다.
사용법도 간단해 졌는데 그간 Ollama가 버전업이 되어서 Ollama만 깔면 위와 같은 대화창도 자동으로 구비되어 있고 인터넷 검색도 AI에게 바로 권한을 줄수가 있습니다.
https://littlecandle.co.kr/bbs/board.php?bo_table=AI&wr_id=18
딥시크 버전으로 설치가이드를 놨는데 여기서 gps-oss 를 깔고 쓰시면 됩니다.
20B 짜리가 이런데 120B 는 어떨지 정말 놀랍네요
맥북 살때 램좀 빠방하게 살걸 그랬습니다... 36기가다 보니 120B 모델을 못돌려보는게 아쉽습니다.
요번 모델의 특이점은 OpenAI 에서 Apache 2.0 라이센스로 공개되어서 상업용으로도 쓸수 있도록 열어줬습니다.
역시 OpenAI 하면 제대로 하는군요. 딥시크가 무색하게 되었습니다 ㅎㅎ