Lmstudio 로컬llm 코딩 돌리시는분들있나요?
5060 8GB , ram 32gb 스펙의 기본 컴퓨터유저인데요.
로컬 llm 으로 코딩하고 싶어서 ( 물론 api가 ㅈㄴ 유창하고 잘하는건 잘압니다....돈이 압박이 심해서리)
8b 이하 모델로 수십개를 허깅에서 깔았다 지웠다 하다가,
개인적으로 저에게 맞는 모델을 찾은거 같아서 공유합니다~
토큰속도는 위스샷 정도 나오고요.
제 컴사양에서 졸라 빠르고, 코딩도 잘하는
모델명은 gemma4-goding-agent 입니다.
ide 프로그램은 vscode 입니다.
확장은 cline에 lmstudio 가져왔구요.
lmstudio설정은
컨텍스트 5만토큰
풀gpu오프로딩
나머진 설정기본값 유지
api 연결해서 코딩하는거랑 속도가 별반 차이없는거 같습니다 ㅎㄷㄷ
저는 코딩의 코자도 모르던 코알못이라 바이브코딩이 궁금해서 시작했어요
어떤식으로 코딩하냐면,
뭐가 만들고 싶으면,
- 로또 번호 생성 프로그램 파이썬으로 제작 "해줘"
실행이 안돼고 에러가 생기면,
- [ 에러복사 ] 수정 "해줘"
ui 디자인이 구리면,
- ui디자인 못생겼는데 이쁘게 다시 수정 "해줘"
그래도 맘에 안들면
- [ 이쁘게 디자인된 ui그림 퍼옴 ] 이거랑 비슷한 스타일로 수정 "해줘"
ㅎㅎㅎㅎ
특정 코드 부분 찾아서 직접 고치고 그런거 안합니다 ㅎㅎ 못합니다 사실 ㅎㅎㅎ
오로지
해줘!!!!!!!!
해줘!!!!!!!!!!!!!!!!
Detroit

방구석모험가
tomm
볼텍스
테라토스
조커왕
캄캄콜라
티티러브
해온
아신


얘는 조금 더 느리긴 느립니다. 별차이는 없는거 같지만서도요
이래서 로컬로 돌릴 모델을 찾고 있어요.
개인적으로 사용하는 입장에서 뭐뭐 고쳐줘, 뭐뭐 기능추가해줘 하면 에러가 무조건 꼭 납니다. 그럼 다시 에러메세지 로그 복사해서 붙여넣고 엔터치면 스스로 찾아서
잘 고치더라구요.
음.. 온라인ai 가져와서 쓰면 한두번에 성공할것을, 이놈은 10번은 해야 성공한다는 정도? ㅋㅋㅋㅋ
큐웬이던 젬마던 딥시크던 리라마던 로컬llm 4b이하는 다 그럽니다 ㅎㅎㅎ