작년 3월 20일에 쿠팡에서 주문해서 1년 가까이 사용한 오토노스 TX370의 1년 사용후기입니다. 기존 글은 위 내용 참고하시면 될 것 같습니다. 하루 평균 10~15시간은 이 의자 위에서 보낸 것 같은데요, 80키로 중후반의 성인 남성이 1년간 앉아서 사용했으니 내구성에 대해서는 충분히 언급 가능한 기간이 아닌가 싶습니다. 우선 이 의자를 구입할때 허먼밀러 같은 100만원 넘어가는 하이엔드 의자를 구입해야하나 고민을 하다가 마지막으로 한번만 다른 의자를 사보고 그래도 아니다 …
최근 주로 사용하는 minimax m2.5 모델의 gguf/mlx 모델과 unsloth 모델의 단순 프롬프트 tps 차이에 대해서 기록을 남깁니다. lmstudio-community 의 4bit 양자화 mlx 모델보다 unsloth 의 Q4_K_S 모델이 좀더 빠르네요. 일단 툴 사용에 문제는 없는 모델이지만 .. 성능에 큰 차이가 없으니 .. unsloth 모델로 교체해서 사용해봐야 겠습니다.
앞서 qwen3 계열 모델들이 Tool calling 에 문제가 있다는 글을 여러번 작성 했는데요 .. 현재까지 제가 찾아보고 해본 정보로는 qwen3 모델의 경우 qwen 전용 툴로 학습되었다는 것이고 .. chat template 를 수정해서 극복 가능하지 않을까 라는 생각으로 여러 짓을 해봤으나 .. 그리 결과가 좋지는 못했습니다. 현재까지는 tps의 이점 때문에 gguf/mlx 모델을 선호해 왔습니다만 .. 아무래도 mlx 진영이 Ai 모델 시장에서는 사용자가 소수인 상황이라 상대적으로 …
모두의 프린터도 배포한지가.. 5년가량 되었네요.. PDF 가 아무리 고이고 고인 포맷의 문서파일이라 해도 .. 그래도 세상이 변하면서 최신의 기술이 많은 이점을 주는건 사실인데요 .. 모두의 PDF의 경우 배포시작이 5년이지 실제로 내부에 사용되는 기술들은 거의 10년 전부터 제가 PDF 관련해서 사용하던 이런저런 것들을 합쳐서 만든 레거시 덩어리라 .. 짬짬이 완전 새로운 기반으로 만들어야지 만들어야지 하면서 야금야금 진행은 해왔습니다만 .. 기본 기반은 어느정도 정리가 끝나서 실제 …
여전히 클로드코드니 코덱스니 이런저런 다양한 놈들을 사용하는 와중에 틈틈히 LocalLLM 만으로 어느정도 수준까지 사용이 가능하지에 대한 많은 연구와 테스트를 해보고 있습니다. 새로운 모델이 등장하는 텀이 좀 길어지는 느낌이긴 합니다만 .. 현재까지 정말 다양한 모델을 LM Studio, Ollama, mlx-ml, llama.cpp, exo 등에서 사용을 해봤습니다만 .. Openai API 를 통한 채팅 기반의 사용에서는 어떤 모델이든 대체로 큰 문제 없이 사용이 가능합니다만 .. Function calling, Tool Calling의 …
댓글을 달려면 로그인해야 합니다.