로그
작업 일지. 시도한 것, 측정한 것, 실패한 것을 사건 단위로 기록합니다. 최신순.
2026-07-23
산업안전보건법 RAG 두 가지 — 벡터로, 그리고 위키로같은 법령 555개 조문, 같은 로컬 LLM으로 RAG를 두 방식으로 구현했다. pgvector 임베딩 검색과, LLM이 만든 위키를 링크 따라 탐색하는 방식.
2026-07-23
벡터 RAG vs 위키 RAG — 동일 질문 10문 대결같은 법령, 같은 로컬 LLM, 같은 질문 10개. 검색 적중률은 둘 다 10/10 — 그러나 순위 정밀도와 속도, 투명성에서 성격이 갈렸다.
2026-07-22
로컬 LLM 채팅 데모 구축 — 브라우저에서 Mac mini의 모델과 대화하기벤치마크로 확인한 4개 모델을 브라우저에서 직접 써볼 수 있게 만들었다. 스트리밍, 동적 모델 전환, 그리고 삽질 두 개의 기록.
2026-07-22
단일 노드 LLM 벤치마크 — 대역폭 병목과 MoE의 승리4bit 모델 4종을 실측했다. dense는 크기에 반비례해 느려지고, 총 21B짜리 MoE가 14B dense보다 3배 빠르다.
2026-07-22
RDMA over Thunderbolt 조사 — 기본형 M4에서는 불가 확정macOS에 RDMA 도구는 들어 있지만, 기본형 Mac mini M4의 Thunderbolt 4로는 하드웨어적으로 불가능함을 실기기에서 확인했다.
2026-07-22
VLM 데모 튜닝 — 한국어가 모델 선택을 뒤집었다Qwen3-VL은 영어는 완벽했지만 한국어에서 반복·환각이 심했다. 결국 데모 모델을 Gemma 3 12B로 교체한 과정의 기록.
2026-07-22
YOLO 객체 검출 데모 — 시나리오별로 세는 눈YOLO26-nano를 상시 서빙하고, 사무실·교통·보안·동물 시나리오별 클래스 필터와 샘플로 테스트하는 데모를 공개했다. 추론은 프레임당 수백 ms.