SQLite-vec 벡터 양자화 튜닝, 임베딩 용량 97% 줄이고 램 폭발 막은 썰 ⚡
SQLite-vec 벡터 양자화 튜닝으로 RAG 임베딩 데이터베이스 용량을 최대 97% 다이어트하는 실전 가이드입니다. int8 스칼라 양자화부터 1비트 바이너리 해밍 거리 연산, 2단계 리랭킹 파이프라인까지 완벽 정리했습니다.
벡터DB (2)
로컬 LLM 장기 기억 아키텍처 대유행... "너 5분 전 일도 기억 못 해?" 붕어빵 뇌 탈출기 🧠
로컬 LLM 장기 기억 아키텍처 대유행 총정리! Mem0, Letta(MemGPT), Zep을 활용해 Ollama에 장기 기억력을 부여하고 금붕어 AI 탈출하는 최신 아키텍처 꿀팁을 공개합니다.