LLM embedding & vector database의 소개
LLM 임베딩의 정의와 진화 과정, 레이어 선택·풀링으로 임베딩을 추출하는 방법, 단어/문장/문서 수준 임베딩의 차이, 벡터 DB의 역할과 아키텍처, 유사도 지표와 ANN 기법까지 정리합니다.
Continue reading »LLM 임베딩의 정의와 진화 과정, 레이어 선택·풀링으로 임베딩을 추출하는 방법, 단어/문장/문서 수준 임베딩의 차이, 벡터 DB의 역할과 아키텍처, 유사도 지표와 ANN 기법까지 정리합니다.
Continue reading »CPU 파이프라인과 분기 예측이 실패할 때 드는 패널티를 짚고, 분기를 제거하는 구체적인 기법과 SIMD와의 관계, 실제 예제와 측정 도구, 그리고 branchless 코드가 오히려 불리해지는 경우까지 정리합니다.
Continue reading »