• Quantization

    LM Studio에서 모델을 둘러보면 Q4_K_M, Q5_K_M 등으로 표시된 사양에 대해서 볼 수 있다. 이를 이해하려면 우선 양자화에 대해서 알아야 한다. 넓은 의미의 양자화는 연속적인 값을 특정한 값의 범위로 근사화하는 과정을 의미한다. 그렇다면 딥러닝에서 양자화란 무엇일까 ? 딥러닝에서의 양자화란, 모델의 파라미터를 lower bit로 표현함으로서 계산과 메모리 접근 속도를 높이는 경량화 기법이다....


  • Llama 3

    이 포스트는 아직 준비 중입니다. 곧 업데이트될 예정이니, 조금만 기다려 주세요 !


  • SQL 매직 사용시 트랜잭션이 종료되는 문제

    Trouble Shooting %%sql CREATE TABLE user ( id INT PRIMARY KEY AUTO_INCREMENT, name VARCHAR(20) ) ; %%sql SAVEPOINT create_table; INSERT INTO user (name) VALUES ('말랑카우'), ('춘식이') ; SAVEPOINT add_initial_user; %%sql DELETE FROM user WHERE name = '말랑카우' ; SAVEPOINT delete_malrangcow; %%sql ROLLBACK TO add_initial_user; COMMIT; SQL Magic을 통해서 TCL을 작성하던...


  • K-Nearest Neighbor (KNN) 알고리즘

    KNN 알고리즘(혹은 K-NN)은 지도학습 기반의 머신러닝 분류 알고리즘 중 하나로, 특정 데이터가 주어졌을 때, 그 데이터와 가장 가까운 k개의 데이터들이 어떤 카테고리에 속하는지를 분류하는 알고리즘이다. 같은 거리기반의 클러스터링과 유사한 개념이지만, 기존 관측치의 Y값이 존재한다는 점에서 비지도 학습에 해당하는 클러스터링과는 다르다. KNN 알고리즘은 기본적으로 거리를 측정할 때 유클리디안 거리(Euclidean distance) 계산법을...


  • Matrix factorization 알고리즘

    이 포스트는 아직 준비 중입니다. 곧 업데이트될 예정이니, 조금만 기다려 주세요 !