:)

LLM Fine-tuning 기본 개념목적: 사전 학습된 LLM을 특정 도메인/태스크에 맞게 조정방식SFT (Supervised Fine-Tuning): (입력, 정답) 쌍 학습 → 기본 성능 확보LoRA / QLoRA: 전체 파라미터 대신 소수의 랭크 행렬만 학습 → 메모리&시간 절약⇒ QLoRA: 4bit 양자화 + LoRA → 5~15GB VRAM으로도 대형 모델 튜닝 가능강화학습(RL) 기반 Fine-tuning 필요성단순 SFT는 “좋은 답 vs 덜 좋은 답” 구분이 어려움RLHF 계열은 reward 기반으로 모델을 더 정밀하게 조정전통 PPO 기반 RLHF는 보상 모델, 가치 모델이 따로 필요해 복잡&비용 큼RL 기반 Fine-tuning 접근 방식RL 기본 개념RL의 목적: 좋은 결과를 더 ..

Stable DiffusionStable Diffusion은 Latent Diffusion Model(LDM) 기반의 Text-to-Image 생성 모델.일반적인 Diffusion 모델은 고해상도 이미지 픽셀 공간에서 노이즈를 주고 제거하는 과정을 학습함. 하지만 이 방식은 메모리와 연산량이 매우 크다는 단점이 존재함.이를 해결하기 위해 Stable Diffusion은 이미지를 latent space로 압축 → 더 작은 차원에서 노이즈 제거 학습. 다시 디코딩해 고해상도 이미지 복원. 픽셀 공간이 아닌 latent space에서 diffusion을 수행하기 때문에 더 효율적.모델 구조 Text Encoder (CLIP / OpenCLIP)사용자의 텍스트 프롬프트를 임베딩 벡터로 변환이미지 생성 시 의미적..

Introduction to Model Context Protocol (MCP)문제점기존 LLM은 학습 데이터에 의존해 최신 정보를 반영하지 못함. 날씨, 환율처럼 실시간 변화에는 제대로 대응하지 못하는 문제.해결책: MCPModel Context Protocol은 LLM이 외부 도구나 실시간 데이터에 접근할 수 있도록 연결 인터페이스 역할 → 결과적으로 LLM의 실용성, 정확성 향상Key Concepts and Terminology기존 방식(M×N): 각 모델, 툴마다 전부 따로 연결해야 함 → 연결 개수가 너무 많아짐MCP 방식(M+N): 모델은 MCP 한 번만 연결하고, 툴도 MCP만 연결 → 모든 연결이 하나의 표준으로 통합됨단일 모델과 tool 간의 개별 연결 ⇒ 모델이 Database, Fil..

1. ElasticSearch란?ElasticSearch는 오픈소스 기반의 분산 검색 및 분석 엔진으로, Apache Lucene을 기반으로 만들어졌다.대용량 데이터를 빠르게 검색할 수 있도록 설계실시간(near real-time) 검색 기능 제공JSON 형식 문서 기반의 데이터 저장RESTful API를 통한 손쉬운 접근ElasticSearch는 ‘검색에 특화된 NoSQL 데이터베이스’2. Elastic Stack 개요구성 요소 역할Logstash데이터 수집 및 전처리ElasticSearch데이터 저장 및 검색Kibana시각화 및 대시보드 제공이 세 가지를 묶어 ELK Stack이라고 부르며 로그 분석, 실시간 모니터링, 검색 시스템 등에 활용된다.3. 기본 개념 정리Document하나의 데이터 단위 ..

YOLO (You Only Look Once) v3는 YOLO의 세 번째 버전.YOLO v3는 객체 탐지(Object Detection) 알고리즘 중 하나로, single pass로 이미지를 처리하여 객체의 Bounding Box와 Class를 동시에 예측함. 빠르고 정확한 실시간 객체 탐지에 적합함.YOLO v3의 주요 특징속도와 정확도: YOLO v3는 한 번의 피드포워드 패스로 이미지를 처리하므로 매우 빠르다. 실시간 객체 탐지에 적합함.다중 스케일 탐지: YOLO v3는 작은, 중간, 큰 객체를 다양한 스케일에서 탐지하여 다양한 크기의 객체를 효과적으로 탐지할 수 있다.향상된 정확도: Darknet-53 백본을 사용하여 이전 버전보다 더 깊고 복잡한 특징을 학습할 수 있으며, Residual Co..