728x90 반응형 SMALL LLM2 3. LLM의 활용과 학습 과정: 이론적 접근과 응용 1. LLM을 활용하는 방법LLM을 효과적으로 활용하는 방법은 여러 가지가 있으며, 각 방식은 기존 모델을 어떻게 조정하느냐에 따라 다릅니다. 대표적으로 전이 학습(Transfer Learning), 파인튜닝(Fine-Tuning), 검색 증강 생성(RAG), 그리고 Few-shot Learning이 있습니다.1-1. 전이 학습(Transfer Learning)과 파인튜닝(Fine-Tuning)LLM의 활용 방식은 크게 전이 학습과 파인튜닝으로 나뉩니다.전이 학습 (Transfer Learning)기존의 사전 훈련된 모델을 새로운 작업에 맞게 조정하는 방법.전체 모델 가중치를 유지하면서 일부 특정 계층(layer)만 조정.예제: BERT → BioBERT (의료 논문 분석용으로 학습된 모델)파인튜닝 (F.. 2025. 4. 1. 1. LLM (거대 언어 모델, Large Language Model) 개요 1. LLM의 개념LLM (Large Language Model)**은 대규모 데이터셋을 기반으로 학습하여 자연어를 이해하고 생성할 수 있는 심층 신경망 기반 AI 모델입니다. Transformer 아키텍처를 활용하여 텍스트 데이터의 문맥을 파악하고, 문장 생성, 기계 번역, 요약, 질의응답(QA) 등의 자연어 처리(NLP) 작업을 수행합니다.이 모델은 기본적으로 확률적 언어 모델링(Probabilistic Language Modeling)에 기반하며, 특정 단어 또는 문장의 출현 확률을 예측하는 방식으로 작동합니다.대표적인 LLM으로는 GPT (Generative Pre-trained Transformer), BERT (Bidirectional Encoder Representations from Tra.. 2025. 4. 1. 이전 1 다음 728x90 반응형 LIST
