나의 공부기록

AI 엔지니어랑 회의하다 보면 갑자기 알 수 없는 용어들이 튀어나옵니다."이번엔 파인튜닝으로 갈까요?""프롬프트 엔지니어링으로 해결 가능할 것 같은데요.""LLMOps 자동화 붙여야 할 것 같습니다."어떤 분들은 조용히 고개 끄덕이지만 속으로는 뭐야 그게… 하고 있을 겁니다.이제는 그럴 필요 없습니다. 오늘 싹 정리해 드립니다.파인튜닝(Fine-Tuning) = 모델에게 마지막 스킬 가르치기파인튜닝은 이미 만들어진 **기성품 모델(Pretrained Model)**에우리 회사 데이터를 조금 더 학습시켜 특화된 모델로 만드는 과정입니다.비유하자면:일반 요리학원 수료생 = 기성품 모델우리 회사 전용 레시피 재교육 = 파인튜닝예시:일반 번역 모델 → 우리 회사 전문 용어(반도체, 금융, 의료) 추가 학습일반 ..

지난 편에서 모델 성능 지표를 꼼꼼히 살펴봤습니다.모델이 충분히 똑똑해졌다면 이제 고객이 쓰도록 해야겠죠?하지만 여기서부터 또 다른 전쟁이 시작됩니다.“배포(Deployment)”와 “운영(Serving)” 단계입니다.모델 배포(Deployment) = 신제품 출시모델 배포는 말 그대로 모델을 실제 환경에 올리는 과정입니다.엔지니어들이 “배포 완료했습니다”라고 말할 때는모델 파일을 서버에 올리고,API나 서비스가 이 모델을 호출할 수 있게 연결하고,테스트를 거쳐 실제 유저 트래픽이 들어오도록 오픈한 상태를 말합니다.비유하자면,새로운 메뉴를 개발한 셰프가전국 매장 주방에 레시피 공유하고직원 교육하고매장 메뉴판에 올리는 과정이 전부 끝난 상태라고 보면 됩니다.모델 서빙(Serving) = 실시간 일하기배포된..