나의 공부기록

GPT-5가 나왔다고 해서 모든 게 끝난 건 아니다.오늘은 GPT-5의 경쟁자들과의 차이점, 그리고 여전히 남아 있는 숙제를 이야기합니다.GPT-5 vs 다른 프런티어 LLM – 누가 더 강할까? GPT-5는 단순히 새로운 모델이 아니라 균형 잡힌 강점을 갖춘 모델입니다.하지만 Anthropic, Google, Meta, Mistral 같은 경쟁자들도 만만치 않죠.하나씩 비교해 봅시다.Anthropic Claude 4 vs GPT-5코딩: GPT-5가 근소하게 우세 (74.9% vs ~72.7%)수학·추론: GPT-5가 더 강함장문 처리: Claude가 여전히 매끄럽고, 컨텍스트 100k+로 안정적코드 스타일: Claude는 더 안전하고 깔끔한 코드 생성으로 칭찬받음아는 척 포인트:“GPT-5는 코딩·..

GPT-5가 드디어 등장했습니다.AI 커뮤니티에서 가장 많이 들리는 말은 “이번엔 진짜 한 단계 진화했다”는 것.그런데 구체적으로 뭐가 달라졌는지, 실제 업무에서 어떤 의미가 있는지 궁금하신 분들 많죠?오늘은 OpenAI가 공개한 GPT-5 시스템 카드를 바탕으로회의에서, 팀 브리핑에서, 심지어 술자리에서 “나 GPT-5 좀 아는 사람” 소리를 들을 수 있을 정도로 깊이 정리해 보겠습니다.GPT-5 = 라우팅 듀오 (gpt-5-main + gpt-5-thinking)GPT-5의 가장 큰 변화는 듀얼 모델 구조입니다.이전 모델들(GPT-4o, o3)은 단일 모델이었지만, GPT-5는 두 모델이 짝을 이루어 돌아갑니다.gpt-5-main빠르고 저렴일상 질의, 간단한 작업에 최적화Latency(응답속도)가 매..

"단일 GPU로 13B 모델 파인튜닝 가능?"QLoRA는 4-bit 양자화와 LoRA를 결합해 메모리 사용을 극도로 줄여주는 혁신적인 기법입니다. QLoRA란?QLoRA(Quantized LoRA)는 기존 LoRA 기법을 저비트 양자화(4-bit quantization) 와 결합한 방식입니다.모델 weight는 4-bit quantized 형태로 GPU 메모리에 올림LoRA 저랭크 파라미터(A, B)만 FP16 혹은 BF16 precision으로 학습즉, 원본 모델은 4-bit로 압축 + LoRA delta만 학습 → 메모리 사용량과 연산량이 크게 줄어듦.왜 필요한가?LLaMA, Falcon, Mistral 등 7B~70B급 모델은 full precision로 로드 시 VRAM이 40GB~300GB 이상..