분류 전체보기31 10. AI 자동 매매 시스템 개발 과정: 모델 양자화 📝 이 글에서는 허깅페이스의 AutoTrain을 활용한 AI 자동 매매 시스템 개발 과정을 소개합니다.🔄 학습 완료된 모델을 가지고 ollama에 올리는 작업과 그 과정에서 마주친 문제들을 해결해봅니다.📊 병합한 모델을 양자화 진행 (4bit 양자화)💡 양자화란?양자화(Quantization)는 모델의 가중치를 더 적은 비트 수로 표현하여 모델 크기를 줄이고 추론 속도를 높이는 기술입니다. 일반적으로 32비트 부동소수점(FP32)으로 표현된 가중치를 더 낮은 정밀도(예: 4비트, 8비트)로 변환합니다.이를 통해 얻을 수 있는 이점:✅ 메모리 사용량 대폭 감소✅ 추론 속도 향상✅ 저사양 하드웨어에서도 대형 모델 구동 가능🔄 4bit 양자화 vs 8bit 양자화양자화 방식크기 감소메모리 사용량정확도.. 2025. 4. 10. 9. AI 자동 매매 시스템 개발 과정: 모델 병합 📝 이 글에서는 허깅페이스의 AutoTrain을 활용한 AI 자동 매매 시스템 개발 과정을 소개합니다.🔄 학습 완료된 모델을 가지고 ollama에 올리는 작업과 모델 병합 과정에서 발생하는 이슈를 해결해봅니다.🔍 허깅 페이스에서 학습 완료한 어댑터 모델을 다운로드허깅페이스에서 학습이 완료된 어댑터 모델을 다운로드하는 과정은 매우 중요합니다. 이 과정에서는 허깅페이스 API를 활용하여 학습된 어댑터 모델을 로컬 환경으로 가져오는 방법을 알아보겠습니다.💡 어댑터 모델이란?어댑터 모델은 대규모 언어 모델(LLM)을 특정 작업에 맞게 미세 조정한 경량화된 모델입니다. 전체 모델을 재학습하는 대신, 기본 모델의 일부 레이어만 조정하여 특정 도메인(예: 금융 데이터 분석)에 특화된 성능을 발휘할 수 있도록 .. 2025. 4. 10. 8. 용어 설명: 디스크리트 액션 디스크리트 액션(Discrete Action)의 이해와 활용유한 개의 선택지 중 하나만을 고르는 형식의 의사결정 체계강화학습에서 에이전트가 의사결정을 할 때, 가능한 모든 행동이 구분된 유한 집합으로 정의된 상황을 가리 킴ex) 금융 트레이딩 환경에서 자주 쓰이는 (long, short, hold) 액션 세트가 대표적인 디스크리트 액션 사례1. 디스크리트 액션의 정의와 예시디스크리트 액션은 강화학습에서 에이전트가 선택할 수 있는 행동(액션)이 명확하게 구분된 유한한 집합으로 정의된 경우를 말합니다. 쉽게 말해, 에이전트가 고를 수 있는 선택지가 몇 가지로 정해져 있는 형태입니다.트레이딩에서의 대표적인 디스크리트 액션 예시:Long(매수): 자산을 매수하거나 롱 포지션을 진입하는 행동예: 비트코인 가격이 .. 2025. 4. 10. 7. AI 자동 매매) 파트 2: 학습 과정 및 결과 분석 AI 자동 매매 시스템 개발 과정 (파트 2: 학습 과정 및 결과 분석)이 글은 파트 1: AutoTrain(파인 튜닝) 및 데이터 준비에 이어지는 내용으로, 실제 모델 학습 과정과 결과를 다룹니다.학습 파라미터 설정모델 학습에 사용된 파라미터들은 AI 성능에 직접적인 영향을 미치는 중요한 요소입니다. 각 파라미터의 역할과 설정 이유를 상세히 살펴보겠습니다.기본 학습 설정1. 채팅 템플릿설정값: none (일반 텍스트 형식으로 학습)설명:LLM을 채팅 형태로 fine-tuning할 때, 사용자/시스템 프롬프트를 어떻게 포맷팅할지 결정합니다.예: Alpaca 형식(### Instruction: {instruction}\n\n### Response:), Vicuna 형식, ChatGPT 형식 등이 있습니다... 2025. 3. 28. 이전 1 2 3 4 ··· 8 다음 반응형
