본문 바로가기

ai 학습3

10. AI 자동 매매 시스템 개발 과정: 모델 양자화 📝 이 글에서는 허깅페이스의 AutoTrain을 활용한 AI 자동 매매 시스템 개발 과정을 소개합니다.🔄 학습 완료된 모델을 가지고 ollama에 올리는 작업과 그 과정에서 마주친 문제들을 해결해봅니다.📊 병합한 모델을 양자화 진행 (4bit 양자화)💡 양자화란?양자화(Quantization)는 모델의 가중치를 더 적은 비트 수로 표현하여 모델 크기를 줄이고 추론 속도를 높이는 기술입니다. 일반적으로 32비트 부동소수점(FP32)으로 표현된 가중치를 더 낮은 정밀도(예: 4비트, 8비트)로 변환합니다.이를 통해 얻을 수 있는 이점:✅ 메모리 사용량 대폭 감소✅ 추론 속도 향상✅ 저사양 하드웨어에서도 대형 모델 구동 가능🔄 4bit 양자화 vs 8bit 양자화양자화 방식크기 감소메모리 사용량정확도.. 2025. 4. 10.
6. AI 자동 매매) 파트 1: AutoTrain(파인 튜닝) 및 데이터 준비 AI 자동 매매 시스템 개발 과정 (파트 1: 프로젝트 소개 및 데이터 준비)이 글에서는 허깅페이스의 AutoTrain을 활용한 AI 자동 매매 시스템 개발 과정을 소개합니다. 프로젝트의 방대한 내용을 이해하기 쉽게 파트 1과 파트 2로 나누어 설명합니다.프로젝트 소개AI를 공부하면서 실제로 AI로 무언가 유용한 것을 만들어보고 싶어 AI 자동 매매 시스템 개발에 도전하게 되었습니다. 성공하든 실패하든 이 과정에서 많은 것을 배울 수 있을 것이라 생각해 친구와 함께 이 프로젝트를 시작했습니다.프로젝트 목표암호화폐 시장 데이터를 학습한 AI 모델 개발시장 패턴을 인식하고 매매 시점을 예측할 수 있는 시스템 구축실제 트레이딩에 적용 가능한 자동화 시스템 구현개발 환경 준비기존에 설정해둔 LLM(ollama에.. 2025. 3. 27.
1. 우분투 세팅 AI 공부를 위한 Ubuntu 컴퓨터 세팅 가이드안녕하세요!이번 포스팅에서는 AI 공부를 위해 필요한 Ubuntu 기반 컴퓨터 환경 설정 방법을 쉽고 부드럽게 소개해 드리려고 해요. 제가 실제로 Ubuntu를 설치하고 원격 접속 및 Wake-On-LAN(WOL) 기능을 설정하며, Ollama로 AI 모델을 실행했던 경험을 바탕으로 작성했으니 많은 도움이 되길 바랍니다.1. Ubuntu 설치 준비 및 실행1.1. USB 부팅 디스크 만들기Rufus 활용하기:Windows 환경에서는 Rufus를 사용해 쉽게 USB 부팅 디스크를 만들 수 있어요.간단한 인터페이스 덕분에 누구나 문제없이 설치용 USB를 제작할 수 있습니다.Ubuntu ISO 이미지 다운로드:Ubuntu 공식 사이트(https://ubuntu... 2025. 3. 1.
반응형