3. AI 용어 정리

🧸 AI 용어 쉽게 이해하기: AI 필수 용어 친절 가이드

AI 분야에서는 자주 사용되지만 어렵게 느껴지는 용어들이 많습니다. 본격적으로 AI를 공부하기 전에 한번 정리하고 공부하려고 작성했습니다.

---

🤖 AI 모델(AI Model)

정의

AI 모델이란, 인간의 뇌와 유사하게 설계된 디지털 지능입니다. 데이터를 통해 학습된 패턴을 바탕으로 문제 해결, 이미지 인식, 대화 생성 등 다양한 작업을 수행할 수 있습니다.

쉽게 말하면

마치 사람처럼 생각하고 배워서 작업을 처리할 수 있는 '디지털 두뇌'라고 생각하면 됩니다.

예시

"AI 모델은 마치 아주 똑똑한 로봇 두뇌 같아요. 사람들이 많은 정보를 먹여서 키운 디지털 두뇌라고 생각하면 됩니다. 이 두뇌는 질문에 답하거나, 글을 쓰거나, 그림을 그리는 등 여러 일을 할 수 있어요."

---

📡 API (Application Programming Interface)

정의

API는 프로그램끼리 서로 통신할 수 있도록 도와주는 규칙과 인터페이스입니다. 사용자는 복잡한 내부 구조를 알지 못해도 API를 통해 간단히 원하는 정보를 얻거나 작업을 수행할 수 있습니다.

쉽게 말하면

다른 프로그램과 소통하는 '창구' 역할로, 사용자가 쉽게 원하는 데이터를 받을 수 있게 도와줍니다.

예시

"API는 레스토랑에서 주문을 받는 웨이터와 같습니다. 음식(정보)을 원할 때, 직접 주방(서버)에 들어가지 않고 웨이터(API)에게 부탁하면 필요한 음식을 가져다주는 방식이에요."

---

🔓 오픈소스 (Open Source)

정의

소프트웨어의 소스코드를 누구나 자유롭게 열람하고, 수정하며, 배포할 수 있도록 공개한 방식입니다. 집단 지성을 활용하여 지속적으로 발전하고 개선될 수 있습니다.

쉽게 말하면

누구나 자유롭게 볼 수 있고 개선할 수 있는 '공개된 프로그램'이라고 할 수 있습니다.

예시

"오픈소스는 요리 레시피를 모두에게 공개하고, 누구나 더 맛있는 요리를 위해 레시피를 바꾸고 발전시킬 수 있게 하는 것과 같습니다."

---

🧠 추론 모델 vs 비추론 모델 (Inference vs Non-inference Model)

✔️ 추상적 추론 모델 (Inference Model)

정의

주어진 문제를 논리적으로 분석하고 단계적으로 해결해 나가는 AI 모델입니다. 복잡한 문제에 적합하며 논리적 사고에 뛰어납니다.

쉽게 말하면

차분히 생각하고 꼼꼼하게 문제를 해결하는 모델입니다.

⚡ 비추론 모델 (Non-inference Model)

정의

기억하고 있는 정보를 빠르게 찾아 즉각적으로 답변하는 AI 모델입니다. 단순한 질문에 빠르게 대응할 때 유리합니다.

쉽게 말하면

많이 기억하고 빠르게 답하는 모델입니다.

예시

"추론 모델은 수학 문제를 차근차근 계산해 나가는 학생 같고, 비추론 모델은 퀴즈쇼에서 빠르게 답을 외쳐 정답을 맞추는 참가자와 비슷해요."

---

📏 모델 크기 (7B, 17B, 32B, 70B)

정의

모델 크기는 AI 모델이 가진 파라미터(Parameter)의 수를 의미합니다. 파라미터는 AI가 학습한 지식의 양이라고 볼 수 있습니다. 숫자가 클수록 복잡한 문제를 더 정확하게 해결할 수 있지만, 그만큼 컴퓨팅 자원이 많이 필요합니다.

• 7B: 70억 개 파라미터
• 32B: 320억 개 파라미터
• 70B: 700억 개 파라미터

쉽게 말하면

AI 두뇌의 크기입니다. 클수록 더 많은 정보와 복잡한 작업을 처리할 수 있습니다.

예시

"마치 책상이 클수록 더 많은 책을 펼쳐 놓고 공부할 수 있지만, 그만큼 더 넓은 방이 필요한 것과 같습니다."

---

💻 하드웨어 용어

CPU (중앙처리장치)

컴퓨터의 모든 명령과 계산을 처리하는 '두뇌'입니다.

GPU (그래픽처리장치)

그래픽을 처리하는 데 특화된 프로세서로, 최근 AI 모델 학습과 추론에도 널리 사용됩니다.

RAM (랜덤 액세스 메모리)

현재 사용 중인 데이터를 빠르게 읽고 쓸 수 있는 '작업 공간'입니다.

SSD (솔리드 스테이트 드라이브)

데이터를 영구적으로 저장하는 공간으로, 빠르고 안정적입니다.

예시

"CPU는 컴퓨터의 두뇌, GPU는 그림 그리는 전문가, RAM은 작업 책상, SSD는 책장과 같습니다."

---

🔍 양자화 (Quantization)

정의

AI 모델의 정확도를 약간 희생하면서 모델의 크기를 줄이고 속도를 높이는 기술입니다. 작은 디바이스에서도 AI를 효과적으로 사용할 수 있게 해줍니다.

• 4비트 양자화: 원래 모델 크기의 약 25%로 압축
• 8비트 양자화: 원래 모델 크기의 약 50%로 압축

쉽게 말하면

큰 AI 모델을 작은 크기로 압축하는 방법입니다.

예시

"64가지 색으로 그린 그림을 단지 8가지 색으로 압축해 표현하는 것과 같습니다."

---

🧮 VRAM (비디오 메모리)

정의

GPU가 그래픽이나 AI 연산 작업을 처리할 때 사용하는 전용 메모리입니다. VRAM 용량이 크면 더 크고 복잡한 AI 모델을 실행할 수 있습니다.

쉽게 말하면

GPU의 작업용 책상입니다. 클수록 더 큰 작업을 할 수 있죠.

예시

"GPU가 사용하는 특별한 작업 공간으로, 공간이 클수록 더 복잡한 작업을 처리할 수 있어요."

---

🚀 추론 속도 (Inference Speed)

정의

AI 모델이 입력 데이터를 처리해 결과를 내는 속도입니다. 빠른 속도는 서비스의 응답성을 높이며 사용자 경험을 개선합니다.

쉽게 말하면

AI가 얼마나 빨리 질문에 답할 수 있는지 나타내는 지표입니다.

예시

"선생님께 질문했을 때 얼마나 빨리 답을 받을 수 있는지에 비유할 수 있어요. 빠를수록 좋겠죠!"

 

 

 

참고
해당 글은 직접 작성한 내용을 AI를 통해 가다듬는 방식으로 작성되었습니다.