AI Trends
회의에서 고개만 끄덕이지 않기 위한 AI 용어 정리
브리핑을 읽다가 모르는 단어가 나오면 이 페이지를 열어두고 보시면 됩니다. 기준은 하나입니다. 그 단어를 처음 듣는 동료에게 말로 설명하듯이 쓰기. 마케팅 정의가 아니라 실무 정의입니다. 새 용어가 등장할 때마다 갱신합니다.
모델과 추론
LLM (대규모 언어 모델) — 방대한 텍스트로 학습해서 다음에 올 말을 예측하는 모델입니다. 예측이 정교해지면 요약, 번역, 코딩처럼 보이는 일을 하게 됩니다. '이해하냐'는 논쟁적인 질문이고, 실무에서는 "패턴 예측이 매우 좋다" 정도로 충분합니다.
추론(Inference) — 학습이 끝난 모델을 실제로 돌려서 답을 받는 일입니다. 챗봇에 말을 걸 때마다 일어나는 게 이겁니다. 비용과 속도 얘기는 대부분 추론 얘기입니다.
컨텍스트 윈도우 — 모델이 한 번에 기억하며 볼 수 있는 분량입니다. 이 창을 넘긴 내용은 없는 것과 같습니다. "긴 문서를 넣었더니 앞부분을 까먹어요"의 원인이 보통 이겁니다.
토큰 — 모델이 글을 세는 단위입니다. 한국어로 대략 한 글자에서 한 단어 사이. 과금도 컨텍스트 윈도우도 토큰 기준이라, 청구서를 이해하려면 이 단어부터 알아야 합니다.
온디바이스 / 오픈 웨이트 — 클라우드가 아니라 내 기기에서 모델을 돌리는 것, 그리고 모델 본체(가중치)가 공개되어 누구나 내려받을 수 있는 것. 민감한 데이터를 다루는 일의 열쇠입니다. 3분기 브리핑 2번 항목이 이 얘기입니다.
파인튜닝 — 범용 모델에 우리 데이터로 추가 학습을 시켜서 특정 업무에 맞추는 겁니다. 비싸고, 대부분의 팀에게는 RAG나 좋은 프롬프트가 먼저입니다.
멀티모달 — 텍스트만이 아니라 이미지, 음성, 영상을 같이 다루는 능력입니다. 실무 침투는 음성(회의록)부터 오고 있습니다.
시스템과 아키텍처
RAG (검색 증강 생성) — 모델이 답하기 전에 우리 문서를 먼저 검색해서 그걸 근거로 답하게 하는 구조입니다. "우리 회사 규정을 아는 챗봇"의 정체는 대부분 이겁니다.
에이전트 — 한 번 묻고 한 번 답하는 게 아니라, 목표를 주면 도구를 골라 여러 단계를 스스로 실행하는 구성입니다. 핵심 질문은 "얼마나 똑똑한가"가 아니라 "실패했을 때 어떻게 되는가"입니다.
MCP (Model Context Protocol) — 모델과 외부 도구·데이터를 연결하는 표준 규격입니다. AI 세계의 USB 포트 같은 거라고 보면 됩니다. 이게 자리 잡으면서 "우리 시스템에 AI 붙이기"의 비용이 크게 내려갔습니다.
검토 큐 (Review Queue) — 에이전트의 산출물이 바로 나가지 않고 사람의 승인을 기다리는 대기열입니다. 저희는 모든 자동화에 이걸 기본으로 둡니다.
파이프라인 — 여러 단계를 자동으로 잇는 흐름입니다. "회의 녹음 → 전사 → 요약 → 액션 추출" 같은 것. 도구 하나보다 파이프라인 하나가 하루를 더 바꿉니다.
MLOps — 모델을 만들고 배포하고 감시하고 갱신하는 운영 전반입니다. "모델은 있는데 왜 서비스가 안 되나요?"에 대한 답이 이 단어 안에 있습니다.
품질과 평가
평가 세트 (Eval Set) — 우리 업무에서 뽑은 입력 30~50개, 좋은 답의 예시, 채점 기준을 묶은 문서입니다. 모델 선택을 취향에서 측정으로 바꿔줍니다. 저희가 "하나만 한다면 이것"이라고 말하는 그것.
환각 (Hallucination) — 모델이 그럴듯하지만 사실이 아닌 내용을 만들어내는 현상입니다. 버그라기보다 작동 방식의 그림자라서, 없애기보다 검증 가능한 흐름으로 관리하는 쪽이 현실적입니다. 저희가 원문 링크 없는 주장을 안 싣는 것도 이것 때문입니다.
수정률 — 자동화 산출물 중에 사람이 고친 비율입니다. 절감 시간과 함께 저희가 보는 딱 두 개의 지표 중 하나입니다. 수정률이 내려가는 추세가 곧 신뢰의 근거가 됩니다.
벤치마크 / 리더보드 — 모델들을 공통 시험지로 줄 세운 겁니다. 참고는 하되, 우리 시험지(평가 세트)를 이기지는 못합니다.
규제와 책임
EU AI Act / AI 기본법 — 유럽과 한국의 AI 규제 틀입니다. 공통 방향은 "무엇을 어디에 쓰는지 설명할 수 있어야 한다"이고, 대응의 첫걸음은 법률 검토가 아니라 사용 목록 한 장입니다.
AI 인벤토리 — 조직이 어떤 AI를 어떤 업무에 쓰는지 적은 목록입니다. 스프레드시트면 충분하고, 규제 대응과 보안 검토의 출발점이 됩니다.
프롬프트 인젝션 — 외부 콘텐츠(메일, 웹페이지) 안에 숨긴 지시로 AI를 조종하는 공격입니다. 에이전트에게 받은편지함을 맡기기 전에 알아둬야 하는 단어입니다.
없는 용어가 있으면 hello@ape.team으로 알려주세요. 다음 갱신 때 넣겠습니다.
