📚 용어 정리

• AI (Artificial Intelligence): 컴퓨터가 인간의 학습, 추론, 지각 등 지적 행동을 모방하여 문제를 해결하고 판단하는 기술을 뜻합니다.
• 에이전트 (Agent): 하나의 LLM (Large-scale Language Model)이 풀기 어려운 문제들을 외부 도구 (검색, 데이터베이스, API 등)들과 연동하여 스스로 문제를 해결하는 AI 시스템을 의미합니다.
• 오케스트레이터 (Orchestrator): 특정 작업에 특화된 다수의 AI 모델들이 검색, 시스템 제어 등을 유기적으로 통합하여 복잡한 문제를 종단간 (end-to-end)으로 해결하는 에이전트 지휘 시스템을 의미합니다.
• 환각 (Hallucination): 사실이 아닌 맥락에 맞지 않는 정보를 실제 정보처럼 생성하는 현상을 의미합니다.
• 임베딩 (Embedding): 텍스트, 이미지, 음성 등의 데이터를 AI (Artificial Intelligence)가 이해할 수 있도록 고차원 벡터로 변환하는 과정 또는 그 결과물을 의미합니다.
• 멀티 에이전트 (Multi-Agent): 여러 AI Agent가 협력하여 복잡한 작업을 수행하는 기술을 의미합니다.
• 토큰 (Token): 텍스트를 처리하는 최소 단위를 의미합니다.
• MCP (Model Context Protocol): AI (Artificial Intelligence)가 다양한 데이터 소스와 도구에 안전하고 표준화된 방식으로 연결할 수 있도록 하는 프로토콜을 의미하며 파일 시스템, 데이터베이스, API 등을 일관 된 방식으로 접근할 수 있도록 도와줍니다.
• 지연 시간 (Latency Time): 모델이 입력 프롬프트를 처리하고 대답을 생성하는 데 걸리는 시간을 의미합니다.
• 첫 번째 토큰까지의 시간 (TTFT): 모델이 프롬프트를 수신한 후 대답의 첫 번째 토큰을 생성하는 데 걸리는 시간을 의미하며, 즉각적인 의견을 원하는 스트리밍 애플리케이션에 중요합니다.
• 마지막 토큰까지의 시간 (TTLT): 모델에서 프롬프트를 처리하고 완전 응답을 생성하는 데 걸리는 총 시간을 의미합니다.
• 프롬프트 엔지니어링: 프롬프트를 만들고 모델 대답에 액세스하여 원하는 대답을 얻는 반복 프로세스를 의미합니다.
• 제로샷 프롬프팅 (Zero-Shot Prompting): 예시 없이 프롬프트를 제공하고 모델의 기존 지식을 활용하는데 사용하는 프롬프트 엔지니어링 기법입니다.
• 원샷 프롬프팅 (One-Shot Prompting): 프롬프트에 단일 예시를 제공하여 모델 대답을 유도하는데 사용되는 프롬프트 엔지니어링 기법입니다.
• 퓨샷 프롬프팅 (Few-Shot Prompting): 프롬프트에 예시 여러 개를 제공하여 원하는 패턴이나 태스크를 도출할 때 사용되는 프롬프트 엔지니어링 기법입니다.
• 모델 파라메터 (Model Parameter): 모델이 입력 데이터를 처리하는 방식과 출력을 생성하는 방식을 결정하는 데 사용하는 내부 변수를 뜻합니다.

🌐 REFERENCE

LLM부터 AI Agent까지, 2025년 핵심 AI 용어 총정리

생성형 AI 용어집  |  Generative AI  |  Google Cloud Documentation