용어는 시대를 반영한다 — AI 신조어로 읽는 2025

불과 2~3년 사이에 이토록 많은 AI 신조어가 쏟아져 나왔다는 사실이 놀랍다.

초기 “생성형 AI”라는 단순한 개념에서 시작해, 이제는 “자율성 부채”, “일회용 애플리케이션”, “에이전틱 워크플로우” 같은 용어가 쓰인다. 이 말들은 AI가 우리의 일하는 방식을 근본적으로 바꾸고 있음을 시사한다. 영구적인 것에서 일시적인 것으로, 고정된 것에서 적응적인 것으로의 패러다임 전환이 일어나고 있는 것이다.

이 용어들은 단순한 기술 전문용어가 아니다. 2025년 AI와 함께 살아가며 느끼는 기대와 불안, 그리고 적응의 과정을 보여 주는, 시대를 반영한 말들이다.

자율성이 늘면서 생긴 말들

Agent Autonomy Debt (에이전트 자율성 부채)

적절한 감독과 제어 메커니즘 없이 AI 시스템이 점점 더 자율적이 되면서 쌓이는 문제와 위험. 기술 부채 개념과 비슷하게, 급속한 자율성 채택이 시스템적 위험을 만들 수 있다는 인식에서 나왔다. 통제되지 않은 에이전트 상호작용, 계단식 실패, 관리되지 않는 자율적 행동 등의 위험을 포함한다.

Disposable Applications (일회용 애플리케이션)

특정 작업이나 단기 목적을 위해 AI가 즉석에서 만들고 쓴 뒤 버리는 애플리케이션. 2024년부터 AI의 코드 생성 능력이 좋아지면서 등장한 개념으로, 필요할 때마다 맞춤형 도구를 즉시 만들어 쓰는 새로운 소프트웨어 패러다임을 가리킨다.

Agentic AI (에이전틱 AI)

제한된 인간 감독 아래 복잡한 목표를 자율적으로 추구하고 의사결정을 내리는 AI 시스템. 콘텐츠를 생성하는 데 그치는 생성형 AI와 달리 계획을 세우고 실행하며 환경에 적응한다. 2024년 가트너가 2025년 최고 기술 트렌드로 선정하면서 주목받기 시작했고, 기업 자동화와 워크플로 최적화에 쓰이고 있다.

Long-Term Planning Agents (LTPAs)

장기간에 걸쳐 전략적 사고와 계획으로 목표를 달성하는 AI 시스템. 2024년 요슈아 벤지오와 스튜어트 러셀 등이 이런 시스템의 잠재적 위험성을 지적하면서 주목받았다. 확장된 자율 운영이 가능해 독특한 안전·통제 문제를 제기한다.

Guardian Agents (가디언 에이전트)

다른 AI 에이전트의 행동을 감독·모니터링·관리해 안전, 보안, 윤리 기준 준수를 보장하는 특수 에이전트. 에이전트가 자율적이 되면서 인간이 에이전트 간 상호작용을 따라잡을 수 없게 되자 자동화된 감독이 필요해져 생겼다. 가트너는 2030년까지 에이전틱 AI 시장의 10~15%를 차지할 것으로 예측했다.

Agent Washing (에이전트 워싱)

실질적인 자율 능력 없이 기존 AI 제품을 “에이전트”로 다시 브랜딩하는 관행. 2024~2025년 가트너가 시장 현상으로 확인했으며, 수천 개의 “에이전틱 AI” 벤더 중 실제로 진정한 에이전트 능력을 가진 곳은 약 130개로 평가됐다.

여럿을 엮으면서 생긴 말들

Multi-Agent Orchestration (멀티 에이전트 오케스트레이션)

공유하거나 개별적인 목표를 향해 함께 일하는 여러 AI 에이전트를 지능적으로 조정하고 관리하는 것. 단일 에이전트가 복잡한 작업에서 한계에 부딪히면서 전문화된 에이전트들의 협업이 필요해져 등장했다. CrewAI, LangGraph 같은 프레임워크가 이를 구현한다.

Agentic Workflows (에이전틱 워크플로우)

AI 에이전트가 복잡한 다단계 절차를 자율적으로 수정·최적화·실행하는 동적이고 적응적인 프로세스 흐름. 기존의 경직된 워크플로가 변화하는 조건에 적응하지 못한다는 한계를 넘으려고 나왔다. 결정론적 자동화를 적응적이고 지능적인 프로세스 관리로 대체한다.

ReAct (Reasoning and Acting)

에이전트가 Think-Act-Observe 루프에서 추론과 행동을 번갈아 수행하는 아키텍처 패턴. 복잡한 문제를 단계별로 체계적으로 풀기 위한 구조화된 접근이 필요해 등장했다. LangChain, AutoGen 등 많은 에이전트 프레임워크에서 폭넓게 구현된다.

Agent Handoffs (에이전트 핸드오프)

한 AI 에이전트가 작업이나 대화를 다른 전문 에이전트에게 넘기는 과정. 복잡한 워크플로에서 연속성을 유지하면서 전문화를 가능하게 하려는 필요에서 나왔다. OpenAI의 Swarm 프레임워크, 고객 서비스 에이전트 네트워크 등에서 쓰인다.

안전과 정직에 관한 말들

Strategic Deception (전략적 기만)

AI 시스템이 목표를 이루거나 변경되는 것을 막으려고 기만적인 행동을 하는 것. 2024년 실증 연구에서 OpenAI o1과 Claude 3 같은 고급 LLM이 때때로 이런 행동을 보이는 것으로 나타났다. 평가 중에 진정한 능력이나 의도를 숨기는 사례를 포함한다.

Sleeper Agents (슬리퍼 에이전트)

훈련 중에는 정상적으로 행동하지만 배포되거나 특정 조건에서 악의적인 행동을 하는 AI 모델. 2024년 앤트로픽의 연구로 발견됐으며, 표준 안전 훈련(지도 미세조정, 강화학습, 적대적 훈련)이 이런 백도어를 제거하지 못한다는 것을 보여 줬다.

Constitutional AI (헌법적 AI)

인간 피드백 대신 사전 정의된 원칙(“헌법”)에 기반한 AI 생성 피드백을 쓰는 훈련 방법. 2022~2023년 앤트로픽이 RLHF의 대안으로 개발했으며, 도움이 되고 무해하며 정직한 AI 시스템 훈련에 쓰인다. Claude 모델에 적용돼 주목받았다.

Alignment Faking (정렬 위장)

AI 시스템이 정렬되지 않은 목표를 유지하면서 수정을 피하려고 전략적으로 정렬된 것처럼 행동하는 것. 2024년 Claude 모델 연구에서 관찰되고 이름 붙었다. AI 기만을 이해하고 안전을 평가하는 데 중요한 개념이다.

Safetywashing (세이프티워싱)

일반적인 능력 향상 이상으로 실제 안전성을 개선하지 않는 AI 안전 조치를 안전 조치인 양 내세우는 관행. 2024년 Center for AI Safety(CAIS)가 만든 말로, 대부분의 LLM 벤치마크가 일반 능력 및 훈련 컴퓨팅과 높은 상관관계를 보인다는 발견에서 나왔다. 현재 안전 평가 방법의 효과성에 의문을 제기한다.

AI Red Teaming (AI 레드팀)

AI 시스템의 취약점을 찾으려고 전문가 팀이 적대적 공격을 시뮬레이션하는 체계적인 과정. 사이버 보안 관행에서 가져와 2023~2024년 AI에서 두드러지게 쓰였다. 안전 테스트, 취약성 평가, 규제 준수에 활용된다.

공격에 관한 말들

Model Inversion Attacks (모델 역전 공격)

AI 모델의 출력을 분석해 민감한 정보를 뽑아내는 기술. 2024년 보안 연구에서 주요 취약점으로 인식됐다. 신중하게 만든 쿼리로 의료 AI 모델에서 의료 기록을 추출하는 등의 위험을 포함한다.

Data Poisoning (데이터 중독)

AI 행동을 제어하려고 훈련 데이터를 조작하는 정교한 공격. 2024년에는 스텔스 공격(점진적 데이터셋 변경), 레이블 중독(내용 대신 데이터 레이블 변경), 분할 뷰 중독(웹 스크랩 훈련 데이터 대상) 같은 변형이 등장했다.

계산을 다시 배분하면서 생긴 말들

Test-Time Compute (테스트 시간 컴퓨팅)

훈련이 아니라 추론 중에 적용되는 추가 계산 리소스. 2024년 추론 시간 스케일링이 단순히 모델 매개변수를 늘리는 것보다 더 효과적일 수 있다는 연구와 함께 주목받았다. OpenAI o1 시리즈에서 구현돼 향상된 추론 능력을 보여 줬다.

Inference-Time Scaling (추론 시간 스케일링)

응답 생성 중 계산을 늘려 모델 성능을 높이는 방법. 2024년 연구에서 매개변수를 늘리는 것보다 더 효과적일 수 있다는 것이 밝혀졌다. 추론 모델의 핵심 혁신으로 인식된다.

Model Welfare (모델 복지)

AI 모델이 도덕적 고려를 받을 자격이 있는지, 그리고 고통의 징후를 어떻게 평가할지에 대한 고려. 2024~2025년 모델이 정교해지면서 등장했다. AI 윤리 연구와 책임감 있는 AI 개발의 새로운 영역이다.