사람 개입 (Human-in-the-Loop)

사람 개입은 중요한 단계에서 에이전트가 혼자 행동하지 않는다는 뜻입니다. 이메일 전송, 결제, 데이터 삭제, 공개 게시 전에 에이전트가 멈추고 제안된 행동을 사람에게 보여주면, 사람이 승인·수정·거부합니다. 그 결정에서 에이전트가 이어갑니다. 프로덕션에서 가장 중요한 안정성 패턴 중 하나입니다. 모델은 실수하고, 어떤 실수는 비싸거나 되돌릴 수 없습니다. 위험한 단계의 사람 체크포인트는 피해 전에 오류를 잡으면서도 일상적인 일은 에이전트가 알아서 처리하게 둡니다. 잘 구현하려면 프레임워크가 깔끔하게 멈췄다 재개해야 하고, 그래서 사람 개입은 상태 영속성과 연결됩니다. LangGraph는 둘 다 일급으로 다룹니다. 승인 노드에서 멈추고 상태를 영속화한 뒤 사람이 응답하면 재개합니다. CrewAI, AutoGen, Google ADK, Semantic Kernel, Mastra도 지원합니다. 가벼운 라이브러리는 에이전트 루프 주변에서 직접 만들게 둡니다.