AI 에이전트 만들기: 실무 개발 가이드

AI 에이전트란 실제로 무엇인가

AI 에이전트는 작업 루프 내부에서 구동되는 모델입니다. 명확한 목표를 전달받은 뒤 다음 행동을 스스로 판단하고, 승인된 툴을 호출하며, 실행 결과를 해석하여 작업을 계속 진행할지 혹은 종료할지 결정합니다.

주니어 실무자를 채용하는 상황을 떠올려 보십시오. 프롬프트 지침은 업무 기술서에 해당합니다. 모델은 판단력을 제공합니다. 툴은 주문 관리 시스템, 캘린더, 지식 베이스, 브라우저, 파일 저장소에 접근할 수 있는 사원증입니다. 메모리는 업무용 수첩이며, 가드레일과 승인 절차는 관리자의 감독 역할을 수행합니다.

이는 단순한 챗봇과 근본적으로 다릅니다. 챗봇은 답변 초안을 작성하는 데 그치지만, 에이전트는 주문 상태를 조회하고, 최신 현황을 사내 규정과 대조하며, 누락된 정보를 요청하고, 필요한 경우 담당자에게 케이스를 이관합니다. 바로 이 '행동 루프'의 유무가 차이를 만듭니다.

OpenAI의 공식 에이전트 개요 문서에서는 에이전트를 계획을 수립하고, 툴을 호출하며, 상태를 보존하고, 전문화된 역할 간에 협력하는 애플리케이션으로 정의합니다. SDK 내에서도 핵심 객체는 여전히 간결하게 유지됩니다. 지침과 툴, 그리고 선택적인 가드레일 및 핸드오프 통제 장치를 갖춘 모델 그 자체입니다.

Agents SDK와 Responses API 중 무엇을 써야 하는가?

반복적인 툴 호출, 상태 추적, 가드레일, 핸드오프 및 승인 절차를 런타임이 자동으로 관리하도록 하려면 Agents SDK를 선택하십시오. 해당 제어 루프를 직접 코드로 작성하고 세밀하게 제어하고 싶다면 Responses API를 직접 호출하는 방식이 적합합니다. OpenAI는 모델을 직접 제어해야 할 때는 Responses 경로를, 정형화된 오케스트레이션이 필요한 대화형 또는 트랜잭션 워크플로우에는 SDK 경로를 권장합니다.

노코드 빌더를 사용하는 경우에도 기본 아키텍처는 동일합니다. 명시적인 툴 연동, 승인 단계, 실행 로그, 그리고 루프를 강제로 멈출 수 있는 수단이 플랫폼에서 제공되는지 확인하십시오. 시각적인 캔버스 툴을 쓴다고 해서 이러한 통제 장치의 필요성이 사라지는 것은 아닙니다.

첫 번째 실용 버전을 만드는 방법

가장 빠른 길은 기술을 확장하기 전에 해결하려는 업무 단위를 최소화하는 것입니다.

1. 한 줄짜리 직무 기술서 작성

사용자, 트리거, 수행할 작업, 그리고 완료 기준을 명확히 정의하십시오. "고객 지원 업무 지원"은 너무 모호합니다. "주문 API를 사용하여 주문 상태 관련 질문에 답하고, 환불이나 배송지 변경 건은 담당자에게 인계한다"는 즉시 개발 가능한 사양입니다.

금지된 행동도 반드시 함께 작성해야 합니다. 이렇게 해야 막연한 자율성을 제어 가능한 제품 사양으로 바꿀 수 있습니다.

2. 해당 작업에 에이전트가 정말 필요한지 검토

에이전트가 도입 복잡성을 정당화하려면 복잡한 언어 및 비정형 문서의 해석, 유연한 판단력, 그리고 고정 규칙으로 처리하기 힘든 예외 상황이 수반되어야 합니다. OpenAI 가이드 역시 이러한 조건이 없다면 결정론적(deterministic) 시스템을 우선 사용할 것을 권장합니다.

세금 계산, 고정 서식 유효성 검증, 정기 데이터 복사 등은 일반 소프트웨어로 개발하는 것이 합리적입니다. 반면 대화 맥락을 파악하고 정책을 대조하며 주문 상태를 확인한 뒤 담당자 검토가 필요한지 판단하는 환불 요청 처리는 에이전트에 완벽히 부합하는 작업입니다.

3. 데모가 아닌 실제 작업에 맞는 모델 선택

현재 SDK의 기본값은 저지연 워크플로우를 위해 reasoning effort가 없고 간결한 출력을 내는 gpt-5.4-mini로 설정되어 있습니다. 고도의 품질이 요구되고 권한이 있는 경우 공식 가이드는 gpt-5.6-sol을 추천합니다.

준비된 테스트 케이스를 통과하는 가장 비용 효율적인 모델부터 시작하십시오. 누락된 툴, 모호한 지시문, 데이터 불량이 아닌 '판단 품질' 자체가 문제일 때만 상위 모델로 전환해야 합니다. 최신 상태를 반환하지 못하는 불량 주문 API는 아무리 뛰어난 모델로도 해결할 수 없습니다.

4. 읽기 전용 툴 하나부터 연결

첫 번째 툴은 데이터를 변경하지 않고 조회만 수행해야 합니다. 주문 조회, 정책 검색, 재고 확인, 캘린더 일정 확인과 같은 호출은 환불, 취소, 결제, 외부 이메일 발송보다 평가하기 쉽고 재시도 부담이 적습니다.

SDK를 사용하면 타입이 지정된 Python 함수를 손쉽게 툴로 변환하고 입력 스키마를 자동 생성할 수 있습니다. 또한 호스팅된 웹 검색, 파일 검색, 코드 인터프리터, MCP, 이미지 생성 툴도 기본 지원합니다. 로컬 컴퓨터 제어, 쉘, 파일 편집 툴을 다룰 때는 반드시 직접 제어할 수 있는 실행 환경을 갖추어야 합니다.

가장 단순한 최소 실행 패턴은 다음과 같습니다.

from agents import Agent, Runner, function_tool

@function_tool
def lookup_order(order_id: str) -> str:
    """주문 시스템에서 현재 주문 상태를 조회합니다."""
    return "Order 123 is packed and awaiting carrier pickup."

agent = Agent(
    name="Order status agent",
    instructions=(
        "Answer order-status questions with lookup_order. "
        "Never change or cancel an order. Escalate anything else."
    ),
    tools=[lookup_order],
)

result = Runner.run_sync(agent, "Where is order 123?")
print(result.final_output)

Python SDK는 pip install openai-agents로 설치하며, API 키는 OPENAI_API_KEY 환경 변수에 설정합니다. 기술 스택에 따라 TypeScript SDK를 사용하더라도 완전히 동일한 구조로 구현할 수 있습니다.

5. 루프의 안전한 종료 조건 보장

Runner는 모델을 호출하고, 요청된 툴을 실행하며, 툴 결과를 다시 모델에 전달하는 과정을 반복합니다. 모델이 툴 호출 없이 최종 출력을 반환하면 루프는 종료됩니다. 최대 턴 수에 도달하면 MaxTurnsExceeded 예외를 발생시키며 중단될 수도 있습니다.

운영 환경의 모든 에이전트에는 최대 턴 수, 타임아웃, 명확한 실패 처리 결과가 필수적입니다. "확인할 수 없어 담당자에게 인계했습니다"라는 메시지는 정상적인 완료 상태입니다. 무한 반복 재시도는 끈기가 아니라 장애 상황입니다.

6. 단일 메모리 전략 채택

메모리란 이전 대화의 맥락을 다음 턴으로 전달하는 것을 의미합니다. SDK는 세션을 통해 클라이언트 측 대화 이력을 보관할 수 있으며, conversation_id나 previous_response_id를 사용하여 OpenAI가 관리하는 연속성을 활용할 수도 있습니다.

대화당 하나의 전략만 선택해야 합니다. SDK는 동일 실행 내에서 세션과 서버 관리형 상태 옵션을 혼용하지 못하도록 명시적으로 제한하는데, 이는 이력이 겹쳐 중복 맥락이 전달되는 것을 방지하기 위함입니다. 또한 에이전트에게 필요한 과거 이력의 범위를 엄격히 설정하십시오. 고객 지원 에이전트에게 필요한 것은 현재 발생한 케이스이지 고객의 평생 상담 기록이 아닙니다.

7. 위험 경계마다 보호 장치 배치

담당 업무 범위를 벗어난 요청을 차단하기 위해 입력 가드레일을 구성하십시오. 비즈니스 데이터를 읽거나 수정하는 모든 커스텀 함수 주변에는 툴 가드레일을 적용해야 합니다. 최종 답변을 검증하기 위해 출력 가드레일을 두고, 되돌릴 수 없거나 비용이 큰 작업 앞에는 사람의 승인 단계를 배치하십시오.

한 가지 주의할 점은 입력 가드레일이 기본적으로 병렬 실행된다는 사실입니다. 이는 지연 시간을 단축하지만, 검사가 완료되기 전에 에이전트가 토큰을 소비하거나 툴을 실행할 위험이 있습니다. 부작용이 발생할 수 있거나 민감한 데이터가 노출될 우려가 있는 요청에는 블로킹(blocking) 모드를 적용해야 합니다.

더 심층적인 프로덕션 패턴은 프로덕션 AI 에이전트 가드레일 및 폭발 반경 플레이북을 참고하십시오. 핵심 원리는 단순합니다. 비용이 발생하거나, 상태를 변경하거나, 권한이 필요한 모든 행동을 제어 가능한 단일 경계 내부로 라우팅하는 것입니다.

8. 트레이스 분석, 평가, 그리고 필요 시 샌드박스 도입

Agents SDK에는 트레이싱(tracing) 기능이 기본적으로 활성화되어 있습니다. 모델 생성 내용, 함수 호출, 가드레일 판정, 핸드오프 기록을 남겨 실행 성공 및 실패 원인을 명확히 파악할 수 있습니다. 툴을 추가하기 전에 실제 요청과 기대 결과로 구성된 테스트 세트를 기반으로 트레이스를 면밀히 검토하십시오.

트레이스에는 모델과 함수의 입력 및 출력이 포함될 수 있으므로 민감한 데이터는 수집되지 않도록 비활성화해야 합니다. 참고로 Zero Data Retention 정책이 적용된 환경에서는 OpenAI 트레이싱 기능을 사용할 수 없습니다.

샌드박스는 파일, 쉘 명령어, 패키지 설치 또는 영구 작업 공간 상태가 반드시 필요한 작업에만 도입하십시오. OpenAI의 2026년 4월 SDK 업데이트를 통해 네이티브 통제 환경, 이식 가능한 워크스페이스 매니페스트, 스냅샷, 다양한 샌드박스 프로바이더 지원이 추가되었습니다. 단순 고객 지원 조회 에이전트에는 컨테이너가 불필요하지만, 문서 분석이나 코딩 에이전트에는 필수적입니다.

에이전트 실행 및 운영 비용

SDK와 Responses API 자체에는 별도의 플랫폼 이용 수수료가 부과되지 않습니다. 선택한 모델의 토큰 사용량과 호스팅 툴 호출 비용만 지불하면 됩니다.

현재 표준 숏 컨텍스트 요율 기준으로 gpt-5.6-sol은 입력 100만 토큰당 $5, 출력 100만 토큰당 $30입니다. gpt-5.6-terra는 각각 $2 및 $12이며, gpt-5.6-luna는 $0.20 및 $1.20입니다. 웹 검색은 1,000회 호출당 $10에 검색 콘텐츠 토큰 요금이 추가됩니다. Responses 파일 검색 호출은 1,000회당 $2.50이며, 1GB 초과 시 스토리지 요금은 일일 GB당 $0.10입니다. 1GB 사양의 호스팅 쉘 또는 코드 인터프리터 컨테이너는 20분 세션당 $0.03부터 시작합니다.

이러한 단가만으로는 작업 1건당 최종 비용을 파악하기 어렵습니다. 이는 트레이스를 통해 측정해야 합니다. 성공적으로 완료된 케이스마다 소모된 모델 턴 수, 툴 호출 횟수, 재시도 빈도, 인간 에스컬레이션 비율을 측정하십시오. 그런 다음 서비스 품질을 만족하는 최적의 모델과 툴 예산을 책정해야 합니다.

검증된 7가지 실전 에이전트 유스케이스

가장 성공적인 에이전트 작업은 명확한 구매자, 통제된 워크플로우, 그리고 결과물의 검증 가능성을 갖추고 있습니다.

1. 고객 문의 해결 에이전트

이커머스 지원팀은 에이전트에게 승인된 FAQ 지식 베이스와 읽기 전용 주문 데이터 접근 권한을 부여할 수 있습니다. 에이전트는 고객을 식별하고, 배송 상태를 조회하며, 다음 단계를 안내하고, 환불이나 주소 변경 건은 담당자에게 인계합니다. 핵심 가치는 고객 지원 인력을 완전히 대체하는 것이 아니라, 첫 응답 속도를 비약적으로 단축하고 정확한 인계 노트를 남기는 데 있습니다.

2. 근거 기반 리서치 에이전트

전략 기획팀은 통제된 작업 공간에 보고서 묶음을 업로드하고, 모든 주장에 원본 파일명이 첨부된 비교 분석을 지시할 수 있습니다. 에이전트는 검색, 추출, 교차 검증을 거쳐 구조화된 브리프를 작성합니다. 이를 통해 분석가는 단순 문서 탐색에서 벗어나 고차원적 판단과 검토에 집중할 수 있습니다.

3. 세일즈 리드 평가 및 미팅 준비 에이전트

B2B 세일즈팀은 인바운드 문의 메시지를 에이전트에게 전달하여 승인된 데이터 소스를 기반으로 회사 정보를 보강하고, 리드 자격 요건을 검토하며, 미팅 브리프 초안을 작성하게 할 수 있습니다. 사전에 정의된 명확한 기준을 충족할 때만 미팅 일정을 잡도록 설계합니다. 세일즈 담당자가 고객 관계에 전념하는 동안 일관된 사전 준비를 돕고 수작업 CRM 입력 부담을 덜어줍니다.

4. 운영 접수 및 티켓팅 에이전트

부동산 관리 회사는 유지보수 요청 이메일을 에이전트로 라우팅하여 건물명, 호수, 고장 증상, 긴급도, 방문 희망 시간을 자동으로 추출할 수 있습니다. 입주자 기록을 대조하여 티켓 초안을 작성하고, 안전 관련 이슈는 즉각 에스컬레이션합니다. 중복 입력 작업을 줄이고 누락 없는 작업 지시서를 보장합니다.

5. 계약서 및 규정 비교 에이전트

구매팀은 공급업체 계약서를 자사 표준 조항과 비교하여 차이점을 표시하고 관련 페이지를 인용하도록 에이전트를 활용할 수 있습니다. 조항을 직접 승인하지는 않으면서 1차 검토 패키지를 완벽히 준비합니다. 최종 법적 판단은 법무팀에 맡기면서 초기 스크리닝 시간을 크게 줄여줍니다.

6. 사내 IT 헬프데스크 트리아지 에이전트

IT 지원팀은 임직원 대면 에이전트를 기기 인벤토리, 서비스 운영 상태, 승인된 트러블슈팅 가이드와 연결할 수 있습니다. 진단 정보를 수집하고, 안전한 조치 단계를 제시하며, 관련 로그가 첨부된 티켓을 생성합니다. 엔지니어가 실무에 착수하기 전 불필요하게 오가는 문답 과정을 최소화합니다.

7. 통제형 파일 및 코드 에이전트

재무 또는 엔지니어링팀은 문서나 코드 저장소를 샌드박스에 격리 배치하고, 제한된 쉘 명령어만 허용하며, 결과물이 저장될 출력 디렉터리를 지정할 수 있습니다. 에이전트는 파일을 분석하고, 코드를 실행하며, 초안을 편집한 뒤 검토용 결과물을 반환합니다. 실제 격리 작업 공간과 영구적인 감사 로그가 필수적인 영역에서 샌드박스 기능이 진가를 발휘합니다.

즉시 사업화 가능한 3가지 프로덕트

'AI 에이전트'라는 포괄적 키워드는 구체적인 시장이 아닙니다. 다음 세 가지 작업은 명확한 구매 수요가 입증된 영역입니다.

가장 유망한 분야: 버티컬 고객 문의 해결 에이전트

Shopify 쇼핑몰, 부동산 자산 관리사, 현장 출동 서비스 기업 등 특정 운영 시스템에 완벽히 특화된 고객 지원 에이전트를 구축하십시오. 구매자는 범용 챗봇 창이 아니라 성공적으로 해결된 케이스와 정확한 인계 결과에 비용을 지불합니다.

시장 신호는 매우 뚜렷합니다. "AI customer service agent"는 월 약 720회의 Google 검색량을 기록하며 높은 상업적 의도를 보이고, 클릭당 비용(CPC)은 $264.61에 달합니다. 사용자가 AI 어시스턴트에게 동일한 작업을 요청하는 빈도도 월 약 69회입니다. 현재 Intercom의 과금 기준은 성공적인 채팅/이메일 해결, 규정 절차 인계, 또는 조건 미달 처리 1건당 $0.99입니다.

최소 판매 가능 제품(MVP)에는 1개 채널, 1개의 승인된 지식 베이스, 1개의 읽기 전용 계정 조회 툴, 인간 인계 기능, 그리고 성과 대시보드가 필요합니다. 기억해야 할 점은 서비스의 해자(moat)가 모델 호출 기술이 아니라는 사실입니다. 특화된 버티컬 연동, 정교한 평가 세트, 완벽한 에스컬레이션 설계, 그리고 해당 '해결'이 고객에게 진정으로 유익했음을 증명하는 지표가 진정한 해자입니다.

이 영역이 가장 강력한 기회인 이유는 작업 단위가 좁고, 타깃 구매자가 명확하며, 성과를 숫자로 측정할 수 있기 때문입니다. 극도로 높은 CPC 역시 벤더들이 이 고객군을 확보하기 위해 이미 치열하게 경쟁하고 있음을 입증합니다.

전문직을 위한 근거 중심 리서치 에이전트

컴플라이언스 분석가, 연구비 제안서 작성자, 헬스케어 시장 조사원, 실사(due-diligence) 담당자와 같은 명확한 전문가 계층을 위한 리서치 워크스페이스를 구축하십시오. 검증된 문서 풀을 검색하고, 모든 주장에 인용 출처를 결합하며, 상충하는 근거를 대조하여 재현 가능한 브리프를 출력해야 합니다.

"AI powered research assistant"는 상업적 검색 의도를 바탕으로 월 약 18,100회의 Google 검색량을 기록합니다. 더 넓은 범위의 "AI research assistant" 역시 월 2,400회의 검색량을 보입니다. Elicit은 현재 Pro 플랜을 사용자당 월 $49, Scale 플랜을 월 $169로 책정하고 있으며, 이는 고객들이 구조화된 리서치 워크플로우에 이미 기꺼이 비용을 지불하고 있음을 증명합니다.

MVP 구성 요소는 1개 문서 유형, 1개 리포트 템플릿, 인용 근거 테이블, 검토 큐입니다. 주의할 점은 범용성 함정에 빠지지 않는 것입니다. 단순 검색 어시스턴트는 대형 범용 제품과 경쟁할 수 없습니다. 상용 툴이 제공하지 못하는 독점적 데이터 소스, 맞춤형 워크플로우, 엄격한 품질 기준을 선점해야 합니다.

세일즈 리드 평가 및 팔로업 에이전트

제품 문의에 답하고 적합성을 평가하며, CRM 레코드를 생성하고, 미팅 브리프를 작성하며, 사전 규칙을 만족할 때만 일정을 예약하는 인바운드 에이전트를 구축하십시오. 반드시 인바운드 트래픽부터 시작해야 합니다. 통제되지 않은 아웃바운드 자동 메시징은 브랜드 평판과 규제 준수 측면에서 심각한 리스크를 초래합니다.

"AI sales agent"는 상업적 의도를 지닌 월 약 1,000회의 Google 검색량을 기록하며, CPC는 $74.89입니다. Intercom은 현재 성공적인 리드 적격성 평가 결과 1건당 $9.99를 부과하고 있어 명확한 시장 벤치마크를 제공합니다.

MVP에는 웹사이트 채팅 또는 이메일 연동, 읽기 전용 CRM 연결, 명시적인 자격 검증 규칙, 캘린더 연동, 민감한 후속 조치 전 인간 검토 절차가 포함되어야 합니다. 가장 큰 리스크는 저품질 소스 데이터입니다. 불완전한 CRM 데이터로 작동하는 에이전트는 엉뚱한 대상을 완벽한 리드로 잘못 평가할 수 있습니다.

간과해서는 안 될 실무적 한계

에이전트를 도입한다고 해서 불확실한 소프트웨어가 결정론적으로 바뀌지는 않습니다. 에이전트의 역할은 불확실성을 관찰하고 통제할 수 있는 루프 내부로 가져오는 것입니다.

• 일반 코드로 더 안정적으로 처리할 수 있는 고정 로직에 에이전트를 남용하지 마십시오.
• 읽기 전용 버전이 실제 테스트 케이스를 완벽히 통과하기 전에는 데이터 수정(쓰기) 권한을 부여하지 마십시오.
• 최상위 단일 가드레일에만 의존하지 마십시오. 에이전트 가드레일이 모든 호스팅 툴이나 내장 툴을 빈틈없이 감싸지는 못하므로, 권한 검증은 애플리케이션 및 개별 툴 계층에도 반드시 구현되어야 합니다.
• 여러 메모리 시스템을 무분별하게 혼용하지 마십시오. 중복된 대화 맥락은 에이전트 오작동을 유발하고 불필요한 토큰 비용을 낭비합니다.
• 처음부터 복잡한 멀티 에이전트 구조로 시작하지 마십시오. OpenAI는 멀티 에이전트 오케스트레이션을 도입하기 전에 단일 에이전트와 툴 구성을 극대화할 것을 권장합니다.
• 되돌릴 수 없는 작업을 모델이 임의로 승인하게 두지 마십시오. 엄격한 승인 정책이 데이터로 검증되기 전까지 고위험 작업에는 반드시 사람의 개입이 필요합니다.

보안 툴의 도움을 받을 수 있지만, 더 근본적인 책임은 시스템 아키텍처에 있습니다. 에이전트가 유발할 수 있는 실질적인 위험 요소를 파악한 뒤에는 최고의 AI 보안 툴 비교 분석 자료를 참고하십시오.

솔직히 말해 모델 연동 자체는 전체 구축 과정에서 가장 쉬운 단계에 불과합니다. 진짜 어려운 제품 엔지니어링은 툴 인터페이스 설계, 권한 통제, 정제된 데이터 파이프라인, 정량적 평가, 에스컬레이션 메커니즘, 그리고 단위 경제성 확보에 있습니다. 이 요소들을 정교하게 설계해야 비로소 가치 있는 에이전트가 완성됩니다. 이를 건너뛴다면 겉만 화려한 데모가 실운영 환경에서 사고를 치는 불안정한 직원이 될 뿐입니다.

사내 시스템 및 승인 규칙에 맞춘 엔터프라이즈급 에이전트 아키텍처 구축이 필요하시다면 AI 에이전트 개발 서비스를 살펴보시기 바랍니다.