에이전틱 엔지니어링 시대, 인간은 어디에서 개입해야 하는가

AI 에이전트를 활용한 개발 방식이 빠르게 확산되면서 개발자의 역할도 변화하고 있다.
과거에는 코드를 얼마나 빠르게 작성할 수 있는가가 중요한 역량이었다면, 이제는 AI가 잘 작동하도록 환경과 조건을 설계하는 능력이 점점 더 중요해지고 있다.

그러나 이것이 인간의 역할이 줄어든다는 의미는 아니다.
오히려 에이전틱 엔지니어링 환경에서는 인간이 반드시 개입해야 하는 지점이 더 명확해진다.

이 글에서는 에이전틱 엔지니어링 환경에서 인간이 개입해야 하는 핵심 지점과 개발자의 역할 변화를 정리한다.

---

1. 문제 정의와 방향 설정

에이전트는 매우 빠르게 구현을 수행하지만, 무엇을 만들어야 하는지 결정하는 능력은 인간에게 있다.

예를 들어 다음과 같은 질문들은 AI가 스스로 결정하기 어렵다.

• 어떤 문제를 해결해야 하는가
• 기능의 범위는 어디까지인가
• 어떤 사용자 경험이 적절한가
• 무엇이 제품의 핵심 가치인가

따라서 구현 이전 단계에서 인간은 다음을 명확히 해야 한다.

• 기능 정의
• 범위 확정
• 사용자 경험 설계
• 성공 기준 정의

즉, 인간은 문제를 정의하고 방향을 설정하는 역할을 담당한다.

---

2. 아키텍처 설계

AI는 주어진 맥락 안에서 코드를 생성하는 데 매우 능숙하지만,
시스템 전체 구조를 장기적인 관점에서 설계하는 일은 여전히 인간의 몫이다.

예를 들어 다음과 같은 결정은 프로젝트 전체에 영향을 미친다.

• 인증 구조 (세션 vs 토큰)
• 서비스 레이어 설계
• 데이터 흐름 구조
• 모듈 분리 전략
• API 경계 설정

이러한 결정은 단순히 코드 문제가 아니라

• 확장성
• 유지보수성
• 조직 구조
• 운영 전략

과도 연결되기 때문에 인간의 판단이 반드시 필요하다.

AI는 설계를 제안할 수는 있지만, 최종 설계 책임은 인간에게 있다.

---

3. 맥락(Context) 설계

에이전트의 결과 품질은 맥락의 품질에 크게 의존한다.

AI에게 충분한 맥락이 제공되지 않으면 다음과 같은 문제가 발생한다.

• 설계 의도와 다른 코드 생성
• 프로젝트 규칙 위반
• 도메인 개념 혼동

따라서 개발자는 다음과 같은 맥락 문서를 제공해야 한다.

대표적인 예

• 아키텍처 결정 기록 (ADR)
• 코딩 컨벤션
• 도메인 용어 사전
• 시스템 구조 설명

이러한 정보는 보통 AGENTS.md 같은 문서에 정리된다.

즉, 인간의 중요한 역할 중 하나는
AI가 이해할 수 있는 형태로 시스템의 의도를 전달하는 것이다.

---

4. 작업 구조 설계

AI 에이전트는 복잡한 작업을 한 번에 처리하려고 하면 실패 확률이 높아진다.
따라서 인간은 작업을 구조화하고 단계적으로 진행하도록 설계해야 한다.

예를 들어 다음과 같은 방식이 효과적이다.

1. 요구사항 분석
2. 설계 제안
3. 엣지 케이스 검토
4. 구현
5. 테스트
6. 리뷰

또한 작업 단위를 작게 나누고 체크포인트를 설정하는 것이 중요하다.

예시

• 목차 작성
• 1장 작성
• 2장 확장
• 전체 구조 검토

이처럼 인간은 작업을 분해하고 흐름을 설계하는 역할을 맡는다.

---

5. 제약 조건 설계

AI는 자유도가 높을수록 예상하지 못한 결과를 만들 가능성이 높다.
그래서 에이전틱 엔지니어링에서는 제약 조건 설계가 매우 중요하다.

대표적인 제약 요소는 다음과 같다.

• 테스트 코드
• 타입 시스템
• 린트 규칙
• 정적 분석 도구

이러한 제약은 AI가 허용된 범위 안에서만 해결책을 탐색하도록 만드는 가드레일 역할을 한다.

즉, 인간은 AI가 이탈하지 못하는 시스템을 설계해야 한다.

---

6. 결과 검증과 코드 리뷰

AI가 코드를 생성하더라도 검증 과정은 여전히 중요하다.

특히 다음 영역에서는 인간의 검토가 필요하다.

• 보안
• 인증
• 데이터 무결성
• 핵심 도메인 로직

AI는 수많은 코드를 빠르게 작성할 수 있지만,
시스템 전체 관점에서 문제가 없는지 판단하는 것은 인간의 역할이다.

많은 조직에서는 다음과 같은 전략을 사용한다.

• 비핵심 코드 → AI 중심 리뷰
• 핵심 코드 → 인간 중심 리뷰

---

7. 디버깅과 이상 탐지

AI가 생성한 코드에서 문제가 발생할 때도 인간의 역할은 중요하다.

특히 다음 상황에서는 인간의 개입이 필요하다.

• 테스트는 통과하지만 제품이 이상하게 동작할 때
• 여러 에이전트가 문제를 해결하지 못할 때
• 시스템의 복잡한 상호작용에서 버그가 발생할 때

이때 필요한 능력은 다음과 같다.

• 시스템 전체 흐름을 이해하는 능력
• 코드 의도를 해석하는 능력
• AI 결과를 비판적으로 검토하는 능력

즉, 인간은 최종적인 문제 해결자 역할을 수행한다.

---

8. 실패 원인 분석

AI 결과가 기대와 다를 때 중요한 것은 단순 재시도가 아니라 원인 분석이다.

일반적인 접근 방식은 다음과 같다.

1. 왜 이런 결과가 나왔는지 분석
2. 부족한 정보 확인
3. 추가 맥락 제공
4. 수정된 요청 실행

이 과정은 전통적인 디버깅 프로세스와 동일하다.

결국 에이전틱 엔지니어링에서도 문제 해결 능력은 핵심 역량으로 남는다.

---

9. 인간의 역할은 더 높은 추상화로 이동한다

AI가 구현 작업을 많이 담당하게 되면서 개발자의 관심은 점점 더 상위 레이어로 이동하고 있다.

개발자는 이제 다음을 더 많이 읽게 된다.

• 스펙
• 아키텍처
• 테스트
• 도메인 모델

코드는 점점 구현 세부사항이 되어가고 있다.

하지만 중요한 점이 있다.

코드를 직접 작성하는 빈도는 줄어들 수 있지만
코드를 읽고 이해하는 능력의 중요성은 오히려 증가한다.

---

10. AI는 개발자의 역량을 증폭시킨다

AI는 개발자를 대체하기보다는 개발자의 능력을 증폭시키는 도구에 가깝다.

예를 들어

• 깊이 있는 개발자 → 더 복잡한 시스템 구축
• 비판적인 개발자 → 더 높은 설계 품질
• 창의적인 개발자 → 더 다양한 해결 방법

반대로 코드 이해도가 낮다면 AI를 사용하더라도
동작은 하지만 쉽게 깨지는 시스템을 만들 가능성이 높다.

AI는 결국 사용자의 사고 방식과 역량을 확대하는 도구이기 때문이다.

---

결론

에이전틱 엔지니어링 시대에 인간의 역할은 사라지지 않는다.
오히려 더 명확해진다.

인간이 담당해야 하는 핵심 영역은 다음과 같다.

• 문제 정의
• 아키텍처 설계
• 맥락 제공
• 작업 구조 설계
• 제약 조건 설계
• 결과 검증
• 디버깅
• 고수준 방향 설정, 판단력, 감각(taste) — 무엇이 좋은지 아는 안목 — 감독, 그리고 반복 작업에서 힌트와 아이디어 제공
• 핵심 에이전트와 오픈소스 컴포넌트 같은 핵심 코드에 대해서는 세심한 인간 코드 리뷰
• 스펙을 읽고, 아키텍처를 읽고, 테스트 결과를 읽고, 도메인 맥락을 읽어야 한다. 코드는 점점 더 “구현 세부사항”이 되어가고 있고, 우리의 주의는 더 높은 추상화 레이어로 이동하고 있다.

그리고 이 모든 역할을 하나로 정리하면 다음과 같다.

AI가 잘 동작하는 환경을 설계하는 것.

앞으로 개발자의 경쟁력은
코드를 얼마나 많이 작성하는지가 아니라

AI와 함께 더 좋은 시스템을 설계할 수 있는가

에 의해 결정될 가능성이 높다.