안녕하세요, 멘토 김부장입니다. 앞서 하네스와 루프 엔지니어링 편에서 "AI가 매번 시키지 않아도 스스로 반복해 일하게 만든다"는 개념을 잡아 봤지요. 오늘은 그 '반복'을 실제로 굴러가게 하는 하네스(harness)를 좀 더 깊이 들여다보겠습니다. 앞서 5편에서 AI에게 좋은 스킬(매뉴얼)을 쥐여 줬다면, 이번엔 그 AI를 앉혀 놓고 일을 시키는 '작업대'를 짜는 이야기입니다.

하네스라는 말이 낯설겠지만, 원래는 말에게 씌우는 마구(馬具)를 뜻합니다. 힘센 말이 아무 데로나 뛰지 않고 정해진 길로 힘을 내도록 잡아 주는 장치지요. AI에서의 하네스도 똑같은 역할입니다. 똑똑하지만 제멋대로일 수 있는 모델을 감싸, 도구를 쓰고·반복하고·멈추고·복구하는 흐름을 관리합니다.

모델이 '두뇌'라면, 하네스는 그 두뇌가 손발을 안전하게 쓰도록 잡아 주는 '몸통과 작업대'입니다.

하네스가 챙기는 네 가지

모델 혼자서는 생각만 할 뿐, 실제로 파일을 열거나 반복하거나 스스로를 멈추지 못합니다. 그 바깥일을 전부 하네스가 맡습니다. 크게 네 가지입니다.

역할쉽게 말하면
도구 실행모델이 "이걸 해줘" 하면 실제로 검색·계산·파일작업을 대신 눌러 줌
반복 루프한 번에 안 끝나는 일을 여러 바퀴 돌려 줌
상태 관리지금까지 뭘 했고 무엇이 남았는지 기억해 둠
안전장치너무 오래 돌거나 위험한 행동을 하면 막아 세움

기본 흐름 — 생각하고, 행동하고, 살펴본다

하네스가 돌리는 반복은 대개 세 박자로 이루어집니다. 요리사가 맛을 보며 간을 맞추는 과정과 똑 닮았어요. 한 번 하고 끝이 아니라, 결과를 보고 다시 조정하는 거지요.

생각
다음 할 일 판단
→
행동
도구 실행
→
관찰
결과 확인
→
반복
또는 종료

모델이 다음에 무엇을 할지 판단하면, 하네스가 그 행동을 실제로 실행하고, 그 결과를 다시 모델에게 돌려줍니다. 모델은 그 결과를 보고 다음 판단을 하지요. 이 고리가 목표를 이룰 때까지 돌아갑니다. 그런데 여기서 가장 중요한 질문이 생깁니다. 이 고리를 대체 언제 멈추느냐는 거예요.

종료 조건 — 언제 멈출지 정해 둔다

사람은 "다 됐다" 싶으면 알아서 손을 뗍니다. 하지만 하네스에게는 멈추는 기준을 명확히 심어 줘야 합니다. 이 종료 조건이 없으면 AI가 같은 자리를 뱅뱅 돌거나, 끝난 일을 붙들고 놓지 못하는 사태가 벌어지거든요.

1

목표 달성

원하던 결과가 나오면 곧바로 멈춥니다. 가장 이상적인 종료지요.

2

횟수 상한

"최대 몇 바퀴까지만" 하고 한계를 둡니다. 무한 반복을 막는 안전벨트입니다.

3

포기 신호

더 진전이 없다고 판단되면 억지로 끌지 않고 사람에게 넘깁니다.

💡 가장 흔한 사고가 '무한 루프'입니다. 종료 조건을 깜빡하면 AI가 같은 실수를 끝없이 되풀이하며 시간과 비용만 태웁니다. 그래서 노련한 엔지니어는 기능을 만들기 전에 "이건 언제 멈추지?"부터 정합니다.

실패 복구 — 넘어져도 다시 일어서게

현실에서는 도구가 실패합니다. 인터넷이 잠깐 끊기고, 파일이 없고, 예상 못 한 값이 튀어나오지요. 잘 만든 하네스는 이걸 당연한 일로 여기고 복구 절차를 갖춥니다. 한 번 실패했다고 전체가 무너지면 안 되니까요.

보통은 이렇게 대처합니다. 잠깐 기다렸다 다시 시도하고, 그래도 안 되면 다른 방법으로 우회하고, 그마저 막히면 상황을 정직하게 보고하고 멈춥니다. 중요한 건 실패를 숨기지 않는 것입니다. 안 되는 걸 된 척 넘어가는 것이야말로 가장 위험한 실패거든요. 좋은 하네스는 "여기서 이래서 막혔습니다"라고 또렷이 남깁니다.

사람 승인 — 휴먼 인 더 루프

마지막으로, 하네스 설계에서 가장 인간적인 장치를 소개합니다. 바로 휴먼 인 더 루프(human-in-the-loop), 즉 중요한 순간에 사람의 확인을 끼워 넣는 것입니다. AI가 아무리 유능해도, 되돌릴 수 없는 일 앞에서는 사람이 한 번 봐 주는 게 맞습니다.

맡겨도 되는 일승인을 받게 할 일
자료 검색·요약돈이 나가는 결제·송금
초안 작성메일·글의 실제 발송
임시 파일 정리데이터 영구 삭제

보시다시피 되돌릴 수 있는 일은 맡기고, 되돌릴 수 없는 일에는 사람의 손을 한 번 거치게 합니다. 이렇게 하면 AI의 속도와 사람의 신중함을 둘 다 챙길 수 있지요. 자율성과 통제 사이의 균형, 이것이 하네스 설계의 진짜 묘미입니다.

좋은 하네스는 AI를 '풀어 놓되 방치하지 않습니다'. 스스로 달리게 하되, 낭떠러지 앞에선 반드시 사람을 부릅니다.

정리하며 — 다음 편 예고

오늘은 하나의 AI를 감싸는 작업대, 하네스를 살펴봤습니다. 도구 실행·반복·상태·안전장치, 그리고 종료 조건·실패 복구·사람 승인까지. 이 틀이 있어야 AI가 스스로 일하면서도 폭주하지 않습니다.

그런데 일이 커지면 궁금해집니다. 이 똑똑한 일꾼을 한 명이 아니라 여러 명 두면 어떨까? 서로 역할을 나눠 협업하게 하면 더 잘하지 않을까? 다음 7편(멀티 에이전트)에서 바로 그 이야기, 여러 AI가 팀을 이뤄 일하는 구조를 다뤄 보겠습니다.

← 기술 블로그 목록으로