개발과 파이프라인: 되돌림의 비용에 대하여

개발 업무는 종종 파이프라인처럼 느껴진다. 문제를 이해하고, 설계하고, 구현하고, 테스트하는 여러 단계가 동시에 흘러간다. 하지만 이 흐름은 생각보다 취약하다. 초기에 세운 가정이 틀렸다는 사실이 뒤늦게 밝혀지는 순간, 뒤따르던 작업들 역시 의미를 잃는다. CPU가 브랜치 예측에 실패했을 때 파이프라인을 비우고 다시 시작하듯, 프로젝트도 때로는 상당 부분을 되돌린 채 출발점으로 돌아가야 한다.

흥미로운 점은, 실제로 중요한 비용이 실패 자체보다 그 이후에 발생한다는 것이다. 파이프라인이 플러시된 직후에는 곧바로 최고 속도로 달릴 수 없다. 무엇이 잘못되었는지 확인하고, 새로운 가설을 세우고, 작은 단위로 검증하면서 다시 신뢰를 쌓아야 한다. 이런 모습은 네트워크에서 패킷 손실 이후 전송 속도를 조심스럽게 늘려가는 TCP의 슬로우 스타트와도 닮아 있다.

그래서 경험 많은 개발자는 예측을 절대 틀리지 않는 사람이 아니라, 예측이 틀렸을 때의 비용을 줄이는 사람에 가까운지도 모른다. 작은 실험을 먼저 해 보고, 빠르게 검증하고, 되돌리기 쉬운 구조를 만드는 이유도 여기에 있다. 불확실성을 제거할 수 없다면, 적어도 파이프라인을 다시 채우는 시간을 줄일 수는 있기 때문이다.