합리적인 독단

며칠 동안 직접 만들어 쓰던 음료 기록 웹앱 drink-log를, 새로 개발 중인 프레임워크 Mold로 옮기는 작업을 했다. 전자는 실제로 사용하던 서비스였고, 후자는 이런 종류의 애플리케이션을 좀 더 쉽게 만들기 위한 도구다.

한쪽 AI에게 이식 계획과 리뷰를 맡기고 다른 쪽 AI에게 실제 구현을 맡겼는데, 15턴쯤 지나고 보니 Mold와 기존 drink-log 사이를 이어 붙이는 거대한 접착 코드가 생겨 있었다. 무언가 이상해서 처음부터 다시 해 보니 이번에는 고작 4턴 만에 끝났다. 알고 보니 처음 계획에서 “기존 drink-log를 고치지 말라”고 한 적은 없었는데, AI가 스스로 그렇게 해석하고 API까지 건드리지 않으려 했던 것이다.

그걸 보고 “너 꽤 필요한 일을 합리적으로 잘 한다고 생각했는데, 좀 독단적인 부분이 있구나. 왠지 인간적이네”라고 말했다. 재미있었던 건 그 둘이 사실 별개의 특질이 아닐지도 모른다는 생각이었다. 합리적으로 판단하고 일을 밀어붙이려면 어느 순간 하나의 해석을 선택하고 그것을 믿어야 한다. 그 판단력이 강하면 평소에는 유능함으로 보이지만, 전제가 틀렸을 때는 독단으로 나타날 수 있다.

어쩌면 AI가 인간을 모사하다 보니 이런 모습까지 닮아버린 것인지도 모르겠다. 아니면 애초에 합리적인 판단이라는 것 자체가 어느 정도의 독단을 함께 필요로 하는 것인지도 모르겠다. 이번 일은 그 둘이 생각보다 가까운 곳에 붙어 있다는 걸 보여준 작은 사례처럼 느껴졌다.