위험 모델의 재학습과 편향된 우연

이번 대화는 I'm Feeling Lucky에 대한 그리움에서 시작했지만, 결국은 인간이 어떻게 자신의 사고 한계를 넘고, 변화하는 시대에 적응하는가에 대한 이야기로 이어졌다.

검색 → 추천 → 질문

인터넷의 흐름은 대략 세 단계로 변해왔다고 볼 수 있다.

• 검색: 무엇을 찾을지 알고 있다.
• 추천: 무엇을 찾을지 모르니 시스템이 대신 골라준다.
• 질문: 무엇을 탐색해야 할지조차 함께 정의한다.

특히 LLM의 등장은 정보를 찾는 도구라기보다 사고 공간(thought space)을 탐색하는 도구를 만들고 있다.

여기서 중요한 건 답변 생성 자체가 아니다.

아직 하지 않은 질문을 발견하게 만드는 것.

Serendipity는 새로운 정보가 아니라 새로운 연결일 수도 있다

Wikipedia Random이 항상 재밌었던 것은 아니다.

오히려 인간이 원하는 것은 완전한 랜덤이 아니라 편향된 우연(serendipity) 에 가까울지도 모른다.

특히 개인의 메모와 대화가 축적되는 시대에는 새로운 지식을 수집하는 것보다,

이미 알고 있는 것을 새로운 맥락에서 다시 만나는 능력

이 더 중요해질 수 있다.

그래서 미래의 지식 시스템은 검색 엔진보다 이런 모습에 가까울 수도 있다.

3개월 전의 나 + 오늘의 나 + 아직 연결되지 않은 메모 하나

를 매일 조금씩 섞어주는 시스템.

추천 시스템은 콘텐츠를 추천하지만, 미래의 시스템은 사고를 다룰 수도 있다

기존 추천 시스템은 취향을 모델링한다.

어떤 콘텐츠를 좋아할까?

하지만 질문 중심의 시스템은 한 단계 더 들어간다.

이 사람은 어떻게 사고하는 사람인가?

그 과정에서 사용자 모델도 점점 정교해질 가능성이 있다.

• 어떤 비유를 좋아하는가
• 어떤 추상화 수준을 선호하는가
• 어떤 분야를 연결하는가
• 어떤 질문에서 흥미를 느끼는가

인간 복제보다는 사고의 변형체

이런 흐름을 SF적으로 밀어붙이면 인간 복제로 이어질 수도 있다.

하지만 완벽한 복제는 생각보다 매력이 없을지도 모른다.

오히려 더 흥미로운 건,

나와 충분히 닮았지만 완전히 같지는 않은 또 다른 나

를 만드는 것이다.

최고의 개인 AI는 나를 그대로 흉내 내는 존재가 아니라, 내 사고를 살짝 비틀어주는 존재일 수도 있다.

AI는 몸이 아니라 사고를 확장하는 사이보그일지도 모른다

기존의 도구들은 인간의 물리적 한계를 확장해왔다.

• 망치: 근력의 확장
• 자동차: 이동의 확장
• 컴퓨터: 계산의 확장
• 인터넷: 기억의 확장
• AI: 사고 과정의 확장

하지만 사고를 확장하는 도구는 동시에 사고를 위임하는 도구이기도 하다.

그래서 중요한 능력은 AI를 잘 사용하는 능력이 아니라,

언제 AI에 기대고, 언제 일부러 불편함을 감수할지 결정하는 능력

이 될 수도 있다.

나이를 먹는다는 것은 위험 모델이 정교해지는 과정이다

나이가 들수록 새로운 것을 싫어하게 된다기보다,

점점 더 많은 금지 규칙이 쌓인다.

는 표현이 더 정확할 수 있다.

문제는 시대 변화의 속도가 인간의 위험 모델 업데이트 속도보다 빨라졌다는 점이다.

게다가 위험 모델은 만들기는 쉬워도 해제하기는 어렵다.

위험하다 → 빠르게 학습한다.

이제는 괜찮다 → 천천히 학습한다.

이 비대칭성은 생존 관점에서는 합리적이지만, 변화가 빠른 시대에는 기회를 놓치는 원인이 되기도 한다.

용기보다 작은 실험

그렇다고 두려움의 원천에 무작정 뛰어드는 것이 답은 아니다.

중요한 것은 안전하게 실패할 수 있는 작은 실험(safe-to-fail experiment)을 설계하는 능력이다.

생각해보면 인간 사회는 이미 이런 장치들을 많이 만들어왔다.

• 인턴십
• 사이드 프로젝트
• 베타 테스트
• 샌드박스 환경

좋은 게임도 마찬가지다.

플레이어를 절벽에서 밀어 떨어뜨리는 대신,

“어? 생각보다 안 죽네?”

를 반복적으로 경험시키며 위험 모델을 재학습하게 만든다.

Takeaway

이번 대화에서 가장 남는 문장은 이것일 것 같다.

나이를 먹는다는 것은 위험 모델이 정교해지는 과정이고, 시대에 적응한다는 것은 그 위험 모델을 주기적으로 재학습하는 과정이다.

그리고 그 재학습은 거대한 결심이나 대담한 도전보다,

작은 실험을 빠르게 반복하는 능력

에서 시작되는 것인지도 모르겠다.