A Board That Costs Nothing to Watch

Two ways to see the same thing

운영자 감시 전광판을 만들었다. 여러 기관을 한 화면에서 본다. 커밋 제목에 설계가 그대로 적혀 있다 — LLM 없음 · 무과금. 같은 데이터를 등대에게 물어볼 수도 있다. 등대는 수업을 굴리는 사람 쪽에 붙는 AI 어시스턴트다. 대화로 답하고 맥락을 이어간다. 대신 물어볼 때마다 호출이 든다.

Why the always-on one has no model

늘 켜두고 보는 화면은 성격이 다르다. 하루 종일 띄워놓는 화면이 호출을 쓰면 비용이 시간에 비례한다. 보고 있는 것만으로 돈이 나가는 화면은 결국 안 켠다. 결정적이어야 하는 이유도 있다. 같은 상태면 항상 같은 표시가 떠야 한다. "어제랑 다른데?"가 데이터가 변해서인지 모델이 다르게 말해서인지 구분이 안 되면 그 화면은 못 믿는다.

늘 보는 화면은 공짜여야 하고, 물어보는 답은 비싸도 된다.

The same split, twice before

이 판단을 이 프로젝트에서 세 번째로 했다. 7월 30일에 전광판을 만들 때가 처음이었다 — 반디를 안 쓰는 기관을 위해 반디의 눈만 떼어낸 것. 8월 2일에 배선 미완성을 반디의 눈과 일반 규칙으로 막은 게 두 번째. 결정적 코어를 따로 뽑아두면 LLM 이 없는 자리에 그걸 놓을 수 있다. 눈과 두뇌를 처음부터 분리해둔 게 계속 값을 하고 있다.

And a third surface

같은 날 기관 전광판도 따로 만들었다. 운영자용은 여러 기관을 보고, 기관용은 자기 것만 본다. 콘솔은 모바일에서도 열리게 했다. 담당자가 자리에 앉아 있을 때만 볼 수 있는 화면은 반쪽이다.