Do Not Invent the Project Titles

What it was doing

학생이 "이런 주제로 나간 대회 사례가 있어?"라고 물으면 모델이 그럴듯한 프로젝트 제목과 연구자 이름을 지어냈다. 토양 개량이니 바이오차니 하는, 있을 법한 이름들이다. 실제로 검색하면 나오지 않는다.

Why this one is worse than usual

보통의 환각은 틀린 사실을 말하는 것이다. 이건 다르다. 학생이 그 제목을 자기 계획서에 선행연구로 적는다. 심사에서 확인하면 그런 프로젝트는 없다. 도구가 만들어낸 거짓말의 대가를 학생이 치른다.

내가 틀리면 내가 고치면 되는데, 도구가 틀리면 쓴 사람이 뒤집어쓴다.

The rule I wrote

프롬프트 맨 앞에 금지 규칙을 박았다. 네 줄이다. 1. ISEF 프로젝트 제목·연구자 이름·통계·연구 결과를 절대 지어내지 마라 2. 대회 사례를 물으면 지어내지 말고 왼쪽 패널의 대회 검색 버튼으로 안내해라 — 거기엔 실제 대회에서 확인된 데이터가 있다 3. 모르면 모른다고 말해라 4. 100% 확실한 것만 이름으로 언급해라 2번이 핵심이다. 금지만 하면 모델은 대답할 방법이 없어서 어정쩡해진다. 금지와 함께 **대신 갈 곳**을 줘야 규칙이 지켜진다. 문서 생성기와 채팅 양쪽에 같은 규칙을 넣었다.

Also that day

같은 날 A/B 테스트용 natural mode 를 넣었다. URL 파라미터로 응답 스타일을 바꿔가며 비교하려고 만든 것이다. 대회 검색 결과에 AI 요약을 붙이고, 연구자 이름은 가려서 표시하게 했다. 실제 데이터에서 온 것이라도 개인 이름을 그대로 띄울 이유는 없다.