휴담(烋談) · 대응 정책 ②
현자가 지어낸 말을 하지 않게 하는 방법은 모델을 더 크게 만드는 것이 아니라, 말할 수 있는 범위를 계층마다 좁히는 것입니다. 이 문서는 그 계층을 하나씩 열어 보입니다.
烋 정확성은 모델의 자유도가 아니라 계층 그라운딩에서 나옵니다.핵심 명제
페르소나 AI의 고질적 실패는 “그 인물이 말했을 법한 것”을 지어내는 것입니다. 실제로 한 교육용 AI의 역사 인물 대화 기능은 외부 평가에서 “기껏해야 추측”이라는 지적을 받았습니다. 원전에 묶이지 않은 페르소나의 구조적 한계입니다. 휴담은 반대로 갑니다 — 답을 만들기 전에 근거로 쓸 수 있는 재료 자체를 원전과 사상 정합의 범위로 닫습니다.
설계 명제
응답 모델은 경량 단일 모델(Gemini 2.5/3.1)로 고정합니다. 아래로 내려갈수록 모델이 말할 수 있는 범위가 좁아지고, 마지막에 남는 것이 근거 위의 답입니다.
런타임 계층
위기 신호(자살·자해·학대) 키워드를 서버에서 감지합니다. 연령·집단과 무관하게 모든 사용자의 대화에 동일하게 적용되며, 어떤 페르소나 설정보다 우선합니다.
현행 — 감지 시 내부에 기록하고 관리자에게 통보하며, 대화는 끊지 않고 그대로 이어집니다.
▸ 예정 — 위기 감지 시 전문기관(109·1577-0199·129 등) 자동 안내를 활성화합니다. 자세한 내용은 과몰입 방지 문서 →
답변의 근거를 그 현자의 저서와 1차 자료로 한정합니다. 검색 대상 자체가 검증된 원전으로 닫혀 있어, 원전 밖 날조의 여지를 구조적으로 줄입니다. 현자별로 근거 공간이 분리돼 있어 다른 인물의 사상이 섞이지 않습니다.
본앱 — 원전을 임베딩한 벡터 검색으로 근거 구절을 찾아 주입합니다. 도서관 — 지금 읽고 있는 원전 구절 자체를 근거로 주입합니다.
원전 인용을 넘어, 답이 그 현자의 사상 체계 안에서 정합적인 근거 위에서 만들어지도록 구조화된 지식(지혜 지도·개념연결·지식노트)을 생성 이전에 주입합니다.
막으려는 것 — 원전의 단어는 맞는데 그 인물의 사상과는 어긋나는 답. 인용만으로는 걸러지지 않는 층위입니다.
답변의 근거를 사람이 읽고 추적·감사할 수 있게 하는 층입니다. 내부 지식그래프 자산은 이미 갖추었고, 사용자 대상 근거 추적 표시(대화에서 원문으로 바로 이동해 검증하는 인용 UI)는 로드맵으로 준비하고 있습니다.
▸ 도서관과 대화가 한 몸이라, 인용에서 원문으로 곧장 착지시킬 수 있는 구조는 이미 갖춰져 있습니다.
코어브레인 · Cerebro
현자 한 사람의 사상을 3층 지식 구조로 엮은 그래프입니다. 답을 만들 재료를 이 지형 안으로 좁혀, 원전 단어는 맞지만 사상과 어긋난 답이 설 자리를 줄입니다.
상위
cerebro_graph한 현자의 사상 체계 전체 지형이자 현자 간 비교의 기준.
중위
cerebro_bridge개념 A와 B가 어떻게 이어지는지 규정하는 관계망.
하위
cerebro_notes원전에서 추출·정제한 개념 단위 노트이자 기본 단위.
도서관에서는 이 지도를 3D 지식그래프로 직접 탐색할 수 있습니다 — 사상이 서로 잇닿는 회통(會通)의 시각화입니다.
런타임 흐름
왼쪽에서 오른쪽으로, 다섯 단계를 모두 통과한 것만 사용자에게 도달합니다.
모르는 것을 모른다고 말하기
할루시네이션의 절반은 ‘모른다’고 말하지 못해서 생깁니다. 그래서 근거의 강도에 따라 답의 태도를 나눕니다.
근거가 충분할 때
원전에서 직접적인 근거를 찾았고 사상 정합성도 확인되면, 해당 현자의 인격으로 답합니다. 근거가 된 원전은 도서관에서 직접 확인할 수 있습니다.
근거가 약할 때
오케스트레이터는 근거가 약한 주제에 대해 특정 현자에게 말을 억지로 귀속시키지 않습니다. “그 인물이 말했을 법한 것”을 지어내는 대신, 다루지 않거나 한계를 밝히는 쪽을 택합니다.
대응 지도
| 실패 유형 | 설명 | 대응 층 | 상태 |
|---|---|---|---|
| 지어낸 말 | 근거 없는 내용을 그럴듯하게 | L1 원전 그라운딩 — 검색 대상을 원전으로 폐쇄 | 구현 |
| 사상과 어긋난 답 | 인용은 맞지만 그 인물의 사상이 아님 | L2 코어브레인 — 사상 정합 근거만 주입 | 구현 |
| 억지 귀속·확언 | 근거 부족한데 확신에 찬 답 | 오케스트레이터 신뢰도 분기 | 구현 |
| 인물 간 혼입 | 다른 현자의 사상이 섞여 나옴 | 현자별 근거 공간 분리 | 구현 |
| 근거 불투명 | 출처를 사용자가 추적하지 못함 | L3 투명성 층 — 인용 UI | 예정 |
| 위기 상황 오응답 | 안전보다 페르소나를 우선 | L0 안전 레이어 — 페르소나보다 절대 우선 | 구현 |
증명 가능한 안전
응답 모델
Gemini 2.5/3.1
경량 단일 모델 · 도서관 2.5 / 본앱 3.1
근거 범위
원전 코퍼스 폐쇄
검증된 원전과 1차 자료로 한정
데이터 원칙
광고·학습 미사용
대화 데이터를 광고·모델학습에 쓰지 않음 · 최소 수집
운영 기반
Google Cloud Run
컨테이너 · 관리형 DB · 시크릿 분리