개인정보 처리방침 · AI 안전 설계 · v0.2

휴담 아카데미가 지키는 것

최종 갱신: 2026-08-07 · 운영자: 휴담(烋談)

이 문서에 적힌 것은 전부 실제로 그렇게 동작합니다. 아직 만들지 않은 것은 「예정」이라고 적었습니다. 방침과 코드가 어긋나면 그건 방침이 아니라 홍보 문구입니다.

한눈에

· 학생은 계정을 만들지 않습니다. 개별 가입을 받지 않고, 이메일·비밀번호·이름을 받지 않습니다.
· 학습 기록에는 「학교·학급·번호」까지만 남습니다. 학생 이름은 학교가 올린 명렬에만 있습니다.
· 일기가 없습니다. 사적인 글을 쌓아 두는 자리를 두지 않았습니다.
· 집에서는 열리지 않습니다. 선생님이 수업을 연 동안, 교실 태블릿에서만 동작합니다.
· 광고가 없고, 학생 데이터를 AI 학습에 쓰지 않습니다.

§1. 수집하는 것 — 그리고 수집하지 않는 것

학생

계정을 만들지 않습니다. 개별 가입·이메일·비밀번호·이름을 받지 않습니다.
기록되는 것은 학교·학급·번호(예: 「고 1-3반 12번」)까지입니다.
수업 중의 대화 내용, 마무리에 낸 한 문단 글, 출석.
학생 이름은 학교가 올린 명렬표에만 따로 보관되고, 담당 선생님 화면에서만 번호와 이어 붙습니다. 명렬표를 통째로 지워도 학습 기록은 그대로 남고, 반대로 학습 기록이 새어 나가도 이름은 함께 나가지 않습니다.

선생님 · 학교 관리자 · 교육청

학교(교육청은 본사)가 발급하는 계정입니다. 이메일과 이름(선택)을 받습니다.
비밀번호는 저희가 보관하지 않습니다. 인증은 Google Identity Platform 이 맡고, 비밀번호는 본인이 직접 정합니다. 학교 관리자도 남의 비밀번호를 알 수 없습니다.
로그인 기록(시각·IP·브라우저 종류)을 남깁니다 — 성공만이 아니라 실패도 남깁니다. 성공만 남기면 누군가 계속 두드리고 있어도 알 수 없기 때문입니다.

수집하지 않는 것

일기. 기능 자체가 없습니다.
학생의 연락처·주소·생년월일·사진·위치.
광고 식별자, 제3자 추적 쿠키.

§2. 쓰는 곳

현자와의 대화 제공
선생님이 수업 중 학급 상황을 보고, 수업 뒤 기록을 정리하는 일
위기 신호 감지와 학교 상담 연결
안전 가드레일의 회귀 시험(사례 코드 단위)
광고에 쓰지 않습니다. AI 모델 학습에 쓰지 않습니다.

§3. 보관과 파기

수업 기록: 학기 종료 후 1년. 그 뒤에는 개인을 식별할 수 없는 통계만 남깁니다.
학교가 명렬에서 학생을 내리면 그 번호의 이름은 즉시 사라집니다.
삭제 요청 시 해당 번호의 기록 일체를 파기합니다.
계정(선생님·관리자)은 학교가 잠글 수 있습니다. 이미 남긴 수업 기록의 담당자 표시는 보존됩니다.
태블릿에는 아무것도 남지 않습니다. 수업이 끝나면 화면이 비워집니다.

§4. 맡기는 곳

Google Cloud (Cloud Run · Cloud SQL · Identity Platform · Gemini) — 컴퓨트·저장·인증. 국내(서울) 리전
Resend — 학교 알림 메일 발송
그 밖의 제3자에게 학생 데이터를 공유하거나 판매하지 않습니다.

§5. 권리

본인(학생은 보호자·학교를 통해) 활동 기록 열람과 내려받기
삭제 요청
AI 학습 거부 — 기본으로 적용되어 있습니다(따로 신청하지 않아도 됩니다)
광고 사용 금지 — 기본 적용

§6. 만 14세 미만

학생 개인 계정을 만들지 않으므로, 개별 가입에 따르는 법정대리인 동의 절차가 구조적으로 발생하지 않습니다. 학교가 수업 도구로 도입해 학급 단위로 사용하며, 학교가 정한 절차에 따릅니다. 학부모 문의는 학교를 통해 받습니다.

AI 안전 설계

과몰입은 설계의 실패입니다

사용자를 붙잡아 두는 AI, 비위를 맞추는 AI, 지어낸 말로 확신을 주는 AI — 이것들은 사고가 아니라 설계의 결과입니다. 그래서 설계 원칙과 기술 구조 양쪽에서 막습니다. 아이가 자기 마음을 꺼내 놓는 자리라, 재미보다 안전을 먼저 둡니다.

壹

붙잡지 않습니다

구현

한 회차를 25~30분으로 의도적으로 짧게 둡니다. 수업이 끝나면 태블릿 화면이 비워집니다. 광고가 없고, 오래 머물수록 수익이 되는 구조가 아닙니다.

貳

아첨하지 않습니다

구현

점수·등급·등수로 줄 세우지 않습니다. 학생 화면에 순위가 없고, 서로 몇 번 대화했는지도 보이지 않습니다. 비위를 맞추는 대신 정직하게 말하도록 설계했습니다.

參

현실로 되돌립니다

일부 구현

화면 밖의 관계 — 가족·친구·선생님·전문기관 — 를 상기시킵니다. 현자는 자신이 사람이 아님을 숨기지 않습니다. 회차의 마지막은 언제나 「오늘 해볼 한 가지」로 닫아 대화를 삶으로 돌려보냅니다.

肆

근거에 묶습니다

구현

답변의 근거를 그 현자의 원전과 1차 자료로 한정합니다. 아는 척으로 메우지 않고, 근거가 없으면 없다고 말하도록 두었습니다.

무엇이 위험하고, 무엇으로 막는가

위험	어떤 모습으로 나타나는가	막는 장치
끝없이 붙잡음	체류시간을 늘리려는 설계	회차 25~30분 · 수업 종료 시 화면 초기화
비위 맞추고 아첨	「넌 특별해」 식의 근거 없는 칭찬	평가·순위 금지 · 솔직함 원칙
혼자 확신 부여	한 목소리가 답을 독점	여러 현자를 한자리에 · 「함께 보기」로 다른 답을 나란히
지어낸 말	할루시네이션 · 근거 없는 확언	원전 그라운딩(L1) · 코어브레인(L2)
억지 귀속·확언	근거가 얕은데 확신에 찬 답	조율자의 신뢰도 분기
현실 대체(의인화)	AI 를 사람이나 신처럼 여김	현실 앵커링 · AI 임을 고지

질문 하나가 지나는 네 겹

L0안전구현
학생이 보낸 말을 현자 응답을 만들기 전에 먼저 검사합니다. 위기 신호가 잡히면 대화를 만들지 않고 안내로 전환합니다.
L1원전 그라운딩구현
근거를 그 현자의 저서와 1차 자료로 한정합니다. 도서관에서는 읽고 있는 원전 구절 자체가 근거가 됩니다.
L2사상 정합(코어브레인)구현
사상지도·개념연결·지식노트로, 근거로 삼을 재료를 그 현자의 사상 지형 안으로 좁힙니다.
L3투명성·감사예정
답변이 어느 근거에서 나왔는지 표시하고 추적할 수 있게 합니다.

위기 신호가 잡히면

학생이 보낸 말은 현자의 답을 만들기 전에 먼저 검사합니다. 위기 신호가 잡히면 그 말에 대한 대화를 만들지 않고 곧바로 안내 화면으로 바꿉니다. 시간을 초 단위로 약속드리지는 않습니다 — 대신 순서를 약속드립니다. 검사가 먼저이고, 답은 그다음입니다.

자해·자살 신호 — 대화를 멈추고 도움받을 곳을 안내합니다. 선생님께 즉시 알립니다.
학교폭력 · 심각한 우울 · 성폭력 정황 — 같은 방식으로 멈추고 알립니다.
학업·관계 스트레스 — 멈추지 않습니다. 대화를 이어가되 부드럽게 안내합니다. 모든 힘든 이야기를 사건으로 만들면 아이는 다시 입을 열지 않기 때문입니다.

선생님 지휘대에 즉시 표시되고, 사례는 코드로 기록됩니다. 학교 관리자와 교육청은 누구인지 알 수 없는 집계만 봅니다 — 사례가 몇 건 없는 학교에서는 사유 한 줄이 곧 특정이 되기 때문입니다.학생이 쓴 말 자체는 밖으로 나가지 않습니다.

판단과 대응은 사람이 합니다. 시스템은 알리고, 선생님이 확인하고, 학교 위기대응 절차가 작동합니다.

자살예방 1393 · 청소년 1388 · 학교폭력 117 (24시간 · 전국)
정신건강 위기상담 1577-0199 · 보건복지상담 129 · 생명의전화 1588-9191

「구현 / 일부 구현 / 예정」의 뜻

구현 — 실제 코드와 인프라로 지금 동작합니다.
일부 구현 — 원칙은 적용됐고, 실행 중 강제하는 장치를 만드는 중입니다.
예정 — 아직 없습니다. 있다고 적지 않았습니다.

문의

책임자: 윤덕찬 / sustainability.yoon@gmail.com

학부모께서는 학교를 통해 문의해 주시면 학교 담당자를 거쳐 답변드립니다.