目次 ／ 第 7 章 / 7 — 安全のしくみ 最後の章

第 7 章 — 安全のしくみ

この章で分かること

7-1 は管理者（塾の責任者）向けです。7-3 以降はスタッフ全員に読んでほしい内容です。

7-1. 緊急停止（管理者のみ）

「AI が変なことを言っている」「費用が異常に増えている」「個人情報の事故が起きた」ときに、 数秒で全生徒への回答を止められます。プログラムの変更も設定作業も要りません。

止め方

  1. 管理画面の ダッシュボード を開く（一番上に「AI応答」のカードがあります）
  2. AI応答を停止 をクリック
  3. 理由を書く（例：紐付けの誤りが見つかったため一時停止）— 任意ですが必ず書いてください
  4. 停止する をクリック
ダッシュボード最上部の「AI応答」カード。緑色のチェックアイコンと「AI応答」の見出し、緑色の「稼働中」バッジ、「生徒からの質問に AI が回答しています」という説明と最終更新日時。右端に赤い「AI応答を停止」ボタンがある
ダッシュボード最上部の「AI応答」カード。緑の 稼働中 が正常です
「AI応答を停止しますか？」の確認ダイアログ。「停止中は全生徒への AI 回答が止まり、質問には「メンテナンス中」の定型文だけを返します。この操作は管理者のみ実行でき、#alerts に通知されます。」という説明の下に「理由（#alerts と管理画面に表示されます）」の入力欄があり、下部に「キャンセル」と赤い「停止する」のボタンが並んでいる
確認ダイアログ。理由は任意ですが、あとから経緯を追えるように必ず書いてください
項目内容
誰ができるか管理者のみ。スタッフはカードを見られますが、押すと AI応答の停止・再開は管理者のみ実行できます と表示されます
止まると何が起きるか🤔 も付かず、質問には定型文だけが返ります：
「いまメンテナンス中でお返事ができないんだ しばらく経ってからもう一度質問してね。」
AI は呼ばれないので、費用も止まります
通知Slack の #alerts チャンネルに「操作者・理由・時刻」が投稿されます。ただし、#alerts が設定されている場合だけです。設定されていないと、停止・再開しても誰にも通知されません（押した人の画面には「#alerts への通知はできませんでした」と出ます）。 状態が変わったときだけ通知されます
再開同じカードの AI応答を再開。カードが緑の 稼働中 に戻ります
理由の表示カードに「理由」「最終更新（操作者）」が残るので、他のスタッフも状況が分かります

使うべき場面

止めたまま忘れないでください。 停止中は全生徒が使えません。ダッシュボードを開けばカードが赤い 停止中 になっているので、 朝いちばんに開く習慣にしておけば取りこぼしません（第 2 章 2-1）。 理由を書いておけば、あとから見た人も「まだ止めておくべきか」を判断できます。

どうしても停止ボタンで止められないときは、Slack アプリ側でイベントの受け取りを止める・ アプリの公開を止めるといった手段になります。この作業は開発担当（川崎）に依頼してください。

7-2. 質問回数の上限

項目内容
上限生徒 1 人あたり、直近 1 時間に 10 回
数える単位生徒ごとです（チャンネルごとではありません）
超えると次の定型文が返ります：
「今日はたくさん質問してくれてありがとう！ちょっと休憩して、1時間ほどしてからまた質問してね」
費用かかりません。AI を呼ぶ前に判定しているので、超えたぶんは課金されません
解除自動です。「直近 1 時間」の数え方なので、古い質問が 1 時間より前になれば、その分だけまた使えます
記録エラーログに RATE_LIMITED（深刻度 情報）として残ります。 ふだんは非表示なので、深刻度を すべて にすると見えます
数え方の対象生徒への回答が成功した回数です。内部処理（会話の要約など）は数えません
上限を変えたい画面からは変えられません。開発者に相談してください（プログラムの変更になります）

生徒から「使えない」と言われたら、まずこれを疑ってください。 試験前などで質問が集中すると、ふつうに到達します。エラーログで深刻度を すべて にして RATE_LIMITED を探せば確認できます。異常ではありません。

7-3. 個人情報の扱い

保護者への説明にそのまま使える内容です。 このアプリは、外部の AI サービスに送る情報を意図的に絞って作られています。

外部の AI サービスは OpenAI です。OpenAI の公式の説明（API のデータ利用の方針、2026 年 10 月に確認）では、API で送った内容は、初期設定では OpenAI のモデルの学習に使われません。不正利用の監視のため、一定期間（基本は最長 30 日）保管されることがあります。

情報AI に送るか説明
生徒の氏名 送らない 設計として、システムは AI に渡す情報から氏名を外しています。 氏名は回答の質を上げず、外部に渡す必要のない情報だからです。
ただし、次の場合は氏名が AI に届きます。
  • スタッフが「AI 用プロフィール」や「学年」欄、レポート本文に氏名を書いた場合（だから書かないでください。第 3 章 3-2）
  • 生徒が質問の文章に氏名を書いた場合
  • 生徒が送った写真に氏名が写っている場合（ノートや答案の名前の欄など）
生徒番号などの内部の管理番号 送らない AI にとって意味のない文字列で、送る理由がありません
表示名（管理画面の生徒一覧で名前の横に出る呼び名） 送らない 管理画面の一覧に出るだけで、保存されるだけです。Bot の呼びかけにも使われません
保護者のメールアドレス 送らない 管理画面に記録として保存されるだけです（メール送信の機能もまだありません）
生徒の Slack アカウント名・メールアドレス 送らない AI に渡す情報には含まれません
学年 送る 説明の深さと言葉づかいを学年に合わせるために必要です（中 1 と高 3 で説明を変える必要があります）
AI 用プロフィールに書いた文章 送る 書いた内容がそのまま送られます。学習の状況を伝えるための欄です
質問の文章 送る 回答するために必要です
同じスレッドのこれまでのやり取り 送る 会話の続きを理解するために必要です。長くなった場合は前半を要約した形で送ります
会話から自動で作る学習状況のまとめ 送る 単元ごとの「習得済」「習得中」「苦手」の判定と回数（例：二次方程式(習得中:P=0.45,3回) のような形（P は習得度の数値））です。生徒の氏名は含まれません。まだ記録がない生徒には送られません
承認済みレポートの一部 送る その質問に関係のある部分だけが抜き出されて送られます。レポート全文が毎回送られるわけではありません
生徒が送った写真 送る 写真の内容を読み取るために送ります。ただし埋め込まれた撮影情報は取り除いてから送ります（次の 7-4）

7-4. 写真から撮影情報を取り除いています

スマートフォンで撮った写真には、写真そのものとは別に 撮影した場所（GPS の位置情報）・端末の機種・撮影日時などが埋め込まれていることがあります。

じゅくAI は、生徒から写真を受け取った直後に、これらの情報を原則として取り除いてから、保存と AI への送信を行います。 ほとんどの写真で、生徒の自宅の位置情報は外部に渡りません。 ただし、写真の構造を読み取れない特殊な画像は、取り除けずに元のまま処理されます。

取り除くのは余分な情報だけで、写真そのものを作り直しはしないため、画質は落ちません （数式や手書き文字の読み取りに影響しません）。

写真に写っている文字は、そのまま AI に届きます。ノートや答案の名前の欄が写らないように撮るよう、生徒に伝えてください。

写真が大きすぎる場合は、AI に送る前にサイズを小さくすることがあります（費用を抑えるためです）。 数式や手書き文字が読める解像度は保たれます。

7-5. 生徒の情報が混ざらないしくみ

この前提が崩れる唯一の原因は、紐付けの間違いです。 チャンネルと生徒の対応を間違えると、しくみは正しく動いたまま「間違った生徒の情報」を使ってしまいます。 だから紐付けの操作だけは慎重に行ってください（第 3 章 3-7）。 月に 1 回、チャンネル設定の一覧を見て対応を確認する運用をおすすめします。

7-6. 誰が何を見られるか

立場見られるものできないこと
生徒自分のチャンネルの会話だけ（Slack の中）管理画面にログインできません。他の生徒の情報は見られません
スタッフ管理画面のすべての画面（生徒情報・会話ログ・レポート・エラー・利用状況・紐付け）緊急停止の操作／Embedding 再生成
管理者（塾の責任者）スタッフと同じ ＋ 緊急停止の操作・Embedding 再生成—

アカウントを受け取るとき（新しいスタッフの方へ）

最初のログインの流れは 第 1 章 1-0 にまとめてあります。要点だけ書きます。

このリンクは、それ単体であなたのアカウントに入れてしまう「鍵」です。

7-7. スタッフが守ること（まとめ）

これで全 7 章です。目次に戻る。 機能の追加や設定の変更が必要になったときは、開発者に相談してください。

← 第 6 章 このアプリでできること 目次 次へ →