【授業レポート】システム開発入門 第25週目 〜生成AIハンズオン：プロンプト実行と出力の検証〜
第25週目は、先週作ったプロンプトを実際に安全な学習環境で実行し、出力の「妥当性」「読みやすさ」「安全性」を検証するハンズオンを行いました。教室では、プロンプト設計 → 実行 → 検証 → 改良というサイクルを短く回しながら、生成AIと協働する実践力を鍛えました。
■ 先生の導入：「試して、確かめて、直す — これが一番の学び方」
田中先生：「プロンプトは書いたら終わりではなく、出力を見て『期待どおりか』『誤情報はないか』『表現は適切か』を必ず確かめることが大切です。実践を通じて微調整していきましょう。」
■ 今日の目標
- 学習用環境でプロンプトを実行する（学校ルールに沿った安全環境）。
- 出力の事実性・偏り・表現の適切さをチェックする。
- 必要に応じてプロンプトを改善し、出力を再取得する。
■ 実習①：プロンプトを実行して出力を観察する
各自が作ってきたプロンプトを順に実行。出力をまず素直に読んで、以下をチェックしました。
- 指示どおりの形式（箇条書き／400字以内／コードブロック等）になっているか
- 明らかな事実誤認や矛盾がないか
- 差別的・不適切な表現が含まれていないか
例（授業で扱ったプロンプト）
プロンプト：
「高校生向けに、東京都内で日帰りで行ける自然スポットを3つ、電車での行き方（最寄り駅）と概算予算（往復）を含めて箇条書きで教えてください。」
期待出力のチェックポイント：
- 各スポットに最寄り駅が明記されているか
- 予算が現実的か（概算である旨があるか）
- 出力が箇条書き形式になっているか
生徒の多くは「形式は整っているが、予算や交通時間が曖昧」「地名の表記ゆれがある」などの観察を報告しました。
■ 実習②：出力の事実確認（ファクトチェック）とバイアス検出
生成AIの出力をそのまま使うのではなく、外部ソースで検証する練習を行いました。
- 出力に含まれる駅名・施設名をウェブや公式サイトで照合（教室の管理ポリシーに従った範囲で）。
- 歴史・統計情報など事実性が重要な項目は、必ず複数ソースで確認する。
- 文化的・社会的な記述に偏りがないかを批判的に読む。
田中先生は「生成結果は『考えの下書き』。最終的に人が責任を持って検証・修正する必要がある」と繰り返し説明しました。
■ 実習③：プロンプトの改良（リファイン）ワーク
出力を見て、プロンプトをどう変えれば期待に近づくかを班ごとに議論し、改良版を作って再実行しました。改良のコツとして次のポイントを共有しました。
- 出力形式をより厳密に指定する（例：「3つ、それぞれ最大40字で」）。
- 不要な想像を減らすために「事実のみ答えて、推測は明示する」よう指示する。
- センシティブな語句や個人情報を含めないよう制約を追加する。
改善の例
- 元プロンプト：「おすすめの観光地を教えて」
- 改良プロンプト：「中学生が半日で楽しめる東京都内の屋外スポットを3つ、最寄り駅と所要時間（電車だけ）を含めて各1行で教えてください。事実に自信がない場合は『要確認』と明記してください。」
改良後、出力の精度と使いやすさが向上した班が多く見られました。
■ 実習④：出力の整形と利用上の注意表示
生成結果をそのまま提示するのではなく、ユーザー向けの注意書きや出典の付記を付ける練習も行いました。
例：出力の下に付ける注意書き
- 「※本情報は生成モデルによる出力です。交通費・所要時間は目安のため、必ず公式サイトでご確認ください。」
このような一文を自動で付けることで、利用者の誤解を防ぐ工夫を学びました。
■ セキュリティ・倫理チェック（リマインド）
実行にあたり、授業内で特に注意した点：
- 個人情報（氏名・電話番号・メールアドレスなど）は絶対にプロンプトに入れない。
- APIキーやトークンを授業ノートや共有コードにハードコーディングしない。
- 差別・偏見につながる表現がないか、出力を念入りに確認する。
田中先生：「便利だからこそ慎重に。間違いがあるかもしれないという前提で使うこと。」
■ 生徒のふり返りコメント
- 「実際に出力を見てから直すと、プロンプトの書き方が具体的に分かってきた」
- 「AIが『自信のない情報』を平然と出す場面を見て、必ず確認する必要があると実感した」
- 「注意書きを自動で入れるだけで信頼感が変わるのが面白かった」
■ 先生のひとこと
「生成AIは『試行→検証→改善』のサイクルで上手く使えるようになります。今日学んだのは、技術だけでなく責任を持って使う姿勢です。『生成物＝完成品』ではないことを常に忘れないでください。」
■ 宿題（振り返り＋実践）
- 今日実行したプロンプトの初版→改良版を提出（改良の理由を50〜100字で）。
- 改良版の出力から見つけた「要確認事項」を3点挙げ、それを確認するための情報源（例：公式サイトのURL名）を1つ以上示す。
- 授業で学んだ「出力時の注意書き」を自分のアプリ案に1行つけて提出する。
■ 来週の予告：生成AIをアプリに組み込む設計（上級編）
次週は、生成AIを自分のミニアプリに安全に組み込む方法を学びます。設計上の注意点（入力のフィルタリング、出力の検証フロー、ユーザーへの透明性表示）や、簡単なUI連携の実装方針を考える予定です。
生成AIと「共に働く」準備が整った25週目。生徒たちは、道具としてのAIを賢く使うための第一歩を着実に踏み出しました。