注目★★★★★Hacker News
AIカンニング摘発、白い文字の罠が32人を捕捉
30秒で把握
- 1Jason Gibson 教授が課題に白文字で AI 指示を埋め込み、マダガスカル参照を強制・32/35 名がそのまま提出
- 2「マダガスカルは午後を横切る」など不可解な記述が AI 出力に含まれても学生は提出前に確認せず
- 3テスト出力の最小限の人間検証が欠けると AI 生成物の矛盾に気づかない・提出前の内容確認が防止策
要約
Alcorn State University の歴史学教授 Jason Gibson は、授業課題のプロンプトに白色のテキストで隠れた指示を埋め込み、AI に無関係な内容 (マダガスカル) を混入させるよう仕込んだ。2クラス 35 人中 32 人の学生が、そのまま AI の出力をコピペして提出し、マダガスカルについての不可解な記述が含まれる答案が大量に出現した。チェック怠慢により、産業革命とマダガスカルの関連性がない不条理な文が「マダガスカルは午後を横切って浮く」という AI 生成文まで含まれた。Gibson は該当問題で全員を不及第とし、その後 2 人だけが成績異議申し立てを試みた。
あなたへの影響
チームが学習支援や試験システムに AI を導入する際。
推奨：「人間が検証を怠ると AI 出力のおかしさに気づかない」というリスクが教育現場で実証されたため、生成 AI の検証・監視設計を組み込む必要がある。