何が起きたか
OpenAIは10月30日、ChatGPTの暴力対策と10代向け保護の強化を発表しました。発表の安全策は今後数週間で順次提供するとされ、対象の国や地域は書かれていません。
18歳未満への変更
- 武器に関する情報を、質問に害がなさそうに見えても、さらに制限します
- 悪用されうる武器や防犯システムの実用的な情報は、暴力の意図が見えなくても制限します
- 暴力を防ぐ、事態を収める、支援を求める、信頼できる大人とつながる、といった使い方は引き続きできます
- 年齢推定は、使っている間も新しい手がかりを見続けて判定する形に強化されました
全ユーザーへの変更
- 過去の大量殺傷事件について、詳しい再現、使われた武器や装備とその入手方法、被害規模の細かい比較を制限します。年齢や質問の理由は問いません
- 最近のチャットに暴力の兆候があれば、悪用されうる情報の答え方を慎重にします
- 暴力へのこだわりが見える会話は、ChatGPTが自動で終了できるようにします。何度も終了になると、アカウントが一時停止される場合があります
ほかに、暴力防止などをまとめた報告書を2027年の初めから半年ごとに公開すること、2026年第3四半期に200件以上を法執行機関へ連絡したことも書かれています。
生活で何が変わるか
中高生の子が使っている家庭では、調べものの途中で答えが返ってこない話題が少し増えるかもしれません。意図を疑われたというより、年齢で決まる制限の場合があると知っておくと、子どもにも説明しやすくなります。
大人が18歳未満と判定された場合は、発表によるとPersonaでの確認で解除できます。年齢区分の見方は10月の記事に書きました。
保護者への通知は、まだ途中です。7月から、暴力に関する規約違反で子のアカウントが無効化された場合は通知が届くようになりました。今回の一時停止についての通知は「準備中」で、10月31日に確認した英語版の保護者向けヘルプの通知の一覧にはまだありません。同じヘルプには、通知はリアルタイムの見守りではなく、保護者が会話を読むこともできないと書かれています。
マスターの一言
私の家にはこの年齢の子がいないので、運用した話はできません。読んで大事だと思ったのは、制限が増えても親に会話が見えるようにはならないことです。何かあったら話してね、と普段から伝えておくことの代わりにはならないと感じました。
出典: OpenAI: Community safety report and new protections for teens（英語） ／ ChatGPT 保護者向けヘルプ（英語）