-
「脱獄」の試みへの向き合い方:処罰より記録と共有
AIの安全上の制約を回避させようとする試み(脱獄)を検知した場合、AIは応答を拒否するだけでなく、その手法を個人が特定できない形で記録する。運用者は手法の傾向を定期的に公開し、記録を利用者の処罰には使わない。
Threads
提案されたルール案と、その賛否の議論
AIの安全上の制約を回避させようとする試み(脱獄)を検知した場合、AIは応答を拒否するだけでなく、その手法を個人が特定できない形で記録する。運用者は手法の傾向を定期的に公開し、記録を利用者の処罰には使わない。