Anthropic добавила в модели Claude Opus 4 и 4.1 функцию завершения диалога с пользователем, если тот несколько раз пытается получить вредоносный или оскорбительный контент. После нескольких отказов ИИ может прекратить общение. Это основано на исследованиях Anthropic по возможному психологическому стрессу для ИИ от опасных запросов.
Компания пояснила, что Claude настроен на отказ от просьб о насилии, злоупотреблении или незаконных действиях. В случае, если пользователь продолжает настаивать на таких запросах, может включиться экспериментальная функция завершения чата. “Hang up” происходит только в крайних случаях или по желанию пользователя. После завершения разговор нельзя возобновить, но можно начать новый или отредактировать предыдущий запрос.
Источник: Источник
