Компания Anthropic ввела новые правила использования чат-бота Claude, в том числе запрет на систематическое оскорбительное поведение по отношению к искусственному интеллекту. Как сообщает The Verge, Claude сможет завершать разговоры, если пользователи будут проявлять крайнюю агрессию. Новые правила вступят в силу 12 ноября.
Anthropic впервые за последний год обновила политику использования своих моделей искусственного интеллекта. Среди изменений — ограничения на применение ИИ для вмешательства в выборы, разработки оружия, слежки за людьми, а также его использования в сфере здравоохранения и финансов.
Одним из самых необычных нововведений стал запрет на «систематическое и беспричинное оскорбительное или жестокое поведение» по отношению к Claude. Согласно новым правилам, чат-бот сможет прекратить общение, если пользователь продолжит вести себя подобным образом.
Компания не уточнила, предусмотрены ли другие санкции, например приостановка действия или блокировка аккаунтов.
При этом Anthropic подчёркивает, что запрет не распространяется на обычные ситуации, когда пользователи выражают недовольство, спорят с чат-ботом или обсуждают спорные темы. Правило также не касается мрачных творческих сценариев, тестирования моделей и исследовательской деятельности. Мера будет применяться только в «экстремальных случаях».
Новые правила также запрещают использовать Claude для вмешательства в выборы, в том числе для распространения ложной информации о кандидатах и процессе голосования, выдачи себя за кандидатов или членов избирательных комиссий, а также попыток снизить явку избирателей.
Кроме того, Anthropic запрещает использовать чат-бот для слежки за людьми без их согласия, включая политических диссидентов, а также для принятия решений о том, кого следует арестовывать.