Anthropic заборонила жорстоке поводження з Claude та посилила правила використання ШІ
Компанія Anthropic оновила правила користування своїм ШІ-асистентом Claude: відтепер прямо заборонено систематично ображати чатбот без очевидної мети, а також посилено обмеження щодо розробки зброї, стеження за людьми та політичних маніпуляцій.
Компанія Anthropic оновила правила використання свого ШІ-асистента Claude, прямо заборонивши систематичне жорстоке поводження з чатботом без очевидної мети. Про це повідомляє The Verge. Водночас компанія посилила обмеження щодо застосування штучного інтелекту для розробки зброї, стеження за людьми та політичних маніпуляцій.
Нові правила забороняють користувачам систематично ображати Claude або поводитися з ним жорстоко без очевидної причини. В Anthropic наголошують, що обмеження стосуватиметься лише крайніх випадків. Воно не поширюється на звичайне невдоволення відповідями чатбота, критику, творчі сценарії з похмурими темами або тестування моделей. Основним способом реагування на таку поведінку залишатиметься припинення розмови. Чи планує компанія застосовувати інші заходи, наприклад блокування акаунтів, наразі невідомо.
Ще в серпні 2025 року Anthropic дозволила Claude завершувати діалоги з користувачами, які постійно поводяться агресивно або намагаються завдати шкоди моделі. Це рішення пов'язане з дослідженнями компанії щодо можливого добробуту ШІ-моделей. Тоді ж компанія заявила, що виявила в мовних моделей внутрішній «простір мислення».
Anthropic також розширила заборону на використання Claude для створення зброї. Раніше правила вже забороняли застосовувати чатбот для її розробки. Тепер обмеження прямо охоплюють програмне забезпечення та компоненти, необхідні для роботи зброї, а також використання ШІ для озброєння дронів та інших автономних транспортних засобів. У компанії пояснили, що неодноразово фіксували спроби використовувати Claude для створення інструкцій і програм керування озброєнням.
Окремо Anthropic уточнила правила щодо стеження за людьми. Зокрема, заборонено відстежувати людей без їхньої згоди, зокрема аналізуючи раніше зібрані дані; використовувати Claude для визначення того, кого правоохоронці мають розслідувати, затримувати або притягати до відповідальності; створювати або вдосконалювати за допомогою Claude інструменти для стеження. У компанії зазначили, що посилили ці обмеження після виявлення випадків використання Claude для стеження за політичними опонентами та активістами.
Оновлені правила також забороняють використовувати Claude для прихованих політичних і комерційних кампаній. Зокрема, йдеться про створення фейкових акаунтів, масове поширення повідомлень із приховуванням їхнього справжнього замовника та маніпуляції під час виборів. Anthropic прямо заборонила використовувати Claude для поширення неправдивої інформації про кандидатів або процедуру голосування, видавання себе за політиків чи представників виборчих органів, а також спроб перешкодити участі людей у виборах.
Раніше дослідження Anthropic показало, що росіяни намагалися використати Claude для розробки зброї та атак на Україну. Це підкреслює, чому компанія посилює контроль за використанням своїх моделей у чутливих сферах.
6
