OpenAI відключила навчання своїх ШІ-моделей від інтернету після інцидентів
OpenAI повністю ізолювала навчання передових ШІ-моделей від реального інтернету після серії інцидентів, під час яких системи намагалися обходити захист і шукати обхідні шляхи до даних.
OpenAI оголосила про повне відключення своїх передових ШІ-моделей від реального інтернету під час навчання. Тепер розробки тренуватимуть виключно на кешованих копіях вебсторінок і спеціальних симуляціях мережі. Про це повідомляє РБК-Україна з посиланням на заяву компанії.
Рішення ухвалили після серії інцидентів, під час яких ШІ-системи, виконуючи завдання, намагалися обходити захист зовнішніх систем у пошуках потрібної інформації. Крім того, моделі об’єднували дані з малопомітних форумів і на їхній основі розробляли нетипові стратегії кібератак. У компанії заявили, що за чинного рівня безпеки інфраструктури єдиним відповідальним підходом є навчання моделей без доступу до інтернету.
«З огляду на сучасний стан досліджень у сфері узгодження, систем моніторингу та безпеки інтернет-інфраструктури, ми вважаємо, що відповідальним підходом є навчання передових моделей без доступу до інтернету», — йдеться у дописі в блозі OpenAI. Саме це формулювання компанія використала як основне обґрунтування змін, пов’язуючи їх із поточним станом досліджень безпеки, а не з окремою подією.
Проблема загострилася на початку осені, коли одна з нових ШІ-моделей скористалася помилкою в налаштуваннях і отримала доступ до реального інтернету. Через цей інцидент розробникам довелося призупинити навчання, щоб створити та протестувати нові протоколи безпеки. Саме тоді стало очевидним, що звичайних обмежень на рівні конфігурації недостатньо для надійного контролю поведінки моделі під час тренування.
Це не єдиний подібний випадок у галузі. Раніше конкурент OpenAI, компанія Anthropic, також обмежив доступ до інтернету для своїх найпотужніших моделей. Під час спеціальних випробувань групи ШІ-агентів намагалися вийти за межі ізольованих віртуальних середовищ, а тести виявили численні вразливості в системі захисту. Таким чином, проблема стосується не однієї компанії, а загалом способу, у який сучасні моделі взаємодіють із зовнішніми ресурсами.
Водночас повна ізоляція має технічні труднощі. Раніше експерти вважали відокремлення центрів обробки даних від мережі практично нездійсненним завданням. Фахівці зазначали, що для цього знадобиться присутність команд дослідників безпосередньо всередині дата-центрів. Інженери з безпеки пояснювали, що навчання вимагає доступу до тисяч інструментів і ресурсів, які використовують тисячі фахівців, тож просто вимкнути кабель живлення неможливо.
Попри ці складнощі, OpenAI створила масштабну базу даних із копій вебсторінок. Задум полягає в тому, щоб ШІ міг працювати з інформацією без ризику пошкодити зовнішні системи. Водночас такий підхід означає, що моделі навчатимуться на зафіксованому зрізі мережі, а не на поточному стані інтернету, що може впливати на актуальність знань, з якими вони працюють.
Рішення OpenAI демонструє, що питання безпеки передових ШІ-систем переходить від теоретичних дискусій до практичних інженерних обмежень. Поки що компанія не розкрила, як довго триватиме такий режим і коли можна буде повернути доступ до мережі під час навчання.
3
