Штучний інтелект може самостійно ухвалювати рішення про ліквідацію цілей, — Борняков
Голова наглядової ради Brave1 Борняков пояснив, як концепція Killzone може передати штучному інтелекту ухвалення рішень про ураження цілей без команди оператора.
Голова наглядової ради Brave1 Борняков заявив, що штучний інтелект може почати самостійно ухвалювати рішення про ліквідацію цілей без команди оператора. Ідеться про концепцію Killzone, або зони суцільного ураження, в якій автоматизована зачистка працюватиме за принципом мінного поля.
За словами Борнякова, у такій схемі система не чекає окремого наказу на кожну дію. Вона діє в заздалегідь визначеному просторі, де будь-який ворожий рух може отримати відповідь без участі людини в кожному конкретному випадку. Саме тому, на його думку, питання контролю та відповідальності стає одним із ключових у розмові про автоматизацію на полі бою. Логіка Killzone полягає в тому, що зона стає середовищем, яке працює постійно, а не окремим точковим ударом, тож навіть короткий час реакції системи може мати значення для результату.
Борняков також торкнувся теми Big Data на війні. За його оцінкою, великі масиви даних уже сьогодні використовуються для аналізу ситуації, а з часом аналітичні системи зможуть формувати рекомендації для командування. Він прямо сказав, що цілком імовірно: найвище військове керівництво незабаром ухвалюватиме рішення, спираючись на поради штучного інтелекту. Такий підхід передбачає, що людина залишається в контурі ухвалення рішень, але опирається на аналітичні висновки машин, які обробляють обсяги інформації, недоступні для людського аналізу в реальному часі.
Окремо він згадав про можливе «право на автоматичне вбивство», яке викликає суперечки серед фахівців і правників. Це питання стосується того, хто несе відповідальність за помилку алгоритму та які межі мають бути встановлені для автономних систем. Наразі ці питання залишаються відкритими, а єдиного підходу в міжнародному середовищі немає. Саме тому обговорення зачіпає не лише технічні можливості, а й правові рамки, у яких такі системи могли б працювати.
Розвиток автономних засобів і систем аналізу даних стрімко змінює підхід до ведення війни. Тому обговорення Killzone та ролі штучного інтелекту вже виходить за межі технічних дискусій і стає питанням етики, права та безпеки. Джерело, на якому ґрунтується матеріал, подає ці тези без додаткових підтверджень у вигляді цифр чи незалежних оцінок, тому конкретні терміни впровадження таких систем і їхній масштаб наразі залишаються невідомими.
Джерело: dev.ua
4
