xcounter
#

Дрон зі штучним інтелектом, який вбив оператора: правда чи вигадка

4488
MQ-9 Reaper (всі фото: US DoD)
MQ-9 Reaper (всі фото: US DoD)

Чи очікувати людству повстання машин найближчим часом

Інформація про те, що під час випробувань у США штучного інтелекту для дрона він прийняв рішення вбити оператора доволі швидко набула розголосу, бо є прямою ілюстрацією загрози нових технологій та взагалі нагадує пролог до "Термінатора".

Й загалом вся історія появи цієї новини виглядає наступним чином. У травні у Лондоні проходив саміт Королівського авіаційного товариства, присвячений можливостям майбутніх повітряних та космічних систем. На ньому полковник повітряних сил США, очільник AI Test and Operations Force, Такер Гамільтон розповів, що під час експерименту дрон зі штучним інтелектом спробував знищити оператора, бо той заважав йому виконувати задачу. А після того, як йому було заборонено це робити - хотів знищити станцію зв'язку, щоб оператор не міг його контролювати.

Читайте також: Під час "часткової мобілізації" до армії рашистів з "ЛДНР" лише за 22 дні "забрили" 80 тисяч

MQ-9 Reaper

Після того як це перетворилось у новину у ЗМІ, Королівське авіаційне товариство повідомило, що мова йшла не про справжні тести, а про "розумовий експеримент". Більше того, ця розмова була не частиною доповіді, а частиною розмови у кулуарах, де мова йшла про гіпотетичну ситуацію.

У міністерстві повітряних сил США також заперечили, що взагалі коли-небудь проводили такі експерименти. Більше того, нагадали, що навіть таких симуляцій не проводили, бо це не відповідає етичному та відповідальному використанню штучного інтелекту.

MQ-9 Reaper керування
Станція керування MQ-9 Reaper

Й одразу треба зазначити, що дійсно все впирається виключно в етику та відповідальне використання. Бо рівень технологій, який дозволяє машині самостійно приймати рішення та використовувати зброю, був досягнутий вже декілька десятиріч тому. І штучний інтелект у сучасному розумінні слова для цього не є необхідним, а перші серійні рішення саме у такому ключі вже давно стоять на озброєнні.

Зокрема відомий комплекс Phalanx CIWS може працювати у ручному, напівавтоматичному та повністю автоматичному режимі. За логікою останнього він знищує всі повітряні цілі, які потрапляють у зону його ураження, без дозволу людини. Це єдина умова ефективності його роботи, бо він призначений для перехоплення протикорабельних ракет. У цих умовах часу чекати на те, що людина натисне на кнопку "вогонь" може й не бути. Тому оператор при загрозі такої атаки просто переводить його у бойовий режим, а далі працюють лише алгоритми.

Аналогічне рішення є й в інших сучасних зенітних ракетних комплексах, зокрема й Patriot PAC 3, який також може працювати у повністю автономному режимі. Й це є єдиною можливістю реалізації перехоплення балістичних ракет, які йдуть зі швидкістю у декілька кілометрів на секунду. Просто швидкість людської реакції на прийняття рішень для таких задач - дуже повільна.

Тобто технічно питання чи може машина сама приймати рішення на використання зброї вже було вирішено доволі давно. Тепер же ж мова йде про розповсюдження аналогічних алгоритмів на інші сфери. Але справа в тому, що головною умовою функціонування таких систем є принцип "людина у петлі", тобто будь-яка зброя не може працювати без людини. Штучний інтелект може взяти на себе функцію розпізнавання, обрахунків вогневих рішень тощо, але команду на застосування зброї може дати лише людина, навіть якщо вона глобальна типу "знищуй все" у вигляді кнопки "ОК" на моніторі.

Станція керування MQ-9 Reaper

А в цілому історія щодо спроби дрона знищити оператора виглядає саме як пересторога наслідків у виключенні людини з "петлі прийняття рішення". Чи буде це колись зроблено - абсолютно точно можливо дати стверджувальну відповідь. Розвиток теми штучного інтелекту йде доволі швидко, а кількість не просто терористичних угруповань, а цілих терористичних держав у світі є об'єктивно загрожуючим фактором.

Різниця лише у тому, чи буде це бомба, детонація якої буде "прив'язана" до кількості людей навколо на основі зображення з камер, чи якась термоядерна "мега-торпеда" під назвою "Посейдон".

Читайте також: Рашисти думають, що якщо дослідну РСЗВ "Кама" переназвати на "Сарма", то краще "продаватиметься"