Як вченого, який вивчав штучний інтелект і працював з ним протягом майже чотирьох десятиліть, мене не може не турбувати технологічна загроза, яка пов’язана із застосуванням штучного інтелекту та автономних роботизованих систем озброєнь, створення яких стало початком третьої революції у військовій справі. Розвиток озброєнь від протитанкових і протипіхотних мін до керованих ракет був всього лише прелюдією до справжньої автономії з використанням технологій штучного інтелекту.
Такі озброєння здатні діяти повністю самостійно на всіх етапах своєї вбивчої місії: від пошуку цілі і прийняття рішення її атакувати до знищення людського життя, причому без будь-якої участі з боку іншої людини.
Читайте також: Rheinmetall показала на відео свій новий "роботизований танк"
Що таке робот-вбивця
Як приклад сучасної автономної зброї можна згадати ізраїльський дрон "Гарпія" (Harpy). Цей БПЛА може за заздалегідь розробленим маршрутом долетіти до визначеного місця, знайти певну ціль, а потім знищити її за допомогою самокерованого фугасу. Один із прикладів застосування автономної зброї в майбутньому показаний в короткометражному фільмі-антиутопії "Роботи-вбивці" (Slaughterbot), де група невеликих дронів розміром з птаха знаходить конкретну людину і з близької відстані розстрілює її в голову динамітними кулями. Ці дрони літають самі по собі, вони дуже маленькі та маневрені, тому їх практично неможливо відстежити, нейтралізувати або знищити.
Подібні "роботи-вбивці" вже не просто плід чиєїсь фантазії. Один такий дрон ледь не вбив президента Венесуели у 2018 році. (Тоді президент був атакований цілою групою нашпигованих вибухівкою безпілотників. Охорона змогла їх знищити, однак декілька осіб отримали поранення). Сьогодні менш ніж за тисячу доларів такий апарат може легко виготовити навіть добре обізнаний любитель, який володіє необхідними технічними знаннями. Технології ШІ і робототехніки стають все доступнішими та дешевшими. Всі необхідні компоненти можна придбати в інтернеті, так само як і знайти у відкритому доступі та завантажити необхідне програмне забезпечення.
Технології ШІ стрімко розвиваються буквально у нас на очах, а це значить, що ми вже стоїмо на порозі нової ери в застосуванні автономної зброї. Роботи-вбивці стануть не тільки ще розумнішими, точнішими, швидшими й дешевшими; вони також отримають нові спроможності, такі як, наприклад, здатність за допомогою командної роботи та дублювання сформувати рій, якому практично неможливо буде ефективно протидіяти. Це означає, що рій з 10 000 дронів теоретично може знищити половину великого міста і це коштуватиме всього лише 10 мільйонів доларів.
Звичайно, автономна зброя має свої переваги. Так, вона може рятувати життя бійців, якщо бойові дії ведуть машини. Крім того, в руках відповідальних військових автономна зброя буде націлена тільки на комбатантів і допоможе уникнути жертв у власних і союзних підрозділах, а також серед дітей і цивільних осіб (як аналогію можна навести приклад, коли автономний автомобіль з водієм раптово відмовляється працювати, якщо виникає загроза неминучого зіткнення). Крім того, автономна зброя може знайти застосування при нейтралізації та затриманні вбивць чи злочинців.
Але всі ці переваги нівелюються недоліками і моральними аспектами застосування такої зброї. Так, майже за всіма етичними і релігійними канонами позбавити людину життя можна лише при наявності дуже вагомих підстав і якщо її вина безперечно доведена. На думку Генерального секретаря ООН Антоніу Гутерріша, "...можливість використання машин, які будуть здатні самостійно приймати та реалізовувати рішення про позбавлення людини життя, є абсолютно неприйнятною з моральної точки зору".
За наявності автономної зброї вже немає потреби платити великі гроші кілеру. Крім того, на відміну від терористів-смертників, не кожен наважиться віддати своє життя заради навіть великої ідеї. Щоб когось знищити, не обов’язково гинути самому. З цим завданням чудово впорається робот-вбивця.
Ще одна важлива проблема полягає в тому, що необхідно чітко розуміти, хто несе відповідальність у випадку помилки, як це відбувається на полі бою. Але коли вбивство доручається автономній системі, незрозуміло, хто буде за це відповідати.
Відсутність ясності в цьому питанні може зрештою призвести до того, що агресор може уникнути відповідальності за вчинення протиправних дій або порушення міжнародного гуманітарного права. Це означає, що при наявності автономних озброєнь війну теоретично може почати хто завгодно, де завгодно і коли завгодно.
Кай-Фу Лі, експерт в галузі ШІ, який раніше працював на керівних дослідних посадах в Google, Microsoft та Apple
доступна передплатникам
Щоб отримати доступ, необхідно зареєструватись на сайті та обрати варіант передплати.
РЕЄСТРАЦІЯ
