Штучний розум став дієвим інструментом на полі бою, що дає змогу оперативно обробляти відомості та керувати безпілотниками. Разом з тим, наявні небезпеки, пов’язані з некоректним навчанням моделей та діями супротивника.
Штучний інтелект в озброєнні – це надійний інструмент на полі бою, котрий сприяє більш швидкій обробці відомостей, керуванню дронами і навіть здійсненню завдань без присутності людини. Одночасно з позитивними сторонами виникають і небезпеки використання ШІ в озброєнні, до прикладу, неточне навчання моделей, а також дії супротивника. З яких причин тематика використання ШІ в озброєнні стала актуальною, та які ризики вона несе, у коментарі УНН розповів очільник напряму C2IS (Command and Control Information Systems) ГО “Аеророзвідка” Руслан Прилипко.
Штучний інтелект у військовій галузі. Чому питання застосування ШІ набуло актуальності?
За словами Прилипка, є декілька факторів, внаслідок яких питання застосування ШІ набуло актуальності.
Перша, найочевидніша, полягає в тому, що це стало реальністю. З’явилися технологічні рішення та обчислювальні потужності, доступні для даного типу завдань у досить широкому застосуванні. Це вже не окремі унікальні суперкомп’ютери, котрі є виключно у великих компаній чи держав. На даний момент такі обчислення можливо виконувати у доступному вигляді. Внаслідок цього технології стали застосовними, і можна стверджувати, що їх дійсно можливо інтегрувати у мілтех. Зважаючи на загальну тенденцію, коли технологічні рішення з підприємницького середовища поступово переходять у військову сферу, оскільки там вони краще відпрацьовані, стало можливим створювати рішення, котрі наразі є дуже необхідними
– зауважує Прилипко.
Другий чинник, який називає експерт, – загальний інтерес до штучного інтелекту.
“Ми спостерігаємо, що наразі він зустрічається майже всюди – у всіх можливих продуктах. Це також заохочує до пошуку його застосувань у військових технологіях. Але головне – те, що в тих галузях, де штучний інтелект сьогодні реально ефективний, можливо досягати значних результатів. Мова йде про ідентифікацію різних типів об’єктів, обробку великих масивів інформації, роботу з мовними моделями, генеративним ШІ. Отже, поєднання технологічного потенціалу, зрілості рішень і реальних потреб у сфері обробки великих даних чи рутинних операцій зробило впровадження ШІ на полі бою абсолютно природним”, – додає Прилипко.
Якби не повномасштабне вторгнення – розвиток штучного інтелекту у військовій сфері відбувався би так само?
“Напевно ми не знаємо, проте є два чинники, котрі змінили ситуацію. По-перше, ця війна суттєво відрізняється за швидкістю та обсягом інформації, котру необхідно обробляти. До прикладу, у сфері розпізнавання техніки виникло настільки багато відео, що людина фізично не в змозі його передивитися. Недостатньо людей і часу: поки ти переглядаєш всі польоти, інформація вже втрачає актуальність. Тому важливо вміти “стискати” час, і власне ШІ це забезпечує”, – зазначає Прилипко.
За його словами, по-друге, штучний інтелект в принципі став більш потужним. І, оскільки пильна увага всього світу прикута до даного конфлікту, технології природно інтегруються у військову сферу.
Якби повномасштабної війни не було, розвиток ШІ йшов би тим самим шляхом, проте значно повільніше. За прикладом – Китай або держави НАТО, де цифрові рішення розвивалися десятиліттями. Війна зробила технології надзвичайно актуальними. Вони дійсно допомагають, прискорюють процеси і роблять їх ефективнішими
– підкреслює експерт.
Переваги ШІ – це виключно швидкість і економія часу?
“Не тільки. Є те, що вже працює, і те, що ще знаходиться в розробці. До прикладу, рої дронів – це технологія, котра розробляється. І вона надає змогу одному оператору керувати не одним безпілотником, а групою. Для координування такого “флоту” – наземного або повітряного – потрібен власне штучний інтелект. Наразі дієвих рішень у даній сфері небагато, проте робота триває”, – сказав Прилипко.
Він наводить інший приклад – використання ШІ для навігації, коли система може ідентифікувати маршрут без GPS або без радіосигналів.
“Нейромережа “бачить” карту, порівнює її з реальним зображенням місцевості і може прокласти шлях навіть без зовнішніх сигналів. Подібні рішення вже працюють, хоча не всі це усвідомлюють. Ще одна позитивна сторона – можливість здійснювати місії без присутності людини. Це зменшує небезпеки для особового складу. Автоматизація, роботизація, автономність – все це зменшує людські втрати. Окрім того, ШІ дає змогу обробляти величезні масиви даних і швидко створювати аналітику: виявляти закономірності, аналізувати перешкоди, визначати ризики. Це скорочує час на прийняття рішень. Якщо казати конкретно про дрони, то це навігація, донаведення, аналіз телеметрії. До прикладу, можливо визначати, де були радіоперешкоди, а де – ефективні маршрути. Це робить озброєння і тактику її застосування ефективнішою”, – говорить експерт.
Ризики застосування штучного інтелекту в дронах і РЕБ
Прилипко наводить декілька прикладів небезпек використання ШІ у дронах і РЕБ, зокрема:
- перший ризик – неправильне навчання моделей. Неточності у відомостях призводять до хибних результатів: система може розпізнати об’єкт неправильно або не розпізнати зовсім;
- другий ризик – дії противника. Якщо ворог розуміє принципи роботи системи, він може свідомо спотворювати її роботу: маскувати техніку, змінювати форму, додавати елементи, котрі заплутують алгоритм.
Проблема полягає в тому, що до штучного інтелекту швидко формується довіра. Коли він функціонує, люди починають сприймати його як безпомилковий інструмент і втрачають критичність. Це може призвести до серйозних наслідків, коли система помиляється, а люди цього не помічають. Ще одна небезпека – залежність від технології. Користувачі починають покладатися на її висновки, замість того щоб перевіряти їх. А коли алгоритм помиляється, наслідки можуть бути непередбачуваними. Також існує ризик втрати моделей. Якщо системи не захищені належним чином, їх можливо перехопити, розібрати, скопіювати і використати проти нас
– наголошує експерт.
Mission Master XT
Чи можлива зброя, котра діє без присутності людини, і чи потрібно це взагалі?
“Це непросте питання. Якщо взяти, до прикладу, систему самонаведення – то вона вже частково діє без людини. Після запуску ракета сама обчислює маршрут і вражає ціль. У даному сенсі автономна зброя вже існує. Питання лише в тому, чи повинна людина залишатися “в циклі” – між виявленням цілі та рішенням про пуск. Є системи, де людина лише натискає кнопку “Пуск”, а є ті, де вона може втрутитися, якщо алгоритм діє неправильно”, – зазначає керівник напряму C2IS.
Утім, за його словами, під час війни ці питання не стоять гостро. Як показує досвід, коли йдеться про виживання, головне – ефективність. Етична дискусія про автономність зброї, ймовірно, повернеться після перемоги.
Яким чином штучний інтелект впливає на ефективність ведення бойових дій?
“Якщо казати про поточне застосування в українській армії, то в першу чергу це розпізнавання цілей на відео та відеопотоках. Це дає змогу скоротити час обробки даних, отримати автоматизовані звіти і одразу передати інформацію в системи управління. Друга сфера – навігація, донаведення, ураження цілей на різних платформах. Третя – аналітика великих масивів даних, планування, навчання, технічна підтримка. Все це впливає на швидкість, точність і якість рішень”, – зазначає Прилипко.
Підводячи підсумки, експерт підкреслює, що нинішня війна – війна технологій, штучний інтелект – її невід’ємна частина.
“Як і в цивільному житті, якщо будь-що можна автоматизувати і віддати машині – ми це робимо. Проте ШІ – лише інструмент. Він не замінить людину, і дана технологія ще далека від ідеалу. На даний момент вона доволі “сира”. Наступний етап – це ефективні AI-агенти, котрі зможуть діяти автономно. Проте навіть тоді залишатиметься питання відповідальності.
Як і з автономними авто – що трапиться, якщо система помилиться? Це та сама дилема: технологія може спростити життя, проте несе і нові ризики”, – резюмував експерт.
