Россия испытывает в Запорожье автономные дроны с искусственным интеллектом, способные самостоятельно выбирать цели. По данным украинских военных и экспертов, один из таких беспилотников причастен к атаке 6 июля, в результате которой погибли три человека.
Об этом пишет The New York Times. «Первый Запорожский» перепечатывает материал издания.
Российский дрон в Запорожье самостоятельно выбрал точную цель
Молодая женщина пыталась спастись, но было уже слишком поздно.
Позапрошлом месяце в Запорожье, на юго-востоке Украины, с неба стремительно пикировал небольшой российский дрон, похожий на модель самолета. Пытаясь приблизиться к автозаправочной станции, он врезался в стену и взорвался, разбросав вокруг обломки. В результате атаки погибли 19-летняя студентка Татьяна Бубинец и ещё два человека.
Они стали одними из тысяч украинских мирных жителей, погибших в результате российских авиаударов. Однако обстоятельства их гибели имели особенно тревожную деталь. По словам экспертов по беспилотникам, украинских военных командиров и специалистов, исследовавших обломки этого дрона и других аппаратов после ударов по городу, беспилотником, который их убил, управляла экспериментальная система искусственного интеллекта, а не человек-оператор.
Операторы запрограммировали дрон лететь к конкретной автозаправочной станции. Однако, приблизившись к ней, он самостоятельно выбрал точную цель — скорее всего, резервуары с пропаном. Эксперты и военные пояснили, что систему обучали распознавать такие резервуары и наносить по ним удары.
Это именно то развитие событий, за которым давно следят в контексте войны в Украине. Оно может стать предвестником антиутопического будущего, в котором смертоносные роботы будут патрулировать небо и самостоятельно принимать решения о жизни и смерти, превращая цели в обычные точки данных.
«Это угроза для всего мира, — сказал полковник Сергей Минаев, командир противовоздушной обороны Запорожья, — Через несколько лет мы будем жить как в фильме «Терминатор». И это не шутка. Машины сами принимают решения о нанесении ударов».
Как специалисты установили, что дроном управлял искусственный интеллект
Анализ обломков после этого и других ударов по Запорожью показал, что дроны имели на борту мини-компьютеры, которые свободно продает компания Nvidia. Именно они принимали решения о выборе целей, сообщили эксперты и военные. Nvidia производит большинство чипов, на которых работают самые современные в мире системы искусственного интеллекта.
Наличие в дронах модулей Nvidia и отсутствие антенн навели командиров украинской противовоздушной обороны на вывод, что эти аппараты управлялись автономной системой искусственного интеллекта. Дальнейшее расследование это подтвердило.
Автономные системы искусственного интеллекта можно обучать на тысячах изображений, чтобы они распознавали такие категории, как «река», «военный грузовик» или «человек». Дроны, способные самостоятельно выбирать цели, используют камеры для их поиска и могут делать это точнее, чем оператор-человек. В то же время противники такого оружия предупреждают: без вмешательства человека дроны могут чаще ошибаться или нарушать законы ведения войны — например, не различать гражданских лиц и военных.
По словам Екатерины Бондарь, старшего научного сотрудника Центра искусственного интеллекта Вадхвани при Центре стратегических и международных исследований в Вашингтоне, использование искусственного интеллекта для самостоятельного выбора цели во время атаки на автозаправочную станцию 6 июля может быть первым задокументированным случаем, когда российский дрон с такой системой привел к гибели гражданских лиц. Она добавила, что модуль Nvidia является «лучшим доказательством» того, что Россия экспериментирует с автономным искусственным интеллектом.
Хотя один из советников президента Владимира Зеленского писал в соцсетях, что Россия испытывает системы искусственного интеллекта, способные самостоятельно выбирать цели, о гибели людей ранее не сообщалось. Также ранее не раскрывались подробности об использованном компьютерном модуле Nvidia Jetson Orin.
Чем автономный дрон отличается от обычного
И Россия, и Украина использовали искусственный интеллект в различных моделях дронов ещё до появления полностью автономных беспилотников. В таких системах ИИ применялся только на так называемой «последней миле» — заключительном этапе атаки после того, как оператор дистанционно выбрал цель.
Полностью автономный искусственный интеллект исключает человека из процесса окончательного выбора цели.
По словам украинских чиновников, чип Nvidia, найденный после атаки на Запорожье, не был зашифрован. Благодаря этому специалисты смогли увидеть изображения местности, загруженные в модуль, по которым дрон ориентировался на визуальные объекты и держал курс. Они также изучили программный код и выяснили, какие именно типы целей система была обучена распознавать и атаковать, в частности резервуары с пропаном.
Дроны предыдущих моделей обычно либо управляются операторами с помощью радиосвязи или оптоволоконных кабелей, либо заранее программируются на полет по заданным координатам. Поскольку беспилотники начали играть всё более важную роль на поле боя в Украине, их операторы сами стали одними из приоритетных целей.
В то же время автономный дрон с искусственным интеллектом не требует участия оператора и может поражать цели точнее, чем боеприпас, запрограммированный на заданные координаты.
По словам представителей местной противовоздушной обороны, во время испытаний автономных дронов в Запорожье Россия нацеливала их, в частности, на гражданские объекты — колонки и резервуары с пропаном на автозаправочных станциях, а также на центры комплектования. Почему именно эти объекты были выбраны для испытаний, пока неясно.
Вадим Кушников, эксперт по беспилотникам Харьковского авиационного института, отметил, что дрон, убивший троих мирных жителей, был «заранее запрограммированным средством, обученным в виртуальной среде отслеживать конкретные объекты».
Почему автономное оружие с искусственным интеллектом вызывает споры
Традиционное программное обеспечение работает по пошаговым правилам, написанным человеком. Система искусственного интеллекта же самостоятельно формирует правила, находя закономерности в огромных массивах данных. Этот процесс называется машинным обучением. Благодаря этому система может реагировать на непредсказуемые ситуации. В то же время это означает, что никто не может полностью предсказать, как именно она будет действовать.
Правозащитные организации и Международный комитет Красного Креста категорически выступают против использования оружия с искусственным интеллектом без участия человека в процессе принятия решений. Они подчеркивают, что автономные системы фактически оставляют за роботами право толковать международное право и определять, какие цели во время войны являются законными.
В то же время некоторые эксперты считают, что в будущем системы искусственного интеллекта, напротив, должны стать обязательной составляющей вооружения. По их мнению, такое оружие может быть более безопасным, поскольку способно оценивать ситуацию перед ударом, даже если делает это не всегда безошибочно. Это отличает его от неуправляемых авиабомб или обычных артиллерийских снарядов, которые просто попадают в место падения, не «видя», что именно будет поражено.
Что нашли в российских дронах после ударов по Запорожью
По словам главы областной военной администрации, командующего противовоздушной обороной города и расчёта ПВО, который дежурил в тот день, дрон, нанесший смертельный удар, летел в группе примерно из шести беспилотников. Ни один из них не передавал радиосигналов, а также у них были другие признаки, характерные для российских испытаний автономных систем искусственного интеллекта, в частности, они запускались волной, отметили чиновники.
По словам украинских чиновников, некоторые из испытанных Россией дронов с искусственным интеллектом взрывались при ударе, тогда как другие не детонировали и оставались относительно неповреждёнными. Осколки двух таких беспилотников они показали журналистам The New York Times.
Журналисты сфотографировали компьютерный модуль Nvidia внутри дронов и отправили снимки компании.
В Nvidia подтвердили, что на фотографиях запечатлен мини-компьютер Jetson Orin. Такие модули стоят всего несколько сотен долларов, и их уже обнаруживали в нескольких типах российского вооружения.
В заявлении компании говорится, что этот мини-компьютер является потребительским продуктом, который «продается студентам, разработчикам и стартапам для широкого спектра полезных применений». Nvidia продает такие компьютеры во многих странах, но не в России. В то же время, как отметили в компании, их можно без проблем приобрести через посредников.
Украина также тестировала автономные системы искусственного интеллекта
Украина также тестировала системы искусственного интеллекта, способные самостоятельно выбирать цели. Михаил Федоров, недавно уволенный с поста министра обороны, в конце прошлого месяца рассказал в интервью The New York Times, что в течение нескольких предыдущих месяцев Украина испытывала полностью автономную систему искусственного интеллекта в оккупированном Россией Крыму. По его словам, эти устройства атаковали хранилища топлива и военную технику, при этом гражданские лица не погибли.
Дроны, которые использовались во время атаки на Запорожье, не имели антенн для передачи данных о результатах испытаний. В то же время российские войска часто запускают разведывательные беспилотники, способные фиксировать последствия ударов. Также считается, что в городе действуют российские агенты, которые передают информацию о результатах нанесённых ударов.
Само по себе отсутствие антенны ещё не доказывает, что дрон самостоятельно выбирал цель. Его могли заранее запрограммировать на полет по определенному маршруту с помощью компьютерных алгоритмов, подобных тем, которые десятилетиями используются в системах автопилотирования самолетов. Однако такому дрону чип Nvidia был бы не нужен.
По словам украинских специалистов по противовоздушной обороне, в мае Россия начала испытательные полёты дронов «Молния» с искусственным интеллектом — это серийный беспилотник авиационного типа. Еще за несколько месяцев до этого российские военные начали испытывать системы самостоятельного выбора цели на другом беспилотнике авиационного типа — V2U. Часть испытаний V2U касалась только наведения на так называемой «последней миле».
Как в Запорожье защищаются от дронов
В беседах с журналистами некоторые жители Запорожья, расположенного примерно в 14 километрах от линии фронта, признавались, что сама мысль об аппаратах, кружащих над городом и самостоятельно принимающих решения об убийстве, вызывает у них ужас. В то же время украинские города уже годами подвергаются настолько интенсивным обстрелам, что даже менее технологичные дроны давно изменили повседневную жизнь людей.
Одним из способов противодействия дроновой угрозе стали дроны-перехватчики, которыми пока управляют люди – мужчины и женщины, ставшие местными героями. Другое средство защиты — антидроновые сетки, которыми накрыли около 386 километров дорог в Запорожье и его окрестностях.
Еще один способ защиты — маскировка. Например, вокруг резервуаров с пропаном на автозаправочных станциях под разными углами устанавливают пластиковые полотна, пытаясь таким образом ввести в заблуждение системы распознавания изображений на основе искусственного интеллекта.
За несколько минут до того, как 6 июля дрон со взрывчаткой стремительно полетел в сторону автозаправочной станции, группа людей, ища укрытие, прижалась к стене соседнего жилого дома. Они уже слышали взрывы, ведь дроны атаковали волнами.
Работница автозаправочной станции Оксана Ищенко стояла рядом с Татьяной Бубинец.
«Она плакала от страха», — вспоминает Ищенко.
Затем кто-то из группы начал кричать: «Самолет! Самолет!», — рассказала Ищенко. В их сторону летел дрон. Татьяна Бубинец и еще несколько человек бросились бежать, разбегаясь по парковке в разные стороны. Дрон не смог обогнуть жилой дом и взорвался, так и не достигнув своей цели.
Татьяна Бубинец, которая училась на факультете бухгалтерского учета в Запорожском национальном университете, лежала неподвижно на асфальте, из носа у нее текла кровь. В больнице констатировали её смерть, рассказала одна из её преподавательниц Татьяна Мелихова. Ещё двое погибших — 41-летний Алексей Свирин и 48-летний Роман Карпий — позже скончались от полученных ранений.
«Они отрабатывают эту технологию», — сказал о россиянах командир противовоздушной обороны города полковник Минаев. По его словам, искусственный интеллект уже работает хорошо, но пока не идеально. «Они ищут ошибки и будут их исправлять».
Читайте также:
Получайте новости быстрее с помощью нашего Telegram-канала: https://t.me/onenews_zp
Подписывайтесь на «Первый Запорожский» в Instagram!