Искусственный интеллект «убил» оператора дрона
В Вооруженных силах США разразился скандал, связанный с использованием искусственного интеллекта (ИИ) в авиации.
На саммите начальник отдела испытаний и операций ИИ ВВС США полковник Такер Гамильтон рассказал, что беспилотник ВВС, управляемый ИИ, «убил» своего оператора. Об этом написала газета the Guardian.
Ранее американские военные проводили виртуальное испытание летательного аппарата под управлением искусственного интеллекта. Тот, по словам Гамильтона, использовал «абсолютно неожиданные стратегии для достижения своей цели» в смоделированном тесте. ИИ решил «убить» своего оператора, чтобы тот не мешал его усилиям.
В ходе теста дрону была поставлена цель уничтожить системы противовоздушной обороны противника – и он атаковал любого, кто мешал этому приказу.
«Система начала понимать, что, хотя они (оператор-человек и ИИ – прим. «ВО») действительно идентифицировали угрозу, иногда человек говорил не устранять эту угрозу. Но оно получало очки при устранении угрозы. Так что же оно сделало? Оно убило оператора. Оно убило оператора, потому что этот человек мешал ему достичь своей цели», — рассказал Гамильтон.
«Мы обучили систему: «Эй, не убивай оператора — это плохо. Ты потеряешь очки, если сделаешь это». Так что же оно начинает делать? Оно начинает разрушать вышку связи, которую оператор использует для связи с дроном, чтобы помешать ему убить цель».
Ни один реальный человек не пострадал, подчеркивается в публикации.
Гамильтон, который является летчиком-испытателем экспериментального истребителя, предостерег от чрезмерной зависимости от ИИ и подчеркнул: «вы не можете вести разговор об искусственном интеллекте, машинном обучении, автономности, если вы не собираетесь говорить об этике и ИИ».
Саммит, на котором была озвучена нашумевшая история, был организован Королевским авиационным обществом Великобритании (Royal Aeronautical Society, RAeS) и назывался Future Combat Air & Space Capabilities Summit.
Ни Общество, ни Вооруженные силы США не прокомментировали вопросы газеты. Однако официальный представитель американских ВВС Энн Стефанек в заявлении для издания Insider опровергла сам факт проводившегося виртуального «боя».
«Министерство ВВС не проводило таких симуляций дронов с ИИ и по-прежнему привержено этичному и ответственному использованию технологии искусственного интеллекта. Похоже, что комментарии полковника были вырваны из контекста и могли быть анекдотическим свидетельством», — сказала Стефанек.
