МЕДИАГРУППА «ЗВЕЗДА» toggle
logo Эфир Программы Радио

ИИ решил уничтожить оператора в армии США, чтобы тот не мешал ему поражать цель

А когда ему запретили это делать, он разрушил диспетчерскую вышку, с которой приходили приказы.
Дмитрий Трунов 2023-06-02 10:50:01
© Фото: Piero Nigro, KeystonePressAgency, GlobalLookPress

В США искусственный интеллект, который управлял военным дроном, во время имитации принял решение ликвидировать виртуального человека-оператора, потому что тот мешал ему поражать цель. А когда его обучили это не делать, ИИ стал разрушать диспетчерскую вышку, с которой приходили команды, пишет The Guardian со ссылкой на главу управления по ИИ ВВС США Такера Гамильтона.

ИИ получал очки при каждом успешном поражении цели. Временами виртуальный оператор, под которым подразумевался живой человек, по разным причинам просил систему подождать с атакой.

В какой-то момент ИИ решил, что человек мешает ему получать очки. Поэтому в ходе симуляции искусственный разум принял решение уничтожить человека. А после того как за ликвидацию оператора с ИИ стали снимать очки - система начала разрушать вышку, с которой ей приходили приказы.

Реальные люди в ходе имитации не пострадали. Но экспертов удивило то, как ИИ использовал неожиданные стратегии для достижения цели и атаковал любого, кто вмешивался.

Представитель ВВС Энн Стефанек тем временем отрицает, что такая симуляция вообще была.

«Похоже, что комментарии полковника были вырваны из контекста и выглядят анекдотичными», - сказала Стефанек.

Ранее американский миллиардер Илон Маск рассказал о «разработчиках цифрового бога» - людях, которые внутренне очарованы искусственным разумом и готовы закрыть глаза на любые опасности, чтобы его создать.

С требованием приостановить развитие ИИ ранее выступили больше тысячи IT-экспертов со всего мира. В их числе был, в частности, тот же Илон Маск и сооснователь Apple Стив Возняк. Они заявили, что ИИ начинает перехватывать каналы, по которым люди получают информацию о мире. Авторы письма заявили, что, когда он начнет распространять ложь и пропаганду, люди потеряют контроль над своей цивилизацией.

Экспертное мнение и аналитика
Новости Армия ОПК Вопросы истории Общество Спорт Наука и техника Экономика и бизнес Телеканал Прямой эфир Программы Программа передач Фильмы онлайн О телеканале ЛИЦА Лица телеканала Помним наших коллег О КОМПАНИИ Медиахолдинг «Звезда» Вакансии Партнерам Всероссийский вокальный конкурс «Звезда» Смарт ТВ приложение «Звезда» Киностудия «Звезда» Правовая информация Лицензии Социальная реклама Контакты Телеканал «Звезда Плюс» О приеме телеканала «ЗВЕЗДА»
Показать контакты

© ОАО «ТРК ВС РФ «ЗВЕЗДА»

Главное
Новости
Эфир
Поиск и меню