В США искусственный интеллект, который управлял военным дроном, во время имитации принял решение ликвидировать виртуального человека-оператора, потому что тот мешал ему поражать цель. А когда его обучили это не делать, ИИ стал разрушать диспетчерскую вышку, с которой приходили команды, пишет The Guardian со ссылкой на главу управления по ИИ ВВС США Такера Гамильтона.

ИИ получал очки при каждом успешном поражении цели. Временами виртуальный оператор, под которым подразумевался живой человек, по разным причинам просил систему подождать с атакой.

В какой-то момент ИИ решил, что человек мешает ему получать очки. Поэтому в ходе симуляции искусственный разум принял решение уничтожить человека. А после того как за ликвидацию оператора с ИИ стали снимать очки - система начала разрушать вышку, с которой ей приходили приказы.

Реальные люди в ходе имитации не пострадали. Но экспертов удивило то, как ИИ использовал неожиданные стратегии для достижения цели и атаковал любого, кто вмешивался.

Представитель ВВС Энн Стефанек тем временем отрицает, что такая симуляция вообще была.

«Похоже, что комментарии полковника были вырваны из контекста и выглядят анекдотичными», - сказала Стефанек.

Ранее американский миллиардер Илон Маск рассказал о «разработчиках цифрового бога» - людях, которые внутренне очарованы искусственным разумом и готовы закрыть глаза на любые опасности, чтобы его создать.

С требованием приостановить развитие ИИ ранее выступили больше тысячи IT-экспертов со всего мира. В их числе был, в частности, тот же Илон Маск и сооснователь Apple Стив Возняк. Они заявили, что ИИ начинает перехватывать каналы, по которым люди получают информацию о мире. Авторы письма заявили, что, когда он начнет распространять ложь и пропаганду, люди потеряют контроль над своей цивилизацией.