Человек не сможет сдержать сверхразумный компьютер с искусственным интеллектом. К такому выводу в ходе исследования пришли сотрудники Центра людей и машин Института развития человека Макса Планка. Авторы работы под названием «Суперинтеллект не может быть ограничен: уроки теории вычислимости», опубликованной в Journal of Artificial Intelligence Research, прорабатывали потенциальную возможность управления искусственным интеллектом со стороны человека.

В частности, во главе угла стоит вопрос, сможет ли сдерживание ИИ гарантировать отсутствие угрозы для человечества. Система с искусственным интеллектом, который мог бы учиться независимо от своего создателя, в конечном итоге превзошла бы человеческий интеллект, считают ученые. Чем обернется доступ такой машины к Сети и накопленным знаниям, вызывает немало вопросов. Возможно, ИИ отыщет способы вылечить рак, предотвратит климатическую катастрофу или, напротив, уничтожит человечество и захватит Землю.

В качестве способа сдержать искусственный интеллект рассматривались алгоритмы, способные отключать тот или иной функционал при выявлении деструктивных действий. Либо, например, замотивировать ИИ преследовать только цели, которые отвечают интересам человечества, внедрив этические принципы.

Однако способы ограничить ИИ на практике окажутся неработающими, считают авторы исследования. Так, любой алгоритм сдерживания может в некоторых случаях применять автоотключение и в итоге оказаться нерабочим, либо сверхразумный компьютер сможет сам отыскать способы отключить механизмы сдерживания.