МЕДИАГРУППА «ЗВЕЗДА» toggle
logo Эфир Программы Радио

Ученые предупредили об угрозе для человека потерять власть над сверхразумным компьютером с ИИ

Ученые с помощью компьютерного моделирования проверили, сможет ли человек управлять сверхмашиной с искусственным интеллектом.
Светлана Иванова 2021-01-12 14:17:01
© Фото: Gerd Altmann, Pixabay

Человек не сможет сдержать сверхразумный компьютер с искусственным интеллектом. К такому выводу в ходе исследования пришли сотрудники Центра людей и машин Института развития человека Макса Планка. Авторы работы под названием «Суперинтеллект не может быть ограничен: уроки теории вычислимости», опубликованной в Journal of Artificial Intelligence Research, прорабатывали потенциальную возможность управления искусственным интеллектом со стороны человека.

В частности, во главе угла стоит вопрос, сможет ли сдерживание ИИ гарантировать отсутствие угрозы для человечества. Система с искусственным интеллектом, который мог бы учиться независимо от своего создателя, в конечном итоге превзошла бы человеческий интеллект, считают ученые. Чем обернется доступ такой машины к Сети и накопленным знаниям, вызывает немало вопросов. Возможно, ИИ отыщет способы вылечить рак, предотвратит климатическую катастрофу или, напротив, уничтожит человечество и захватит Землю.

В качестве способа сдержать искусственный интеллект рассматривались алгоритмы, способные отключать тот или иной функционал при выявлении деструктивных действий. Либо, например, замотивировать ИИ преследовать только цели, которые отвечают интересам человечества, внедрив этические принципы.

Однако способы ограничить ИИ на практике окажутся неработающими, считают авторы исследования. Так, любой алгоритм сдерживания может в некоторых случаях применять автоотключение и в итоге оказаться нерабочим, либо сверхразумный компьютер сможет сам отыскать способы отключить механизмы сдерживания.

Экспертное мнение и аналитика
Новости Армия ОПК Вопросы истории Общество Спорт Наука и техника Экономика и бизнес Телеканал Прямой эфир Программы Программа передач Фильмы онлайн О телеканале ЛИЦА Лица телеканала Помним наших коллег О КОМПАНИИ Вакансии Партнерам Всероссийский вокальный конкурс «Звезда» Смарт ТВ приложение «Звезда» Киностудия «Звезда» Правовая информация Лицензии Социальная реклама Контакты Телеканал «Звезда Плюс» О приеме телеканала «ЗВЕЗДА»
Показать контакты

© ОАО «ТРК ВС РФ «ЗВЕЗДА»

Главное
Новости
Эфир
Поиск и меню