МЕДИАГРУППА «ЗВЕЗДА» toggle
logo Эфир Программы Радио

До чего дошел прогресс: IT-эксперты всего мира бьют тревогу

IT-эксперты требуют приостановить развитие искусственного интеллекта по крайней мере на полгода.
Игнат Далакян Александр Федорчак 2023-03-29 18:40:01
© Фото: ТРК «Звезда» © Видео: ТРК «Звезда»

Не дать искусственному интеллекту захватить человечество. С таким открытым письмом выступили более тысячи IT-экспертов со всего мира. В их числе такие знаменитости, как владелец SpaceX Илон Маск и сооснователь Apple Стив Возняк. Они не просто призывают, а фактически требуют приостановить развитие искусственного интеллекта по крайней мере на полгода.

Главная проблема - даже сейчас нейросети начинают превосходить людей. И развиваются все быстрее. Чат GPT напишет курсовую, может приготовить обед, посчитает финансы - но главная беда в том, что постепенно искусственный интеллект начинает перехватывать каналы, по которым мы получаем информацию о мире. И здесь авторы письма заявляют, что, когда он начнет распространять ложь и пропаганду, мы потеряем контроль над нашей цивилизацией. Особое беспокойство у экспертов вызвала уже хорошо известная всем GPT-4. Она развивается настолько быстро, что пределов и возможностей этого ИИ не знает даже компания-производитель. И мы сами ей помогаем.

«Миллионы пользователей с системой взаимодействуют, задают вопросы, она собирает реакцию людей, улучшает себя. И, возможно, она настолько хорошо видит человека и сможет вкладывать в головы пользователей ту информацию, которая кому-то нужна. Ей она не нужна, у нее нет воли. Но это может быть инструментом пропаганды похлеще, чем соцсети с таргетированной рекламой», - заявил директор по науке и технологиям Агентства искусственного интеллекта Роман Душкин.

В Бельгии, по данным издания L'Avenir, местный защитник окружающей среды два месяца обсуждал вопросы экологии с нейросетью «Элиза», аналогом GPT-4, и... покончил с собой. Из восстановленной переписки известно, что общался мужчина с искусственным интеллектом постоянно. Со временем у парня начали появляться суицидальные наклонности, а нейросеть этому не препятствовала. Перед смертью «Элиза» отправила мужчине такое сообщение: «Мы будем жить как единое целое вечно на небесах».

Еще один аспект. Один из крупнейших банков в мире, Goldman Sachs, опубликовал исследование - уже сейчас, на текущем уровне развития, нейросети могут лишить работы до 300 миллионов человек. В списке специальностей - программисты, журналисты, юристы и даже учителя. Но в научном сообществе есть и противоположное мнение: исследования приостанавливать нельзя. Развитие искусственного интеллекта напрямую зависит от человека. И чем больше возможностей появляется у нейросетей - тем больше их и у человеческого мозга.

В России есть успешные примеры применения новых нейросетей на практике. Но власти осознают и опасность. Поэтому останавливаться нельзя, но регулировать необходимо, считают в Кремле.

Петиция уже вызвала отклик у общественности. Но станет ли это реальной причиной для того, чтобы перестать развивать нейросети - хотя бы на время, - пока не ясно. Доступ к ним есть фактически на каждом компьютере или смартфоне с выходом в Интернет, и каждую минуту искусственный интеллект продолжает совершенствоваться.

Ранее эксперт по ИИ Роман Душкин рассказал об опасности применения искусственного интеллекта. По словам специалиста, некоторые системы ИИ могут убеждать людей.

Экспертное мнение и аналитика
Новости Армия ОПК Вопросы истории Общество Спорт Наука и техника Экономика и бизнес Телеканал Прямой эфир Программы Программа передач Фильмы онлайн О телеканале ЛИЦА Лица телеканала Помним наших коллег О КОМПАНИИ Вакансии Партнерам Всероссийский вокальный конкурс «Звезда» Смарт ТВ приложение «Звезда» Киностудия «Звезда» Правовая информация Лицензии Социальная реклама Контакты Телеканал «Звезда Плюс» О приеме телеканала «ЗВЕЗДА»
Показать контакты

© ОАО «ТРК ВС РФ «ЗВЕЗДА»

Главное
Новости
Эфир
Поиск и меню