Главная проблема ИИ, которую никто не может решить

简介：

В этом видео рассматривается главная проблема искусственного интеллекта, которую пока никто не может решить. Автор обсуждает, как контролировать ИИ, который может стать умнее нас, и почему он может стать последним изобретением человечества. Он приводит примеры от умных роботов до галактических империй, объясняет, как сверхразумные цивилизации могут расти и контролировать галактики, и задаётся вопросом, останется ли место для людей. Видео основано на книгах Макса Тегмарка, Джона Брокмана и Кейт Кроуфорда. В качестве примера рассматривается создание злого ИИ и обсуждаются ключевые темы, такие как обучение ИИ в игре Breakout, последние достижения DeepMind, проблемы внедрения ИИ, вопросы безопасности и согласования целей ИИ с человеческими ценностями. Таймкоды: 00:00 – Системы глубокого обучения с подкреплением 03:06 – Последний бастион человеческого интеллекта 06:24 – Обучаем ИИ игре Breakout 09:18 – История умного коня Ганса 11:22 – Что значит быть «умным»? 14:36 – Крупнейшие неудачи внедрения ИИ 18:49 – Выживут только ИИ-любовники 20:53 – Когда появится суперинтеллект? 23:28 – Поиск определений понятий «интеллект» и «общий» 31:25 – Может ли сверхинтеллект хотеть производить скрепки? 33:19 – Первая технология, способная погубить жизнь 36:05 – А что думает ИИ про безопасность ИИ? 38:03 – Самый похотливый ИИ всех времен 42:13 – Проблема загрузки ценностей 42:45 – Истоки целей в природе 47:20 – Согласование целей ИИ с целями людей 51:24 – Выбор целей 55:48 – Будущая жизнь 58:20 – Информация как главный товар будущего