Главная проблема ИИ, которую никто не может решить

Как контролировать искусственный интеллект, который умнее нас? Почему ИИ может стать последним изобретением человечества? От умных роботов до галактических империй — как ИИ может изменить Вселенную. Разбираемся, почему сверхразумные цивилизации будут расти как бокалы шампанского, как они будут контролировать целые галактики, и останется ли в этом будущем место для людей. Разбираем самую большую угрозу нашего времени: сможем ли мы научить машины нашим ценностям до того, как они станут слишком умными для контроля? 00:00 - Системы глубокого обучения с подкреплением 03:06 - Последний бастион человеческого интеллекта (Ли Седоль vs DeepMind) 06:24 - Обучаем ИИ игре Breakout + Конференция по нейросетям "Навыки будущего" 09:18 - История умного коня Ганса 11:22 - Что значит быть "умным"? 14:36 - Крупнейшие неудачи внедрения ИИ 18:49 - Выживут только ИИ-любовники 20:53 - Когда появится суперинтеллект? Мнение Сэма Альмана 23:28 - Поиск определений понятий "интеллект" и "общий" 31:25 - Может ли сверхинтеллект хотеть производить скрепки? 33:19 - Первая технология, способная погубить жизнь 36:05 - А что думает ИИ про безопасность ИИ? 38:03 - Самый похотливый ИИ всех времен 42:13 - Проблема загрузки ценностей 42:45 - Истоки целей в природе 47:20 - Согласование целей ИИ с целями людей 51:24 - Выбор целей 55:48 - Будущая жизнь 58:20 - Информация как главный товар будущего