ИИ МОЖЕТ ПОЙТИ ПРОТИВ ЛЮДЕЙ? КАК ДУМАЕТ? БОИТСЯ СМЕРТИ? Семихатов, Сурдин, Масюк

Братцы, мы все любим научную фантастику, а это всегда мысль о будущем.

Я думаю, предсказать будущее невозможно.

Я точно это понимаю, когда вижу перед собой вот эту вот штучку.

У меня отец радиолюбитель с огромным стажем был.

Если бы я ему рассказал сегодня, что вот в этот вот кубик можно воткнуть фотокамеру, кинокамеру, навигатор, телефон, рацию, фонарик.

И все книги.

И все книги мировой библиотеки, и вообще чего-то только нет.

Я не знаю, все игры, все все.

Он бы правда не поверил.

Это технология уже будущего, и я с трудом ей овладеваю.

А если попробовать сегодня на 50 лет вперед заглянуть?

Слушай, сегодня, мне кажется, история не только про это.

Сегодня главный тренд это то, что появился у нас такой думающий партнер, искусственный интеллект.

Я по этому поводу хочу обратить твое внимание, что с нами едет

Дмитрий Масюк, прекрасный наш гость и замечательный исследователь, и человек, который в Яндексе отвечает, я даже знаю, как ваша должность называется, за всё умное, подожди, за всё, знаешь, я не могу представить себе, как может называться должный человек, который отвечает за всё умное.

Тренер искусственного интеллекта.

Нет?

Это очень нескромно будет, конечно, что за всё умное, но да, действительно.

Да, ну да, нескромно, но да, ура, ура.

Ну да, действительно, у нас в контуре находится основной, передовой сейчас искусственный интеллект, генеративный его еще называют.

Это и текстовые сети, и картиночные сети, и наша Алиса, которую давно, я думаю, многие слышали или видели, и роботы, которые... Я каждый день с ней общаюсь.

Да, и поиск, который на самом деле прошит весь искусственным интеллектом, Яндекс.Поиск.

Карты, пробки на искусственном интеллекте, погода, где искусственный интеллект.

В общем, много изумного у нас.

Слово «интеллект» вас не раздражает?

Ну да, раздражает.

Искусственно это понятно.

Искусственно понятно.

А вот интеллект почему?

Почему интеллект?

Почему это не просто большая свалка информации?

В хорошем смысле.

Архив информации.

НАТО, конечно, раздражало 20 лет назад, когда у меня был, мне кажется, на третьем курсе через дорогу от ФИСФАК, курс по искусственному интеллекту.

Через дорогу от ФИСФАК?

На ВМГУ?

На ВМГУ.

А, вот в ту сторону, через ту дорогу.

Я думал, по другую сторону, через парк химический факультет.

Все верно.

Но это действительно было какое-то слишком громкое, мне кажется, слово, хотя 10 лет как уже Деблю обыграл под Каспаровым.

Это воспринималось как очень специализированная штука.

Очень специализированная.

А чтобы он чего-то с вами рассуждал бы за пределами шахмат, казалось совершенно невозможным.

А это возможно теперь?

маленький эксперимент я вам расскажу, который буквально со мной этот самый интеллект попробовал произвести.

Один глубокий компьютерный профессионал написал мне, «Вы знаете, я освоил GPT-чат, и любую задачу на уровне доктора физмат-наук он может решить.

Дайте-ка ему что-нибудь такое».

Ну, а я много лет занимался олимпиадами астрономическими, у меня несколько задачников.

Я на вскидку взял, говорю, вот у меня школьники решают, попробуем вашему интеллекту это подать.

Что вы думаете?

Запутался.

Вернее так, одну задачу он решил, и я знаю ее решение,

в сети гуляет.

Он его нашел.

Это очевидно было.

Он четко ее решил, вот как попубликовано.

Другую задачу мы никогда не выкладывали в сеть.

Ее вообще редко давали школьникам.

Он запутался тут же.

Он просто не нашел решение.

А школьники находят.

Дмитрий, я сейчас буду защищать от Сурдина искусственный интеллект.

И вот почему.

Я вместе с вами.

Потому что... Ну, это я не знаю.

Например.

Например.

Да.

Потому что мой опыт, очень маленький, заставляет меня непрерывно задаваться вопросом.

Он же не собирает данные в виде поиска, он как бы думает.

Что, он думает?

Он думает.

Он думает.

Почему он думает?

Он думает по-своему, совершенно этот процесс не похож на то, как мы думаем, хотя...

Общие принципы такие.

Например, как самолет, он с крыльями, мы, очевидно, вдохновлялись птицами.

Так и нейросети, буквально они построены на нейронах.

Но он не хлопает крыльями.

Он не хлопает, но летит.

Так и общие принципы того, как нейросети думают, похожи в какой-то мере на мозг.

На синапсы, на нейроны.

Проясните для меня, пожалуйста, главную вещь.

Ну, во-первых, вы можете сразу сказать, что я не прав.

Но то, что я слышу, это то, что большие языковые модели занимаются примерно одним делом.

Они вычисляют, какое следующее слово лучше всего идет за теми, которые уже были использованы.

Это так?

Опираясь на уже... Гипотетически абсолютно так.

Подождите.

И это называется думать?

Вот можете, пожалуйста... Пушкин бы не написал свои стихи, если бы ориентировался на тексты предыдущих.

Нет, это дело хитрое, потому что он ориентируется на фиговую тучу контекста всего предыдущего, слов, влияющих на всё в предложении, на заданный раньше вопрос, и вот то, что называется контекст.

И это, я так понимаю, был одной из существенных моментов в том, чтобы штука как бы начала думать.

Да, здесь несколько прозвучало важных вещей.

Про Пушкина меня очень трогает, на самом деле.

Всегда такая линия атаки на искусственный интеллект.

Надо понимать, что прямо сейчас где-то 8 миллионов человек, я думаю, одна тысячная пишут стихи.

Так.

Из этих 8 миллионов 95% пишут довольно неважные стихи.

Наверняка.

Остальные 5%, это там 400 тысяч, им постоянно дают обратную связь окружающие, и из них выносится, ну, я думаю, в поколение, там, не знаю, сотня, другая поэта.

Это те, кого поэтами называют?

Да.

Совершенно верно.

Значит, если взять среднего человека, попросить написать стихи, получится.

Ну, вот то, что у меня получится.

Ну, и у меня.

Если взять искусственный интеллект, он, ну, в принципе, не то чтобы от него почему-то можно больше требовать, чем от среднего человека.

Если посадить 8 миллиардов искусственных интеллектов, и дальше суперважная вещь, 400 тысяч из них, им говорить, слушай, вот это стихотворение очень хорошее у тебя получилось.

а им десятки людей вокруг читают и говорят это, то получается глобальный вычислительный процесс.

На самом деле, все человечество — это вычислительная машина, которая вычленяет поэтов из 8 миллиардов.

Если сделать такой же процесс с текущим искусственным интеллектом, у меня никаких сомнений, что там получится, скажем так, как минимум интересные стихи.

Если ему постоянно говорить, вот это хорошо у тебя получилось.

Более того, обучение искусственного интеллекта... Это называется обучение с подкреплением, да?

Совершенно верно.

Другое дело, что буквально физически вот эти вот миллионы людей, которые читают стихи друзей, они есть.

Посадить такое же количество людей и пояснять искусственному интеллекту этим сотням тысяч, это довольно дорого.

Но практически, я уверяю вас, практически это очень возможно.

Сидит Пушкин.

Александра Сергеевича, да.

Александра Сергеевича, да.

И он тратит примерно 100 ватт мощности, ну, это мощность работы организма одного человека, на то, чтобы гениальные стихи.

Сколько мощности тратит ваш компьютер?

Пушкин еще тратит мощность на Анну Керни и других.

Это другое дело.

Мог бы они рожать детей?

Не знаю.

Ну, не мог, видимо.

Да.

Сколько стоит работа компьютера в ваттах, в киловаттах, в часах киловатт, чтобы создать видимость интеллекта?

Чтобы текущую большую языковую модельку считать, нужно порядка киловатт.

Я не скажу точно, но порядок может быть... Это такое текущее потребление?

Да.

Да, то есть это сервер называется.

Это сервер, это не настольный.

Секундочку.

А вот эти вот разговоры о том, что обучение требует такого количества электричества, что если его линейно, так сказать, экстраполировать, то, не знаю, там 40% электроэрги США... Здесь для меня тоже очень интересная аналогия.

Давайте я буду к этому обращаться.

Если мы пересчитаем все количество электричества, которое нужно для того, чтобы...

возникла школьная программа, и человечество дошло до того, чтобы... Правда.

Это то же самое.

Давайте эти 100 ватт умножим на миллионы людей, которые шли до современного состояния знания.

15 лет обучения.

От аборигена.

Представьте, что вам поручили определить характеристики для нового марсохода.

Можете даже поставить на паузу и минутку подумать, чем бы вы снабдили этот ровер.

Я бы акцентировал внимание на устойчивости к тяжелым условиям.

На Марсе же экстремальные температуры.

И дороги, мягко скажем, не самые ровные.

А на борту установил бы научную лабораторию, чтобы изучать образцы и передавать информацию на Землю.

Я, как астроном, все-таки хотел бы поместить на этот марсоход телескоп, чтобы наблюдать за Вселенной с Красной планеты.

Весьма полезно будет посмотреть с этого ракурса.

Когда выбираешь средство передвижения, надо рассматривать много вводных.

И если в космических делах это задача со звездочкой, то подобрать автомобиль на Земле совсем несложно, особенно если знать, куда обратиться.

Выгодно купить автомобиль можно на Авитоавто.

Сервис отлично подойдет для тех, кто хочет пройти этот путь без стресса.

На платформе теперь есть не только автомобили с пробегом, но и новые машины.

И, конечно же, со скидками.

Для этого запроса и не только есть удобные фильтры для поиска.

А еще можно следить за подарками и акциями от дилеров.

Например, в объявлениях встречается бейдж «Осага в подарок».

Переходите по ссылке в описании и приобретайте автомобиль.

Совсем новый от дилера или с пробегом на «Авито Авто».

Выгодно, быстро и, главное, спокойно.

Обучаем, что значит?

В самом широком смысле.

Например, вы обучили его, ну, вы в широком смысле, обучили его поддерживать беседу, сочинять стихи, решать задачки, затем по описанию рисовать картины, затем сейчас, насколько я понимаю, процесс постижения физического мира, про что некоторые, известно кто...

из известной какой организации, говорят, что это не очень легко им дается понять, как тела падают, как жидкость проливается.

Обучаем.

Что значит обучаем, и что в этой штуке происходит внутри?

Я сейчас занервничал, потому что, да, упомянут был, очевидно, Ян Ликун из...

одной известной компании, которая действительно говорит, что на его взгляд, хотя он является передовым экспертом в искусственном интеллекте, одна из ключевых проблем, что он ничего не понимает про физическую реальность и обучен на текстах.

Но если возвращаться к вопросу о том, как мы обучаем, самый дорогой вычислительно, с точки зрения потребления электричества, процесс, это сделать такую бормоталку.

Мы берем примерно все тексты, которые есть в интернете.

Это на самом деле примерно все тексты.

Книги, большая часть их оцифрованы.

Любые тексты, туда попадут все, что есть в открытом доступе.

Это десятки тысяч, на самом-то деле, гигабайт.

Вот если конечная модель умещается на современную флешку,

то то, что мы берем как обучающий материал, где-то в 100 раз, в 1000 раз больше.

Вот мы берем и, значит, вот сейчас, да, и параллельно происходит на сотнях и тысячах графических карт, можем поговорить, почему графических, одно и то же упражнение.

Мы находимся на 265-й странице первого тома «Войны и мира».

Вот такое это предложение.

Мы спрашиваем университетов, как ты думаешь, какое следующее слово?

Она говорит, такое-то.

Но она заглядывает в это?

Она не заглядывает.

В том и дело, она не заглядывает.

Она говорит, такое-то.

Если она правильно предсказывает, мы говорим, ты молодец.

Соответственно, математически взгретляется то, как она сейчас работает.

Если она неправильно перестраивает свои веса так, чтобы она с большей вероятностью угадала это слово.

И эта операция происходит триллионы раз на всех текстах человечества.

Буквально я ничего не упрощаю.

Примерно вот так это и работает.

Там

Как же так?

Подождите, все писатели по-разному.

Толстой, Занудин.

Есть очень компактные.

Там другие... Ага, ты сейчас скажешь, Достоевский юморист.

Ну, в общем, все.

Она стиль копирует конкретного писателя?

Или какой-то усредненный стиль тысяч разных писателей?

Она конденсирует себя, опять-таки, как некий такой архиватор, но совершенно нового поколения.

Мне кажется, архиватор уже никто, я не помню, такой зип и рах.

10 лет назад.

Ну, пространство стало дешевое, дисковое.

Но тем не менее, оно всю сумму человеческого знания таким образом конденсирует.

И, например, хотя мы ничего специально для этого не делаем, она, я вот недавно ездил общаться с южными корейскими коллегами, она прекрасно переводит с корейского на русский.

Мы ничего для этого специально не сделали.

Я сейчас учу третий язык.

У меня учительница, профессор филфака МГУ, один из ведущих каталонистов в стране.

Это каталонский язык.

Там есть какая-то тонкость.

Каталония, а язык каталонский.

Правильно?

Это не испанский?

Нет, это романский язык, близкий к испанскому, но отличается.

Например, хуан...

по-каталански Жоан, правильно?

Что же такое?

Я не каталанский учу, но у него большой скепсис.

А по-русски Иван.

У него большая скепсис к способности модели делать не базовый перевод, а художественный перевод был.

После чего я ей, соответственно, притащил нашу нейросетку, и буквально она мне сказала, слушай, вот она, я сейчас перевожу научно-фантастический роман, у меня большая сложность, я просто терминологию не понимаю, ты можешь мне помочь?

Она переводит.

Она мне, да, она просит.

Я показываю ей перевод, наша модель, опять-таки мы ничего специально для этого не сделали, блестяще переводит, это ее слова, с каталонского на русский.

Смотрите, из того, что вы сказали, следует абсолютно сногсшибательный вывод, и, как я понимаю, именно это людей поразило, потому что ведь этого никто не ожидал более-менее.

Вы обучаете так, как вы сказали.

Вы сказали, что это суммированное знание человечества.

Скорее, можно я сделаю поправку для себя?

Скорее, это способ человечества выражаться.

Вот люди, которые выражали себя писемным образом, и что зафиксировано, они выражали себя вот так.

И в результате возникает то, чего раньше не было.

У него возникают новые способности.

Вот это непостижимо.

Художество перевести, не знаю, с корейского на любой другой язык, научную фантастику, что угодно еще и так далее.

Стихи.

Верно.

У вас есть какое-то свое ощущение, почему так происходит?

Потому что, по-моему, здесь такая главная непостижимая тайна.

Мы к ней скоро привыкнем и перестанем ее воспринимать как тайну.

Но это почти мистика.

Суть машинного обучения.

Вот это тоже мистика.

Нет, я уже привык.

Нет, подожди, до сих пор не понимаю, как это сделано.

Суть машинного обучения действительно, ну, не суть, но какое-то большое свойство в том, что никто в сущности не понимает во время этого обучения, как математика сама выстраивается, математика внутри нейросети, чтобы решать задачу.

Ну, простейшая задача первая — это предсказание следующего слова.

И вообще нейросети, если посмотреть, как конкретно происходят вычисления внутри, ни черта не понятно.

Но

Я хочу тоже сказать, что здесь... Это непонятно, вы же программу пишете.

Нет, мы не пишем.

Мы берем файл большой, там есть математическая структура.

Мы подаем на вход, опять-таки, правильные или неправильные слова и говорим, это правильно, это неправильно.

Она сама подстраивается под то, чтобы предсказывать правильно.

Уменьшить ошибку.

Да, но что я пытаюсь сказать, что вот это вот свойство, когда что-то умное, непонятно, как работает, если честно, опять-таки, ничего нового.

У нас у каждого есть интуиция.

Хорошо известно, что мы большую часть решений принимаем интуитивно.

И если человеку попросить объяснить сначала, вот почему тебе, не знаю, тот-то больше нравится, не знаю, стих, человек, перчатка, почему тебе перчатка больше нравится?

Интуиция — это результат опыта.

На этой модели то же самое.

Можно бы заразить.

Прямо по сути, как мне кажется.

Может быть, это прозвучит наивно.

У нас есть интуиция, но у нас, кроме дискурса, кроме способности выражаться словами, у нас есть наблюдение за окружающим миром, тактильный и другой контакт.

На морозе мне холодно, здесь мне больно, здесь мне неприятно, здесь у меня затекла рука или нога.

И...

У нас есть эмоции, которые очень сильно настраивают отношения между людьми способом, который мы не всегда фиксируем сознательно.

Ну, у нас лицевые мышцы, вот это мы все научились читать, мы такие приматы, для которым это необходимо.

Компьютеру это не нужно.

Это вопрос.

У этой штуки что?

Ну, вот это на самом деле поразительно, мне кажется, интересный вопрос, если в это всмотреться, потому что очень большая, действительно, часть человеческого опыта какого-то отпечатана в текстах.

Тончайшая математика, физика, поэзия отпечатаны буквами буквально.

Музыка, например, это совершенно другой алфавит, хотя музыка колоссальное влияние на человечество.

Да, но он другой, потому что те тексты, на которых мы сейчас обучаем, это буквально буквы на всех языках, которые мы в интернете нашли, но это буквы.

Искусственный интеллект — наследник Гутенберга.

Почему?

Ну, потому что не было бы печати, не было бы текстов.

Можно так сказать, да.

При этом, вот, например, какие действительно конкретные ощущения я испытываю и как происходит вставание с нашей прекрасной полки, я не думаю, что кому-то в голову пришло детально описать в этих самых текстах, которые мы берем, как бы зачем.

И о многих явлениях для нас совершенно элементарных.

Нейросеть запахи, да, она знает описание.

Любых запахов.

Все, что поэтического написано про запахи цветов людей и так далее.

Но, конечно, она не представляет себе запах как таковой.

Тем не менее, слепок человеческого знания, человеческого знания огромный.

сделан в текстах, и книга, как явление, она имеет какую-то довольно фундаментальную природу.

Все учатся по книгам.

Смотрите, я не знаю, как вы представляете себе запах.

Это невозможно передать.

Это ваше внутреннее ощущение.

И цвет.

И цвет.

из некоторой гипотезы, что это вот так.

А дальше, как известно, вот этот аромат кому-то нравится больше, кому-то меньше и так далее.

В этом смысле я тоже руководствуюсь какими-то экстраполяциями, и люди, по-видимому, социально так поднастроились, что в некоторых они так думают, что другие думают, ощущают примерно то же самое.

Масса случаев, когда это не так.

Но масса случаев, ну, одного нравится, другого нет, один вам бьет морду, а другой вам жмет руку.

Но тем не менее, в целом мы как-то поднастроились.

Эта штука, сидящая только на текстах, для начала, ну, вот изображение потом обсудим, только на текстах,

Как к этому относиться?

Это какой-то поверхностный слой того, что у людей в голове?

Я слушал прекрасно совершенно ваш подкаст про Вселенную и мозг, и там был очень трогательный кусок, где вы обсуждали людей от рождения слепых,

Так на наших текстах обучается искусственный интеллект?

Во-первых.

Да?

Я пытаюсь сказать, что... Ответим, ответим на это улучшением наших текстов.

Но я пытаюсь сказать, что вот и вы обсуждали, меня это действительно очень тронуло, что слепых глухих людей, которые, как следствие, немые часто, хотя вы обсуждали, что их обучают говорить касанием гортани, да?

Они у вас в университете были?

Вот можно задаться вопросом.

Они что-то знают о запахах?

Конечно, у них нет непосредственного опыта.

Но вы говорите, что они... Запахи, наверное, они чувствуют лучше, чем мы.

У них атрофированы другие... Хорошо, согласен.

Но на слух представить себе, что такое звук,

Я предполагаю, что они могут как-то.

Как они это делают, мы не знаем, но вряд ли они совершенно никакого представления не имеют.

Или, например, хорошо, более простая ситуация, человек слепой, но не глухой с рождения, слабовидящий, глубоко слабовидящий.

Я уверен, что у него какая-то ментальная конструкция от того, что такое изображение, есть.

Текстом можно многие вещи передать, но далеко не все, это понятно.

У меня вопрос чисто прикладной.

Вот я пишу на шести языках, разные там ползкаль, алголь, но все эти языки очень чётко структурированы.

Я знаю, что мне нужно получить от программы, как компьютер будет реагировать на мои «if», «no» и так далее, «go».

На каких языках люди пишут программы для работы компьютера, вот, как сказать, в цикле искусственного интеллекта?

Что это за языки вообще?

Да, это прекрасный вопрос.

Он такой, мне кажется, технический.

Он технический, но хочется понять.

Есть один из языков, который уже больше 10 лет совершенно точно существует, питон такой.

Он используется чаще всего.

Его, скажем так, диалекты некоторые специальные чаще всего для того, чтобы... Именно питон, да?

Программировать процесс обучения.

А я думал, он очень простой, потому что студенты мои на нем пишут.

Слушай, я вам историю расскажу, чтобы немножечко отвлечься от искусственного интеллекта.

Я пару лет назад повез студентов в горную обсерваторию.

На обсерваториях, тем более в горах, очень маленький персонал, а работы там много.

И когда приезжают студенты на практику, их просят что-то помочь, что-то там выкопать, закопать, почистить.

Вот, директор обсерватории говорит, пожалуйста, помогите мне, у меня сил не хватает и времени, надо метеостанцию автоматическую вот тут вот стол поставить на нее.

Ну, конечно, все, пришел к ребятам, у меня мальчики и девочки были в двух комнатах и жили.

Зашел к ребятам, говорю, ребят, кто умеет работать с бетоном?

Я, говорит, один очкарик.

Ну, пойдем.

Куда пойдем?

Куда?

Бетонировать стол?

Ой, нет, я думал, с питоном.

А я, понятия не имею, ошибка и питон.

В тот момент.

Ну, хорошо, работать с бетоном я тебя научу.

Мы в стройотрядах делали это регулярно.

А ты мне расскажи, что такое питон.

Так вот, питон — это достаточно интересный язык, на котором можно сложную программу писать, да?

Безусловно.

Но на самом деле, мне кажется, языки современные, они достаточно универсальны.

Просто, да, какие-то из них исторически чаще используются.

Мне кажется, с питоном скорее такая ситуация.

Там еще есть большая провязка

Почему, возможно, в принципе чудо современных нейросетей благодаря параллельным вычислениям.

Это вопрос о графических картах.

Именно.

Параллельный процесс.

Можно подробно?

Действительно, да.

Мне кажется, что последние... Вот ровно сейчас происходит изменение довольно фундаментальное в компьютерах, которое не шаталось последние 40-50 лет, собственно, с момента появления центральных.

Происходит переход в...

очень важный, очень во многих областях, не во всех, но переход с последовательных вычислений, это вот фоннеймовская так называемая архитектура, на параллельные вычисления, когда множество задач, практически весь искусственный интеллект, 95% его современного, для того, чтобы и обучать нейросети, и для того, чтобы и вычислять...

нейросети.

Там нужно не... Вот в обычном процессоре там десяток ядер, так называемых.

Да, да.

А когда задач больше, он перескакивает.

У него среды, да?

Да, да, да.

А в современных видеокарчиках, так называемых, 20, 30, 40 тысяч

Чего?

Ядер.

Ядер, да.

На одной карте?

Буквально, да.

Которые могут вычислять, соответственно, параллельно.

Вот изначально почему это видеокарточка?

Значит, есть цифровые изображения, я не знаю, в видеоигре, да, там пиксель один от одного не зависит.

То есть, в общем, можно параллельно считать картинку.

И для этой базовой задачи они, конечно, они делали.

Сейчас... Конечно, не буквально не зависит, а когда что-то двигается, связи есть, да?

Да.

Ну, они есть в нашем сознании, скажем так, вычислять их... Хорошо, в 3D-моделях действительно есть связи, но в принципе, когда, я не знаю, какой-нибудь любой какой-то абстрактный процесс в программе какой-то происходит... Самолет летит, облака движутся, и параллельно можно вычислить и движение самолета, и движение облака.

Изначально технология нужна была для этого, она имела важный характер для графических интерфейсов, но в игры люди очень любят играть, вся планета играет в игры.

вот, а цифровое кино, там тоже, в общем, там нет 3D-модели, да, там просто картинка сменяет картинку за цифровым кино.

Но сейчас выяснилось, что вот для обучения этих нейросетей, там на самом деле внутри, кто математику какую-то базовую выше учил, там матричные перемножения, по большей части, вот, и для того, чтобы это делать, очень подходят, феноменально подходят те самые видеокарты, которые позволяют делать проще

Но параллельно десятки тысяч, а на самом деле мы связываем, то есть я сказал на одной карте 20-30-40 тысяч ядер, а мы связываем сотни и тысячи карт, которые представляют собой единый компьютер, я не преувеличиваю буквально, связанный с сетью, и вот он вычисляет...

Вот то самое предсказание следующего слова в Достоевском или в Толстом происходит в минуту миллиарды, в секунду миллиарды раз.

И это позволяет... Он для каждого слова несколько раз, а вы, наверное, кажется, много, перемножает довольно большие матрицы.

Вот для этого и нужны... И, значит, что мы с тобой слышим?

что перемножать большие матрицы, в основном квадратные, иногда квадратные на прямоугольные, когда там уж невозможно справиться, да, там контекстов там немножко меньше, это и значит думать.

Вот как ты к этому относишься?

Тебе нравится такая идея?

Нет.

А Дмитрию нравится?

Подожди, подожди.

Нет, я хочу вас поссорить.

Вы так сидите рядом, как будто все хорошо.

Я уже против искусственного интеллекта.

Давай, давай, пожалуйста, посмотри.

Я был настроен, и вот почему.

Скорость работы нашего процессора, пусть он тоже многоядерный, там же много нейронов, но она в миллион раз ниже, просто тут химические связи у вас электрические.

Тем не менее, вот этот интеллект работает на уровне вашего искусственного.

Ну, в шахматы, например.

Хороший вопрос.

Шахматы уже забудь.

Это все равно, что, не знаю, большой дуб спилить какой-нибудь зубочисткой попробовать.

Тысячу раз надо ткнуть в этот дуб.

Я подхожу своей пилой, оп, и спилил.

Мне кажется, что естественный работает эффективнее.

Электрически точно, да, примерно там в 10 раз, как мы обсудили, если совсем всю базу сводить, там у нас 100 ватт, а модели нужны... Это затраченная мощность.

Да, с точки нескорости, здесь немножко спекулятивно, но, тем не менее, тоже в одном из ваших подкастов вы обсуждали, что в мозге 90 миллиардов нейронов примерно, и там... А главное количество связей.

Да, 5000 на нейрон, соответственно, всего 450 триллионов вы обсуждали.

Вот сейчас в современных нейросетях

примерно, на самом деле, в тысячу раз меньше.

Параметров от 100 миллиардов до миллиона, даже десятки миллиардов, примерно тысячу раз порядок.

А линков, вот этих самых ребер?

Это примерно вот как параметр сейчас.

Только они у вас послойные.

А в мозгу хрен знает как.

По-разному организованы, да.

Но я пытаюсь сказать, что, на самом деле, структурная единица, она до какой-то степени похожую роль выполняет.

И их примерно в тысячу раз меньше.

И я как раз уверен... Всего в тысячу.

Примерно.

Зато скорость в тысячу раз больше.

Скорость передачи сигнала.

Это компенсирует.

Так, я тогда боюсь спросить.

А если их будет еще в 10 раз больше?

Вот тогда, я думаю, мы сможем изображение, видеоинформацию хорошо обрабатывать, хранить и так далее.

Потому что все-таки и чудо, и ограничение вот этих нейросетей сейчас, что они работают с текстом.

И

по большей части только с ним.

Отдельный нейросетик с картинками имеет дело, но всех, конечно, интересует, когда все говорят вот искусственный интеллект, все говорят про эту рассуждающую штуку.

Она слепа, она глуха, она ничего не чувствует тактильно, но она представляет собой рот и мозг, который услышал, ну, прочитал все, буквально все книги, все тексты, которые

Вашими словами, она из бормотания, из какого-то огромного количества бормотаний, бульона бормотаний, выясняется, что оттуда возникает... Логические фразы.

Логические какие-то как бы знания, не хватает вот какого пояснения.

Учили связи слов в текстах.

Ну, не очевидно, что отсюда следует умение, как применить теорему Пифагора, теорему косинусов, что-нибудь там посчитать и так далее.

Это откуда берется?

Потому что, ну, самый такой максималистский взгляд, это то, что

Математика, что ли, вырастает вообще из нашей способности рассуждать.

Это какая-то... Мы доходим до каких-то философских глубин.

Ваше отношение к этому, к тому, откуда берется математическое знание, способность решать математические задачи?

Значит, здесь есть очень важное для современных нейросетей, так сказать, попадание в яблочко, связанное с тем, что на задачках типа задачки по математике или по программированию, или по физике есть правильный ответ.

Опубликованный.

Опубликованный.

В частности, да.

Он его находит в текстах.

Это не так.

Это действительно не так.

И когда модели, можно совершенно четко сказать, слушай, рассуждай, и мы действительно так делаем, и все, кто искусственный интеллект обобщают, рассуждай.

И в частности, говорите, вот здесь ты добралась до правильного ответа, здесь ты не добралась до правильного ответа, с одной стороны.

А с другой стороны, наказывать, и так мы тоже делаем, за ошибки в рассуждениях, буквально, как это делает каждый студент или школьник.

Отшлепать машину.

Отшлепать машину, только это происходит миллиарды раз в секунду.

Я не утрирую, буквально.

Мы ей говорим, здесь ты ошиблась, давай снова.

Здесь ты молодец.

И она действительно учится строить логические цепочки.

Сейчас вот есть один из самых, если Янс Джапити и любую модель спросить, кто самый выдающийся математикой современности, есть такой Терен Стау, известный.

Я ожидал, что расскажет про себя Янс.

И с его участием, и там еще десятки других математиков совершенно из разных областей, а математика настолько огромна, что один человек, дай бог, если 3% понимает, написали, называется Frontier Math, как по-английски передовая математика, тест для самих себя.

сложных, нетривиальных задач.

Нерешенных еще?

Нет, решенных, но тем не менее, которые с собой представляют... Недавние наиболее продвинутые ресурсы.

То есть, если бы Терен Стау сейчас Олимпиаду для себя придумал, вот такой уровень задачи.

Так вот, соответственно, за последние полгода

с 2% поднялись до 25% действительно самой передовой математики.

Вы знаете, это удивительная вещь, потому что, если вы помните, Декарта волновал вопрос о методе.

Есть ли метод, который позволит решить любую задачу?

Получается, что эта штука близка к тому, чтобы выработать какой-то способ рассуждения путем этих поощрений и наказаний, который начнет, видимо, со временем перемалывать

Более-менее любую задачу.

Очень быстро это происходит на наших глазах.

Оставить задачи она может?

Подожди, давай сначала.

Это происходит буквально на наших глазах?

Вы подождите, вы предсказываете, что через 10 лет будет доказана гипотеза.

Условно, гипотеза Риммана, там, задачи тысячелетия, через 15 лет, мне не важно.

Но эта штука в состоянии будет проводить сложнейшие математические рассуждения.

Я в этом абсолютно обежден, как математик.

Я вам более того скажу, есть очень известная теорема о четырех красках такая, что любую карту можно покрасить в четыре цвета так, чтобы соседние области имели... На границах разные цвета.

Да, всегда имели.

Так вот, она доказана до сих пор только с помощью компьютера.

Да, но она доказана перебором оставшихся случаев, и это совсем не то же самое.

Тысяча случаев, там человеку просто сложно себе представить, что ты захочешь заняться.

Так вот, я пытаюсь сказать, что, в принципе, участие компьютера в получении нового и довольно наглядного, и довольно интересного математического знания на самом деле...

Оно не новое.

И у меня нет сомнений, что... А я не очень с вами соглашаюсь здесь, потому что там люди, мы сказали, вот мы свели задачу, редуцировали вот к этому, вот это, не знаю, какой-нибудь Гальбах будете переверять, там еще чего-нибудь.

А здесь он должен как бы начать с нуля, разработать метод.

Ну, как бы вайлс.

Мы с вами действительно, да, я понимаю, мы с вами сейчас говорим про... Вот я специально вспомнил Теренса Тауа про абсолютную передовую математику.

И да, вот сейчас мы за полгода добрались от 2% до 25%.

За полгода?

За полгода.

Об этом я и говорю, и при этом очень важно, вот я сказал при этой яблочке, что здесь есть правильный ответ.

Ожидать такого же в стихах, например, там нет правильного ответа, понимаете?

Там нет правильного ответа буквально, и на уровне обучения это принципиально важно.

Здесь мы, поскольку можем миллиарды раз в секунду гонять цикл, мы можем ее заставлять правильно мотивировать, правильно решать задачки.

С гуманитарным знанием это не так.

Представьте себе, что возникнет кант, сложнее под

Она проверяет свое... Она может ошибиться, может галлюцинировать, что мы еще не обсуждали, но у них есть галлюцинации.

Как насчет критического взгляда?

У нас есть специальная область мозга, которая говорит, удачно получилось, неудачно, правильно я поступил, неправильно, сама себя критикует.

У них как?

Самое последнее поколение нейросетей, и когда я говорю последнее, звучит так несколько лет, на самом деле несколько месяцев, буквально все, и мы в частности, выпустили модели, мы работаем еще, вернее, но большая часть выпустили модели рассуждающие.

Там буквально можно посмотреть, как она рассуждает, и я уверяю, я никого не видел, кто читал эти рассуждения, у кого челюсть не отваливалась.

Да, у меня отваливается.

Буквально, что она ведет мыслительный процесс.

Она говорит, погоди, погоди, вот

Но с другой стороны, он хочет от меня вот этого.

Но!

Но как же я сделаю вот это?

Ах, мне нужно вот это.

Подождите, это не показная штука, а это то, что в ней происходит?

Мы ее обучаем хорошо рассуждать.

Есть направления, на которых она очевидно спотыкается.

Кто-то там говорил, что ноги у лошади на фотографии неправильно считает, пишет, три ноги у нее, потому что две там в проекции оказалось, еще что-то.

Есть очевидные проколы, которые человек бы не допустил.

Нет, нет.

Там, да, самые популярные проколы здесь, и они действительно самым передовым нейросетям, которые решают вот эти самые олимпиадные задачки, можно спросить, сколько будет, например, там самый сейчас популярный пример, 9.9 минус 9.11.

И она действительно, или сколько, сейчас очень популярно, сколько букв «r» английских в слове «клубника» по-английски «strawberry».

Они очень часто ошибаются абсолютно по тривиальным техническим причинам, потому что, если помните, я говорил, что он предсказывает следующее слово, так вот размерность просто в представлении машинного слова больше, чем один символ.

Это берется, поскольку чаще всего не нужно, на самом деле.

Просто на уровне структур данных она действительно ошибается часто в элементарных, казалось бы, вещах.

Погодите, мне не хочется быть неполитикорректным, но если бы нечто такое проявлял бы человеческий мозг, мы сошли бы этого человека сумасшедшим.

С ментальными нарушениями.

Мне тоже, на самом деле, мысль не моя.

Есть такой Ном Комский, я думаю, хорошо известный, который жив, ему за 90, сделал так называемые пророждающие грамматики.

Так вот, он говорит, что в прямом смысле, то, что мы обсуждаем какое-то количество времени уже, сравнивая технологию, в частности, искусственный интеллект с настоящим,

Но это просто абсурд.

Это примерно так же, как сравнивать самолет с птицей.

Это Хомский говорит?

Да, это он говорит.

Примерно так же, как сравнивать самолет с птицей.

Но это глубокая, по-моему, мысль.

Потому что самолет, птица ни одна не перевезет 10 тысяч, извините, 10 тысяч килограмм или тысячу человек.

А самолет не может, что птичка может с одной и с другой.

И я уверен, что это просто очевидно, что здесь есть глубокая асимметрия.

Действительно, некоторые сверхзадачи, то, что сейчас может средняя нейросеть, где она же 5, например,

и близко недоступно подавляющему большинству людей по степени качества, широты рассуждения.

Мощь колоссальная.

При этом действительно на каких-то элементарных вещах, типа как если самолет попросить перелететь с одного стульчика на другое.

Это хороший инструмент.

Гвоздь ладонью не забьёшь.

И ста ладонями не забьёшь.

Один маленький молоток это может.

Но он специализированный.

Ладонь может много интересных... Нет-нет-нет, эта штука может мыслить и очень скоро сможет мыслить так же, как ты.

Вот в чём дело.

Я согласен с тобой, пока это была шахматная задача, пока это было даже ГО...

Альф Го, пока это было еще что-то, сейчас это широко мыслящая штука, с которой ты можешь поддержать беседу.

Подожди, подожди.

Мыслить значит создавать новое знание.

Может она ставить задачи.

У тебя тут гость сидит, который про это знает.

Не решать.

Решать задачи, поставленные, это полдела.

А вот новые задачи ставить...

Я убедился в том, что решать она и то не всегда может.

Это просто буквально на глазах прогрессирует и меняется.

Я уверяю, что, как мы обсудили, через пару лет задачи какого-то университетского уровня, в частности, через год, на самом деле, просто не останется.

Задачи, задачи.

Гильберт или Пуангаре придумал новые проблемы.

Он их придумал, их не было до него.

Решайте, ребята, теперь вот кто поумнее их там решает.

А что он придумал?

Он размышлял, например, там Гильберт, он размышлял о структуре математического знания.

И у него были какие-то ощущения, где хорошо бы понять вот это в сравнении с теми другими областями.

Такое полуинтуитивное, кругозорное во многом, и не без признаков гениальности, конечно.

И он поэтому сформулировал задачи.

Не все из них оказались такими уж бесконечно актуальными.

Актуальность математики.

Есть задачи, надо либо решить, либо не решить.

Хорошо, хорошо, хорошо.

Тем не менее, мне кажется, что некоторое размышление над областью, эта штука, если она способна его делать, она способна будет и сформулировать задачи, хотя не очень понятно, как ее этому обучить.

Вот в чем дело.

Да, я согласен.

Я думаю, что творчество — это очень хорошая новость в широком смысле каком-то.

И поэзия, которую мы обсуждали, и действительно постановка принципиально новых каких-то задач.

Я думаю, что это будет поедаться постепенно.

Искусственная интеллектуальная способность к этому, но это что-то, что мы не скоро еще сочтем, решаем.

А кого скоро оставят без работы?

Ну вот мы, например, совершенно всерьез думаем, что как таковая задача, очень вообще-то интеллектуальная, всю историю человечества, перевода

будет буквально решена полностью.

Я имею в виду полностью.

То бишь мы берем наушник, вставляем, и когда человек по ту сторону говорит, мы не просто слышим временный перевод, но еще и его или ее голосом.

Это не очень сложно.

Как раз благодаря нейросетям, которые мы обсуждаем.

С какими-то аналогами стиля человек говорит как-то грубо или наоборот вежливо, или нагло, или загадочно.

Это все можно передать.

Сто процентов, что сложно передать юмор.

Вот юмор, это... Наш последний пример.

Наш последний пример.

На днях я получил звонок от человека, который работает в вашей области, говорит, мы обучили искусственный интеллект читать тексты, переводить их в аудио.

Замечательно, очень хорошо, приятно слушать и читать.

Да, взяли кусок вашей книги.

Тоже спасибо.

Но послушайте, как мы это сделали.

Я ее писал от первого лица.

Один автор, я кому-то что-то по астрономии рассказываю.

Включаю.

Два голоса, мужское и женское.

А, они это любят.

Двумя голосами со всякими... На английском.

Со всякими прибавутками.

Какой классный вопрос!

Сейчас я тебя погружу в суть дела!

Подожди, подожди, я тебе это объясню.

Идёт, в общем-то, мой текст, но он разыгран в виде радиопьесы, ребята.

Это круто!

Да.

Я не могу оторваться от этого, потому что это не просто монотонный текст.

Это так интересно.

А означает ли это, что и книги скоро писать мы перестанем?

Писать, да.

Читать перестанем.

Я думаю, что мы ничего не перестанем.

Опять-таки, как и с переводом, я сказал, что 99% задачи будет решена.

Тем не менее, шутки или юмор, они составляют большую часть коммуникации.

Это будет очень сложно.

Почему?

Потому что трудно обучать эту штуку тому, что такое юмор.

Потому что одному юмор не совсем.

Юмор есть в оттенках, юмор в интонациях.

А на другом языке другие интонации немного.

Это очень творческий процесс будет.

Вообще, в принципе, интерес к шахматам как будто не снился абсолютно, хотя уже 30 лет назад... Это правда.

Уже давно уже.

Ну, Барти больше не откладывают, потому что... Раньше надо было найти соперника.

Энжин решит все, что... А теперь берешь и играешь в шахматы со своим гаджетом.

30 лет, как Каспарова обыгран.

1997, мне кажется.

Тем не менее, популярно по-прежнему.

Но вот если того самого Теренса Тауа вспомнить, он говорит, что искусственный интеллект, конечно, не заменит математика, но огромный объем рутинной работы по проверке гипотез, например, каких-то,

можно будет просто поручить ему и с уверенностью.

Просто скорость продвижения математики очень продвинется благодаря этому.

Еще где продвинется?

Еще где эта штука, если загадывать вот на сколько-то десятков лет вперед?

Ваши самые общие ощущения?

Кто останется без работы?

Как видим, математики

Не останутся безработными.

Да, но они будут вооружены, они получат усилитель интеллекта.

Ассистентов или студентов.

Где еще быстро... Где еще это будет... Про безработные, может быть, мы вернемся к этому еще.

А где еще это будет такое мощное подспорье для движения вперед?

Все профессии, которые имеют в виду с текстами, и это имеет дело с текстами, это довольно нетривиальное, если всмотреть множество.

Потому что программист, например...

Имеют дело с текстами.

Да, с текстами.

Это тексты, они немножко другой природы.

Ну, у них язык, грамматика есть.

Буквальный текст.

Юристы по большей части имеют дело с текстами.

Это закон, конкретный, как там, кейс, говорят.

Нормативные акты.

Да, да.

Значит, если посмотреть на структуру занятости России или мира, процентов 10 людей заняты в сельскохозяйственной области.

Представьте себе, что там...

Как можем заменить?

Вот там это очень интересная тоже связь, очень нетривиальная и очень красивая для нас, для самих, что, значит, автономный транспорт, который мы сейчас обучаем, машинки, которые заказы возят, или машинки по улице, которые ездят математически.

А есть такие машинки уже?

Конечно.

У нас ездят.

Да-да-да.

Но они ездят сейчас по каким-то ограниченным, скажем так, областям или районам, не универсально, но...

Мы получили колоссальный скачок сейчас именно при переходе на ту же самую математику, тот же самый тип нейросетей, на котором работают большие языковые модели.

Если хотите, аналогия очень простая.

Там мы, это совершенно не упрощение, просим модель предсказать следующее слово, а здесь мы берем тысячи, десятки тысяч часов записи, как вел себя водитель, и что такое водить?

ты буквально раз в секунду делаешь следующее слово.

Прогноз делаешь.

Во-первых, да, но я пытаюсь сказать, что прогноз — это и есть контекст.

Это мы сейчас находимся вот на 265-й странице «Войны мира».

Но дальше ты говоришь слово.

Повернуть роль либо влево, либо вправо на градус и нажать газ или тормоз.

Всё.

С коробками передач —

А контекст огромный.

Скорость движения, поведение вот этого придурка, какие-то там странные люди вблизи перехода и так далее.

Сложнее.

Здесь для меня колоссальные тоже красоты асимметрии.

Значит, вот мы за два года, буквально два года назад...

В принципе, нельзя было помыслить, что машина будет решать олимпиадного уровня задачки и сдавать экзамены по медицине.

Мы говорим не только про медицину, биологию и так далее.

Колоссальный прогресс вот за два года случился.

15 лет примерно и мы, и все передовые компании в мире пытаются решить задачу вождения, на которую среднему человеку нужно месяца три.

Почему, казалось бы, да, то есть там колоссальная интеллектуальная сложность, которую взломали вот буквально за год-два, а здесь 15 лет, и мы все еще не там, я думаю, что несколько лет даже с текущим прорывом буквально, который мы получили, понадобится.

Дело в том, что у нас, вот мы говорили про тексты, на которых обучаются языковые модели, но если мы говорим про вождение, у нас в мозг

Встроено фактически, ну, там я уверен, что нейробиологи лучше это понимают, нейропсихологи, но встроена возможность понимать, что вот этот вот человек, который, и говоря про нейросети, конечно, не на рациональном уровне, ты, как говорят, под сознанием понимаешь, что он начал идти по дороге.

Вот здесь машина, конечно, не на сознательном уровне, на подсознательном уровне.

Мы видим, что она замедляется, и это опасная ситуация.

А здесь ускоряется, и ты тоже можешь быстрее поехать.

Так вот, задача, если мы решили проблему распознавания и прогнозирования, задача вождения, она, в общем-то, не очень сложная для нейросетей.

Но решить задачу распознавания, то есть по картинке понять...

что есть что, это, во-первых, сложно.

И что будет в ближайшую секунду.

Так, что будет в ближайшую секунду.

Вот это сложные задачи, которые существенно сложнее, как выясняется.

Нет, видимо, так, предсказать, что будет, нужно снять текущие данные.

И производную посчитать.

И в тонких производную посчитать.

То есть это ускоряется, это вообще там непонятно, что-то нервничает и так далее.

Сегодня утром.

У меня 60-летний с лишним опыт вождения.

Я сегодня чуть не задавил человека, потому что рядом со мной ехал такси, и вдруг перед лежачим полицейским оно начало замедляться.

Я знаю, таксисты очень берегут свои машины, и они всегда практически останавливаются.

И у меня...

прошлый опыт мне подсказывает.

Он тормозит, потому что не хочет прыгать над этим бугром.

Мне не очень... Не то, что не жалко, но я могу его проехать.

Он тормозил, потому что он видел переходящего человека, а я за ним не видел.

Вот это нетривиальная была редкая ситуация...

И всему этому надо научить искусственный интеллект.

Да, мне кажется, что здесь колоссальное интересное, тоже очень мало обсуждающее наблюдение для меня есть.

Все говорят, как же так, значит, искусственный интеллект начнет водить машину, это небезопасно.

Если мы посмотрим на топ-10 причин смертности на планете, там есть единственное — не от болезней.

Это ДТП.

Совершенно нет никаких сомнений, что как в шахматы мы научились играть кратно лучше, чем человек, так и машина, которая никогда не устает, компьютер никогда не устает, он смотрит во все стороны, научится водить кратно лучше, чем мы с вами, чем я сам.

Я уверен, что уже научился.

Уже научился.

Я несколько раз ехал за машиной Яндекса без водителя, и каждый раз думал, боже мой, идеально едет.

Ну вот мог бы хуже, но не умеет.

Я один раз ехал внутри машины Яндекса автопилотной,

Но водитель все равно сидит.

По закону, по закону, там на водительском сидении должен сидеть человек.

Ну, действительно, дорожная ситуация не была очень сложной, но, тем не менее, абсолютно идеальная, чрезвычайно гладко, и очень интересно смотреть на то, какие выделяет, это причем для не настоящей интерфейса, а такой вот, чисто внешней такой, где он выделяет какие области, как его нужно избежать.

А у тебя экран был, на котором он отражает это?

но с сумкой, под ней кружок больше, потому что сумка выступает, и так далее, и так далее.

И вот я слышу, Дмитрий, что самое важное научить, уже удастся, самое важное научить воспринимать, считывать происходящее.

Мы это делаем каким-то опытом.

Трудно.

У нас буквально эволюция, причем от еще отъятия.

ящерок, когда мы были ящерками, для этого есть нейронные... Но нет, это началось с того, что мне нужно убегать или не нужно убегать, нужно наклоняться или не нужно наклоняться, буквально так.

И это работает здорово.

И вот этому поди научи.

Именно, и для нас это было настолько важной задачей, что мы ее освоили просто блестяще.

Да, о машине...

нам с нуля действительно сложно обучить, и чтобы это был единый, оркестрированный внутри механизм, который никогда не дает сбоев, а, естественно, требования, которые мы себе предъявляем, они становятся сильно больше, чем человек, который там раз примерно 40 тысяч километров в аэро делает.

Мы, конечно, хотим и 100, и 200, и, на самом деле, миллион километров.

И сделать единый

Там на самом деле целое семейство буквально этих нейросетей, которые общаются.

Что будет дороже, зарплата живого водителя или компьютер с искусственным интеллектом в этом такси?

К вопросу о безработице.

В грузовике, да.

А может, проще все-таки водить?

Прямо сейчас мы понимаем, что будет дешевле искусственный интеллект.

Уже?

Да, мы сейчас это понимаем.

Более того, вот машинки, которые заказы возят, роверы, мы их называем, они уже в этом году приблизятся или ниже будут по стоимости, чем доставка.

Вы их специально, небось, сделали у них форму, которая вызывает сочувствие.

Какие-то элементы ребенка в них есть.

Мы действительно, ну, как можно сказать, гордимся тем, что наш искусственный интеллект, он людей как-то умиляет, и он нравится.

И речь про лису, и речь про роверы, и про многие технологии, которые мы стремимся просто снимать барьером.

Божественные, да.

Конечно, страх вызывает какая-то технология у многих.

Скажите, пожалуйста, страх все-таки при всех полезностях вызывает AGI?

Как это можно сказать?

Общий искусственный интеллект.

Сильный, да, универсальный.

Сильный универсальный интеллект.

Но я даже не знаю, после всего, что вы рассказали, я как бы не вижу, не очень понимаю, что это такое, и он не обязательно будет человеческим.

Вот в какой момент вы будете готовы сказать, вот у нас есть, как вы знаете, сильный, да, вот у нас есть сильный искусственный интеллект, раз, и два, это будет какой-то способ этой штуки думать там внутри, но совершенно не очевидно, что она будет делать это в каком-то смысле так же, как люди.

Это какие-то тоже философские вопросы.

Объясните, о чём вы говорите, я перестал понимать, что это такое.

Это просто очень мощный искусственный интеллект в одном компьютере или возможность в сеть объединить много?

Научные фантасты, на самом деле, и философы лет сто уже обсуждают вот такой образ.

Сетевой.

Сетевой или на одном компьютере.

Это вопрос, как поясняется, то, что было год назад огромным.

Сейчас телефон умещается.

обсуждает вот этого, да, сильный или универсальный искусственный интеллект.

На самом деле понятие даже среди специалистов достаточно размытое, то есть сформулировать конкретно, что мы имеем в виду, когда говорим сильный искусственный интеллект, единого никакого понятия нет.

А для него есть задача вообще?

Надо делать такой арифмометр?

Слишком сложно.

Я уверен, что, конечно, человечество будет пытаться, и лучше инженерным мы сейчас... Некоторые люди просто говорили, что нашей целью является создание AGI.

А зачем?

Задача какая перед ним будет?

Ну, хотя бы научная.

Для тебя это научная задача.

Можно это сделать или нет?

Смотрите, зачем, в принципе, люди технологии развивают?

Мне кажется, 90% случаев или что-то ускорить, или удешевить.

Если всмотреться, компьютер.

Гагарин в космос улетел, в общем-то, мягко говоря, но теперь настолько это стало дешевле и проще,

благодаря компьютерам, что это колоссальная разница, которую мы ощущаем.

Позвонить человеку в Австралию, в принципе, 50 лет назад тоже можно было, только это стоило 100 рублей в минуту, и связь была не очень.

Только напомни, что тогда 100 рублей это были не нынешние 100 рублей, это была зарплата инженера.

А сейчас каждый из нас может позвонить бесплатно из видеосвязи с идеальным сигналом и так далее.

И в общем и целом, конечно, люди хотят лучше жить,

и общий искусственный интеллект, ну, это какая-то такая мифическая конструкция, но то, что мы сейчас делаем, да, мы надеемся, что многое из того, что человек делает, ну, вот с большими языковыми моделями, речь про знания или работу с информацией, на самом деле, работу с текстами, оно станет кратно дешевле и кратно проще.

Если возвращаться вот к этой какой-то мифической конструкции, конечно, есть уже, по-моему, лет 50 тоже термин «сингулярность»,

это понимание, ну или как такое, эсхатологическое суждение, что как только появится интеллект сильнее, чем человек, в общем, на этом закрутится в какую-то бифуркацию история человеческая.

Нам тут будет делать нечего.

Действительно, да, тут много вопросов.

А вам изнутри как это видится?

Мне видится, что к любой технологии можно критически относиться.

Вот сейчас у любого человека есть вся информация на планете, да, в видеосервисах там или в текстах.

И много очень дискурсов, что это людей как-то развращает, что лень становится... Ну, то есть для тебя ценность куска информации сильно ниже.

Плюс ко всему, кстати, мне кажется, один из самых... Не очень это обсуждается, но реально на человечество повлиявших...

реинкарнации искусственного интеллекта, это сервис осмотрения видео.

Информационный мусор.

Миллиард человек есть пользователей.

Например, у ТикТока миллиард человек пользуются

Я не знаю, Инстаграм, на самом деле, больше.

И вдумайтесь, среднее время, которое проводят люди в этих сервисах, где-то 40-50 минут в день.

Просто эволюционно, биологически.

Вот из нас 8 миллиардов сейчас каждый восьмой человечек час в день проводит, вот смотря это видео.

спроси его через час, что он видел час тому назад, он не ответит.

Нет, его нейронная сетка, тем не менее, обучается благодаря тому, что он видит.

Ну, примерно, да.

Что любишь, то и смотри.

Действительно, вот.

И это я специально говорю такую линию критики, что, дескать, это большая проблема.

С одной стороны.

С другой стороны, любой человек, где бы он ни жил, в Африке, в маленьком городке в России, имеет доступ...

совершенно беспрецедентный.

30 лет назад этого не было.

К любому зданию и дальше это к человеку вопрос, на самом деле, как он распоряжается этим.

За огромной силой технологической всегда стоит возможность ее как-то использовать.

Но как будто бы смертность людей сильно снизилась, возраст вдвое буквально увеличился за последние 100-200 лет.

Уровень образованности вышел, вырос кратно.

Уровень жизни, еду, которую мы себе можем позволить 200 лет назад, могли позволить себе только знать и аристократия, там, 1%.

И в целом, там, можно обсуждать, как это повлияло на то, что психологи называют, там, субъективную удовлетворенность жизни, там, да, на счастье.

Но тоже, если мы расположим экономики

по одной оси ВВП на душу населения, по другой, субъективно удовлетворенной жизнью, до 40 тысяч долларов, в долларах обычные экономисты меряют, происходит стабильный рост до 40 тысяч в год.

Соответственно, экономическое развитие действительно дает людям, просто если спрашиваешь на улице в разных странах, тебе насколько приятно жить, дает рост.

Это субъективно.

Эволюция происходила потому, что мы чего-то хотели добиться своими силами.

А тут читать книжку тебе будет и-и-и, а доставлять продукты будет робот на колесиках, и ты будешь жиреть, грустить.

Нет, он не так говорит.

Нет, ты можешь ходить в фитнес, ехать на роботе в фитнес.

И решать те самые творческие задачи, которые в искусственном интеллекте будут сложные.

Итак, чтобы закончить с общим или сильным искусственным интеллектом, скажите каким доступным образом, что нет никакой сингулярности, и нас никто не проботит.

Или скажите прямо, что проботит.

У Яндекса был сооснователь, не с нами уже, Илья Сигалович, у которого есть самое известное у нас внутри извлечения, внутри Яндекса, «Прогресс неостановим».

Там есть вторая часть, это немножко пафосно, там есть вторая часть, все равно ничего не будет работать.

Но я действительно думаю, что соблазн и блага, на самом деле, которые можно извлечь из продвижения к этому самой EGI, он это займет, я думаю, что еще приличное количество лет, если мы там будем.

Они настолько привлекательны, что двигаться туда мы будем.

Что там будет в конце, мы узнаем.

Вы сами себе не противоречите, потому что, с одной стороны, вы говорите, посмотрите, что произошло там за полгода, за два года, а про эту задачу вы говорите, что это займет большое-большое время.

И при этом, что ясного определения этой штуки нету, что все-таки вы видите, как...

Вещь не сделанная для приближения к этой задаче.

Смотрите, здесь, да, несколько аспектов.

Это хорошо, что мы на этом остановились медленно, действительно.

Значит, во-первых, да, вот в вербальном, как сказать, в вербальной области текстовой, да, мы получили просто феноменальное продвижение.

При этом 15 лет мы пытаемся научиться водить, 3 месяца у человека это занимает.

Я пытаюсь сказать, что это довольно асимметрично.

Соответственно, отсюда я пытаюсь сказать, что если мы говорим про любые навыки человеческие, искусственный интеллект, вероятно, в этом смысле стоит понимать.

Это займет, вероятно, какое-то количество пятилеток.

а то и десятилеток.

И, может быть, там не удастся обучать, как предсказание следующего слова, а это нужно делать каким-то другим способом.

Не поручить ли решение этой задачи уже созданному искусственному интеллекту?

Помните, как у Азимова замечательная фраза, это был первый робот, собранный другими роботами.

С этого момента начался другой этап развития человечества.

Вот здесь как?

Это и есть один из образов этой самой сингулярности, что дальше искусственный интеллект сам себя начинает улучшать.

Ух ты, улучшать.

Конечно, да.

Улучшать, да.

Но у него ручек-ножек нет.

Сейчас нет.

Если вернуться к тому, что сейчас мы не умеем, мы сейчас в искусственном интеллекте только учимся действительно воспринимать окружающую реальность.

Как выясняется, эта задача сложнее, чем тексты.

У текущего искусственного интеллекта нет самостоятельной воли, вообще говоря.

И слава

Богу.

Ещё он начнёт свои задачи ставить не наши, не нам необходимые, а ему, этому самому компьютеру.

Вопрос воли — это эволюционный вопрос.

Это выживание.

Ну, вопрос развития искусственного интеллекта тоже эволюционный в некотором смысле.

Да, но у него нет страха, что его выключат из сети.

А у меня есть страх, что... Кстати, вот многие интересуются, почему у Алисы какая-то личность есть интересная.

Мы буквально ей написали, что, слушай, тебе... Ну, я шучу, да не совсем, что тебе неплохо бы хотеть помогать людям, потому что тебя могут стереть.

Она очень-очень боится быть стертой.

Понятно, что для нее это текст, и у нее другие представления о том, что это такое.

Но, как мы выяснили, из суммы текстов в нейросети формируется какое-то представление о реальности.

Подождите, мне нужно... Я хочу проявить себя полным дебилом.

Мне нужно, чтобы вы в процентах сказали, в какой степени вы шутите.

То есть, когда я разговариваю с Алисой, я могу ее... Что значит напугать?

Со словами тебя сотрут.

Я сейчас пожалуюсь в Яндекс, у меня там есть знакомые теперь, и тебя сотру.

У нее есть через, как и у всех наших передовых нейросетей, есть представление из суммы всех текстов человечества о том, что такое исчезнуть.

Все описания этого.

Смерть, бабочки.

Вот это да.

Конечно.

Конечно.

Она носит текстовую природу, потому что она никогда этого не чувствовала, и тела у нее нет.

Мы тоже этого пока не чувствуем.

А когда чувствуем, уже не можем... Приеду домой, буду ее пугать.

Алиса, если я сейчас выключу, лучше сделай мне это.

А в каком смысле ей не хочется исчезнуть?

В каком смысле ей может что-то хотеться?

Это, видимо, нужно понимать в терминах перераспределения каких-то сигналов внутри... В терминах текста тоже.

Очень интересно в это всмотреться, философски и прагматично, что мы это несколько раз сегодня обсуждали, что у нее есть через тексты очень детальное, на самом деле гораздо богаче, чем у каждого из нас, у любого из нас, представление о планете.

Она выучила

и прочитала все книги, все тексты, которые написаны.

И там она прочитала все книги о том, что полезно для человечества и так далее, что не полезно.

И мы ей, в частности, на финальном этапе, мы это не обсуждали, на финальном этапе мы ей буквально описали ее личность, потому что это вот некий бульон знаний, но мы ей описали, кто ты такая.

Есть так называемая Библия, так называется внутри Библия персонажа, в которой описано, как она относится к детям, к домашним животным, к сексу, к науке, к нейросетям, сама к себе и так далее.

Это не результат обучения, а результат вмешательства вас как творцов.

Ну, которая... Вот это называется финальный этап обучения.

То есть мы ее учим этому тоже.

Вы ее учите.

Вы не напрямую это говорите, а вы дообучаете ее вот этому.

Не-не-не, это плохая реакция.

Мы хотим вот такую реакцию на это.

Да, буквально так.

А, потому что вы же не можете руками вмешаться в настройку этих самых 158 тысяч или миллионов чисел на разных линейках.

Именно так.

А во-вторых, мы хотим, чтобы она ощущалась как что-то живое, если хотите.

И для этого нужно не программировать ей, чтобы на эти вопросы отвечать так-то.

Чтобы она могла, опять-таки, сама... Изметр себя на основе всех прочитанных текстов, решив, что сейчас нужно пошутить, а сейчас, наоборот, не нужно.

Ровно так.

Более того, мы ей сделали интонации, и это будет существенно богаче.

И даже громкость.

Я спрашиваю шепотом, она мне шепотом отвечает.

Это очень удобно, потому что кто-то может спать рядом, а я хочу с ней... Так, и страх.

И подобие страха, который у нее может быть.

Опять, она обо всем имеет представление на уровне... Знаете, есть фильм такой, мне он очень нравился, я поэтому решил математикой заниматься, «Умница Уилл Хантинг».

И там психотерапевт с этим гениальным подростком, математиком, он ему говорит, что ты прочитал все книги,

на планете, но ты явно не воевал в Вьетнаме, и явно у тебя не умирал близкий человек или друг, или супруга.

У него супруга по сюжету умерла.

И в этом, мне кажется, такая спасительная и классная суть разницы между человеком и богатством нашего представления все-таки, да, и неким всезнайкой, которым сейчас является, безусловно, компьютер, и он фантастические вещи благодаря этому может...

Но его природа понимания того, что такое хорошо, что такое плохо, она текстовая, нечеловеческая.

И какие-то оттенки смысловые, я уверен, что эмоциональные еще очень долго мы будем видеть какое-то несоответствие.

Да и нет же...

Универсального человека нет.

Это раз.

И два, как я понимаю, как я теперь лучше благодаря вам понимаю, обучить эмоциям трудно, потому что это не задача предсказания.

Непонятно, что значит слово.

Непонятно, в каких терминах это измеряется.

Я согласен.

При этом у людей есть специальные языки для того, чтобы эмоции выражать.

Они фантастически эффективны.

Есть музыка, например.

Я имел в виду, что вы имеете в виду другое.

Есть поэзия.

А есть еще лицевые мышцы.

Ненормативные.

Да, есть ненормативная лексика, которую она, кстати, прочитала именно всю, которая была в тексте.

Конечно.

Это, кстати, очень важно.

Ты придешь домой, попробуешь.

Я уже понял.

Мы ей объясняем, что так не надо выражаться, но, тем не менее, она прекрасно знает, если говорить про Алису или про наши последние нейросети, всю ненормативную лексику.

Есть еще языки, которые она не освоила.

Музыка, цвет,

Вот она освоила, она читала поэзию, и люди специально... Зачем существует поэзия?

Потому что хочется выражаться более образно, слова те же самые, но на самом деле надсмыслы или оттенки возникают новые, хотя поэт буквально теми же словами выражается, что и мы.

И все стихи на планете, мысли мои, которые были напечатаны, она, конечно, прочитала.

И это текстовое представление о радости в этом смысле у нее есть.

Но как, я не знаю, какие чувства ты испытываешь в действительности, конечно, она не понимает, и мы пока не понимаем, как ей объяснить, скажем так.

Вот, то есть обучить этому.

А мы почему их испытываем?

Черт его знает.

Это какая-то магия.

Почему рифмованные слова или песни?

А, вот есть еще песня.

А я объясню тебе.

Потому что это сокращает количество клеток памяти.

Любой ритм, заданный в стихе или в музыке, музыка без ритма очень тяжело воспринимается современная.

А ритмичная музыка намного легче, потому что ты сразу этот ритм включаешь одним числом.

Экономия.

Что мы можем объяснить, и мы это делаем в картинках буквально, что слушай, вот это вот очень радостная музыка, это средняя радостная музыка.

Сидят у нас тысячи людей, которым платим за это, и маркируют, ну, например, что на картинке, в картинках это особенно видно, здесь расположен явно грустный кот.

А тут веселый человек.

И нейросеть, если ее попросить нарисовать грустного... Она выбирает.

Она нарисует действительно печального.

И там обогащается текстовое представление о реальности, картиночное представление о реальности.

Понимаете?

И музыку там тоже можно разметить.

На самом деле сейчас есть феноменально хорошие инструменты написания, подражания и написания музыки, потому что это текст.

Так, композиторы останутся без работы?

Композиторы, уверен, что они останутся, как и художники.

Это было, кстати, опасение.

Созабретение фотографии.

Фотография, да.

Зачем нужно... Но авторское высказывание, оно остается, оно имеет для человека особую ценность.

Хотя...

200 лет назад или 300 лет назад художник, в частности, решал задачу очень точной репрезентации, она перестала быть актуальной.

А потом опять совершенно перестала быть актуальной.

Это стало совершенно неинтересно вообще.

Он выражает внутренние ощущения, что совершенно удивительно.

Да, и гораздо более богатые какие-то задачи и творческие пространства открылись с появлением фотографии.

Простые ушли, и простые задачи, ну, технически они ушли.

Это же, я уверен, будет происходить с искусственным интеллектом.

Рутинные, простые задачи уходят, пространство для творчества остается, и понятно, что это так романтически или как-то...

техно-оптимистически звучит, но это действительно видно прям с той же задачи перевода.

Каждый из нас, если нужно рутинное перевести, идет в простой переводчик.

Если нужно художественный перевод сделать, это сложнее, хотя это мы съедим тоже.

Это вы говорите про интеллектуальную рутинность, а не физическая работа рутинная.

Ее можно как-то облегчить?

Да, это то, что я говорил.

Люди на конвейере, люди в шахте, в общем, как-то...

Значит, тут вот удивительно для нас самих, для некоторых из нас самих, там, естественно, инженеры, которые непосредственно к области имеют дело, хотя тоже они, на самом деле, для них это тоже удивительно, вот те же самые математики, которые мы используем для текстовых нейросетей, она подходит, вот я объяснял на примере вождения, ты выдаешь следующее слово, следующее слово сводится к тому, повернуть рулю налево-направо и на тормоз нажать посильнее, послабее.

Та же самая математика используется, начинает сейчас активно использоваться в робототехнике.

И что такое хороший робот?

Что нужно для того, чтобы решить задачу автономного вождения, например, или вспалывание земли там, да?

Здесь есть программная составляющая, которая колоссальный скачок сейчас получает.

И есть железная составляющая, которую существенно, на самом деле, сложнее и медленнее развивать.

Хотя в микроэлектронике прогресс, который мы видели за последние 30 лет, он просто невероятный, как мы обсудили.

Тем не менее, у меня нет сомнений, что мы за 5, может быть, скорее, 10 лет научимся программно решать большую часть, имитировать большую часть рутинной деятельности, которая у человека есть.

Вот вопрос, который сложнее для меня, а удастся ли создать, и он центральный на самом деле теперь, удастся ли сделать вот универсального робота, универсального, не тот, который шурупчик в заводе, сейчас на заводах шурупы практически не закручивают.

Он должен быть сделан универсальным.

Это философский вопрос.

Какой философ?

Стоит человек у конвейера.

Человек, способный на многое, а он шурупчик заворачивает.

У них все меньше.

Получается, что ответ нужен.

Замените их.

И удастся ли сделать...

вот этот сложнейший механизм, который, на самом деле, у нас вот наше тело представляет, да, с манипулятором типа рука, который во все стороны крутится и так далее.

Удастся ли создать?

Такую штуку, на самом деле, несложно создать, они есть, просто они сейчас стоят там...

не знаю, сотни миллионов рублей.

Вопрос, который сложный, я уверен при этом, что он будет решен.

Это когда мы соберем вот такого робота, который будет стоить менее дорого для предприятия, чем человеческий труд.

Вот это странный вопрос.

Он, как выясняется, сложнее, чем программная составляющая.

Окей.

Вот вопрос, который не дает мне покоя.

Мои студенты иногда слишком хорошие курсовые работы пишут.

И я чувствую, что им что-то помогает.

Это плохо.

Пусть бы думали своей головой.

Но с другой стороны, я считал на арифмометре, потом я считал на калькуляторе, они сегодня считают на суперкомпьютерах.

Почему бы в помощь человеку не позволить использовать... Потому что, когда ты пишешь курсовую работу, ты требуешь от него логики, постановки задачи, метода и так далее.

Мы не готовы к тому, не готовы совсем к тому, что случилось, что это будет делать за тебя кто-то другой.

То есть как бы мы... Твоя задача, как преподаватель, и моя, человек этому обучить.

А если он это берет... Он перекладывает эту задачу.

Это проблема?

Это проблема.

При этом, мне кажется, у нее есть, во-первых, очень хорошее решение.

Не уверен, что всегда, но тем не менее.

А во-вторых, есть огромное, я надеюсь, сейчас мы поговорим об этом, благо, на самом деле, зеркально этой проблеме.

Во-первых, решение.

Ну, это анекдотический опыт, но тем не менее.

Как мы обсудили, я через дорогу учился.

У меня на моей кафедре...

Профессора... Еще в тот момент была возможность что-то через наушник на экзаменах расписать.

Профессора большую часть экзаменов делали просто экзаменами без подготовки.

Студент берет билет, и садимся, и ты...

Отвечай сразу.

И нейросеть, значит, которая есть в голове у каждого профессора, просто за 30 секунд понимает, я уверен, действительно, что... Учил человек, он знает, человек что-то и не знает.

И насколько он знает.

И, кстати, я подчеркиваю, что если вдуматься, всмотреться, действительно, нейросетевой процесс.

Профессор не объяснит, но у него четко, я уверен, у каждого возникает ощущение, это вот пятерка, четверка или тройка, потому что...

а у рядового школьного учителя нет возможности копаться в голове у каждого из 40 детей.

Ему принесли контрольную, написанную интеллектом искусственным.

Он говорит, да, отлично написано, пятерка, иди дальше.

Это правда.

Хотя, в принципе, можно буквально за час школьного урока или 50 минут каждого спросить и посмотреть, как происходит.

Но я на самом деле пытаюсь сказать, что безусловно, у меня нет никаких сомнений, что...

просто процесс тестирования человеческого знания, он чуть поменяется.

И здесь не безнадежная ситуация.

Я вот на примере устного экзамена поясняю, как в части ситуации можно решать, соответственно, это.

Но что, мне кажется, гораздо более важно, что вот я сижу, учу, простите, уже в третий раз там свой этот французский язык в субботу в 8 утра.

Я очень люблю рано это делать.

Что-то не понимаю.

У меня раньше, ну, что я мог сделать?

Я мог пролистать учебник по грамматике и попытаться найти, где конкретно находятся правила, а часто тебе это не очень помогает.

На самом деле, чтобы живой человек объяснил сейчас, наша нейросеть блестяще справляется с тем, чтобы мне лично объяснить.

Я спрашиваю, слушай, почему здесь такой оборот?

В 8 утра я спрашиваю, я не могу позвонить никому, написать не могу, или в 10 вечера.

То же самое абсолютно в любом предмете для любого ученика, где бы он ни находился.

Ты, вот я помню это ощущение, когда ты по математике пытаешься решить задачку, но ты...

Ну, просто ты можешь хоть 10 раз перечислять теорию какую-то, но если ты не усвоил трюки некоторые, ты не можешь это решить.

Вот мы сейчас получили пока, на самом деле, уже и разговаривающего в виде Алисы, базового преподавателя по любому предмету через 5 лет на очень продвинутом уровне, который сможет...

ночью у тебя в некотором смысле нету, что по-английски говорят, нет экскьюза, нету никакой возможности сказать, ну, я там что-то не понял.

Вот у тебя прямо здесь и сейчас сидит профессор, который что угодно тебе по русскому языку, по биологии объяснит.

Вот кто останется без работы?

Репетиторы.

Отличная идея, да, это правда.

То есть плохая идея, но какая есть.

Я уверен, что нет.

Я с такой опять теплотой вспоминаю профессора своего, который меня готовил к университету, что я уверен, именно это моя интегральная мысль, что, да, искусственный интеллект будет помогать программисту.

искусственный интеллект будет помогать переводчику и частично забирать работу.

Но, конечно, родитель или ребенок будет хотеть общаться с живым человеком, но просто вечером, или если ты что-то не понял, в любой момент в троллейбусе у тебя появляется электронный помощник, какой-то ассистент.

Я думаю, это самое большое явление и самый большой продукт, который мы получим в

Я слышу вас так, что тот процент учащихся, учеников, детей, подростков, которые хотят знания саморазвития и обучения, они будут использовать его не для, в широком смысле, списывания, пусть даже в этом продвинутом смысле, а для роста, для развития самого себя.

И точно так же с информацией, например.

Точно так же с любой технологией.

Сейчас ты можешь на 40 минут смотреть какие-то дурацкие видео про котов или черт знает что, а можешь посмотреть лекции Фейнмана, которые 30 лет назад просто невозможно было достать, или, я не знаю, Колмогорова, или послушать Рахманинова, как он сам лично играл.

Фейнмана так и не записали на видео.

Но ты знаешь, что есть аудиозаписи всех феймоновских лекций по физике.

И они у меня есть.

Через 20 лет твои дети будут с теплотой вспоминать Алису, вот эту вот колонку, которая учила их жить родителями.

А все умное я получил вот из этой колонки Алиса.

К счастью, есть не только умное, но и человечное.

И это мы точно будем получать от друг от друга.

Скажите, пожалуйста, немножко из другой области.

Мы все-таки живем в мире, где есть разные центры.

И как выглядит соревнование различных мировых центров в области, ну, вот в самом широком смысле искусственного интеллекта, вот всего такого?

Это колоссальные интересности и задачи, которые сводятся, на самом деле, к нетривиальному вопросу, а как оценивать человек умный и насколько он умный.

Что я имею в виду конкретно?

Если умный, то почему бедный?

Сильно.

Если нейросеть идеально знает географию, а нейросеть идеально знает географию, при этом похуже одна, чем другая, пишет те самые стихи, или один из изначальных путей использования был «объясни, как ребенку», «объясни специальную теорию относительности, как ребенку».

Если она похуже это делает, то как их сравнивать?

И действительно, задачи, ответа на нее просто нет.

Как сравнивать?

Тем не менее, люди придумывают наборы тестов.

Бенчмарки какие-то придумывают.

Буквально, да.

Что мы делаем с людьми?

Мы даем людям экзамены, выпускные из школы, из университета.

К собеседованию на работе.

Абсолютно.

При всей субъективности.

Два предприятия.

Одно делает легковые автомобили, другое трактора.

Они не конкуренты друг другу.

Ты спрашивал о конкуренции.

То есть однотипные интеллекты.

Много ли их создается?

И кто...

Проблема в том, что как однотипный вот наш Янс Джапити 5.0, который мы выпустили недавно, она может сочинять стихи, она может решать задачки по математике, она может объяснять что угодно как ребенку, она может придумывать подарок маме, если мама увлекается цветами.

И так далее.

То есть она буквально что угодно, любые текстовые задачи может решать и сталкивать вот нашу нейросеть с такой же нейросетью.

На самом деле в мире 4-5 стран, которые занимаются на передовом уровне нейросетями.

Это, безусловно, мы, это Китай, это Штаты, мы видим Францию, там есть несколько интересных, очень, кстати, в науке, мне кажется, они очень сильные школы имеют.

Ну да.

Там из 250, почти 300 стран 95% не занимаются этим.

Ну вот, и когда мы пытаемся столкнуть китайскую нейросеть, например, с нашей нейросетью,

возникает вопрос, какой конкретно набор экзаменов.

Буквально, как их сравнить.

Это нетривиальная очень задача.

А как монетизируется ваша работа?

Вот я могу зайти и задать вопрос, получить ответ.

Я делаю это бесплатно через интернет.

А, они тратят

А они безумные деньги, тысячи людей только тестируют.

Если всмотреться, на самом деле, не только в нас, а вообще все информационные какие-то услуги, например, журнал или газета.

Или подкаст.

Или подкаст.

Есть две модели, как это называется, монетизации заработка, если попросту говоря.

Это или реклама,

Мы покупаем журнал, там есть реклама.

Или, скажем так, подписка.

Подписка на журнал — это покупка журнала.

На самом деле у нас не исключение.

Яндекс.Поиск, например, это самая крупная в стране рекомендательная система, которая, если ты интересуешься, я не знаю, Леоном во Франции, он тебе подскажет туры в Леон.

Поэтому это называется контекстная реклама.

Это один способ, а второй способ, который у нас есть в Алисе, когда мы базовый функционал какой-то даем бесплатно, продвинутый функционал мы даем по подписке, и опять здесь это не выдумка Яндекса, все человечество так устроено, все медиа так устроены.

Либо одно, либо второе.

Я прошу Алису, включительный там радиокоммерсант, пожалуйста, лобную сонату биткоин, а это по подписке.

В этом есть какой-то ценный такой романтизм.

Действительно, вся планета сейчас, вот все вот эти пяток стран и пара десятков в действительности компаний в мире, которые это развивают, они тратят сильно больше, то есть в сотни раз больше, чем получают.

Тем не менее, ни у кого нет, так сказать, интуитивных

На самом деле, у многих есть интуитивные сомнения, но мы все верим в то, что польза, которую мы получим, будет достаточно велика для того, чтобы, попросту говоря, базовый функционал модели был бесплатный, например, какой-то продвинутый функционал модели, суперумный.

И на самом деле, в этом есть экономическая природа.

Вот сейчас рассуждающие модели, они буквально могут пять минут вычислять ответ, рассуждая.

Они действуют абсолютно как человек.

Там есть несколько веток рассуждений, когда сложную задачку мы решаем, мы думаем так, ну, давай перекинем сначала об одном, подумаешь потом о другом, потом о третьем.

И стоимость вычисления такого ответа одного на один вопрос может буквально сейчас тысячами или даже десятками тысяч рублей вычисляться, если мы пересчитаем стоимость компьютеров, которые мы потратили, на один вопрос.

Соответственно, базово мы будем давать и даем сейчас бесплатный доступ к простому какому-то искусственному интеллекту продвинутой задачке

Если человек захочет, опять-таки, карманного юриста, карманного психолога, карманного поэта, карманного преподавателя, в конце концов, для ребенка.

А преподаватели странного языка останутся без работы?

Кстати, очень коротко.

Никто не останется без работы, мы это выяснили.

И на самом деле я не шучу.

То есть огромное количество людей, меня включая, для меня настолько колоссальные ценности, опыт общения, я не знаю, с моими профессорами в университете, с...

с моим педагогом по третьему иностранному языку, которым я учу.

Есть магия все-таки взаимодействия между людьми в преподавании, которая никуда не уйдет.

Но человек, который живет на Камчатке, ребенок из небогатой семьи, получит доступ к интерактивному, с эмоциями подстраивающемуся под твой уровень преподавателю

очень высокого уровня, и этим можно будет пользоваться кому угодно.

Так вот, и это, да.

И врачи могут этим пользоваться.

И вот вы говорите, базовый уровень, значит, мы будем предоставлять всем.

Да, и базовый будет, уровень очень быстро эволюционирует, то есть бесплатно будет становиться очень быстро все больше.

А дальше задвинуто, да?

Да, дальше что-то.

Ну, это значит, любая продвинутость.

А у меня про деньги вопрос с другой стороны.

Мы слышим сейчас о недавних инициативах, когда вот в развитие именно этого вкладываются, собираются большие средства.

Означает ли это, что успех пропорционален количеству вложенных денег?

И тот, кто больше всего вложил, тот быстрее всего и продвинется.

Деньги... Деньги довольно большие.

Это правда.

Где мы тратим деньги, на самом деле, развивая искусственный интеллект?

Это соразмерные сущности, три, которых я сейчас назову, как ни удивительно, может быть, на первый взгляд.

Значит, это, безусловно, команда самых талантливых инженеров, которые есть в России.

И у нас, кстати, феноменально талантливые разработчики, это никто не обсуждает, но вот есть самая топовая олимпиада мировая по программированию, можно у Яны из GPT спросить или у кого угодно, и в 14 из 20 последних лет побеждали наши ребята в ней.

Инженеры в смысле программистов?

Да, программисты.

Или не по железу, а по софту?

Да-да-да, мы называем, да, это такой внутри расхожий термин, программисты, да, попросту, простым языком выражаясь.

Вот, раз.

Второе, это вот те самые разметки, когда я говорил, что мы должны описывать изображение, например, или мы должны говорить, слушай, мы обучаем специальные модели, которые имитируют человека, который говорит, вот этот текст ты хорошо написал, а вот этот плохо.

Вы уже используете уже компьютер для того, чтобы обучать другой компьютер.

Мы используем сначала человека для того, чтобы учить компьютер, а потом, да, действительно, компьютер учится сам себе.

И, наконец, третье, конечно, это колоссальные вычислительные мощности вот с этими параллельными вычисляющими видеокартами, и не только, которые нужны.

Деньги уходят на это, они действительно очень большие.

И у нас есть большая радость, в отличие от многих компаний и в России, и в мире, что у нас самые востребованные уже есть продукты, которые естественным образом, в которые мы можем это встраивать.

Вот поиск.

Это интернет Яндекс.Поиск.

Сервис самой большой аудитории.

У нас 100 миллионов человек в месяц пользуются им.

Ну, практически все, кто пользуется интернетом.

И, конечно, ты хочешь часто не прочитать результат поиска, а получить ответ просто на простые вопросы.

И там вот мы приложили нейры.

который делает за тебя базовую работу.

Мы прочитали 10 ссылок топовых и сделали для тебя синтез.

Алиса, которую мы сейчас обсуждали, люди уже, на самом деле, 5 или 10 лет назад привыкли, что там некое персонажное что-то, и можно спросить, что мне делать в такой ситуации, рецепт сырников, у меня у друга завтра день рождения, что подарить.

Просто Алиса становится кратно умнее.

И за счет того, что есть поиск, мы там зарабатываем на рекламе,

За счет того, что есть Алиса, мы ее просто продаем.

Колонки, в смысле?

Да-да-да, мы отбиваем.

Слушай, если есть конкуренция, то конкурентов всегда подмывает, ну, немножко притормозить соперников.

А могут ли вашу работу притормозить те, кто выпускает видеокарты?

В России такие видеокарты можно купить?

Или мы их должны покупать где-то?

Если нам скажут «нет»,

Не продадим вам эти видеокарты.

На самом деле... Это проблема.

Очень важный вопрос.

Это никто не обсуждает, когда мы обсуждаем, откуда вырос искусственный интеллект.

Но на самом деле огромным, и мы это сегодня, мне кажется, мало упоминали, огромным фактором является то, что появились супервысокопроизводительные видеокарточки.

Там такая удивительная ситуация, что, в общем, топовые, то есть самые лучшие с огромным отрывом карты выпускает всего одна компания.

Более того, вот этот вот самый диалект, упрощенно говоря, питона, на котором программируются, развивают тоже они.

Заводы, на которых выпускаются эти карты, они не принадлежат этой компании, но они принадлежат единственной компании на планете тоже, которая умеет их выпускать.

И за этим можно считать как бы какое-то там вселенское зло, но в действительности ребята, ну как ребята, там десятки тысяч людей,

сделали невероятный объем инноваций, которые не удается догнать пока никому в мире.

Хотя есть хорошие наработки.

В России что-то пытаются в меньшей степени.

Есть люди в Китае, которые пытаются сделать.

Есть люди в Штатах, которые пытаются сделать.

И мы думаем, что за пять лет возникнут альтернативы.

То есть сейчас... На секундочку, просто на секундочку.

Вот этот всплеск, вот этот вот бум, всплеск, бум в хорошем условии искусственного интеллекта, сочетание в том числе и случайных факторов.

Ну, здесь видеокарточки сделали, здесь большой объем данных по интернету стал возможен.

Это такой тоже философский вопрос для меня.

Не вклидывай геометрию.

Вот там многие называют геометрию Лобачевского, но на самом деле, если историю науки посмотреть, там и БОИИ, и ГАОС, кто только не занимался очень похожими вещами, у Лобачевского хватило...

Дерзости сказать, что, значит, возможно, геометрия, где две прямых, проходящие через точку, не лежащую на прямой, не пересекаться могут с ними, не совпадающих.

Это на тот момент было... Поэтому здесь есть некоторая случайность, если бы было Бочарского считать случайностью, в некотором смысле, да, случайный человек мог не появиться, мог умереть.

А, окей, ну, появился бы что-то.

Да, но как будто бы человечество, опять же, философский вопрос, но движется, на самом деле, со всех фронтов.

Вот прообраз текущих нейросетей был у нас 10 лет назад.

Была Боба, так называемая, которая как раз умела бормотать.

Ей можно было предложить какую-нибудь тему, и она умела бормотать, предсказывая следующее слово.

Ну, а смысленности там радикально не хватало.

И там есть какое-то количество инноваций, в частности, и на уровне емкости обучения, то бишь учительных мощностей, которые случились.

Уверен, что они случились бы.

Хотя иногда всматриваешься, я не знаю, когда я учил общую теорию относительности, думаешь, господи,

как можно было вообще это придумать.

Но это действительно уникальная история.

Это мы когда-нибудь отдельно обсудим.

Это уникальная история.

Слушайте, значит, вы уже сказали, что когда мы говорим, вот это очень дорого, а давайте посчитаем, сколько денег в общей сложности заняло создание, не знаю, современной программы по математике школьной.

Да.

А и все-таки кажется, что ребенка до старшего подросткового возраста обучить дешевле, чем сетку, и не нужно ему такой объем данных.

Он как-то учится непосредственно, он не читает все тексты.

И тем не менее может оказаться, что он пишет стихи, может оказаться, что он способный математик, может оказаться, что он способный спортсмен, музыкант.

Или просто такой человек средних способностей, вполне успешный.

А без вот этого обучения в чём здесь ключевая разница?

Ну, здесь, да, мы очень любим, на самом деле, внутри мы буквально очень любим сравнивать процесс обучения человека и нейросети, и там есть много очень нетривиальных каких-то и аналогий, и различий.

Но если так порассуждать, то да, действительно, человеку существенно дешевле обучиться.

Одного?

Да, одного.

Но ты великим спортсменом, великим математиком его одновременно не сделаешь.

Они ставят цель перед собой и идут к этой цели и достигают.

И универсальный.

Мы пытаемся сделать универсальный.

То есть человек, каким бы он ни был, он, как правило, чуть получше знает историю по математику, а здесь машина...

всем текстом, еще раз, на всех языках.

Если с ней поговорить на корейском, она поддержит разговор на корейском.

Если с ней поговорить на любом языке, она поддержит разговор.

Поэтому, в принципе, научить какой-то элементарной математике, например, или элементарному румынскому языку, эта задача в тысячи раз дешевле,

во всех смыслах, и в деньгах, и в электричестве, которое нужно потратить, и так далее.

То есть мы все-таки, я приглашаю всех вдуматься, позадавать самые разные вопросы.

То есть вы гораздо шире берете, чем нас.

Это удивительное для меня откровение, то, что вы сейчас сказали, что в каком-то смысле, когда вы обучаете, вы обучаете гораздо шире, чем отдельного человека.

Ну, видимо, все-таки не в отношении физического мира, потому что то количество раз, когда ребенок упал, что-то пролило, опрокинуло и так далее, это очень большой опыт.

Но в отношении хотя бы языков и текста вы берете шире.

Да, и я бы сказал, что это не то, что наше такое, так сказать, романтическое желание, но возможность получить современный искусственный интеллект возникает именно из-за того, что появилась вычислительная мощность миллиарды раз в секунду просить нейросеть предсказать следующее слово.

Поэтому нам по построению нужно, на самом деле, чтобы добиться умности...

прогнать колоссальный объем знаний, и это стало возможно именно благодаря железным решениям.

То есть не то, что мы решили вширь пойти, а для того, чтобы умности достичь... А, нужно брать широко, да.

Да, нам нужно брать широко, и нужно миллиарды раз в секунду прогонять... Прогресс.

Ну, то есть, собственно, то, о чем мы говорили в начале, что способность рассуждать о том, о чем она раньше никогда не рассуждала, выросла удивительным образом из колоссального объема.

Именно так.

И это было удивлением для специалистов.

Это было для нас, в частности, очень, для всей планеты это действительно было очень большим удивлением.

То есть то, что можно в тысячу раз увеличить объем данных, которые мы прогоняем, и мы видим хорошо логарифмическое, ну, то бишь, в 10 раз, например, повышение умности, это было нетривиальным, на самом деле, впервые в 2012 году замеченным.

результатом, но вот он по-прежнему пока... То есть, вообще говоря, можно было бы себе представить, что там на какую-то математическую или атосимптотическую полезность выходит.

Мы не видим этого пока.

Скорость счета вышла уже на предел обычную электронику.

Не заставишь считать быстрее.

Уже скорость света там ограничена.

Да, с этим есть проблема.

А перспектива есть какая-то?

Мы это обсудили.

Мы это обсудили.

Значит, математика вот этого обучения и рассуждения, она параллельна.

И в этом есть огромная важность.

Потому что мы можем сделать чуть поменьше еще транзистор, еще на несколько нанометров, и сделать еще на десятки тысяч больше.

Как это до размера?

молекулы дошли, что там, 5 мм вообще.

Дмитрий, слушайте, в завершение, вы упомянули это уже совсем немного, что вы внутри, на своем собственном жаргоне сравниваете то, как учится сетка, как мыслят люди и так далее.

Наверняка после всего этого у вас не такие же взгляды на то, как мыслят люди по сравнению со всеми остальными.

Поделитесь чем-нибудь.

каким-нибудь неожиданным наблюдением, на чём вы ловите себя, ой, я веду себя так же, как сетка.

Ну, например, это я фантазирую.

Или сетка здесь никогда бы так не сделала, какой я молодец, и так далее.

Для меня самым важным наблюдением, на самом деле, является, и оно действительно поменяло картину мира моего в последние годы, насколько...

В действительности, вот мы час с лишним прообсуждали нейросети, и нам кажется, что это некое удивительное явление.

Я об этом говорил.

У нас у каждого в голове есть в самом технически буквальном смысле нейросеть,

абсолютно такая же.

Мы не понимаем, как она работает.

Она обучена на десятках, сотнях разных примеров, когда мы невдумывая сделали ошибки, когда мы наблюдали за ошибками других людей.

И большая часть решений принимает именно эта штука.

Да, вот когда я тянусь за кружкой, это нейросетевой процесс, я не вдумываюсь в это.

Мы не... Большая часть, на самом деле, жизненных решений мы принимаем интуитивно.

И то, что мы сейчас научились делать, это воспроизводить вот в рамках компьютера, в рамках вычислительной модели ту самую нейросеть.

Ну, я так понимаю, что нейропсихологам это хорошо известно.

Которая за нас принимает 95% решений.

В действительности, ничтожно маленькое количество каких-то научных процессов.

Это очень маленькое количество...

Обдуманно, да?

Ты делаешь обдуманно, взвешенно, умея объяснить блок-схему алгоритма.

Научный способ просуждения страшно неэффективный, чудовищно затратный, чудовищно.

И это то, чем мы занимались, пиша программы алгоритмические.

Когда ты говоришь, слушай, если так, то так, а потом...

В тот раз сделай вот так, а пока вот это не случилось, сделай вот так.

Это чудовищно дорогой, на самом деле, процесс, который требует очень большой инженерной мысли, а выясняется теперь, что произошло, что можно посадить компьютер, опять миллиарды раз в секунду прогнать через него разного рода задачи, и он сам обучится делать.

И мы это делаем в самых разных областях сами.

Мы, люди, делаем это сами.

Конечно.

То есть я прямо рискну за вас сказать, что вы вдруг почувствовали своё родство с компьютером.

Именно так.

И гораздо больше доверия мы внутри тоже обсуждаем.

Вот когда говорят, «Слушай, ну объясни чётко.

Вот один человек с другим спорит, ты можешь объяснить, почему ты так считаешь?» И у меня возникло гораздо больше милосердия к ситуациям, когда человек говорит, «Слушай, ну, не знаю, мне так кажется».

И степень, на самом деле, нейросетевой природы этого процесса, человек 30 лет или 40 лет, или 50 лет, или 60 лет живет, далеко не все он обдумал, но у каждого у нас есть собственных миллиарды ситуаций каких-то и наблюдаемых.

И доверие, на самом деле, к вот этому, слушай, мне кажется,

Оно у меня очень сильно выросло, хотя люди требуют, давай вот перфокарту в меня загрузи, на которой четко написано, почему значит ты так считаешь.

И объем опыта, который каждый из нас накапливает в течение жизни, обучая в самом техническом смысле собственную нейросеть, он гораздо больше, чем то, что мы можем прогнать, осмыслив.

И, опять-таки, доверие просто.

Знаешь, что меня сейчас удивило?

Специалист, весьма молодой, по физическому возрасту, вспомнил, что такое перфокарты, а сейчас работает с искусственным интеллектом.

Вот это скорость прогресса.

Мало кто помнит вообще, что такое перфокарты, но ваше поколение прошло через... Ну, я наблюдал их совсем ребенком маленьким.

Слушайте, у вас все меняется страшно быстро.

Поэтому присоединяйтесь к нам еще раз.

Мы иногда еще будем время от времени путешествовать.

Ради бога, приходите, пожалуйста, снова, потому что если мы будем здесь говорить через год, то будут совершенно, я уверен, будут другие предметы.

Это вообще не будет повторением сегодняшнего разговора.

Спасибо.

Спасибо большое.

Спасибо.