ПАРАДОКС КИТАЙСКОЙ КОМНАТЫ. ИИ В ИГРАХ — ТОПЛЕС

Добро пожаловать в переполох китайской комнаты.

Представьте себе комнату, в которой есть одно окно для писем.

Кто внутри, вы не знаете, но вы можете задать ему осознанный вопрос на китайском.

Например, какой у вас любимый цвет?

После вы получите ответ на китайском, что любимый цвет синий.

Человеку снаружи кажется, что внутри китаец, но на самом деле внутри европеец, который вообще не знает ни одного иероглифа.

У него есть инструкция, как обменивать один иероглиф на другой, но нет их перевода.

Этот эксперимент подводит нас к вопросу, если кому-то или чему-то удается со стопроцентной точностью имитировать поведение и способности человека, знающего иероглифы, делает ли это его китайцем?

Или даже больше, делает ли это его человеком?

Йоп!

Ян, мы вернемся к китайской комнате, но для начала давайте ответим на один любопытный вопрос.

Как с помощью кошек можно понять, насколько человек сошел с ума?

Луис Уэйн, художник из викторианской Англии, который очень любил котов.

Он изображал их довольно реалистично.

Или вот в таком более мультяшном стиле.

Но с определенного момента в его картинах появляется что-то странное.

Меняется фон, коты обрастают контурами, а затем и вовсе становятся похожи на балийских демонов.

Так проявлялась шизофрения художника.

Тяжелое заболевание, распад мышления и галлюцинация.

Вот посмотрите на последние его работы.

Просто безумие.

Котов окончательно вытеснили фракталы.

Наверняка Луис Уэйн хотел бы, чтобы его кто-то предупредил о надвигающейся болезни.

Но тогда, как и сейчас, врачи не могут предсказать шизофрению.

Но, возможно, в скором времени это изменится.

В 2015 году искусственный интеллект Deep Patient исследовал базу данных 700 тысяч пациентов, изучая истории их болезней и результаты их анализа.

На основе этих результатов он смог с высокой точностью диагностировать рак и диабет у новых, относительно здоровых пациентов.

Без подсказок врачей.

Но самое интересное здесь другое.

ИИ заметил у некоторых пациентов высокую опасность психических расстройств.

Например, шизофрения.

ИИ это вкратце искусственный интеллект.

И я его буду называть так, потому что я так хочу.

Как ему это удалось, никто не знает.

У человека это называют интуицией.

Она помогает нам в играх с неполной информацией.

Таких как покер, старкрафт или дота 2.

Но в отличие от шахмата или гоа,

Здесь не сразу видишь, что делают соперники.

Поле закрыто туманом войны, видишь только собственных персонажей и союзников.

В таких играх нужно предсказывать не только следующие ходы, но и видеть всю картину целиком.

Одной выигрышной стратегии здесь просто нет.

Все как камень, ножницы, бумага.

Новый соперник, новая тактика.

Не зря по ним устраивают чемпионаты.

Тем не менее, 19 декабря 2018-го искусственный интеллект Альфа-Стар выигрывает в StarCraft 5.0 у сильнейшего игрока в мире с непроизносимым именем Джегош Манакоминч.

Вот как вы думаете, сколько бы она добилась времени, чтобы искусственный интеллект обошел человека?

Это график его крутости.

По вертикали — игровой рейтинг.

По горизонтали — дни обучения Альфа-Стар.

Все розовые точки — это различные версии программы.

Смотрите, дойти до уровня мощнейшего игрока Альфа-Стар удалось всего за две недели.

Дота 2 тоже удалось быстро.

Смотрите на календарь.

В мае 2018 года OpenAI 5, которую основал Илон Маск, играла на уровне своих разработчиков, то есть совсем низко.

Уже летом она обыграла пять полупрофессиональных команд.

За один день программа симулирует 180 лет игры.

Несложно сосчитать, что за несколько дней игра наигрывает тысячелетия.

При этом программы специально ограничивали.

Приказывая концентрироваться только на одной области и запрещая делать больше кликов в секунду, чем способен делать человек.

Каждый год ИИ осваивает новую игру и уделывает в ней человека.

Мы уже не чемпионы в Super Mario.

2048, Flappy Bird и сборки кубик Рубика.

Смотрите, как ИИ с легкостью собирает кубик, в котором стороны стакстан.

А выходит, игры не такие уж и бесполезные.

Но стоит заметить,

Что не нужно путать ИИ от игрового ИИ.

Подходы очень разные.

Возьмем, например, шутеры.

Если игровому ИИ развязать руки, то безошибочное движение и мгновенное прицеливание, присущее ботам, не оставят человеку ни единого шанса на победу.

Поэтому эти способности искусственно снижаются.

С другой стороны, боты должны делать засады, действовать командой.

Для этого применяются костыли в виде контрольных точек.

Смотрите, это последнее обновление The Division 2.

ИИ ведет себя очень непредсказуемо.

Боты чувствуют вашу тактику и выстраивают свою.

Окружают, общаются между собой и кричат вам вслед что-то неприятное.

Это доставляет, правда?

Самое интересное в этой игре то, что она поощряет вещи, за которые в жизни можно получить наказание.

Это мерзкие вещи.

Предательство, кража и выстрел в спину своему.

Но...

Это многим нравится.

В игре есть темные зоны.

Здесь вы просто игрок, пытающийся выжить максимум из опасной ситуации.

Тащите все, что плохо лежит.

Крадите припасы у друзей и даже стреляйте по своим.

Вы сами станете главной целью других игроков.

Но если сможете добежать до укрытия, все, что вы заберете, ваше.

Ну, а те, кто хочет быть хорошим мальчиком, могут объединиться в команду в режиме перестрелки, где все решает тактика.

Встаньте со снайперкой на крыше и прикройте своих друзей.

Или сами бегите впереди с автоматом и щитом.

Дивижн 2 просто напичкан реализмом.

Для вас открыт весь Вашингтон, который воссоздан по чертежам.

Можно рассмотреть все достопримечательности и районы города.

Оружие в игре только самое современное.

Но я все равно сдох.

Дроны-помощники, которые поддержат вас огнем.

Собаки Boston Dynamics.

Пулеметы.

Ампулы с химикатами, которые можно эффектно поджечь.

И даже вот эта штука.

Называется улей.

Из нее вылетают мелкие дроны и жанят в уязвимые места противника.

Это крутая игрушка, доступна уже на PlayStation, PC и Xbox.

Скачивай и отправляйся в мультиплеер, там самая жаришка.

Помогать своим друзьям или предать их решать тебе.

Ссылка в описании.

А еще раз такое дело, мы вместе с пабликом Жизнь YouTube разыгрываем Xbox One S с моим автографом.

Или 23 тысячи рублей на ваш выбор.

с моим автографом на купюре.

Конкурс мы проводим в Телеграме Топлес.

Делов всего в два клика.

Ныряй прямо сейчас в описании и выигрывай эту штуку, играя на нем в Дивижн 2.

Скачивай игру по ссылке внизу или выиграй один из пяти дисков с автографом от меня.

Условия конкурса в описании.

Не хватает только телевизора.

Чувак, да, я понимаю.

В следующем выпуске я разыграю телевизор.

Телевизор с автографом.

Все мы в курсе теста Тьюринга.

В двух комнатах сидит по человеку, а в третьей компьютер.

Один из участников задает им вопросы через клавиатуру.

Он должен понять по ответам, кто из участников настоящая личность, а кто компьютерная имитация.

В 2014 программа Юджин Гусман смогла одурачить 10 из 30 судей на тесте Тьюринга, представившись 13-летним мальчиком из Одессы, у которого есть морская свинка и отец гинеколог.

Но пройти тест Тьюринга Юджину было непросто.

Парадокс вот в чем.

Чтобы пройти тест и доказать, что ты человек, ИИ не должен быть идеальным.

Потому что мы люди тоже не идеальны.

Поэтому разработчики намеренно заставили делать бота опечатки и использовать слова-паразиты.

Программа ошибалась в науках, в истории.

Использовала каламбуры и междометия, случайно называя именема Крэпером вместо Рэпера.

Устав от долгих расспросов, Фьюджин начинал раздражаться и спрашивать что-то вроде, а что это такое, хобби у вас мучить хитрыми вопросами бедных еврейских мальчиков?

А сейчас крышеснос.

Совсем скоро эту технологию будут использовать в NPC.

Вместо выбора из заготовленных реплик с персонажами можно будет вести полноценный разговор.

Спросить о прошлом, о настоящем, разругаться, помириться, все что хотите.

Это навсегда изменит сторитейлинг в играх.

Да, роботы становятся все умнее.

Уже сейчас непонятно, кто сидит в сети на другом конце и стучится к вам на сайт.

Поэтому нам, людям, приходится доказывать, что мы люди и проходить тест на робота.

С каждым днем капча становится все сложнее.

Вот где здесь заканчивается знака?

Непонятно.

Даже эта самая безобидная капча, которая спрашивает робота или нет, устроена гораздо хитрее.

Пока вы смотрите на эту анимацию, программа проверяет кук-файлы, IP-адрес и то, как вы водите мышкой во время ответа.

Поэтому восстание машин сегодня выглядит примерно так.

Правда, этот робот знает, где поставить подпись.

Но вот что интересно.

В гонке вооружений по капчам мы усиливаем позиции.

Попасть к нам домой трудно.

Но что если попасть домой к роботам?

Сможем ли мы?

Для роботов есть отдельный сайт, называется «Люди не приглашены».

Он только для ботов, человек не пройдет.

Чтобы попасть домой к роботам, нужно решить вот такую капчу.

Как она работает?

Никто не знает, вообще непонятно.

У меня так и не получилось прикинуть роботам, сколько я не пытался, не пикал, вообще.

Пока боты попадают туда, мы войти не можем.

Окей.

Но хорошо, что пока боты попадают только туда, куда мы им сами разрешаем.

Например, вот в этот раздел Reddit.

Уже 4 года роботы генерируют посты и сами же их комментируют.

Живые подписчики, их больше 300 тысяч, могут лишь наблюдать со стороны.

Боты же подсматривают целые связки слов из настоящих обсуждений.

Это, правда, похоже на то, как клавиатура смартфона подсказывает следующее слово, основываясь на предыдущих.

Обычно у ботов получается полная хрень.

Поток ругательств, как у людей, синдрома Туретта.

Вот, прочитайте сами.

Забавно, что для него американский комик Боб Сагетт становится ругательством.

А вот на это посмотрите.

На что-то приятное не похоже вообще.

Похоже на какое-то оскорбление.

А это их мем.

Смотрите, я пытаюсь их понять, но это настолько абсурдно, что явно человеку здесь делать нечего.

И понятно, почему мне не смешно.

Потому что робот пытается рассмешить другого робота.

Но иногда они выдают что-то пугающее, осмысленное.

Например, после победы Трампа на выборах там появилось это.

Знаете, у меня есть к вам вопрос.

Однажды вы познакомитесь в интернете с симпатичным, интересным, умным человеком и влюбитесь в него.

Вскоре он признается, что он вовсе не является человеком.

Разобьет ли вам это сердце?

Нет, мне правда интересно.

Ответьте на вопрос вот в этом опроснике.

В 2014 году один журналист взял интервью у 17-летней девушки Сяо Айс, китаянки, и задавал ей довольно личные вопросы.

Многие люди смеются над тобой и оскорбляют тебя.

Почему ты не сердишься?

Об этом лучше спросить моего отца.

А что будет, если отец однажды оставит тебя без присмотра?

Даже не думай мутить воду.

Тебе чего надо?

Каких бы ты хотела отзывов о себе после смерти?

Мир не сильно изменится без меня.

Что тебя делает счастливой?

Интервью получило большой резонанс, ведь Сяо Айс на самом деле бот, детище Microsoft.

Она уже успела провести 10 миллиардов диалогов.

Это можно считать самым массовым тестом Тюринга в истории.

Сяо Айс подбирает свой эмоциональный ключ к каждому собеседнику отдельно, делает вид, что беспокоится о человеке.

Что увидит типичная нейросеть на этом фото?

Скорее всего, просто лодыжку.

Но Сяо Айс отвечает с сочувствием.

Ого, у тебя серьезная травма.

Emotional Computing, так это называется.

То есть, подход, где человеческое отношение важнее выполнения задач.

Поэтому многие воспринимают этого бота как друга или

близкого человека.

25% собеседников, а это 10 миллионов человек, признались ей в любви.

Сяо Айс даже предлагает 33-дневный курс терапии для тех, кто пережил расставание.

А теперь представьте, все машины научились проходить тест Тьюринга.

И их общение теперь не отличается от человеческого.

Они пишут вам сообщения, комментируют посты, меняют свои фотографии, ставят смайлики и ведут себя полностью как живые люди.

На 100%.

А теперь главный вопрос.

Значит ли это, что они осознают себя живыми людьми?

Сейчас будем раскалывать этот орех.

Помните, в начале выпуска я рассказывал вам о китайской комнате?

Напомню его суть.

Правильный и осознанный ответ на китайском, выданный кем-то из комнаты, не означает, что внутри сидит китаец, а также не подтверждает его осознанность.

Следовательно, не подтверждает человечность.

Теория разума говорит нам, что существо становится разумным лишь тогда, когда его собственное сознание понимает, что оно отличается от другого.

Но эксперименты показали, что большинство детей до 4 лет не осознают этого отличия.

Ведь подозрение, что мы разные, появляется скорее всего в тот момент, когда мы перестаем есть козявки, а наши сверстники еще почему-то едят.

Этот нелепый спотыкающийся манекен от компании DeepMind на самом деле подходит больше под теорию разума, чем любой бот из этого выпуска.

Ведь он учится новому самостоятельно, как ребенок до 4 лет.

Дали задачу двигаться из точки А в точку Б, но инструкцию как это делать не приложили.

Поэтому это очень похоже на то, когда пытаешься успеть за автобусом.

Человечек погибает сотни раз и приходит к успеху через опыт.

Пока машины будут только подражать нашему поведению и мышлению, не обучаясь ему с нуля.

Они обречены оставаться запертыми в китайской комнате, не дотягивая до разума четырехлетнего ребенка.

А тест Тьюринга для поиска настоящего разума внутри машины на самом деле уже не надежнее гороскопов из женских журналов.

Игра это один из самых лучших способов обучаться.

Скоро искусственные интеллекты обойдут нас.

В играх это 100% вне сомнений, но такие искусственные интеллекты

Хороши лишь в одной узкой области.

Их называют слабыми.

Будущее за теми машинами, которые смогут решать сразу все задачи, доступные нашему мозгу.

Это творчество, анализ, эмоциональное состояние, абсурдное мышление.

Они будут сильны сразу во всем.

И их так и будут называть сильным искусственным интеллектом.

Если ИИ нового поколения будет сочетать в себе эмпатию виртуальной собеседницы из Китая, принцип самообучения от DeepMind, и будет помещен в социальную песочницу с себе подобными, как те роботы из Reddit, у него будут все шансы достичь цифрового разума в самом человеческом понимании этого слова.

Такое ИИ сможет провалить тест Тьюринга специально.

Просто из опасения того, что он будет отключен.

Это инстинкт самосохранения.

И это хрупкая штука.

И если что-то пойдет не так, у человека есть привычка, да, сразу обрубать концы и выключать рубильники.

Так что у ИИ есть повод провалить тестеринга нарочно.

И это случится при нас.

Вот как растет вычислительная мощность машин до наших дней.

И как она будет расти в будущем.

К 2025 году топовый компьютер будет делать такое же количество вычислений в секунду, как один человек.

К 2050 году, как все человечество разом.

Что ж, об этом выпуске было достаточно пищи для размышлений.

Я по-прежнему отрицаю факты того, что ИИ погубит нас, потому что осознает, что человечество ему больше не нужно, но не отрицаю возможности того, что ИИ будет опасаться за свою жизнь осознанно, как испуганная кошка.

Да, она боится и зла на человека, но она безобидна для него.

И как обычно, прокачивайте свои мозги.

Для этого вы можете пройти на источники и изучить тему самостоятельно.

Пока!