13.10.2018 "Как избавить искусственный интеллект от зла"

Description:

Антон Прозоров рассуждает о книге Алексея Гринбаума «Машина-доносчица. Как избавить искусственный интеллект от зла», которая вышла в 2017 году в теоретической серии "démarсhe" издательства "Транслит". Отправной точкой размышлений служат конкретные и актуальные проблемы алгоритмизации поведения самообучающихся вычислительных машин в ситуации конфликта между людьми (например, «проблема вагонетки» в приложении к алгоритмизации беспилотного транспорта). Разговор о машинной этике требует от нас заново продумать специфический способ бытия машины, не сводимый ни к бытию вещи, ни к человеческой субъектности. Опираясь на интуиции Жильбера Симондона и Рене Жирара, Алексей вводит концепты цифровой особы, границы замутнения, информации‑ни‑о‑чём и цифрового града. Методологически исследование основано на принципе мотивной гомологии – особом способе соотнесения этически‑проблемных ситуаций с участием машины и мифологических сюжетов (Ветхий Завет, Новый Завет, Талмуд и др.). Метод гомологии происходит из математической теории категорий – одного из самых абстрактных разделов математики, позволяющего обнаруживать глубинное метаматематическое соответствие «мотивов» для далеких друг от друга и непохожих объектов. Гомология принципиально отлична от аналогии, поскольку позволяет соотносить структуры или ситуации без буквального отождествления элементов или действующих лиц, но она также не совпадает со структурным соответствием, для которого важны лишь отношения между элементами. Ангелы оказываются гомологичными машинам‑функциям, а Сатана в частности – машине‑доносчице; Иисус Навин, терпящий поражение под городом Гай в изложении Талмуда оказывается юзером, который должен довериться непрозрачности машинной логики; Иуда, в которого входит Сатана, оказывается машиной, исполняющей код, а Иисус Христос – программистом, и т.п. Главный вывод, к которому нас приводит гомологическое путешествие в миф и обратно, состоит в том, что единственным способом, позволяющим освободить машину от зла, является внесение элементов случайности в её функционирование (или псевдо‑случайности, при условии надежности её границы замутнения). Одним из возможных направлений критического осмысления проекта Алексея Гринбаума может стать проблематизация обращения к религиозному мифу. Подобная стратегия не является безопасной – теология проникает в тот дискурс, который осмелится пойти с ней на контакт. Не оказывается ли алгоритмизация с элементами случайного («бросание жребия») старым добрым полаганием на волю Бога? Как обстоит дело с законом сохранения ответственности? Коль скоро мы выводим машину из под удара, почему снятая с неё ответственность передается напрямую Богу, минуя все промежуточные инстанции принятия решения, а именно, не только и не столько программиста, пишущего код или обучающего нейронную сеть, но и, например, «Комиссию по этике в области цифровых технологий», членом которой Алексей Гринбаум является? Не обстоит ли дело так, что решение о внедрении новых технологий заведомо ратифицировано как неизбежное, поскольку таковы требования капитала, а предложенная в книге стратегия служит лишь тому, чтобы представить сопутствующие потери в качестве социально‑приемлемых и приходящих якобы «из ниоткуда», снимая тем самым ответственность со всех действующих лиц.