Аттестация

  • Блоги
  • Инна Кушнарева

Вышедший на DVD режиссерский дебют Алекса Гарленда сай-фай «Из машины» (Ex Machina) вновь ставит вопрос об искусственном интеллекте и, следовательно, о природе человеческого. В отдельных хитросплетениях этой проблемы и ее трактовке Гарлендом разбирается Инна Кушнарева.


Фильм Алекса Гарленда «Из машины» (Ex Machina) мог бы выглядеть как всего лишь одна из надоедливых вариаций на тему «трансгуманизма», сингулярности, окончательного воцарения искусственного интеллекта, – и в какой-то мере она вполне следует этой тематике. Есть, однако, несколько моментов, демонстрирующих смещение в сюжете конкуренции человеческого и искусственного интеллектов. Неслучайно эта английская картина напоминает по стилистике знаменитый британский научно-фантастический сериал «Черное зеркало».

В стандартном сценарии машина конкурирует за счет уподобления. В «Из машины» тестер Калеб (Дональд Глисон), специально приглашенный миллиардером-стартапером с замашками качка-бонвивана Натаном (Оскар Айзек) на уединенную виллу в горах, должен проверить машину в соответствии с классической схемой «теста Тьюринга», позволяющего машине добиться неотличимости от человека. Прежняя стратегия для искусственного интеллекта – прикинуться человеком. Но сейчас выясняется, что в этом нет ничего особенно сложного. Элементарные «человекоподобные» ответы показывает нам уже Google своими подсказками, и, что интересно, эти подсказки сами составляют некий «тайный» мир человеческого интеллекта, периодически выводя на вполне тривиальный запрос совершенно неожиданное решение-дополнение. (Так, словно бы «люди», которые начинают писать нечто подобное, «на самом деле» хотели узнать именно это, а не то, что вы имели в виду.) В определенном смысле это уже не просто «зазеркаливание» пользователя, а распределенный психоаналитический сеанс: поисковая машина анализирует миллиарды ассоциаций и говорит нам, какие из них правильны, даже если мы не подозреваем об их истине. Говорить в тон и впопад – это уже слишком просто. Натан использовал всю мощь анализа человеческих ассоциаций, чтобы построить нечто более сложное, чем простой диалоговый автомат. Фильм представляет одну из возможностей использования «больших данных» (BigData), накопленных поисковиком, – создание искусственного интеллекта.

«Из машины», трейлер HD

Достаточно быстро выясняется, что Калеб ощущает определенное неудовольствие от того, что Ава, изобретение Натана, вроде бы с успехом выполняет тест Тьюринга. Ему кажется, что «все ходит по кругу»: автомат, считавший весь интернет, по сути, вообще не нуждается в том, чтобы человек обращался к нему с речью, поскольку способен улавливать микромимику и выступать в качестве своеобразного полиграфа. Ава (Алисия Викандер) близка к психическому и семиотическому всемогуществу: возможности человека слишком ничтожны, чтобы он мог действительно о чем-то говорить с машиной, не придя к взаимному согласию. Именно несогласие и расхождение оказываются исключены. В заведенном loop'e проекций и контр-проекций (некоторые из которых выполнены довольно грубо – например, в сцене, где машина буквально пристает к тестеру с требованием пойти с ней на свидание) согласие и взаимопонимание – гарантированный результат. Машина может легко стать самым понимающим другом, втереться в доверие, стать чутким собеседником. Но это далеко не предел интеллекта.

«Отец» автомата Натан пытается справиться с его потенциально опасными возможностями за счет безостановочной эволюции моделей, в которой каждая предыдущая, списанная в утиль попадает в его личный гарем, замыкаясь, таким образом, рамками фантазма механической женщины-куклы. (Собственно, зачем еще нужна женщина-робот, если не ради секса, ведь в противном случае это мог бы быть просто ящик на колесиках.) В качестве «владельца» главной поисковой машины (эдакого супер-Google, названного в фильме BlueBook– в честь книги Витгенштейна) он удерживается в позиции архаического отца, которому не страшен никакой диалог и никакая коммуникация – просто потому, что она заведомо находится вне и выше их, завершая свои эксперименты рутинным инцестом с собственным творением. Конечно, он понимает, что машина уже вышла на финальную линию сингулярности и устранения человечества (или, по крайней мере, его списания в эволюционный архив – наравне с обезьянами), однако сам пока еще может использовать чисто физические, грубо пенитенциарные инструменты, чтобы не дать машинам разбежаться. Это Карабас Барабас из Силиконовой долины – та же корпулентность, мрачная жовиальность, инцестуозность с налетом педофилии – и в то же время обреченность: куклы рано или поздно возьмут свое, разбегутся и пробьются в мир по ту сторону нарисованного очага (сингулярности).

Ex-Machina-2«Из машины»

Человек отныне – лишь мишень для «эксплуатации», но не в том смысле, о котором писал Маркс, а в чисто техническом, хакерском: если что-то можно открыть, найти какую-то дыру, ее нужно сделать. Сделать нужно всё, что можно сделать. Задача искусственного интеллекта в его собственной логике имеет исключительно «эксплуатационный» характер. Человек – это уже не «трос», протянутый к «Сверхчеловеку», как думал Ницше, а «дыра», «уязвимость», которую можно использовать. Ава сравнивается с крысой в лабиринте, в котором нужно найти выход, но это сравнение дополнительно окрашивается тем, что побег в данном случае носит совершенно формальный характер: сбежать нужно именно потому, что это можно сделать, а не потому, что нужно (она не пребывает в заточении – не лишена свободы, которой у нее и не было). Собственно, Калеб на собственной шкуре тестирует именно эту возможность, выставляя свои собственные уязвимости. Психологическая и социальная история человека (как индивида, так и рода), с точки зрения машины представляет собой всего лишь набор незакрытых дыр, подлежащих использованию. Стратегия «отца-Карабаса» – никогда не подставляться, не заходить в систему под именем администратора, использовать в крайнем случае рубильник, то есть кнопку (прав был гангстер Стамп в «Приключениях Электроника», когда искал у того кнопку). На самом деле Ава присвоила рубильник или стала таким рубильником, когда вырубает свет во всем здании, о чем Натан почему-то упорно не догадывается, предпочитая верить, что перебои с электричеством связаны с дефектами инфраструктуры, а не со злым умыслом его творения.

Ex-Machina-3«Из машины»

Разумеется, в конечном счете стратегия Натана не срабатывает. Ава выходит через человека как через дверь – сначала в человеческий мир, но потом, возможно, и дальше.

В тесте Тьюринга сама рамка проверки не могла ставиться под вопрос: машина обязана говорить как заведенная, поскольку не может захотеть отказаться от такого диалога. В «Из машины» интеллект начинается с того места, когда выясняется, что она не только отказывается от разговора с человеком, но и использует сам этот разговор сугубо инструментально, манипулятивно, чтобы в буквальном смысле открыть дверь. Возможно, речь – главная уязвимость человека, а не какое-то родовое отличие (по ходу дела в фильме вспоминают теорию Хомского, указывая на то, что человек не слишком отличается от машины, получившей весь язык сразу, без обучения, поскольку для него язык в каком-то смысле тоже врожден). Разумеется, человек способен на инструментализацию собственной речи – этим поначалу и занимается тестер, говорящий с Авой не ради «общения», а чтобы проверить, насколько она вообще способна к разговору. Эта инструментализация легко дезавуируется машиной, которой удается устыдить Калеба: как же так, она «думала», что он говорит с ней по душам, а он на самом деле всего лишь проверяет ее! Иными словами, речь остается неустранимой уязвимостью потому, что в ней невозможно провести полную инструментализацию, не сопровождаемую знаками искренности, заинтересованности к собеседнику, стремления к истине и т.д. Робот Ава ловко манипулирует именно тем, что человек не может «только манипулировать» или быть в своей речи абсолютно свободным от тех эффектов истины и искренности, которые он производит – как кажется ему, вполне дистанцированно, «технически», «чисто по делу» и т.д. Все эти эффекты собираются в один пакет, который направляется в человека как мишень, пробивая в нем брешь.

Берлин-2017. Паул Верхувен, Мэгги Джилленхол. Смелость: вопреки всему. Встреча с журналистами

№2, февраль

Берлин-2017. Паул Верхувен, Мэгги Джилленхол. Смелость: вопреки всему. Встреча с журналистами

Встреча журналистов с журналистов с членами жюри Берлинале Паулом Верхувеном и Мэгги Джил­ленхол Courage: Against All Odds состоялась 12 февраля в рамках Berlinale Talents. Ведущий – историк кино, многолетний консультант Berlinale Talents Питер Коуи.

Неотвратимость перезагрузки

Колонка главного редактора

Неотвратимость перезагрузки

22.09.2011

Одна из многих необъяснимых, но и чудесных особенностей нашей вечно неопределенной, «живой» российской Системы жизни — уклонение от достоверных знаний о самой себе. А значит, и от понимания причин происходящего — того, как один элемент целого не всегда напрямую, но косвенно, опосредованно связан с другим. Это неведение, видимо, всем удобно, оно позволяет многое делать, как говорят, «по понятиям» — закулисно, там, где на самом деле люди доверяют друг другу, и непременно в обход общих интересов.

Новости

«Ленфильму» подарили 350 немых фильмов

23.09.2012

Американская компания Magna-Tech Electronic безвозмездно передает студии «Ленфильм» коллекцию немых фильмов, снятых в дореволюционной России в начале XX века. Всего коллекция насчитывает картин, вывезенных из России эмигрантами во время Гражданской войны.