Robota не для робота

Опубликовано: 15 Января 2018 г. Автор: Андрей ЖДАНОВ | г. Алматы
Robota не для робота
Очки дополненной реальности BMV для виртуозной парковки
просмотров 991

В канун праздника рассказывать читателю о чем-то малоприятном – моветон. Поэтому в предновогодней публикации «Мы не умнеем, а надо бы» о близком технологическом будущем человечества мы рассказали в основном лишь о заманчивых перспективах, которые нам сулят наука и ее плоды.

Повод вернуться к теме в будничном и более критичном ключе нашелся едва стартовал новый, 2018 год. С его началом мультимедийный канал Netflix начал показ четвертого сезона уже упоминавшегося нами британского сериала Black Mirror («Черное зеркало»). Эта антиутопия демонстрируется с 2011 года, полностью посвящена проблемам распространения новых технологий и собирает многомиллионную аудиторию. Автора литературной основы сериала Чарльза Бруклина зрители сравнивают с Жюлем Верном, Гербертом Уэллсом, Айзеком Азимовым, Рэем Бредбери, Артуром Кларком, Станиславом Лемом, Аркадием и Борисом Стругацкими, а в кинематографе – с Альфредом Хичкоком и Люком Бессоном, мэтрами мировой социальной фантастики.

Мы не умнеем, а надо бы
читайте далее

Заточение в кофеварке, хештег для киллера и слепой спецназ

По-своему отметил премьеру четвертого сезона Black Mirror издающийся с 1902 года авторитетный научный журнал Popular Mechanics. Он выбрал из трех предшествующих сезонов Black Mirror и опубликовал топ-5 новейших технологий, которые, по мнению издания, таят для человечества больше всего предсказуемых опасностей, оценив, какова вероятность того, что они сбудутся в жизни.

fandea.ru.jpg

Пятое место в этом своеобразном антирейтинге отдано виртуальным слугам – звеньям широко рекламируемых сегодня «умных домов». В одной из серий фильма эти помощнички создаются на основе генной инженерии и живого материала – самого человека. Точнее, его сознания, которое извлекается из тела персонажа картины – скромной девушки Греты. Она добровольно соглашается на эту операцию от безденежья и безысходности, и ее личность переносят в аппарат наподобие навороченной домашней кофеварки. Сначала Грета бунтует и требует вернуть ей тело, но затем начинает сходить с ума от абсолютного бездействия (тела-то нет, а сознание в металлопластиковой оболочке!) и умоляет хоть чем-то занять ее. Занятие находится, но одно-единственное – рутинное, изо дня в день приготовление кофе для богатой хозяйки «умного дома», где обречена обитать бестелесная Грета. Вероятность подобного нарушения прав человека и его использования лишь в качестве рабочей силы для обслуживании состоятельных слоев населения журнал Popular Mechanics оценивает в 40%.

black-mirror-825.jpg

На четвертое место по опасности издание ставит интернет-буллинг. В сериале он оборачивается реальными смертями людей от «укусов» крохотных дронов, похожих на пчел, по анонимному заказу из Всемирной паутины. К такому результату приходит детектив Парк, расследующий серию загадочных убийств. Их объединяет единственное – хештег #deathto с именем жертвы. По воле организатора онлайн-игры его может оставить в Интернете любой, тем самым запуская механизм убийства неугодной персоны. Но и сами заказчики-хештегисты рискуют получить аналогичную черную метку – дронам-киллерам совершенно безразлично, кого «мочить», был бы приказ. Так авторы «Черного зеркала» доводят интернет-травлю до жестокого абсолюта, а Popular Mechanics допускает ее превращение в реальность с 50-процентной вероятностью.

2760adc6dc50495dc9310d992b2eba68.jpg

Она выше еще на 5% для окончательного морального порабощения будущим TV как его зрителей, так и создателей-авторов. В гротескной пародии «15 миллионов заслуг» на современные популярные телешоу Black Mirror показывает, как в недалеком будущем львиная доля населения живет в убогих каморках, все стены которых – телеэкраны. А зарабатывают люди на жизнь тем, что... до изнеможения крутят педали велотренажеров, добывая валюту merits, в переводе с английского – «заслуги». В надежде вызволить из сексуального рабства свою девушку главный персонаж пародии Брегг пробивается в эфир и рассказывает об этой беде зрителям, неожиданно обретая бешеную популярность и награду победителя шоу – роль шоумена в аналогичном телеразвлечении. А как же возлюбленная? Да кто ее знает – в финале Брегг не крутит педали, богат и живет в роскошном доме, а все его мысли – только о зрительских рейтингах и личном успехе.

a59c02255181817bcaea4e9053321a63.jpg

До 70% увеличивает журнал Popular Mechanics вероятность ранжирования социума на основе пресловутых лайков – положительных или отрицательных оценок в виртуальном пространстве. В серии «Резкое падение» Black Mirror показывает, как они непосредственно влияют на общественный статус и благосостояние человека. Чем больше у него лайков, тем больше он получает доходов, выгодных предложений, скидок и прочих льгот. Чем меньше лайков, тем меньше доступ (вплоть до полного отсутствия) человека к материальным и общественным благам, включая даже медицину. Паническая лайкозависимость доводит главную героиню серии Лейси до психоза, почти безумия, за которым маячит уже непоправимое.

whack610.jpg-610x0.jpg

На первое место среди потенциальных опасностей, показанных в трех сезонах сериала Black Mirror, журнал Popular Mechanics ставит технологию дополненной реальности (Augmented Reality, AR) с 80-процентной вероятностью ее негативных последствий. Она представляет собой совмещение настоящего и виртуального контентов, взаимодействующих между собой в реальном времени и трехмерном пространстве. Разработкой и освоением этой технологии с 1990-х годов занимаются все гиганты IT-индустрии.

Очки дополненной реальности Google Glass .jpg

Ее практического воплощения первым добился Google, представивший в 2012 году очки дополненной реальности Glass с 3D-проекцией и другими функциями. 

Дополненная реальность навсегда изменит способ, которым мы используем технологии, – говорил в ноябре 2017 года наследник Стива Джобса в корпорации Apple Тим Кук. – Существуют приложения AR, которые позволяют взаимодействовать с виртуальными моделями всего, что вы только можете представить: от человеческого тела до Солнечной системы… И я видел приложения, которые заставили меня задуматься, а не стоит ли мне вновь пройти курс программирования?

В третьем сезоне Black Mirror гипотетические результаты применения AR показаны глазами молодого солдата спецподразделения по уничтожению неких ужасных монстров. Как и все его бойцы, он смотрит на окружающую среду через особые линзы, якобы помогающие обнаружить и поразить чудовищ. Но одно из них в столкновении с солдатом умудряется вывести его супероптику из строя. И он вдруг видит перед собой никакого не монстра, а человека – испуганного, истерзанного, но отчаянно пытающегося выжить.

Американский военный шлем дополненной реальности HEaDS-UP.png

Так вскрывается кощунственная ложь: AR-линзы в глазах спецназа фальсифицируют изображение и звук, то есть искажают действительность, выдавая за чудищ мирных людей, чем-то там неугодных командованию (читай – власти). Вывод очевиден: AR-технология легко превращает защитников отечества в убийц, слепо убежденных в праведности своей миссии и не ведающих, что они творят на самом деле.

Еще когда их могли назвать «лабори»

Находятся снобы, обвиняющие Чарльза Брукера и весь творческий коллектив сериала Black Mirror в том, что они занимаются изготовлением не более чем очередных страшилок, коим в кино несть числа. Эти критики то ли забыли, то ли не хотят вспоминать, то ли вообще не знают о вкладе так называемых фантастических произведений и их авторов в обозначение контуров сбывшегося будущего.

Жюль Верн.jpg

Жюль Верн в опубликованном еще в 1860 году романе «Париж в ХХ веке» предсказал телевидение, видеосвязь и современные компьютеры, в 1879-м и в 1896-м – химическое и ядерное оружие («Пятьсот миллионов бегумы» и «Флаг родины»), а в общей сложности в своих произведениях – более десятка изобретений и событий мирового значения.

Герберт Уэллс.jpg

В 1899 году в книге «Когда спящий проснется» Герберт Уэллс писал: «Эта улица была около трехсот футов ширины и двигалась сама... Под самым балконом эта необыкновенная улица быстро неслась направо со скоростью курьерского поезда девятнадцатого столетия». Чем не прообраз движущихся дорожек и эскалаторов на вокзалах, в метро, аэропортах, крупных сооружениях и на других объектах, которые начали появляться в жизни менее чем через полвека после «выдумки» писателя?

Аркадий и Борис Стругацкие.jpg

Практически один в один описали в 1980 году в романе «Жук в муравейнике» Интернет и Википедию братья Стругацкие с той лишь разницей, что назвали их Большим Всепланетным Информаторием (БВИ), в котором нет спама и порнографии. А дрожка (дискотека), ляпник (ружье для пейнтбола), неедяки (сегодня – дауншифтеры, в переводе на язык Льва Толстого – опрощенцы, пренебрегающие благами цивилизации якобы в знак протеста против потребительства) и другие вроде бы шуточные понятия, придуманные Стругацкими еще в 1960-х годах и ставшие реальностью?

Айзек Азимов.jpg

В прошлом году отметили 75-летний юбилей три знаменитых закона роботехники Айзека Азимова, наиболее полно сформулированные фантастом в 1942 году в рассказе «Хоровод». В 1986 году в романе «Роботы и империя» он дополнил их так называемым нулевым законом: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред».

Карел Чапек-2.jpg

Да и само слово «робот» родилось отнюдь не в научно-технических или промышленных кругах, а было впервые предложено чешским писателем Карелом Чапеком аж в 1921 году. Задумав фантастическую пьесу (R.U.R. – Rossum's Universal Robots – «Универсальный робот Россума») о человекоподобных, наделенных элементами разума автоматах, он поначалу назвал их «лабори».

Но это слово не нравилось Чапеку, и после мучительных поисков другого краткого определения он обратился за советом к своему брату Йожефу, художнику с большим чувством юмора. А тот, не долго думая, подсказал простое чешское слово robota, означающее не просто «труд», а его тяжелую и подчас подневольную форму. Писатель пришел в восторг и впоследствии всегда подчеркивал, что первородство в изобретении термина «робот» принадлежит Йожефу Чапеку.

А собственно технических придумок пьеса содержит немного и посвящена в основном психологическим и моральным проблемам взаимоотношений человека с искусственным разумом, тем самым 97 лет назад обозначив их краеугольный камень. Достаточно сказать, что в 2007 году правительство Южной Кореи начало разрабатывать Устав этических норм для роботов, положения которого напоминают законы роботехники Айзека Азимова.

roboticsco_2319821_15264024.jpg

Показательно и то, что Институт сингулярности США (SIAI) уже несколько десятилетий исследует проблемы глобального риска, которые может создать будущий сверхчеловеческий мозг, если его не запрограммировать на дружелюбие к хомо сапиенс. В 2004 году SIAI запустил сайт Asimov Laws.com, созданный для обсуждения этики искусственного интеллекта. На этом сайте утверждается, что и законы роботехники Азимова небезопасны, поскольку, например, могут побудить машины захватить власть на Земле, чтобы оградить людей от вреда и зла, которые они несут друг другу.

Пока царит безалаберность

Как видим, корень проблематики не в самих технологиях, а в том, как и в каких целях человек их уже использует и будет применять в дальнейшем. Ну все как в исторических параллелях с бумагой и ядерной энергией! На бумаге можно написать и «На холмах Грузии лежит ночная мгла», и кляузу-анонимку на соседа». «Бумага все стерпит», – напоминал герой Вячеслава Тихонова в кинофильме «Доживем до понедельника». А разбуженный атом может и вечно согревать все человечество чистой энергией, и в мгновение ока уничтожить его вместе с Землей.

Такими же неопределенными выглядят следствия широкого внедрения в повседневность искусственного интеллекта и других новаций, которые все больше на слуху. 

Человек, который ограничен медленными темпами биологической эволюции, не в состоянии конкурировать с искусственным интеллектом и будет превзойден им, – отмечал в интервью Би-би-си в 2014 году выдающийся физик и космолог, много лет назад разбитый параличом и утративший способность разговаривать вслух, но ведущий активный образ жизни Стивен Хокинг.

Летом 2015 года он и еще более тысячи ученых, инженеров и исследователей подписали письмо делегатам международной конференции по искусственному интеллекту в Буэнос-Айресе, в котором предупреждают об опасностях, связанных с разработкой автономных систем вооружения. К ним относятся беспилотные летательные аппараты, автономные пулеметы и танки, другое и все новое оружие, контролируемое искусственным мозгом. Его все более широкое и бесконтрольное применение в гонке вооружений, отмечается в письме, ведет к неминуемой гибели человечества.

Стоп робот-киллер!.jpg

Неоднократно обсуждала возможность официального запрета на разработку и изготовление роботов-убийц и их приравнивания к оружию массового уничтожения Организация Объединенных Наций. Вряд ли такой запрет остановит «безбашенных» или продажных ученых, тем более их заказчиков. Но он хотя бы даст мировому сообществу законные права их выслеживать, отлавливать и сурово карать. Однако дальше разговоров дело в ООН не идет.

Пытаясь подвигнуть международное сообщество на решительные действия, летом 2017 года 116 известных бизнесменов, исследователей, инженеров и других представителей высокотехнологичных компаний из 26 стран направили в ООН новое письмо. В нем говорится: 

Смертельное автономное оружие грозит стать третьей революцией в войне. Разработанные технологии позволят вооруженным конфликтам разворачиваться в масштабе, большем, чем когда-либо, и в разы быстрее, чем люди могут себе представить. Они могут стать оружием террора, оружием, которое диктаторы и террористы могут применять против ни в чем не повинных людей, и оружием, которое можно взломать, чтобы использовать нежелательными способами. Как только ящик Пандоры откроется, его будет очень трудно закрыть.

К моменту этого обращения лишь 19 государств – членов ООН (менее 10% всего их количества) поддержали запрет на роботов-убийц и установление международного контроля над разработкой искусственного интеллекта. С целью расширить их ряды ООН планировала провести очередное обсуждение проблемы 21 августа 2017 года. Однако оно было отменено по причине недостаточного числа государств, сделавших денежные взносы для участия в этой встрече, перенесенной на ноябрь. Но и тогда вновь из-за отсутствия финансового кворума заседание не состоялось...

Пока международное сообщество в лице ООН демонстрирует вопиющую безалаберность, остается лишь прислушаться к совету основателя «Яндекса» Аркадия Воложа: 

Все мы – и вы, и я – являемся в 99% случаев пользователями. Любой из нас приложил руку в лучшем случае к какому-нибудь 1% всего, что создается в этом мире. Почти во всех остальных случаях мы просто пользователи вещей, которые создает кто-то другой. Но именно наш выбор определяет, куда растет древо человечества.

Эту robotu за нас никто не сделает.