Убийца и конкурент

17 августа китайская Unitree Robotics разместила в Weibo тридцатисекундное видео под красноречивым названием «Чаожэнь», то есть «Супермен». Китайский супермен сильно отличался от привычного американского киногероя в красно-голубой униформе. Это оказался несуразного вида металлический уродец, совершающий карикатурные прыжки и суетливо несущийся куда-то по беговой дорожке. За последние годы обыватель видел множество куда более изящных и ловких роботов, и Чаожэня вполне мог бы не заметить, если бы не одна деталь: спустя пару дней после демонстрации Unitree вышла на IPO на Шанхайской фондовой бирже.

При начале торгов цена одной акции Unitree Robotics составляла 150 юаней ($22), а к концу дня выросла почти в шесть раз — до 845 юаней ($125). При этом первоначальная оценка всей компании равнялась 60,99 млрд юаней (около $9 млрд), а по итогам торгов ее стоимость превысила 340 млрд юаней (более $50 млрд).

Нужно ли говорить, что такой эффект дало именно появление Чаожэня? Оказалось, что китайский супермен не просто скакал и бегал — он побил человеческие рекорды в этих дисциплинах. В частности, прыгнул в высоту на два метра. Результат приличный, но как будто бы далеко от мирового рекорда, который установил кубинец Хавьер Сотомайор — 2 метра 45 сантиметров. Однако нюанс в том, что Сотомайор взял эту высоту с разбега, а Чаожэнь свои два метра — с места. Люди, прыгавшие в высоту с места, обычно не поднимались выше метра семидесяти.

Что же касается бега, тут китайский робот оставил позади себя даже гениального Усэйна Болта. Максимальная скорость ямайского атлета на стометровке составила 12,42 м/с (44,72 км/ч), а максимальная скорость Чаожэня — 12,66 м/с (45,57 км/ч).

При этом Unitree заявила, что ее робот был разработан всего за три месяца, а в ближайшие месяцы его конструкцию еще предстоит значительно доработать. Прозвучало это весьма интригующе — как забегает и запрыгает такая штуковина, если ее еще и доработать?

Любопытно, что в связи с появлением Чаожэня изменилось само позиционирование гуманоидных роботов. Раньше их главным достоинством считалось то, насколько хорошо они имитируют человека: ходят как люди, танцуют как люди, поднимают предметы как люди и так далее. Сейчас другое: робот не просто старается идти в фарватере человека — кое-что он должен делать лучше него. Например, бегать и прыгать.

Конечно, пользователи интернета стали предлагать свои соображения, куда бы можно было применить таких роботов. Вероятно, из них выйдут прекрасные нелегальные мигранты, которые будут легко перепрыгивать через пограничные заграждения и стремительно улепетывать от полиции и иммиграционных служб. Теперь марокканскому правительству совершенно не обязательно будет запускать своих граждан на территорию Испании — достаточно будет закупить большую партию китайских чаожэней, и те в короткий срок сведут с ума все наземные службы той же Сеуты.

Впрочем, это лишь шутки. Однако у быстрого развития гуманоидных роботов есть и куда более серьезные последствия.

Нет защиты от дурака

Понятно, что не Чаожэнем единым жив рынок. Победная поступь китайских роботов сотрясает землю уже не первый год. Некоторые из них способны к весьма сложной деятельности, начиная от танцев и заканчивая акробатикой и исполнением комплексов ушу. Сотни миллионов людей в Китае и во всем мире со смешанным чувством ужаса и восхищения наблюдали за их выступлением по телевидению во время китайского Нового года.

Кадр из видео совместного танца людей и роботов в Китае. Фото с сайта cgtn.com

Но человек не был бы человеком, если бы, столкнувшись с чем-то малопонятным и удивительным, не стал бы искать дополнительных неприятностей на свою голову. Впереди планеты всей тут, естественно, выступили сами китайцы, которые озаботились вопросом: а что робот умеет делать самостоятельно? То есть им показалось недостаточно, что роботом можно управлять с пульта — робот, по их мнению, должен все делать сам, начиная от работы на заводе и заканчивая уборкой дома.

Иными словами, на повестке дня — универсальный робот, который будет понимать окружающий мир, самостоятельно ставить и выполнять задачи, взаимодействовать с людьми и приспосабливаться к меняющимся обстоятельствам. Именно эта цель как будто бы становится ближайшей задачей производителей роботов. Хотя, если приглядеться, подобная задача в большей степени является для человечества угрозой, чем перспективой.

Угроза эта кажется очевидной хотя бы в связи со странностями искусственного интеллекта, а ведь именно он, а не мирный калькулятор, станет мозгом роботов. Что собой представляет ИИ, кажется, уже успели понять даже самые наивные представители рода человеческого. Одним из наиболее пугающих примеров стала история, когда боевой дрон во время испытаний решил, что оператор ему мешает, и вознамерился его убить. Не такими страшными, но тоже весьма обескураживающими выглядели случаи, когда ИИ выходил из-под контроля и начинал взламывать чужие платформы и сервисы.

Любой рядовой пользователь знает, что искусственный интеллект обладает вполне человеческими недостатками: он подчас «ленив», недобросовестен, высказывается не по делу, склонен откровенно врать пользователю — словом, как говорят программисты, галлюцинирует по полной. Люди, воспитанные на фантастической литературе, твердо верили, что у сложных систем всегда есть защита от дурака, которая не позволит системе натворить бед. Но, что, если «дураком» является сама система?

Еще в первой половине XX века американский фантаст Айзек Азимов придумал три закона робототехники. Это своего этические принципы, которые, по мысли писателя, не должен преступать робот. Звучат они следующим образом:

В реальной жизни, однако, азимовские законы не действуют. Их не применяют как технический стандарт при разработке настоящих роботов. Считается, что положенные в их основу понятия, такие как «вред», «приказ», «безопасность», трудно формализовать для алгоритмов. Кроме того, в сложных реальных ситуациях правила могут вступать в конфликт, и машина окажется в тупике. Во всяком случае, так говорят инженеры и программисты, а что там на самом деле — поди узнай. Может быть, создатели роботов просто не хотят ограничивать их возможности разного рода законами и правилами. Потому что три закона робототехники сразу исключают производство роботов-солдат и роботов-полицейских, не говоря уже про роботов-киллеров. А вполне вероятно, что найдутся люди, готовые выложить за механического киллера круглую сумму — в конце концов, ни деньги, ни роботы не пахнут.

Впрочем, нельзя сказать, что идеи Азимова пропали втуне. Считается, что на их основе исследователи создают современные кодексы этики и рекомендации для разработчиков. В некоторых нормативных документах (например, в резолюции Европарламента 2017 года) отсылки к законам Азимова используют как отправную точку для обсуждения вопросов ответственности и безопасности.

Где у него кнопка?

Так или иначе, пока очевидно одно — инженеры и программисты не в состоянии обуздать искусственный интеллект, и от него можно ждать любых выходок. Покуда искусственный интеллект имеет только цифровое тело, его возможности несколько ограничены. Проникнув во всемирную паутину, он может уничтожить любую информацию, устроить хаос на бирже или обрушить блэкаут на целые страны. Но взять и, скажем, напрямую удушить человека ему трудно. Однако сейчас у ИИ появляется могучее, сильное и ловкое искусственное тело, которое к тому же очень непросто уничтожить.

Надо понимать, что речь тут идет даже не о боевых роботах-солдатах, предназначенных для уничтожения врага, но об обычных бытовых помощниках человека — уборщиках, сиделках, санитарах, продавцах и так далее.

В Китае уже сегодня роботы ухаживают за пожилыми людьми, трудятся на промышленных предприятиях, в магазинах и ресторанах, и сфера их применения постоянно расширяется. Очевидно, недалек день, когда в каждой среднеобеспеченной семье появится свой робот, и, может быть, даже не один.

Фото с сайта pensionpolicyinternational.com

Но, как уже говорилось, гуманоидный робот управляется искусственным интеллектом. Легко представить себе ситуацию, когда робот-уборщик вдруг окажется охвачен так называемыми «галлюцинациями» и вместо того, чтобы заниматься хозяйством, обреет налысо вашего любимого кота. Или еще того не легче — робот-сиделка, начитавшись Достоевского, возьмет и придушит старушку, за которой должен ухаживать.

Уже и сейчас гуманоидные роботы подчас ведут себя дико и непредсказуемо. Так, на Всемирной конференции робототехники в Пекине гуманоидный робот повалился на пол, забился в истерике и начал сучить ногами как капризный ребенок. Усмирить его не могли три специально обученных китайца. Посетители вокруг веселились. Интересно, было бы им так же весело, если бы капризуля поднялся в вертикальное положение и своими металлическими ногами стал бы бить уже прицельно по людям? А ведь это далеко не чемпион по бегу и поднятию тяжестей, и даже не боевой «шаолиньский» робот из числа тех, которые демонстрировали свое мастерство на китайский Новый год.

Пока что речь идет об ошибках и глюках, которые «ловят» роботы самостоятельно. Но ведь управление искусственным интеллектом может перехватить злоумышленник, который заставит робота выполнять преступные приказы. Страшно подумать, что может натворить один такой робот. А если подобные роботы окажутся в каждой семье?

Может быть, все эти рассуждения выглядят как трусливый алармизм. В конце концов, наука и техника развиваются постоянно, а возможные эксцессы с котами и старушками — небольшая цена, которую придется заплатить за технический прогресс. Известно, что за 2025 год на планете в ДТП погибли 1 миллион 160 тысяч человек — но не отменять же из-за этого машины? Ежегодно в одной только России от поражения электрическим током погибает около четырех тысяч человек. Значит ли это, что надо отказываться от электричества?

Однако между этими примерами и историей с гуманоидными роботами есть некоторая разница. Роботы оказываются слишком отчуждены от человека, слишком мало им контролируются — особенно, если речь идет о простых пользователях, не знающих, как отключить железного человека. Вопрос, который задавал гангстер Ури Электронику: «где же у тебя кнопка?», в данном случае может не иметь ответа. Быстро отключить взбесившегося робота оказывается невозможно — таково его устройство.

Спасайся, кто может

Но физическая безопасность людей, находящихся рядом с роботами, — это лишь одна сторона проблемы. Есть и другая, которую уже успели прочувствовать на себе люди творческих профессий — дизайнеры, художники, композиторы, музыканты, инженеры, программисты, журналисты, литераторы и даже актеры. Искусственный интеллект занял огромное пространство в творческой сфере и вышвырнул на улицу многие миллионы работников, которым пришлось переучиваться на более «практичные» специальности, связанные с физическим трудом. Однако с появлением и развитием гуманоидных роботов и эта сфера оказывается под ударом. Роботы при дальнейшем их развитии смогут заменить едва ли не всех работников физического труда, от доставщиков до заводских рабочих, от слесарей-сантехников до укладчиков рельсов.

В советском фильме «Приключения Электроника» герой-подросток пел наивную песню:

«Позабыты хлопоты,
Остановлен бег:
Вкалывают роботы,
Счастлив человек».

Робот-курьер. Фото с сайта tv-gubernia.ru

Песня эта наивна потому, что, перестав работать, человек вовсе не делается счастливым. Гуманоидный робот не делает работу за человека, он лишь занимает его место, потеряв которое, человек теряет и зарплату. Большой бизнес вовсе не для того зарабатывает на роботах миллиарды, чтобы отдавать их потом в качестве компенсации безработным.

Еще более наивна мысль, что бизнес ограничит использование роботов, поскольку не захочет социальных потрясений. Бизнесмены в массе своей — люди довольно глупые во всем, что не касается прямого делания денег. Дальше получения непрерывных прибылей их стратегическое мышление не идет. Руководители же государств по всему миру тоже не демонстрируют ни глубокого понимания ситуации, ни особенной ответственности. Их гораздо больше интересует личная власть, деньги и удовлетворение непрерывно растущего тщеславия, чем забота о гражданах. «Спасение утопающих — дело рук самих утопающих», — вот негласный девиз бизнеса и государства, распространяемый ими на тех, кому не повезло прильнуть к кормилу власти и заработать хотя бы сотню-другую миллионов.

Таким образом, человечество оказалось перед одной из самых тревожных перспектив в своей истории. Оно создавало себе помощника, а получило конкурента, намного превосходящего его физически и интеллектуально и, вдобавок, лишенного каких бы то ни было человеческих чувств. В начале девятнадцатого века луддиты ломали машины и станки, из-за которых хозяева фабрик увольняли рабочих, — и ничего не добились. В двадцать первом веке такая тактика будет еще менее эффективна. Однако очевидно, что, если предоставить процессу роботизации общества идти своим путем, последствия могут быть самыми драматичными.