Захватят ли роботы мир?

Роботы очень полезны, не правда ли? Они могут заниматься космическими исследованиями и стричь нам ногти на ногах. Но есть мнение, что успехи в области робототехники и искусственного интеллекта несут скрытую угрозу. Недавно «КЛ» приводила точку зрения на этот счёт австралийского философа Клайва Гамильтона, который не только считает, что опасения преувеличены, но и уверен в том, что ИТ не так уж сильно изменили нашу жизнь.

Роботы из голливудской фантазии Wall-E (2008)

Давайте послушаем теперь трёх сотрудников Кембриджского университета (Великобритания), которые не просто философствуют, но по роду деятельности связаны с робототехникой и её этической стороной. Перед нами следующие уважаемые люди. Лорд Мартин Рис (Martin Rees, далее МР) — почётный профессор космологии и астрофизики Кембриджского университета, имеет также почётное звание королевского астронома. Лорд Рис является одним из основателей Центра по изучению экзистенциальных рисков, который объединяет учёных, философов и разработчиков ПО. Кэтлин Ричардсон (Kathleen Richardson, КР) — антрополог, специализирующийся на роботах; получила докторскую степень в Кембридже и недавно защитилась также в Университетском колледже Лондона. Она пишет книгу о репрезентативных моделях — о том, как они влияют на наше мышление о роботах в качестве потенциальных друзей и врагов. Дэниэл Уолперт (Daniel Wolpert, ДУ) из Королевского исследовательского общества — профессор инженерного факультета Кембриджского университета. Он занимается биоинженерией и в особенности механизмами, которые контролируют взаимодействие мозга и тела. В центре внимания его исследовательской группы находится движение, которое «имеет центральное значение для всех видов человеческой деятельности». Итак, вопросы и ответы. Чем роботы могут быть для нас полезными? МР: Роботы способны выполнять самые разные задачи. Во-первых, они могут работать в местах, до которых человеку не добраться, — например, при ликвидации последствий аварий в шахтах, на буровых и АЭС. Во-вторых, и это тоже не очень популярная среди людей работа, автоматы могли бы оказывать помощь пожилым людям и инвалидам в их повседневной жизни: завязывать шнурки, стричь ногти… Более того, миниатюрные роботы могли бы проникнуть внутрь нашего организма, чтобы следить за нашим здоровьем, проводить хирургические операции и т. д. КР: Человеческие возможности ограничены, вот тут-то нам и пригодились бы роботы — например, в исследовании и освоении космического пространства. А что касается помощи пожилым и слабым, то эти обязанности мы могли бы выполнять и сами. Вопрос можно поставить так: из-за чего мы хотим, чтобы ту или иную работу за нас выполняли роботы? ДУ: Хотя компьютеры научились побеждать шахматных гроссмейстеров, ни один робот не сравнится с ловкостью пятилетнего ребёнка. Сегодняшнюю робототехнику можно сравнить с компьютерами 1960-х: это дорогие машины, используемые в простых, повторяющихся промышленных процессах. Но со временем компьютеры превратились в смартфоны, и аналогичная судьба ждёт роботов: они будут везде, они будут разных размеров, они возьмут на себя выполнение повседневных задач и даже станут нашими партнёрами.

Визуализация враждебного человеку искусственного интеллекта из компьютерной игры System Shock (1994)

Когда искусственный интеллект превзойдёт человеческий? МР: Пока у нас то пусто, то густо. Лет тридцать назад появилась возможность впервые сравнительно дёшево купить арифметическую машину, которая считает быстрее, чем мы, а уже в 1990-х компьютер IBM Deep Blue победил чемпиона мира по шахматам Каспарова. Совсем недавно Watson, другой компьютер той же фирмы, выиграл у людей в телевикторине, где вопросы задавались обычным человеческим языком. Но в то же время роботы до сих пор не умеют воспринимать окружающую среду так, как это делает ребёнок, — например, распознавать шахматные фигуры на реальной, а не виртуальной доске. Уже к концу века они научатся и этому, и человеческим чувствам. Возникнут сложные нравственные вопросы. Мы принимаем как должное, что человеку и животному необходимо реализовать свой «естественный» потенциал. А как быть с роботами? Должны ли мы чувствовать свою вину за то, что эксплуатируем их? Должны ли мы беспокоиться, если они заняты неполный рабочий день, если они обижены, если им скучно? КР: Как антрополог я сомневаюсь в объективном существовании человеческого интеллекта. Как его измерить — это решает конкретная культурная традиция. У каждого поколения свои представления о том, что значит быть человеком, какие качества уникальны для человека и т. д. Потом появляется машина, которая тоже обладает подобным качеством, и возникает опасение, что человечество вот-вот будет уничтожено. Это можно назвать современной формой анимизма — древних представлений о том, что все природные и искусственные объекты одушевлены. Мы по сей день видим лица и мистические фигуры в облаках и бутербродах с мармитом. Страх перед роботами и машинами говорит нам больше о том, что мы боимся друг друга, а не техники. Нам лишь кажется, что проблема в машинах, и из-за этого мы преувеличиваем их возможности. ДУ: В определённом смысле это уже произошло. Машины научились управлять самолётами, запоминать и искать информацию намного лучше, чем люди. В то же время ещё нет машин, способных идентифицировать визуальные объекты и речь с надёжностью и гибкостью человека. Без этих способностей невозможно рассуждать творчески и формулировать новые проблемы, то есть обладать реальным человеческим интеллектом. Я бы не стал ждать, что машина с творческим интеллектом, близким человеческому, появится в течение ближайших 50 лет.

Андроид из аниме Мамору Осии «Призрак в доспехах» (1995)

Стоит ли бояться прогресса в области искусственного интеллекта? МР: Беспокоиться стоит только футурологам, которые уверовали в так называемую сингулярность, когда роботы получат контроль над собой и научатся создавать ещё более сложное потомство. Озабоченность вызывает также возрастающая зависимость человека от компьютерных сетей, которые однажды превратятся в единый «мозг» с сознанием, подобным нашему, и с целями, идущими вразрез с интересами человечества. Полагаю, мы должны позаботиться о том, чтобы роботы остались специалистами в какой-то одной области и были лишены способности перехитрить человечество, даже если они намного превосходят нас с точки зрения счёта и обработки информации. КР: Надо спросить, почему сохраняется страх перед искусственным интеллектом и роботами, хотя никто пока не устроил восстание и не оспорил человеческое превосходство. Дабы разобраться, что стоит за этими страхами, надо осмыслить науку и технику как носителей специфической и исключительной разновидности мимесиса, то есть подражания. Наделяя машины и роботов искусственным интеллектом, мы создаём копии людей. Часть того, что мы копируем, имеет отношение к физическому миру творца, в дополнение к чему создатель вкладывает в машину идеи, технические средства и методы работы, данные культурным духом (наукой, техникой, самой жизнью) текущего момента. Все эти факторы сливаются воедино, и таким образом возникают искусственный интеллект и роботы. Почему же нас так пугает эта копия? Не все боятся восстания роботов, многие приветствуют машинный интеллект и видят в нём чудесную возможность создания новой жизни. Следовательно, чтобы понять, почему одни боятся, а другие приветствуют, надо разобраться с тем, какие виды мимесиса используются в создании роботов. ДУ: Мы уже знаем, какой вред могут причинить простейшие формы искусственного самореплицирующегося интеллекта: я говорю о компьютерных вирусах. Но в данном случае реальный интеллект — это их зловредный создатель. Важнее всего то, что польза от компьютеров перевешивает вред от вирусов. По аналогии можно предположить, что роботов тоже будут эксплуатировать не всегда правильно, но польза от них перевесит негативные аспекты. По-моему, имеет смысл беспокоиться по поводу того, что однажды интеллект роботов обгонит человеческий и что роботы научаться проектировать и производить более сложных роботов, чем они сами.

«Человек-машина» Футура из фильма Фрица Ланга «Метрополис» (1927)

Помогут ли роботы колонизировать другие планеты? МР: К концу века вся Солнечная система — планеты, их спутники и астероиды — будет изучена и нанесена на карту флотилиями крошечных роботизированных аппаратов. Следующим шагом станет добыча полезных ископаемых из астероидов, что позволит создавать огромные сооружения прямо в космосе, без необходимости доставки сырья и комплектующих с Земли. Станет возможным производство изделий невиданных размеров: гигантских телескопов с зеркалами толщиной с паутинку, собранных в условиях невесомости, солнечных коллекторов и так далее. Я считаю, это более реально и безобидно, чем так называемое терраформирование планет, которые необходимо сохранить в статусе нашей Антарктиды (по крайней мере до тех пор, пока мы не убедимся, что там нет никаких форм жизни). КР: Мне не очень нравится слово «колонизировать», о чём бы ни шла речь — о людях или роботах. Европейцы колонизировали земли других народов и несли с собой рабство, проблемы, заболевания, страдания. На Земле или на Марсе — всюду мы должны действовать, исходя из интересов Другого, то есть не навязывать конкретную модель, а идти Другому навстречу. Роботы могут помочь нам добраться до таких мест, куда мы сами не дойдём, но эти роботы не должны интерпретировать за нас то, что они там увидели. ДУ: Я не вижу острой необходимости колонизировать другие планеты, пока мы не научимся привозить оттуда ценные ресурсы на Землю. Нам всё ещё недоступна львиная доля родной планеты. Пусть роботы собирают ресурсы поближе к дому.

Дораэмон японских художников с коллективным псевдонимом Фудзико Фудзё (1969)

Что можно почерпнуть о роботах из научной фантастики? МР: Я говорю студентам, что лучше читать хорошую фантастику, чем второсортную научную литературу: это интереснее, а вероятность ошибки в прогнозах примерно одинакова. Даже те из нас, кто не верит в сингулярность к середине века, ожидают постоянного, если не возросшего, потока инноваций в области био- и нанотехнологий, а также в информатике. Наверное, через несколько столетий появятся роботизированные существа со сверхчеловеческим интеллектом. Постчеловеческий интеллект (в органической форме или в виде автономно развивающихся артефактов) создаст гиперкомпьютеры, производительности которых хватит для моделирования живых существ и даже целых миров. Возможно, уйдут в прошлое кино и компьютерные игры, ведь будут создаваться виртуальные миры, по сложности сопоставимые с нашим. Не исключено, что такой сверхинтеллект уже существует во Вселенной. КР: Художественная литература, в том числе научная фантастика, очень важна для нашей жизни. В западной культуре принято считать, что реальность — это одно, а вымысел, воображение — что-то другое. Далеко не во всех культурах это так. Наука и техника разделили одно и другое, потому что им надо было обозначить область своих интересов. Тем самым они принизили значение таких важных систем знания, как мифы и метафоры. Но барьеры невелики, и два мира время от времени сталкиваются. Иногда нам нужны они оба, чтобы увидеть всю картину. Может быть, поэтому мы перестанем бояться своих собственных копий. ДУ: Научная фантастика очень часто замечательно предсказывала будущее. Артур Кларк писал о спутниковой связи, а коммуникаторы из «Звёздного пути» уже выглядят примитивно по сравнению с нынешними мобильными телефонами. Научная фантастика ярко изобразила варианты возможного будущего. Мы видели как симпатичных и полезных роботов («Звёздные войны»), так и антиутопическое общество («Я, робот»). Что интересно, практически ни один из этих вариантов не обходится без роботов…