Цари природы, энергобатарейки или биокомпьютеры?::Журнал СА 7.2009

АНДРЕЙ ПОГОДИН, был сисадмином. Окончил высшую школу КГБ СССР, работал в структурах МИД СССР, был зампредом правления Сбербанка,
зам. гендиректора ФГУП «Почта России», лауреат премии «IT-ЛИДЕР» 2003 и 2006 годов. Председатель Совета директоров компании «Эн Ди Групп»

Цари природы, энергобатарейки или биокомпьютеры?

Искусственный разум не появится до тех пор, пока мы не поймем, как работает человеческий мозг.

…Это случилось много лет назад, когда я был просто системщиком, так тогда называли сисадминов. Рядом с моей работой находился книжный магазин, куда я часто заходил в поисках новинок по информатике, прежде всего операционной системы. Ее я знал до битика и до байтика и очень этим гордился.

Да, я считал себя профессионалом. И вдруг, однажды, перебирая, как обычно, новинки на полке, прочитал на корешке книги: Хьюберт Дрейфус «Чего не могут вычислительные машины». Я посчитал это провокацией! Как? Я был уверен, что машины могут все. Но, купив и прочитав эту книгу, понял, что ничего не знаю о своей профессии. Дрейфус подтолкнул меня к изучению смежных областей: потом много лет я занимался вопросами искусственного интеллекта. Его книга перевернула мое сознание. До этого я считал, что надо быть очень узким специалистом, досконально знать свой предмет. Конечно, подобные специалисты необходимы. Однако информатика – это область, в которой постоянно появляется что-то новое. Когда умерла IBM ОС 360, на которой я работал в то время, мои знания стали никому не нужны. Моя ценность для социума исчезла. Это заставило меня крепко задуматься и двигаться дальше.

Люди – не боги, а жалкие плагиаторы

Что касается выводов, сделанных Дрейфусом, то я с ними и согласен, и нет. Согласен потому, что автор исходил из состояния, в котором находилась информатика 30-35 лет назад. Тогда его выводы были абсолютно верными.

Не согласен, так как за прошедшие десятилетия горизонты информатики сильно расширились, правда, оптимизма у нас заметно поубавилось. В 60-70 годах ХХ века термин «искусственный интеллект» был на слуху, казалось, вот-вот и у нас появятся роботы-помощники. Однако мы по-прежнему не понимаем, как работает человеческий мозг, не решили множество фундаментальных проблем с точки зрения вычислительной техники, поэтому, думаю, что в ближайшее время не надо ждать прорыва.

Тем не менее я уверен: наступит время, когда появятся человекоподобные машины, которые начнут выполнять не просто узкоспециализированные функции, а существовать в той среде, в которой существуем мы с вами. Они будут обладать способностью к обучению, эвристическим мышлением, целеполаганием. Я бы все-таки называл их не роботами, а биокомпьютерами. Это будет что-то очень похожее на нас, если не высказать крамольную мысль – это будем мы. Похоже, что человек стремится создать искусственный интеллект по образу и подобию своему. И здесь возникают не только технические задачи.

Когда Дрейфус утверждал, что машина никогда не сможет заменить человека, он исходил не просто из текущих достижений информатики, но также из чисто философских проблем. Дрейфус объяснял свой вывод так: у компьютеров в отличие от людей отсутствует целеполагание, а оно определяется нашими насущными потребностями. Правда, Дрейфус почему-то не затрагивал проблему совести, которая тоже присуща только людям.

С точки зрения религии это объясняется достаточно просто. Господь на шестой день сотворения мира создал человека по образу и подобию своему и вдохнул в него дух. В принципе именно это отличает нас от животных. Соответственно у компьютера сегодня нет ни духа, ни целеполагания, у него отсутствует контекст. Пока мы не решим эти проблемы, мы, наверное, не сможем создать человекоподобное существо, о котором все так давно мечтают. Однако будет ли нам это позволено? Если исходить из тезиса, что человек – это биокомпьютер, то до тех пор, пока не поймем, как работает человеческий мозг, мы всего лишь жалкие плагиаторы, которые замахнулись на роль Творца в этом мире.

О безграничности стремлений и мере ответственности

Адам и Ева, как вы помните, были изгнаны из рая именно за то, что они сорвали плод с древа познания добра и зла. С той поры наши прародители стремились узнавать о мире все больше и больше. Мысль человеческая безгранична не в своих возможностях, а в своих стремлениях. Безусловно, все, о чем пишут писатели-фантасты, что показывают в фантастических фильмах, – рано или поздно произойдет только потому, что все это уже когда-то было.

Я считаю, что мы не первая и не последняя цивилизация. Ученые всего мира бьются над доказательствами того, что мы не одиноки во Вселенной. На самом деле может оказаться, что мы не цари природы, а всего лишь энергобатарейки для кого-то и чего-то. Например, ученые-биологи высказывают мнение, что миром правят вирусы и бактерии, а люди лишь среда существования для них.

Человек в своем стремлении к безграничности знаний и удовлетворению собственного тщеславия и возможностей идет все дальше и дальше. Им движет любопытство: а что там, за дверью? Вспомните легенду о ящике Пандоры – его открыли из любопытства, а в результате выпустили ядовитых змей, расползшихся по всему свету. То же самое, с моей точки зрения, происходит с любыми научными открытиями, которые создаются прежде всего для военно-промышленного комплекса. Если люди обладают знаниями, которые напрямую отражаются на жизни общества, возникает вопрос об ответственности этих людей.

Американский физик Тесла долгое время проводил очень интересные опыты с электричеством, но потом вдруг уничтожил все результаты. В его поступке я вижу проявление ответственности профессионала. Наверное, Тесла понял: его открытия могут использоваться другими людьми против человечества.

Совершая те или иные поступки, мы формируем свое будущее. Нильс Бор сказал как-то про Оппенгеймера, создателя атомной бомбы, что он был его самым гениальным учеником, но далеко не самым нравственным человеком. Возможно, Оппенгеймер не думал о последствиях, к которым приведет его открытие. В конце концов, кроме атомной бомбы, мы получили и атомные электростанции – при исчезновении органического топлива они становятся основным источником энергии.

Однако ни для кого не секрет, что сейчас идут эксперименты в военных целях с ноосферой. Речь идет уже не о ядерной войне, а о климатических войнах. На это тратятся миллиардные средства, нанимаются тысячные армии ученых. Задумываются ли они о своей ответственности? Вряд ли. Здесь, наверное, срабатывает эффект стада: каждый считает, что если он откажется, все равно это будут делать другие. «Я только выполняю свою работу, решаю свои житейские проблемы», – возможно, утешает себя человек. Но в итоге может получиться результат, который будет угрожать и существованию всего человечества, и лично ему и его близким.

Есть такой анекдот. Марс спрашивает Землю: «Как ты там?» – Она отвечает: «Ох, тяжело, люди гадят везде, засорили окружающую среду, все разрушают». – Марс: «Да, может скинуть их с себя?» – Земля: «Зачем? Сами вымрут!»

Действительно, достаточно какого-нибудь «открытия» или серьезного катаклизма, чтобы наша цивилизация навсегда исчезла. И если когда-нибудь все повторится, ее следов уже никогда не найдут.

От сисадмина до хакера – только шаг

К сожалению, прогресс человечества в области технологий сопровождался не духовным прогрессом, а, скорее, наоборот – деградацией. Взаимозависимость профессионализма и ответственности – это, наверное, главный вопрос, на который любой специалист должен найти свой ответ.

Для этого необязательно быть ученым-физиком, создающим атомную бомбу или андронный коллайдер, который поможет открыть частицу Хиггса – «частицу бога», и тогда с миром, может, произойдет что-то невероятное.

Системный администратор на самом деле – очень широкое понятие. Возможно, его роль скромна в небольших организациях. Но в крупных компаниях, где системные администраторы отвечают за все информационные системы, он может либо сделать много хорошего для окружающих, либо испортить им и работу, и жизнь. Все зависит от его целеполагания, потому что мы живем по определенным принципам и законам и, повторяю, сами творим свою судьбу.

Думаю, что человек – это социальный биокомпьютер. Я хотел бы, чтобы большие профессионалы никогда не забывали о нравственных категориях. Нужно четко понимать, где нужно применять свои знания, а где не нужно. Это как в восточных единоборствах: учителя, обучающие им, мудры и осторожны, ибо понимают, что передают знания и навыки, обеспечивающие их владельцам большие преимущества То же относится и к системному администратору: применение его знаний должно быть оправдано. Это во многом определит его профессиональную карьеру.

Мне хотелось бы пожелать своим бывшим коллегам, сисадминам, смотреть чуть шире своих профессиональных интересов. Соизмерять поступки со своими внутренними моральными ограничителями и не замыкаться в рамках профессии, чтобы иметь возможность развиваться дальше. Ведь большинство системных администраторов – очень талантливые люди.