Пророчество Bill Joy

Месяц назад прочитал статью Bill Joy, "Why the future doesn't need us", опубликованную в 2000 в Wired. Статья показалась мне довольно занимательной, особенно в том отношении, что речь в ней идёт о возможном сценарии прекращения рода человеческого. Bill Joy, являющийся в некоторой степени экспертом в области компьютерных технологий, предлагает с осторожностью относиться к некоторым новым технологиям которые могут представлять собой опасность для существования человечства. В частности, как я понял, он призывает учёных, ведущих разработки в потенциально опасных, областях обратиться к разуму и, в некоторых случаях, прекратить исследования. Особенно опасными областями исследования Bill Joy считает три технологиии: робототехнику, нанотехнологию, генную инженерию. Он сравнивает разработки в этих областях с разработками оружия массого поражения в 20 веке и отмечает, что эти три технологии 21 века, особенно в том случае если они попадут в руки военных, являются потенциально гораздо более опасными для человечества, чем, например, ядерное оружие. С его мннием трудно не согласиться.

В сети я нашел резюме текста Bill Joy с некоторыми итересными ссылками в нём и обширной дискуссией. В этом резюме приводятся аргументы того, почему следует прекратить научные исследования в областях робототехники, нанотехнологии и генной инженерии, и аргументы того, почему этого делать не стоит. В тексте Bill Joy особенно меня привлекли фрагменты, которые цитирутся из "Unabomber Manifesto" Ted Kaczynski, здесь это тоже перечислено среди аргументов против. Аргументы Ted Kaczynski против технического прогресса интересны. В его манифесте упоминаются социальные механизмы того, как человечество может попасть в зависимость от машин (компьютеров), как эта зависимость может стать необратимой и вариантом контроля над людьми.

Про различные сценарии развития цивилизации я читал прежде в книге И. Шкловского «Вселенная, жизнь, разум». В этой книге рассматривалось несколько причин того, почему цивилизации могут прекращать своё существование на какой-либо стадии; из возможных сценариев я помню только несколько, смысл которых приблизительно в следующем: потеря интереса к цивилизации, техногенная катастрофа и война с масштабным применением оружия массового поражения. Насколько я помню, в этой книге не было сценария замещения человечества «высшими» в эволюционном плане организмами. Bill Joy рассматривает такую возможность и считает её весьма вероятной в случае неконотролируемого развития робототехники, нанотехнологии и генной инженерии. У этих трёх технологий, согласно автору статьи, есть важный усиливающий их опасность фактор: возможность создания самореплицирующихся структур. Речь идёт об искусственно созданных живых организмах, которые могут быть более эффективны, чем существующие биологические огранизмы. Такие организмы могли бы находиться в конкуренции с существующими организмами и в результате такой конкуренции вытеснить текущие формы жизни. Приводится пример созданной искусственно «бактерии» с гораздо более эффективным метаболизмом, чем у существующих природных бактерий; мне ясно что её эволюционный успех по отношению к микроорганизмам из тех же экологических ниш что может занимать она — только вопрос времени, достаточно того, чтобы подобный организм оказался за пределами лаборатории. Ещё быстрее эволюционного успеха могли бы достичь более эффективные, чем аналоги, или не имеющие природных аналогов макроскопические искусственные существа. Даже в том случае, если они не являются прямыми «убийцами» природных организмов, их успех в конкуренции очень возможен. Что говорить об опасности самореплицирующихся структур созданных методами нанотехнологии: субмолекулярные объекты и их комплексы, в сущности, могут рассматриваться как принципиально иная форма жизни. И после некоторого развития, её столконовение с существующей жизнью на основе белков и нуклеиновых кислот не может не вызвать проблем.

В течение последнего месяца я периодически размышляю на темы затрагиваемые в статье Bill Joy. Эти размышления особенно интересны для меня, так как ещё с университетской скамьи, я весьма интересуюсь исследованиями в некоторых областях которые в перспективе могут привести к созданию искусственных форм жизни.