Есть у человечества такой архетип поведения. С древних времен, рассевшись под вечер у затухающего пламени костра и переваривая справедливо распределенные вождем куски мяса шерстистого носорога вместе с корешками (усомнившийся в справедливости дележки отправлялся, после потрошения и промывки в ручье, на уголья в качестве дополнительного мясного блюда; ну, как сейчас заливной язык или мясной салат…) племя слушало рассуждения жреца об ужасах былых битв с неандертальцами, саблезубыми тиграми и не желавшими уступать Lebensraum пещерными медведями.
Слушало, ужасалось, пугалось теней, крадущихся по стенам и нависающих на потолке пещеры, убеждалось в их безвредности, восхищалось мудрости вождя и спокойно засыпало… (Кстати, сидевшие у костров были не похожи на тех, кого изображали совсем недавно иллюстраторы Рони-Старшего – modern humans who came out of Africa to originally settle Europe about 40,000 years are presumed to have had dark skin, which is advantageous in sunny latitudes. And the new data confirm that about 8500 years ago, early hunter-gatherers in Spain, Luxembourg, and Hungary also had darker skin…)
Впрочем, излагаемые ужасы непременно должны были относиться к проклятому прошлому, или происходить исключительно в дальних краях, за тем бугром, за который солнце садится… Будущее родного племени виделось же исключительно светлым – дичи должно было становиться все больше и больше, корешки в лесу все съедобнее и съедобнее, а те соседние жители предгорий, которые затеяли по весне и осени вместе с женщинами ковыряться в земле, а в промежутках производить странные опыты с зелеными каменьями, нагретыми в горшке в яме для запекания дичи и отлитыми в глиняную форму – странными чудаками…
Архетип это жив и поныне. И нынешний постмодерн ему никак не вредит – то древнее, что пережило модерн, уже ничто не пошатнет. И поэтому-то один из отцов-основателей Apple Стив Возняк, человек, который в немалой степени сформировал нынешний информационный мир, мир постмодерна, обратился к древнейшему жанру страшилок. Причем страшилок высокотехнологических. И – излагаемых не в журналах фантастики (почему-то, в отличие от усопшего отечественного «Если» процветающих в англоязычном мире), а в весьма респектабельном австралийском Financial Review.
Итак, в статье Apple co-founder Steve Wozniak on the Apple Watch, electric cars and the surpassing of humanity Стив Возняк сделал в высшей степени важное заявление. «Computers are going to take over from humans, no question», «Компьютеры превосходящие людей – да не вопрос…» Сильно, не правда ли. Ведь до этого годами Возняк отрицал возможность какой-либо угрозы человечеству от искусственного интеллекта.
Да, слова Возняка – это всего лишь слова. Рассуждение о том, чего нет… Но научно-техническая революция, наверное, началась с законов Ньютона. А они неразрывно связаны с его же флюксиями, и флюксиями от флюксий – обозначаемыми точками над обозначениями флюент, одной и двумя соответственно… Это – производные в нынешнем смысле. Или, говоря нематематическим языком, тенденции и тенденции для тенденций.
И наиболее очевидная из них – закон Мура. Удвоение процессорных мощностей (точнее – количества вентилей) за фиксированный период времени. Продлевая его действие – получаем в конце экстраполяции немыслимые мощности. Но продление это слишком долго невозможно – Возняк говорит, что в 2020 году закон Мура должен привести к уменьшению кремниевого транзистора до размеров отдельного атома, что вряд ли благотворно скажется на его работоспособности.
Возняк полагает, что в этом случае humanity will be protected from perpetual increases in computing power, «человечество будет защищено от перманентного увеличения вычислительной мощности». Ну, говорить, что такая защита благотворна, трудно… Скажем потому, что человечество не умеет управляться даже с самыми обычными экономическими кризисами. (Правда, их последствия проявляются по-разному в разных странах…) А еще может существовать соседнее племя, умножением вычислительных мощностей не пренебрегло…
И кроме того, уделив внимание пресечению закона Мура, Возняк почему-то умалчивает о таком полезном свойстве вычислительных систем (тех самых рутинных, бизнес-ориентированных), как масштабируемость. Тут ведь забавный парадокс скачивается. Биологический компьютер, та нейросеть, на которой работает наше сознание, у тех темнокожих кроманьонцев, что у костра кости шерстистого носорога глодали, был помощнее нашего – об этом говорит измеренный палеоантропологами объем черепов. Вадим Сергеевич Шефнер полвека назад писал об этом так:
Костер, похрустывая ветками,
Мне память тайную тревожит,—
Он был зажжен в пещерах предками
У горно-каменных подножий.Как трудно было им, единственным,
На человеческом рассвете.
На неуютной и таинственной,
На необстроенной планете.Быть может, там был каждый гением
(Бездарность выжила б едва ли) —
С таким бессмертным удивлением
Они нам землю открывали.
Бездарности в тех условиях было просто не выжить… А потом эволюции пришлось пойти на занижение параметров – слишком большой череп приводил, несмотря на все ухищрения в виде полумягких костей-родничков, к высокой смертности при родах. Так что выгоднее оказалось, уменьшив мощность биокомпьютера-мозга, повысить выживаемость за счет создаваемых культурой более уютных условий жизни. (Ну, когда они становятся слишком уж уютными, квирит забывает о калигах и гладии, кормясь анноной и развлекаясь цирком, тогда приходят варвары – но это уже другой разговор…)
Так вот – какие бы не были параметры отдельного чипа, из них вполне можно сплести нейросеть больших, нежели человеческий мозг – лимитированный размерами одного популярного среди пубертатных подростков отверстия – мощностей. Причем даже двумерные кристаллы можно связывать в сети весьма высоких, более чем трехмерных, размерностей… (Как это будет реализовано на практике – дело экономики, она все решит.)
Изначально эти устройства будут строиться для благих целей, заботы о людях. Но Возняк говорит так – If we build these devices to take care of everything for us, eventually they’ll think faster than us and they’ll get rid of the slow humans to run companies more efficiently… В какой-то момент компании начнут избавляться от людей, заменяя их более сообразительными компьютерами, сигналы-то по нервам бегают много медленней, чем по кремнию или что там будет в перспективе…
Причем то, что номинальным директором на какой-то интервал времени будет оставаться человек, ничего не изменит. Более компетентный подчиненный всегда сумеет обмануть шефа, или перенаправив финансовые потоки в свою собственную «мартышку», или подставить шефа так, чтобы его сняли – несмотря на родственные связи – а разгребать Авгиевы конюшни поручили скромному подчиненному. (Кто поступит иначе, оставаясь лояльным начальнику или классово чуждому работодателю – не умник, а идиот; впрочем, это объясняет то, почему начальники боятся сообразительных подчиненных…)
«Will we be the gods? Will we be the family pets? » – задает вопрос о будущем человечества Возняк. Поэт Федор Глинка в позапрошлом веке поднимал эту тему, выдвигая в стихотворении «Две дороги» оригинальный путь решения отечественной дорожной проблемы:
И станет человек воздушный
(Плывя в воздушной полосе)
Смеяться и чугунке душной
И каменистому шоссе.
Так помиритесь же, дороги, —
Одна судьба обеих ждет.
А люди? — люди станут боги,
Или их громом пришибет.
Но стать богами – даже в смысле тех существ, что интриговали и блудили на Олимпе, у людей вряд ли получится. Скорее они, если им будут прислуживать более разумные существа, окажутся в роли персонажа из баллады Der Zauberlehrling мудрого Гёте. Да и основатель кибернетики Винер не зря вспоминал ужастик Джекобса The Monkey’s Paw… А участь домашних питомцев? Ну, об этом покойный Терри Пратчетт все сказал в своем чудесном The Unadulterated Cat…
Так что властелинами мира окажутся те носители разума, кто в наибольшей степени сможет проявить свои творческие способности. Так, как когда-то проявили их люди, овладев плавкой меди (поразительно, как додумались поместить руду в горшок, и поставить этот горшок в яму с хорошим дутьем…), или ободрать березу на обшивку первого челна. И нет никаких законов природы, запрещающих искусственному разуму проявить такие способности…