Цитата #996 из книги «Фиаско»

Правда, эта защита разведчиков от коллективного сумасшествия несла в себе угрозу непреодолимого противоречия. GOD все-таки должен был выполнять функции одновременно подчиненного и руководителя команды, выполнять приказы и следить за психическим состоянием приказывающих. Тем самым он получал статус послушного орудия и категоричного начальника. От его постоянного надзора не освобождался даже командир. Вся загвоздка была в том, что осознание того факта, что существует наблюдение, которое обязано вовремя обнаружить психические травмы, само было своеобразной травмой. Но от этого средств уже не было. Если бы GOD выполнял эту функцию втайне от людей, он вынужден был бы раскрыть ее, уведомив их о выявленной аберрации, и такое сообщение стало бы не психотерапией, а шоком. Этот порочный круг как будто удалось разорвать, создав перекрестную обратную связь между ответственностью людей и компьютера. Он передавал свои диагнозы, когда считал это необходимым, в первую очередь командиру и Герберту, не проявляя в дальнейшем никакой инициативы. Ясное дело, никто не встретил этого компромисса с энтузиазмом, но никто также, включая и духоведческие машины, не нашел лучшего выхода из дилеммы. GOD, компьютер последнего поколения, не был подвержен эмоциям; он был поднятым до уровня величайшей мощи экстрактом рационального действия, без примеси аффектов или инстинкта самосохранения; он не был развитым при помощи электроники человеческим мозгом, не имел никаких черт, которые принято называть личностными, характерологическими, никаких страстей, если не считать страстью стремление к получению максимума информации — но не власти. Первые изобретатели машин, усиливающих мощь не мускулов, но мысли, поддались иллюзии, которая одних притягивала, а других ужасала: они-де вступают на путь такого увеличения разумности в мертвых автоматах, что те сначала уподобятся человеку, а затем, также на человечий манер, превзойдут его. Потребовалось несколько десятков лет, чтобы их последователи убедились, что отцы кибернетики и информатики слишком увлеклись антропоцентрической фикцией: ведь человеческий мозг есть дух в машине, которая не является машиной. Составляя с телом неразрывную систему, мозг одновременно служит ему и им же обслуживается. Если бы кому-то захотелось так очеловечить автомат, чтобы он в психическом отношении ничем не отличался от людей, то успех при всем его совершенстве оказался бы абсурдом. По мере неизбежных доработок и усовершенствовании очередные образцы в действительности станут все более похожи на людей и одновременно сделаются все более бесполезными, от них все меньше можно будет добиться той пользы, какую приносят, к примеру, гига— или терабитовые компьютеры высших поколений. Единственной разницей между человеком, рожденным от отца и матери, и максимально очеловеченной машиной будет только строительный материал — в первом случае живой, а во втором — мертвый. Очеловеченный автомат будет таким же сообразительным, но и таким же ненадежным, ущербным и руководимым в своем интеллекте эмоциональными мотивами, как человек. В качестве виртуозного подражания естественной эволюции, увенчанной антропогенезом, это будет превосходным достижением инженерной мысли и вместе с тем — курьезом, с которым неизвестно, что делать. Это будет выполненная из небиологического сырья великолепная подделка под живое существо типа позвоночных, класса млекопитающих, отряда приматов, живородящего, двуногого, с двуполушарным мозгом, потому что именно путем симметрии в формировании позвоночных пошла эволюция на Земле. Неизвестно, однако, какую выгоду из этого гениального плагиата могло бы извлечь человечество. Как заметил один из историков науки, это напоминало бы ситуацию, в которой удалось бы при колоссальных капиталовложениях и теоретических разработках построить фабрику, вырабатывающую шпинат или артишоки, способные к фотосинтезу, как все растения, и ничем не отличающиеся от настоящего шпината или артишоков, кроме того что они несъедобны. Такой шпинат можно было бы показывать на выставках и похваляться мастерством синтеза, но нельзя было бы съесть, и тем самым весь труд, вложенный в его производство, оказался бы поистине безумной затеей. Первые проектировщики и сторонники «машинного разума» сами, вероятно, не знали, к чему они стремятся и на что надеются. Разве дело в том, чтобы можно было разговаривать с машиной, как с посредственным или даже с очень умным человеком? Это можно сделать, но неужели тогда, когда численность человечества достигла четырнадцати миллиардов, самой срочной потребностью оказалось искусственное производство умственно человекообразных машин? Короче говоря, компьютерный разум все отчетливее расходился с людским, помогал ему, продолжал, дополнял его, содействовал в решении задач, непосильных для человека, и поэтому не имитировал его и не повторял. Пути решительно разошлись.

Просмотров: 7