ПОРЯТУНОК

171. Але припустимо тепер, що індустріальне суспільство переживе прийдешні десятиліття, усі неполадки із системи будуть усунуті та вона буде функціонувати гладко. Що це буде за суспільство? Ми розглянемо кілька можливостей.

172. Спочатку, дозвольте нам постулювати те, що комп'ютерні вчені зможуть розробити розумні машини, які будуть робити все краще, ніж людські істоти. У цьому випадку, імовірно, вся робота буде виконуватися величезними, високо організованими машинними системами без усяких зусиль з боку людини. Тут можливі два варіанти. Або машинам буде дозволено приймати всі рішення без нагляду людини, або контроль над ними людей буде збережений.

173. Якщо машинам буде дозволено приймати власні рішення, то результатів ми передбачити не можемо, оскільки неможливо здогадатися про те, як себе можуть поводити машини. Ми тільки вкажемо, що в цьому випадку доля людської раси буде віддана на милість машин. Можуть заперечити, що людство ніколи не буде настільки дурним, щоб віддати усю владу машинам. Але ми не вважаємо, що люди віддадуть владу добровільно, чи що машини її силою захоплять. Ми лише вважаємо, що людство може легко дозволити собі скотитися до такої залежності від машин, що в нього практично не буде іншого вибору, крім як погоджуватися з машинними рішеннями. У міру того, як суспільство та його проблеми стають усе більш і більш складними, а машини - усе більш і більш розумними, люди будуть дозволяти машинам приймати усе більше рішень за них, просто тому, що рішення, прийняті машинами призводять до кращих результатів, ніж прийняті людьми. Можливо, буде досягнута така стадія, коли рішення, необхідні для функціонування системи будуть настільки складними, що людські істоти будуть нездатні приймати їх розумно. На цій стадії машини одержать повний контроль. Люди просто не зможуть їх виключити, оскільки вони будуть настільки залежати від них, що це буде рівносильно самогубству.

174. З іншого боку, можливо, що людський контроль над машинами буде збережено. В цьому випадку середня людина зможе контролювати кілька своїх власних машин, таких як чи автомобіль комп'ютер, але контроль над великими системами буде в руках невеликої еліти - точнісінько так, як сьогодні, але з двома розходженнями. Завдяки удосконаленню техніки еліта буде мати більший контроль над масами; і, оскільки людська праця не буде більше необхідною, маси будуть надлишковою, марною ношею системи. Якщо еліта буде жорстока, вона може вирішити просто скоротити населення. Якщо ж вона буде гуманна, то буде використовувати психологічні та біологічні засоби для обмеження народжуваність доти, доки основна маса людства не зникне, залишивши світ у розпорядження еліти. Або ж, якщо еліту будуть складати м'якосерді ліберали, вони можуть вирішити відігравати роль добрих пастирів для іншої людської раси. Вони будуть бачити благо людства в тому, щоб фізичні потреби кожного були задоволені, щоб усі діти росли в психологічно стерильних умовах, щоб у кожного було корисне хобі, щоб він міг хоч чимось зайнятися, і щоб кожний, хто відчує незадоволеність проходив би "обробку" для лікування його "проблеми". Звичайно, таке життя буде настільки безглуздим, що люди повинні будуть піддаватися біологічній і психологічній обробці, щоб усунути їхні потреби в потузі чи забезпечити їх "задоволення" потуги яким-небудь нешкідливим хобі. Такі штучно створені людські істоти можливо будуть щасливі у своєму суспільстві, але очевидно, вони не будуть вільними. Їхній статус буде відповідником нинішньої домашньої тварини.

175. Але припустимо тепер, що комп'ютерні вчені не зможуть розробити штучний розум і людська праця залишиться необхідною. Навіть у цьому випадку машини будуть усе більш і більш брати на себе прості задачі, що призведе до надлишку робочої сили з низьким рівнем здібностей. (Ми бачимо, що це вже відбувається сьогодні. Існує безліч людей, які не можуть одержати роботу, через те, що їхній інтелектуально-психологічний рівень не відповідає тому, що необхідно для відповідності вимогам існуючої системи). На тих, хто збереже свої робочі місця будуть накладатися ще більш жорсткі вимоги. Від них зажадають постійного навчання, все більшої та більшої віддачі, їх змусять стати більш надійними, слухняними клітинками гігантського організму. Спеціалізованість їхніх задач буде також зростати, і тому їхня робота буде все далі й далі від реального світу, вона буде сконцентрована на одній малюсінькій ділянці реальності. Система буде використовувати всі можливі способи, психологічні та біологічні, щоб зробити людей більш слухняними, щоб розвинути в них здатності, потрібні системі та "задовольнити" їхню потребу в потузі у деяку спеціалізовану задачу. Але твердження про те, що люди в цьому суспільстві будуть слухняними, вимагає уточнення. Суспільство може вважати корисним зберегти дух конкуренції, знайшовши способи для спрямування його в таке русло, де він зможе служити потребам системи. Ми можемо представити суспільство майбутнього, у якому буде постійне змагання за владу та престиж. Але дуже імовірно, що вершин реальної влади будуть досягати далеко не всі (див. параграф 163). Дуже відразливе суспільство, у якому особистість задовольняє свою потребу в потузі тільки розштовхуванням безлічі людей з дороги та позбавляння цих людей ЇХНЬОЇ можливості долучитися до влади.

176. Можна розглянути інші сценарії, що включають більше можливостей розвитку, ніж ми обговорювали. Наприклад, може статися, що машини візьмуть більшість робіт, які мають реальну практичну цінність, а зайнятість людських істот збережеться в сфері несуттєвої праці. Можна припустити, також, що широкий розвиток індустрії сервісу забезпечить роботою людські істоти. Такі люди будуть витрачати свій час начищаючи іншим черевики, керуючи таксі, виготовляючи сувеніри один для одного, обслуговуючи інших як офіціанти і так далі. Такий кінець людської раси здається нам нестерпно нікчемним, і ми сумніваємося, що більшість людей знайшли би повноту життя в такій безцільній діяльності. Вони будуть шукати інших, небезпечних виходів з такого положення (наркотики, злочинність, "культи", екстремістські групи), якщо тільки їх не піддадуть біологічній та психологічній обробці для адаптації до описаного способу життя.

177. Немає потреби говорити. що сценарії, викладені вище, не вичерпують усіх можливостей. Вони лише вказують варіанти розвитку ситуації, які здаються нам найбільш ймовірними. Але ми не можемо уявити собі правдоподібних сценаріїв, що були б хоч небагато прийнятнішими, ніж ті, які тільки-но обговорювалися. Дуже імовірно, що якщо індустріально-технологічна система переживе наступні 40-100 років, за цей час у ній розів'ються цілком визначені риси: індивідууми (принаймні ті з них, які належать до "буржуазного" типу, інтегровані в систему, забезпечують її функціонування й отже, мають усю владу) будуть більш залежні ніж колись від великих організацій; вони будуть більш "соціалізовані" ніж колись, а їхні розумові здібності значною мірою (можливо, у максимально можливій) будуть створені штучним шляхом, а не випадком (чи волею Бога чи ще чим-небудь); те, що залишиться від дикої природи буде зведено в заповідники, які зберігатимуться під наглядом учених для досліджень (у такий спосіб власне дикої природи не залишиться). Імовірно, що через довший час (скажімо, кілька сторіч), ні людська раса, ні інші важливі живі організми не будуть існувати в такому вигляді, як ми їх знаємо зараз, оскільки один раз почавши зміну організмів за допомогою генної інженерії немає причини зупинятися в якій-небудь довільній точці. У такий спосіб ці зміни будуть продовжуватися поки людина й інші організми не будуть цілком трансформовані.

178. Безвідносно до того, що може статися - ми певні, що технологія створює для людських істот нове фізичне та соціальне середовище, яке радикально відрізняється від того спектра умов, до яких людську расу природний добір адаптував фізично та психологічно. Якщо людина не пристосується до цих нових умов шляхом штучних технічних перетворень, вона адаптується до них, пройшовши довгий та хворобливий шлях природного добору. Перший варіант більш ймовірний, ніж другий.

179. Краще було б усунути цю прогнилу систему цілком та прийняти все наслідки.