Читати книгу - "Homo Deus"

Розглядаючи досягнення VITAL, складається враження, що він перейняв принаймні один менеджерський гріх — непотизм. Він порекомендував інвестиції в компанії, що давали алгоритмам більше влади. Наприклад, з благословення VITAL Deep Knowledge Ventures останнім часом інвестувала в Pathway Pharmaceuticals, що використовує алгоритм під назвою OncoFinder для відбору й рейтингування персоналізованих онкологічних терапевтичних методів.

Оскільки алгоритми витісняють людей з ринку праці, багатство й влада зосереджуються в руках невеликої купки еліти, яка володіє всемогутніми алгоритмами, створюючи безпрецедентну соціальну й політичну нерівність. Нині мільйони таксистів, водіїв автобусів і вантажівок становлять значну економічну і політичну силу, займаючи при цьому невеликий сегмент ринку перевезень. Якщо їхні колективні інтереси опиняться під загрозою, вони можуть об’єднатися, оголосити страйк, бойкоти і створити потужні блоки виборців. Однак, коли мільйони людей-водіїв будуть замінені на один алгоритм, уся ця сила і влада буде загнана в куток корпорацією, що володіє алгоритмом, і жменькою мільярдерів, які володіють цією корпорацією.

Крім того, алгоритми самі можуть стати власниками. Людський закон уже визнає міжсуб’єктні утворення на зразок корпорацій і націй юридичними особами. Хоча Toyota чи Аргентина не мають ані тіла, ані розуму, вони є суб’єктами міжнародного права, можуть привласнювати землю і гроші й подавати та притягуватися до суду. Незабаром такий самий статус можуть отримати й алгоритми. Тоді алгоритм зможе стати власником транспортної імперії чи фонду з венчурним капіталом і не муситиме виконувати забаганки якоїсь людини-хазяїна.

Якщо алгоритм приймає правильні рішення, він може накопичувати капітал, який потім інвестуватиме туди, куди вважатиме за вигідне, можливо, купуючи ваш дім і стаючи вашим домовласником. Якщо ви порушите законні права алгоритму, — скажімо, не платитимете за оренду, — він може найняти адвокатів і притягнути вас до суду. Якщо такі алгоритми поступово перевершать капіталістів-людей, ми можемо опинитися в ситуації, коли вищий алгоритмічний клас володітиме більшою частиною нашої планети. Це може звучати неймовірно, однак, перш ніж відкинути цю ідею, згадайте, що більша частина нашої планети вже легально привласнена міжсуб’єктними сутностями — не-людьми, зокрема націями й корпораціями. Дійсно, п’ять тисяч років тому значна частина території шумерів була привласнена такими богами, як Енкі й Інанна. Якщо боги можуть володіти землею й наймати людей, то чому алгоритми не можуть цього робити?

То що ж людям робити? Часто кажуть, що мистецтво є нашою найвищою (і винятково людською) святинею. У світі, де комп’ютери замінили лікарів, водіїв, учителів і навіть землевласників, що, кожен стане художником? Але ж важко сказати, чи художня творчість убережеться від алгоритмізації. Чому ми так упевнені, що комп’ютери ніколи не зможуть перевершити нас у написанні музики? Згідно з науками про життя, мистецтво є продуктом не якогось чарівного духу чи метафізичної душі, а радше органічних алгоритмів, що розпізнають математичні структури. Якщо так, то немає причини, щоб неорганічні алгоритми не могли опанувати це.

Девід Коуп — професор-музикознавець з Каліфорнійського університету в Санта-Круз. Він також одна з найсуперечливіших постатей у світі класичної музики. Коуп написав комп’ютерну програму, що складала концерти, хорали, симфонії й опери. Його першим творінням стала програма EMI[37], яка спеціалізувалася на імітації стилю Йоганна Себастьяна Баха. Створення програми тривало сім років, однак коли робота була закінчена, ЕМІ написала п’ять тисяч хоралів а ля Бах за один день. Коуп організував виставу з кількома відібраними хоралами на музичному фестивалі в Санта-Круз. Присутні з ентузіазмом сприйняли зворушливу виставу й емоційно пояснювали, як ця музика зворушила їхні серця. Вони не знали, що її створила ЕМІ, а не Бах, і коли з’ясувалася правда, дехто реагував похмурою мовчанкою, а інші викрикували гнівні слова.

ЕМІ продовжувала розвиватися й учитися імітувати Бетховена, Шопена, Рахманінова і Стравінського. Коуп уклав для ЕМІ контракт, і її перший альбом — «Класична музика, складена комп’ютером» — несподівано добре розійшовся. Розголос спричинив різке невдоволення фанів класичної музики. Професор Стів Ларсон з Університету Ореґону послав Коупу виклик на музичний турнір. Ларсон запропонував, щоб професійні піаністи зіграли три твори один за одним — по одному твору Баха, ЕМІ та самого Ларсона. Потім аудиторію мали попросити проголосувати стосовно того, хто яку п’єсу написав. Ларсон був переконаний, що люди легко відрізнять повні духовності людські композиції від бездушного артефакту машини. Коуп прийняв виклик. У призначений день сотні викладачів, студентів і музичних фанів зібралися в концерт-холі Університету Ореґону. Після концерту провели голосування. Результат? Аудиторія вирішила, що твір ЕМІ — це був справжній Бах, твір Баха написав Ларсоном, а п’єса Ларсона належала комп’ютеру.

Критики продовжували доводити, що музика ЕМІ технічно прекрасна, однак їй чогось бракує. Вона надто точна. Їй бракує глибини. Однак коли люди чули композиції ЕМІ, не знаючи про їхнє походження, вони часто відзначали саме духовність та емоційний відгук.

Після успіхів EMI Коуп створив новіші й ще складніші програми. Його коронним досягненням була Annie. У той час як ЕМІ складала музику згідно із заздалегідь встановленими правилами, Annie основана на машинному навчанні. Її музичний стиль постійно змінювався й розвивався у відповідь на новий вхідний сигнал ззовні. Коуп не мав жодного уявлення, що Annie створить наступного разу. Дійсно, Annie не обмежує себе написанням музики, а досліджує й інші форми, такі як поезія хоку. У 2011 році Коуп опублікував працю «Походить з феєричної ночі: 2000 хоку людини і машини». Деякі хоку написала Annie, а решту — органічні поети. Книга не відкриває, хто є хто. Якщо ви думаєте, що можете знайти відмінності між людським твором і вихідним сигналом машини, ласкаво просимо перевірити свою правоту.

У XIX столітті Промислова революція спричинилася до створення численного міського пролетаріату, а соціалізм поширився, бо ніхто інший не здатен був відреагувати на безпрецедентні потреби, надії й побоювання цього нового робітничого класу. Лібералізм, зрештою, завдав поразки соціалізмові лише шляхом реалізації найкращих частин соціалістичної програми. У XXI столітті ми можемо стати свідками виникнення величезного нового класу безробітних: людей, позбавлених будь-якої економічної, політичної чи навіть художньої цінності, що не роблять жодного внеску в процвітання, силу і славу суспільства. Цей «непотрібний клас» буде не просто безробітним — він буде нездатним для працевлаштування.

У вересні 2013 року два дослідника з Оксфорду — Карл Бенедикт Фрей і Майкл А. Осборн — опублікували працю «Майбутнє працевлаштування», у якій припустили, що різні професії будуть перехоплені комп’ютерними алгоритмами в наступних двадцять років. Алгоритм, розроблений Фреєм і Осборном для цих розрахунків, оцінив, що 47 % професій у США перебувають у зоні високого ризику. Наприклад, існує 99 % ймовірності, що до 2033