Читати книгу - "Homo Deus"

буде перетворити його на агента. Ви ставите перед алгоритмом кінцеву мету, і він діє, щоб досягти цієї мети без вашого нагляду. У вашому випадку це може статися, коли ви під’єднаєте Waze до самокерованого автомобіля і скажете йому «знайди найоптимальніший шлях додому», або «знайди найкрасивіший шлях», або «вибери шлях, екологічно сприятливий для довкілля». Ви верховодите, однак залишаєте за Waze виконання ваших команд.

І, нарешті, Waze може стати диктатором. Маючи у своїх руках стільки влади і знаючи значно більше, ніж ви, він може почати маніпулювати вами й іншими водіями, формуючи ваші бажання й приймаючи за вас рішення. Наприклад, уявімо, що Waze дуже хороший, і всі починають ним користуватися. І припустімо, що на маршруті № 1 затор, тоді як на альтернативному маршруті № 2 відносно вільний рух. Якщо Waze просто повідомить про це всіх, то всі водії поквапляться на маршрут № 2, і він теж буде забитий. Коли кожен використовує того самого оракула і кожен вірить цьому оракулові, то цей оракул перетворюється на диктатора. Тож Waze думатиме за нас. Можливо, він повідомить лише половині водіїв, що маршрут № 2 вільний, залишаючи цю інформацію прихованою для іншої половини. Тим самим напруга на маршруті № 1 ослабне без блокування маршруту № 2.

Microsoft розробляє значно складнішу систему «Кортана», названу так на честь штучного інтелекту — героя популярної серії відеоігор Halo. «Кортана» — це штучний інтелект, особистий помічник, якого Microsoft сподівається ввести як невід’ємну складову майбутніх версій Windows. Користувачів заохочуватимуть дозволити системі «Кортана» доступ до всіх їхніх файлів, електронних листів і додатків, аби вона з ними ознайомилась і могла давати поради з мільярдів питань, а також стати віртуальним агентом, який представлятиме інтереси користувача. «Кортана» нагадає вам, що треба купити подарунок дружині на день народження, може вибрати цей подарунок, замовити столик у ресторані й нагадати про те, що час випити ваші ліки за годину до вечері. Вона може застерегти вас, що коли ви не покинете зараз читати, то спізнитеся на важливу ділову зустріч. Коли ви вже входитимете на цю зустріч, «Кортана» попередить, що ваш тиск надто високий, а рівень допаміну надто низький і, зважаючи на статистику, за таких обставин ви схильні зробити серйозні ділові помилки. Тож на переговорах вам краще не брати на себе конкретних зобов’язань і уникати підписання будь-яких документів.

Коли системи «Кортана» підвищаться з рангу оракула до рангу агента, вони можуть почати спілкуватися безпосередньо між собою від імені хазяїна. Це може починатися досить невинно, скажімо, коли моя «Кортана» сконтактує з вашою «Кортаною», щоб узгодити місце і час зустрічі. Наступне, про що я дізнаюся, що мій потенційний роботодавець повідомив мені, аби я не морочився з поданням свого резюме, а просто дозволив його «Кортані» провести співбесіду з моєю «Кортаною». Або моя «Кортана» може домовитися з «Кортаною» потенційної коханки, і вони вдвох порівнюватимуть дані, щоб вирішити, чи це хороше парування — причому без відома своїх хазяїв-людей.

З посиленням влади систем «Кортана», вони можуть почати маніпулювати одна одною, щоб проштовхувати інтереси своїх хазяїв, тож успіх на ринку праці чи на шлюбному ринку дедалі більше залежатиме від якості вашої «Кортани». Багатії, що можуть купити найновіші версії «Кортани», матимуть вирішальну перевагу над бідними з їхніми застарілими версіями.

Але найзагроженішою може стати ідентичність хазяїна «Кортани». Як ми вже бачили, люди не є індивідами і не мають єдиного цілісного «Я». Тоді чиї ж інтереси повинна обстоювати «Кортана»? Припустімо, що моє «Я», котре розповідає, вирішує з нового року почати дотримуватися дієти і щодня ходити до спортзалу. Через тиждень, коли настає час іти до спортзалу, «Я», котре сприймає, наказує «Кортані» увімкнути телевізор і замовити піцу. Що має робити «Кортана»? Підкоритися «Я», котре сприймає, чи рішенню, яке прийняло «Я», котре розповідає, минулого тижня?

Чи варто сумніватися, що «Кортана» дійсно відрізняється від будильника, який «Я», котре розповідає, ставить увечері, щоб розбудити «Я», котре сприймає, вчасно на роботу? Однак «Кортана» матиме значно більшу владу наді мною, ніж будильник. «Я», котре сприймає, може вимкнути будильник, натиснувши на кнопку. І навпаки, «Кортана» знає мене настільки добре, що точно знатиме, яку внутрішню кнопку натиснути, щоб змусити мене слухати її «поради».

«Кортана» від Microsoft не самотня у цій грі. Google Now і Sin від Apple рухаються в цьому ж напрямку. Amazon теж застосовує алгоритми, які постійно вивчають вас, а потім використовують своє накопичене знання, аби рекомендувати свою продукцію. Коли я йду до фізичної книгарні, то блукаю там між полицями й довіряю своїм відчуттям у виборі відповідної книги. Коли ж відвідую віртуальний магазин Amazon, негайно втручається алгоритм і каже мені: «Я знаю, які книжки вам сподобалися минулого разу. Люди з подібними смаками також схильні обрати цю чи ту нову книжку».

І це лише початок. Нині в США більше людей читають цифрові книги замість надрукованих. Такі пристрої, як Kindle від Amazon, здатні збирати дані про своїх користувачів, коли ті читають. Ваш Kindle може, наприклад, відстежувати, які частини книги ви читаєте швидко, а які повільно, на якій сторінці ви зробили перерву і на якій фразі відкинули книгу й ніколи більше до неї не поверталися. (Краще скажіть авторові, щоб трохи переробив її.) Якщо модернізувати Kindle додаванням системи розпізнавання облич і біометричних сенсорів, він знатиме, як кожне речення, яке ви прочитали, впливає на ваш пульс і кров’яний тиск. Він знатиме, що примусило вас сміятися, що засмутило, а що розсердило. Невдовзі книжки будуть читати вас, поки ви читаєте їх. І хоча ви швидко забудете більшість із того, що прочитали, Amazon не забуде вас ніколи. Такі дані дадуть Amazon змогу вибирати для вас книги з вражаючою точністю. Це теж дасть Amazon змогу точно дізнатися, хто ви і як вас «увімкнути» й «вимкнути».

Зрештою, ми можемо опинитися в ситуації, коли стане неможливим від’єднатися від цієї всезнаючої мережі навіть на мить. Від’єднання означатиме смерть. Якщо будуть реалізовані медичні плани, то майбутні люди введуть у свої тіла купу біометричних пристроїв, біонічних органів і нанороботів, що відстежуватимуть ваше здоров’я і захищатимуть від інфекцій, захворювань і пошкоджень. Але ж ці пристрої будуть функціонувати онлайн 24 години на добу сім днів на тиждень і для того, щоб отримувати відомості про останні медичні досягнення, і для захисту себе від нових вірусів кіберпростору. Так само, як мій домашній комп’ютер постійно атакують віруси, «черв’яки» і «троянські коні», це коїтиметься і з моїм стимулятором, слуховим апаратом і нанотехнологічною імунною