Как предотвратить появление класса "ненужных людей" и цифровую диктатуру. Главное из выступления Харари
В XX веке человечество преодолело чуму, голод и насилие, однако вызовы XXI века не менее ужасающие. Мы находимся на пороге экологической катастрофы и потенциальной цифровой диктатуры и человечеству нужно глобальное сотрудничество, чтобы преодолеть эти проблемы.(укр)
Які нові виклики несе людству ХХІ століття? Повторення глобальної війни, настання світової екологічної катастрофи, створення класу непотрібних людей, поява цифрових диктатур, які розумітимуть людей краще за них самих.
Чому все це може стати реальністю вже в найближчі десятки років і головне, як все це попередити заради процвітання всього людства?
Надзвичайно яскраво і реалістично описує всі ці питання та дає на них відповідь авторитетний візіонер, професор Єврейського університету в Єрусалимі Ювал Харарі. Своїми думками на цю тему він поділився на форумі "Ялтинська Європейська Стратегія" (YES), який відбувся 13 вересня в Києві.
ЕП записала найголовніше з виступу Харарі.
Три великі досягнення людства за XX століття
Найбільшим досягненням людства за останнє століття було подолання голоду. Тисячу років, ледь не з самого початку історії, голод був найбільшим ворогом людства. Більшість людей завжди жили на межі виживання, а людство не могло забезпечити себе достатньою кількістю їжі. Кожного року виникали якісь природні катастрофи, засуха чи повені, через що мільйони людей страждали.
Зараз навпаки — люди продукують таку кількість їжі, що не можуть її швидко і дешево розповсюдити. У більшості розвинених країн люди помирають від того, що забагато їдять, а не від того, що недоїдають. Ми дійсно можемо сказати, що природній голод, викликаний катаклізмами, у світі зник.
Єдиний голод, який зараз лишається, це політичний голод. Коли люди голодують у таких країнах, як Сирія, Південний Судан, Північна Корея, то це відбувається тільки тому, що певні уряди та політики цього хочуть.
Друге велике досягнення людства - це подолання чуми. Зараз, вперше в історії, більшість людей помирають через старість, а не через інфекційні хвороби. Тисячу років тому люди менше помирали від таких хвороб, як рак, не тому що вели здоровий спосіб життя, а тому що просто не доживали до того віку, щоб померти від раку.
Іншим досягненням людства є те, що ми здолали війну та насильство. У минулому люди думали, що війни – це природна частина світу, і тільки Господь може дати людям мир. Останні покоління людей з’ясували, що ми самі спроможні принести мир на землю, якщо прийматимемо правильні рішення. І тому ми зараз живемо у найбільш мирний час в історії.
Безперечно, в певних частинах світу трапляються війни. Я живу в Ізраїлі і знаю це дуже добре. Ви в Україні також знаєте про це зі свого болючого досвіду останніх років. Але ми не маємо закривати очі на загальну картину в світі. Війни вже не є таким надзвичайним явищем.
Багато країн світу повністю припинили використання війни як стандартне досягнення політичних цілей. У цілому війна, злочинність та тероризм спільно вбивають менше людей, ніж самогубства. Отже, ви самі тепер стаєте собі найбільшими ворогами.
Які виклики стоять перед людством у XXI столітті?
Першим викликом є те, що війна може повернутися.
Кількість війн зменшилась не через якесь божественно чудо, а завдяки рішенням людей. Якщо люди почнуть приймати нерозумні рішення, то війна повернеться ще в гіршому вигляді, ніж раніше.
І ми не маємо недооцінювати дурість людей, адже це одна з найпотужніших сил в світі. Необхідно багато розумних людей, щоб досягти миру, але достатньо однієї нерозумної людини, щоб розпочати війну.
Наступний виклик — це екологічна катастрофа. Якщо загроза війни є поки що потенційною можливістю, то екологічна катастрофа відбувається вже зараз. Зокрема, зміни клімату, які ми помічаємо навколо нас.
Залишилось дуже мало часу, щоб попередити катастрофічні зміни клімату та уникнути катастрофи. Для цього нам потрібно зробити дві складні речі. По-перше, потрібна глобальна співпраця. Тому що безперечно, одна країна сама по собі не здатна унеможливити зміни клімату.
По-друге, нам потрібні нові технології. Єдиним реалістичним способом запобігти екологічній катастрофі є розробка нових еко-дружніх технологій, які будуть підтримувати економічне зростання, не руйнуючи екосистеми. Це приводить нас до третього виклику — технологічного руйнування.
Технології перетворюють людей на справжніх богів. Штучний інтелект та біоінженірінг дають нам можливість робити такі речі, які раніше приписувались лише богам. Наприклад, створювати тварин, рослин і людей відповідно до своїх бажань.
Отже, з великою вірогідністю, основними продуктами XXI століття будуть не якісь текстильні матеріали чи автомобілі, а тіла і розум. І постає питання щодо того, як розумно користуватись цими божественними можливостями.
Якщо ми зробимо помилки космічного масштабу, ніхто вже нас не врятує. Ми маємо зрозуміти, що ми зараз всі стали богами планети Земля, але поки що досить безвідповідальними богами.
Ми навчилися маніпулювати не лише світом навколо нас, а світом всередині нас. Змінювати наше тіло, розум, маніпулювати емоціями, почуттями і думками.
Зараз можливо створити дуже дисципліновану та розумну людину, але у неї не буде ні співчуття до інших людей, ні творчих рис. І ми можемо стати такою людиною, навіть не усвідомлюючи, що вже такими є.
Ті, хто першими осягнуть нові досягнення, будуть експлуатувати інших
Отже, є технології, які покращують людину, а є технології, які можуть її погіршувати.
Зараз відбуваються зміни в соціально-економічній сфері. Ніхто не знав і зараз не знає, як буде виглядати ринок праці в 2050 році. Штучний інтелект та роботи замінять деяких фахівців, а отже багато професій зникнуть. Безперечно, зникнуть одні професії, з’являться інші. Але ми не знаємо, чи з’явиться достатньо нових професій.
Іншою реальною проблемою стане необхідність швидко перенавчати людей, щоб вони могли працювати в нових професіях. Наприклад, якщо ви тракторист, вам 40 років, ви перший втратите роботу, бо трактор буде їздити сам.
Потім, можливо, вас будуть вчити якоїсь нової роботи, наприклад, як стати дизайнером моторів або викладачем йоги. Але як швидко ви навчитеся цим навикам? Як багато часу вам знадобиться, щоб це все робити?[L]
Це не буде довгострокове рішення, тому що революція та автоматизація — це не одноразове явище, це велика революція штучного інтелекту 21 століття. Не думайте, що це буде тривати декілька років, а далі все вирівняється. Ні, далі буде подальший каскад різних змін. Буде революція 2025 року, потім ще більша революція в 2035 році, наступна - в 2045 році. Я не бачу тенденції досягнення будь-якої рівноваги.
Одні професії будуть зникати, нові види робіт будуть з'являтися, але ті нові професії будуть зникати знову. Треба буде перенавчати людей, люди мають знаходи себе знову і знову. І це треба буде робити не один раз, а багато разів. Навіть якщо ви зможете перетворити тракториста на викладача йоги, через 10 років треба знову перенавчати його, тому що з'являться комп'ютери з біометричним сенсорами, які будуть навчати людей йозі краще ніж тренери йоги.
Раніше люди активно боролися проти експлуатації. В 21 столітті люди будуть постійно боротися з нерелівантністю себе до нових типів роботи. І це набагато гіршеза експлуатацію. Ті, хто програють війну створять новий клас — клас непотрібних людей. Якщо ми не будемо за цим пильнувати, ми можемо стати суспільством непотрібних людей.
Під час важких перехідних періодів уряди мають втручатися і допомагати людям. Це може бути, скажімо, допомога з безробіття, з перекваліфікації. Деякі уряди можливо це і роблять або намагаються це робити, але багато урядів не будуть цього робити. Тому ця революція може створити величезну нерівність не тільки в середині суспільства, а між суспільствами, між країнами. Ми уже знаходимось в новій стадії гонки озброєнь, де США і Китай ведуть вперед, а інші відстають.
Можливо, що зараз виникатимуть величезні статки у деяких хабах таких, як Західний Китай або Каліфорнія. Але більшість залишиться жити у бідності. Може бути набагато більше нових робіт або робочих місць для інженерів або програмістів. Але у Мексиці та Бангладеші для текстильних працівників буде набагато менше роботи.
У 19 сторіччі країни, які індустріалізувалися першими, потім завоювали більшість світу. І якщо ми не будемо уважними, то таке саме відбудеться і в 21 столітті. Ті, хто першими осягнуть нові досягнення, будуть експлуатувати інших.
Ризик створення цифрових диктатур
На політичному рівні є величезна небезпека створення цифрових диктатур. Нові технології можуть спокусити деякі уряди створити безпрецедентні режими стеження. Вони спостерігатимуть за всіма і контролюватимуть усіх увесь час.
Ступінь контролю може бути представлена у формі рівняння, що може стати остаточним рівнянням 21 століття: b*c*d=a. Іншими словами "b" (біологічні знання) помножити на "c" (комп’ютерні потужності) помножити на "d" (дані) дорівнює "a" (спроможність контролювати людей).
В результаті може бути створена система, яка розуміє нас — людей — краще, ніж ми розуміємо самі себе. Ця система зможе пророкувати, передбачати наші відчуття і дії, зможе контролювати наші дії і зрештою зможе приймати рішення замість нас і навіть замінити нас.
У минулому ніхто не розумів достатньою мірою біологію і не мав достатньо комп’ютерної техніки та даних для того, щоб постійно втручатися в життя людей. У Радянському Союзі КДБ не мало достатньо людського ресурсу, щоб спостерігати і аналізувати усіх радянських людей. Це було технічно неможливо. І навіть якщо КДБ стежила за вами 24 години 7 днів на тиждень, вони все одно не знали, що відбувається у вас в організмі і у вашому мозку.
Але дуже скоро деякі корпорації і уряди зрозуміють біологію достатньою мірою і матимуть досить обчислювальних комп'ютерних потужностей і даних, щоб постійно втручатися в середину мільйонів, мільярдів людей.
Звісно, це можна використовувати для шляхетних цілей, наприклад, забезпечення вищого рівня охорони здоров'я. Але якщо ця потужність опиниться в руках "Сталіна 21-століття", а кілька таких кандидатів вже є, то результатом може бути найгірший тоталітарний режим у світі. Щось набагато гірше, ніж будь-що, що ми бачили у 20 столітті.
І звичайно всі ці сценарії — це не пророцтво, це просто можливості. Технологія ніколи не є детерміністичною (запрограмованою, ЕП). У 20 столітті люди використовували ті самі технології — електрику, залізницю, радіо — для будівництва абсолютно різних систем: комуністичні диктатури, фашистські режими, ліберальні демократії. І навіть з відкритого космосу можна бачити різницю між тим вибором, який зробили люди.
Подивіться скажімо на Корейський півострів. У ночі ви бачите Південну Корею як море світла, а Північна Корея запнута темрявою. Різниця не в технологіях — у них був доступ до тих самих технологій. Але вони вирішили використовувати технології у різний спосіб.
І те саме може відбутись і в 21 столітті. Революція в біотехнологіях обов'язково змінить світ. Результати цієї революції будуть використані для створення абсолютно різних суспільств. Це одне з найскладніших і найгірших питань, які стоять перед нами.
Нам всім потрібна глобальна співпраця
Проте зараз ще не пізно попередити можливі негативні наслідки технічного прогресу. Але це щоб наші дії були ефективними, їх потрібно здійснювати на глобальному рівні. Нам потрібна глобальна співпраця, тому що виклики 20 століття — глобальна війна, зміна клімату і технологічні збої — глобальні за своєю природою і їх неможливо вирішити силами однієї держави.
Жодна держава не здатна сама попередити ядерну війну, зупинити кліматичні зміни і ніхто не може контролювати прогрес у біотехнологіях. Тому що жоден уряд не в змозі контролювати усіх техніків, технологів, інженерів у світі. І жодна країна не здатна розвиватися найкращим чином без взаємодії з іншими країнами.
Тому якщо якийсь лідер скаже, що "Моя країна перша", то ми маємо такого лідера запитати: а як твоя країна здатна сама відвернути ядерну війну або зміни клімату або регулювати біологічні технології?
Націоналізм не має бути бар'єром для глобальної співпраці. Проте націоналізм і в 21 столітті має позитивну і важливу роль. Якщо ми пригадаємо, то націоналізм не означає ненависть до іноземця, націоналізм означає любов до своїх співгромадян, турботу про їх безпеку і процвітання. Через це в 21 столітті єдиний спосіб забезпечити процвітання ваших громадян — цє співпраця з іноземцями. Тобто в 21 столітті бути добрим націоналістом також означає бути глобалістом.
Давайте винесемо з цього єдиний урок. Цей урок полягає в тому, що наші глобальні проблеми потребують глобальних рішень.