- 26 Юли 2025
- 4669
- 33
Автор: iztok-zapad.eu
Изкуственият интелект се разви много по-бързо от очакваното; сега той може да надмине нашата интелигентност и да се освободи от опеката ни. Той отправя непознато до този момент предизвикателство към нас. Това не е първият случай в историята, когато изобретяваме нещо, което може да доведе до унищожението ни – от 80 години разполагаме с атомни бомби. Те обаче не могат да решават сами кого да атакуват, нито да създават сами нови бомби или нови военни стратегии. Изкуственият интелект обаче може сам да реши да атакува определена цел, да разработва нови бомби, нови военни стратегии и нови видове изкуствен интелект. Точно това тревожи хората. Изкуственият интелект не е просто инструмент, а автономен агент. Може сам да взема решения, да формулира нови идеи и да прави неща, които сме неспособни да предвидим. Това казва историкът Ювал Ноа Харари в интервю за българското издателство "Изток-Запад", посветено на опасностите от изкуствения интелект. По думите му: Боклучавата информация е изкуствено обогатена с алчност, омраза и страх – неща, които привличат вниманието ни. Тя разболява нашите умове и общества. Трябва да се поставим на информационна диета.
„Проблемът не е в природата на човека, а в информацията“. Интервю с Ювал Ноа Харари
- Една от най-важните теми днес е връзката между информация и истина. Разкажете ни малко повече за тази връзка. Казваме, че информираният човек е този, който знае истината – или поне е в състояние да я разпознае.
- Основният проблем е в това, че информацията не е истина. Свикнали сме да мислим – особено в зората на ерата на интернет, – че усъвършенстването на информационните технологии неизбежно ще доведе до обединение на човечеството, тъй като ще спомогне за разпространяване на истината. Но достоверната информация е нещо скъпо. За да стигнете до нея, трябва да вложите много време и сили. Освен това истината често е сложна или неприятна. Дори що се отнася до отделния човек: за да науча истината за себе си, трябва да разбера връзките между десетки различни психологически и биологични фактори; при това няма да ми е приятно да осъзная недостатъците си и страданията, които съм причинявал на други хора или на самия себе си. Ето защо хората прекарват години в терапия или лечение, за да научат истината за себе си. Що се отнася до общностите, е дори по-сложно да разберем силите, които формират историята и политиката на една нация, а и хората с крайна неохота признават недостатъците на своята нация или престъпленията, които е извършила в миналото.
Обратно, твърде лесно е да създадем измислици и да ги направим толкова елементарни и привлекателни, колкото си поискаме. Най-лесният начин да свържем хората едни с други е като им разказваме ласкателни митове. Ето защо по-голямата част от информацията в света не отговаря на истината. Най-успешната книга писана някога е Библията, а тя е пълна с утешителни митове, но не и със същото количество истини. В интернет също по-голямата част от информацията не отговаря на истината.
Можем да сравним информацията с храната. Преди сто години храната не достигала. Затова хората се хранели с каквото намерят и предпочитали храни, богати на мазнини и захар. Днес храната е в изобилие, но пазарът е наводнен с вредни храни с изкуствено завишено съдържание на мазнини и захар. Ако хората консумират прекалено много вредна храна, те се разболяват. Същото се отнася за информацията, която е храна за ума. В миналото информацията не достигала, затова сме използвали всяко сведение, до което се доберем. Днес сме залети с прекалено много информация, голяма част от която е „боклучава“. Боклучавата информация е изкуствено обогатена с алчност, омраза и страх – неща, които привличат вниманието ни. Тя разболява нашите умове и общества. Трябва да се поставим на информационна диета.
- Твърдите, че основният проблем, свързан с тоталитарните режими, не е природата на човека или неговата психология, а това как хората получават информация и как разказите или основните политически наративи биват създавани, разказвани и възприемани. Означава ли това, че колкото повече информация получаваме, толкова по-добри ще бъдат политическите ни решения? Или пък е тъкмо обратното?
- В Nexus твърдя, че проблемът не е в природата на човека, а в информацията. Мъдрите и добри хора вземат лоши решения, ако получат лоша информация. За нещастие, сме потънали в лоша информация. От племената от Каменната епоха до днешните общества, хората отново и отново стават жертва на масови заблуди. Докато в предишните си книги разказвам историята на човека, в Nexus основен герой е информацията. Книгата разглежда въпроса как тя определя хода на историята и защо с времето ни е осигурила изключителна мощ, но недостатъчно мъдрост.
Някои хора вярват, че дори и това да отнеме хиляди години, информацията ще подобри ситуацията. Те твърдят, че достоверната информация, подобно на научните факти, дава на хората сила, докато заблудите ни правят слаби. В историята обаче не става така. Силата не се основава само на истината. Тя дори в по-голяма степен зависи от порядъка. Проблемът е, че е по-лесно да установиш порядък, като разпространяваш измислици, отколкото като съобщаваш факти.
Да вземем например една страна, която иска да създаде атомна бомба. За тази цел тя определено се нуждае от достъп до научни факти. Ако се опитате да създадете атомна бомба и не вземате предвид физиката, тя няма да избухне. Нужни са ви и милиони хора, които да работят заедно, за да създадете бомба. Трябват ви хора, които да добиват уран, да изградят реактор, да осигуряват храна на миньорите, строителите и физиците. И точно тук е ключовото: по-лесно е да накарате милиони хора да работят заедно, като им разкажете фикция, отколкото като им съобщите истината.
Ето защо в продължение на хиляди години хората са научавали повече в сферата на науката, но същевременно са създавали религии и идеологии, пренебрегващи фактите. В повечето случаи учените, специалисти в областта на физиката или химията, са получавали нареждания от страна на идеологически и религиозни водачи, специалисти в сферата на митологията. Ето защо въпреки всичките ни научни познания ние сме склонни да действаме глупаво и дори самоунищожително. Свидетелство за това са нацизмът и сталинизмът. Това са изключително мощни мрежи, скрепени от напълно откъснати от реалността идеи. По думите на Джордж Оруел, „невежеството е сила“. Опасностите от некачествената информация са повод за тревога особено поради появата на нова информационна технология – изкуствения интелект. През XXI в. той може да сплете такава мрежа от заблуди, че да попречи на идните поколения дори да се опитат да ги изобличат.
- Кои са най-важните механизми за самокорекция, които гарантират, че изкуственият интелект е безопасен?
- Трябва да създадем жизнени институции, които бързо разпознават проблемите и реагират подобаващо. Лишените от гъвкавост регулации няма да свършат работа, тъй като никой не може да предвиди скоростното развитие на изкуствения интелект. Понастоящем най-добрите специалисти по изкуствен интелект работят за частни корпорации, които имат огромен бюджет за развойни изследвания. Малцина са талантливите учени, които работят в правителствени агенции, академични центрове или неправителствени организации, а бюджетите им изглеждат оскъдни. Трябва да създадем нови регулаторни институции, които да привличат таланти и да се финансират чрез данъчното облагане на огромните приходи на технологичните компании. Създаването на само една регулаторна институция би било опасно, тъй като така тя ще се сдобие с прекалено много власт. Трябва да се придържаме към демократичния принцип за разделението на властите.
Има технологични ентусиасти, които ни казват, че засега не се нуждаем от подобни институции. Регулациите ще забавят развитието, а може би ще осигурят и предимство на безскрупулни конкуренти от други държави. Според тези ентусиасти, ако в бъдеще изкуственият интелект се окаже опасен, ще можем да насочим усилията си към увеличаване на безопасността. Това обаче е лудост. Когато се учите да управлявате автомобил, първо ви показват как се използват спирачките. Едва след като научите това, ви показват как се използва педалът за газта. С изкуствения интелект трябва да бъде същото. Що се отнася до аргумента, че инвестициите в безопасност ще осигурят предимство на безскрупулни конкуренти – това е просто безсмислица. Ако конкурентите ви създадат автомобил без спирачки, означава ли това, че и вие трябва да сторите същото? Дори от чисто икономическа гледна точка хората предпочитат по-сигурни продукти пред такива, които ги излагат на опасност.
- Как можем да спасим демокрацията в епохата на изкуствения интелект? Какви принципи на употребата на изкуствения интелект ще бъдат необходими за нашето оцеляване?
- Една възможност е да забраним да се фалшифицират хора точно както е забранено да се фалшифицират пари. Преди възхода на изкуствения интелект беше невъзможно да създаваме фалшиви човеци, така че никой не си правеше труда да го забранява. Днес обаче светът е пълен с тях – с ботове, които се правят на хора – което е ключовата причина за неспособността на хората да се доверяват и дори да разговарят едни с други. Правителствата би трябвало да наложат забрана. Ако някой недоволства, че подобни мерки нарушават свободата на изразяването на мнения, следва да им напомним, че ботовете нямат това право, че само хората имат права.
- В книгата си обсъждате въздействието на технологиите върху бъдещето на човечеството. Смятате ли, че действащите понастоящем регулации на изкуствения интелект и биотехнологиите са достатъчни? Какви са потенциалните предизвикателства и възможности, които ни дава бъдещето?
- Свободата не е нещо, което имаш. Свободата е нещо, за което се бориш. Хората, които вярват, че решенията им са отражение на тяхната „свободна воля“, се манипулират най-лесно. Ние със сигурност имаме воля и непрекъснато вземаме решения. Повечето от тях обаче не са свободни. Те са формирани от различни биологически, културни и политически сили. Вярата в „свободната воля“ е опасна, тъй като култивира невежество по отношение на нас самите. Когато избираме нещо – продукт, кариера, съпруг, политически възгледи – ние си казваме: „Аз свободно избрах това“. Ако е така, то няма какво повече да дълбаем. Няма причина да се интересуваме какво се случва вътре в нас или какви сили формират решенията ни.
Тъй като мощни нови технологии са разработени с цел да влияят върху нашите решения, вярата в свободната воля е по-опасна от всякога. Ето защо бих препоръчал на хората да избягват нейните наивни версии. Вместо това трябва да се вгледаме в себе си. Да разберем какво наистина формира нашите желания и решения. Това е единственият начин да сме сигурни, че няма да станем марионетки на някой тиранин или на свръхинтелигентен компютър. Колкото повече се съмняваме в наивния възглед за свободната воля, толкова по-свободни ще бъдем.
- Обръщайки поглед към миналото, настоящето и бъдещето на човека, Nexus изглежда стъпва на същата основа като Sapiens, Homo Deus и 21 урока за 21-ви век. Може ли да кажете нещо повече за приликите и разликите между Nexus и останалите ви книги – в какво се припокриват и в какво са различни?
- В Sapiens ставаше дума основно за миналото. Там разказвам как един незначителен африкански примат става властелин на планетата. В Homo Deus пък говоря за далечното бъдеще. Там става дума за това как генното инженерство, изкуственият интелект и други технологии биха могли да променят или изместят човечеството в идните столетия. 21 урока за 21-ви век е за настоящето и обсъжда проблеми като имиграцията и тероризма – въпроси, които тревожат хората днес. За трите книги е общо това, че разглеждат историята като формирана от човека. Nexus изхожда от един важен въпрос относно миналото, настоящето и бъдещето на хората: ако сме толкова мъдри, защо сме и толкова глупави? Защо действаме толкова самоунищожително и защо сме напът да извършим екологично и технологично самоубийство?
- В Sapiens споменавате „дългосрочната тенденция към единство на човешката цивилизация“. Дали все още я приемате за действителна? Защо в постпандемичната епоха изглежда, че хората са все по-неспособни да вникнат в чуждото мнение особено когато то се различава от тяхното?
- За нещастие, ставаме свидетели на упадъка на глобалното сътрудничество и покачване на международното напрежение. Това е изключително опасно, тъй като нито една отделна страна, колкото и да е могъща, не може сама да предотврати екологичния колапс и Третата световна война или да наложи регулации на изкуствения интелект. Ако различните държави не открият начин да си сътрудничат за решаването на тези проблеми, човечеството ще бъде унищожено.
Въпреки това някои политици се противопоставят на глобалното сътрудничество, тъй като приемат, че то е несъвместимо с националните интереси. Това е опасна заблуда. Няма противоречие между патриотизма и глобализма. Да си патриот, не означава да мразиш чужденците. Патриотизмът е в това да обичаш своите сънародници. Понякога гарантирането на безопасността и просперитета на твоите сънародници налага сътрудничество с чужденци. Когато трябва да предотвратим екологичния колапс или да регулираме изкуствения интелект, глобалното сътрудничество е най-патриотичното нещо, което можем да направим.
- Когато излезе Homo Deus, вече се тревожехте от възхода на изкуствения интелект и твърдяхте, че „Homo sapiens, който познаваме, може да изчезне след около столетие“. През изминалите години в областта беше отбелязан съществен напредък, а някои от най-уверените специалисти по темата вече споделят тревогата си от перспективата за катастрофични последици за човечеството. Промениха ли скорошните развития в областта (например ChatGPT) гледната ви точка по темата? Бихте ли променили предишните си твърдения относно съдбата на Homo sapiens?
- Истината е, че изкуственият интелект се разви много по-бързо от очакваното; сега той може да надмине нашата интелигентност и да се освободи от опеката ни. Той отправя непознато до този момент предизвикателство към нас. Това не е първият случай в историята, когато изобретяваме нещо, което може да доведе до унищожението ни – от 80 години разполагаме с атомни бомби. Те обаче не могат да решават сами кого да атакуват, нито да създават сами нови бомби или нови военни стратегии. Изкуственият интелект обаче може сам да реши да атакува определена цел, да разработва нови бомби, нови военни стратегии и нови видове изкуствен интелект. Точно това тревожи хората. Изкуственият интелект не е просто инструмент, а автономен агент. Може сам да взема решения, да формулира нови идеи и да прави неща, които сме неспособни да предвидим. Какво ще се случи с нас, когато милиони нечовеци започнат да вземат решения, които ни засягат пряко и да създават различни неща – от нови лекарства до непознати оръжия, от произведения на изкуството до разплащателни средства?
- Въпреки че сте историк, текстовете ви се обръщат към въпроси от науката, философията и други области. Какви са целите ви, към какво се стремите като писател? Да предадете възприетите научни схващания на широката публика, да ги разширите в нови области, да се включите в критичния публичен диалог относно миналото и бъдещето?
- Като младеж се интересувах от големите въпроси на човешката история. Питах се: „Защо в света има толкова страдание?“; „Защо хората вярват в Бог?“. Когато започнах следването си в университета, си мислех, че това ще бъде идеалното място да се опитам да намеря отговор на тези големи въпроси. Оказа се, че не е така. Академичният свят ме тласкаше към това да се фокусирам върху конкретни теми и създаваше в мен усещането, че не можем да подходим към решаването на големите въпроси със средствата на науката. Затова станах специалист по средновековна военна история и за мен големите въпроси станаха странично занимание – хоби.
След като приключих работата по дисертацията си, бях назначен в Еврейския университет в Йерусалим и една от задачите ми беше да преподавам уводен курс по световна история на студенти-първокурсници. Утвърдените професори не искаха да се занимават с това, тъй като работата беше много, а темата се смяташе за повърхностна. Да предадеш цялата човешка история в рамките на един курс, изглеждаше като доста ненаучно начинание.
Преподавайки година след година, забелязах ентусиазъм и интерес от страна на студентите. Превеждах ги през историята на човечеството, правейки екскурси в различни области и това им харесваше. В началото на всяка лекция поставяхме голям въпрос относно историята – например: „Какво са парите?“ – и след това проследявахме данните. Преподаването на този курс ми осигури мотивацията да напиша Sapiens. Това е методът, към който се придържам и днес: избирам голям въпрос и следвам данните, където и да ме отведат – през историята, икономиката, психологията или друга наука.
- В миналото сте били критикувани от други автори, които виждат неточности, необосновани обобщения и чисти спекулации във вашите книги. Как бихте отговорили на тези обвинения?
- Със сигурност допускам грешки. Книгите ми не са напълно свободни от тях и ако читателите се интересуват от въпросите, които обсъждам, ги призовавам да четат и други книги и да се запознават с разбирания, различни от моите. Проблемът е там, че когато пишеш по обхватни теми, каквато е темата за историята на човечеството, няма как да бъдеш експерт по всичко. Имайки предвид научната ми специалност, аз имам относително задълбочени познания в европейската военна история, но знам доста по-малко за китайската история или за съвременните финанси. Никога не съм провеждал археологически разкопки, не знам как да анализирам ДНК и не мога да пиша компютърни програми. За много неща разчитам на експертизата на други хора. Науката е отборно начинание. Задачата ми е да хвърля мост между най-новите открития в различни научни области, по който да поеме широката общественост. Старая се да проследявам процесите в различни сфери – от археологията до компютърната наука – и да ги синтезирам в един обхватен разказ. При подобно начинание грешките и пропуските са неизбежни. От друга страна, ако учените изоставят обхватните разкази, ще оставят празни полета, които да бъдат запълнени с митове и конспиративни теории. Хората са животни, които разказват истории. Ние мислим чрез тях, а не чрез изолирани факти. Ако ние, учените, предлагаме на хората единствено изолирани факти и не ги обвързваме едни с други в големи истории, ще обърнем гръб на част от своите задължения. Няма как да разсеем очарованието на един лош разказ, като посочим отделни грешки в него. Единственото, което може да измести един лош разказ, е добрият разказ.
Интервюто за „Изток-Запад“ преведе Росен Люцканов
Източник: iztok-zapad.eu
