Ювал Ноа Харари: «AI жан-жақты бақылауға мүмкіндік береді және барлық бостандықтарды жояды»

«Біреуі бар Жасанды интеллекттегі тоталитарлық потенциал (AI), біз тарих бойы көрген басқа ештеңеге ұқсамайды », — деп ескертті ол. Ювал Ноа Харари. Латын Америкасы елдерінен келген жүздеген журналистердің алдына бір жерге жиналды онлайн семинарсияқты кітаптардың авторы Израильде туған зиялы Жануарлардан құдайларға дейін және Хомо Деус испандық басылымын ұсынды Оның жаңа жұмысы: Қарым-қатынас. Тас дәуірінен жасанды интеллектке дейінгі ақпараттық желілердің қысқаша тарихы (Пікірталас).

IN 500 беттен астамСубтитр уәде ететін қысқашалықты талап ете отырып, автор Киелі кітапты христиандықтың біртұтас артефакті ретінде біріктіруден бастап Facebook, Google және Tiktok сияқты компаниялардың AI құралдарын басқаруына дейін барлығын талдайды.

Сонымен қатар, ол талдаумен айналысады «деректер отаршылдығын» атап өту тәуекелдеріонда үкіметтер мен корпорациялар миллиондаған және миллиондаған фотосуреттер мен бейнелерді қамтамасыз етеді және сол материал негізінде қоғамға қатысты әрекеттерді анықтайды.

Харари орналастырылды өршіл сапар. Өйткені ол тарих бойы «ақпараттық желілер» деп атаған нәрселерді бөлшектеумен қатар, басқа ұғымдарға да анықтама береді. Демек, ақпарат ақиқаттың шикізаты немесе саяси күрестің қаруы ретінде емес, әртүрлі элементтер арасындағы байланыс, берілген мағына ретінде қарастырылады.

Негізінде автор кітапта соны атап көрсетеді «қателер, өтірік, фантастика және қиял» да ақпарат болып табылады. Әрине дұрыс емес. Және ол фантастика шындыққа қарағанда қарапайым және икемді, осылайша танымал бола бастады, бұл әлеуметтік медианың вертигосымен ерекшеленетін ерекшелік.

Төтенше адам және қателеспес

Жасанды интеллектке қатысты Харари әртүрлі салалардағы «адамнан тыс және қателеспес интеллект» ұғымының осы бағдарламалар жиынтығына қалай жатқызылатыны туралы ескертеді. бұрын діни мәтіндерге берілгендейТаурат болсын, Інжіл және Құран болсын. Және ақпараттық технологиялардың жылдамдығы мен тиімділігін арттыруға тоқталды «Оларға әлемді жақсырақ орынға айналдырудың қажеті жоқ».

«AI барлық еркіндіктерді тоқтатып, жан-жақты бақылауға мүмкіндік береді. Барлық адамдарды қадағалау үшін агенттер қажет емес. Смартфондар, камералар, компьютерлер, бет-әлпет пен дауысты тану бар… бұрын құпиялылықты жою мүмкін емес еді, енді ақпаратты өңдеу үшін талдаушылардың қажеті жоқ, бізде AI бар», — деді Nexus авторлары конференцияда: «Бұл қазірдің өзінде болып жатыр. . Менің елім Израильде бұл режим құрылды Жаулап алынған аумақтарда камералар, дрондар мен бағдарламалық қамтамасыз ету, адамдарды бақылайтын құрылғылар бар, Иранда да солай».

Бұл елде қоғамдық орындарда бетперде тақпайтын әйелдерді жазалау үшін көптеген бақылау камералары мен бет-әлпетті тану бағдарламалары бар деп түсіндірді.

Қиямет күнін тудыратын басқа керемет өнертабыстармен салыстырғанда AI-ның қоғамға қазіргі әсерінің қандай айырмашылығы бар және неліктен біз қауіпті кездесіп жатқанымызға сенуіміз керек деген сұраққа Харари былай деп жауап берді: «Өйткені AI біз бұрын ойлап тапқан басқа технологияға ұқсамайды. Бұл құрал емес, тәуелсіз агент. Атом бомбасының күші бар, бірақ оны қайда және қалай қолдану керектігін адамдар шешеді. Мұндай бомба ештеңе шеше алмайды, ол ешқандай жаңа қару ойлап таба алмайды. AI әртүрлі, ол өз бетінше шешім қабылдай алады», және әлеуметтік желілерде редактордың рөлін ұсынылған оқиғаның қандай болатынын шешетін алгоритмдер қабылдайтынын есте сақтаңыз.

Оның кітабында, Харари басқа жағдайлармен қатар нацистік Германия мен сталиндік режим сияқты диктатуралардың тоталитарлық тәжірибесін бұзды.бүкіл халықты басқаруға ұмтылатындар. Дегенмен, адамның шектеулеріне байланысты кейбір жеке аралдар сақталуы мүмкін. Мазасыз және AI сияқты адамдарға берілген немесе шығарылған миллиондаған деректер негізінде қабылдауға, метаболизмге және шешім қабылдауға қабілетті жүйелермен бетпе-бет келіп, Тәуекел де диктаторлық емес тоталитарлық модельді орнатуда жатыр.

Баспасөздің мазмұнын жасау мүмкіндігі туралы сұрағанда, бұрын адамның ерекше қабілеті, Харари қазіргі AI дамуы жай ғана «амеба» деп санайды.қалай дами алатынымен салыстырғанда. «Біз бірінші қадамдамыз, әлі ештеңе көрген жоқпыз», — деп жауап берді ол.

Көшіру мен қоюдан артық

Бар ChatGPT-тің алдағы он-жиырма жылдағы өсуі оны елестету мүмкін емес етеді. «Бұл жай ғана көшіру және қою ғана емес, ол кейде қателерге толы, бірақ өте мағыналы абзацтарды жасай алады», — деді ол: «Мен университеттің профессорымын, мен студенттердің көптеген мақалаларын оқыдым және бұл өте қиын. оларды түсіну. сызған ойымды қорғап, дәлелдерді байланыстыра отырып, жүйелі эссе жазу уақыты. AI қазір мұны істей алады ».

авторы Қарым-қатынас Осы уақытқа дейін поэзия, пьеса, ән, эссе сынды туындылардың бәрі адам қиялының туындысы екенін айтты. Бірақ одан да көп Әңгімелер, ертегілер, суреттер және тіпті бүкіл сериялар бейорганикалық интеллекттің өнімі болар еді. «Бұл адам психологиясы мен қоғамға қандай әсер етеді? Ешкім білмейді және бұл үлкен сұрақ», — деді ол.

БАҚ-та оның пайдасы туралы көптеген мақалалар мен академиялық мәтіндер болғанына қарамастан, AI туралы не жақсы айтуға болады, Харари былай деп түсіндірді: «AI үлкен әлеуетке ие, әйтпесе адамдар оны дамытпайды»және 24 сағат жұмыс істейтін кедей елдерде виртуалды «дәрігерлерді» құруға болатынын көрсетеді, әрине, нағыз дәрігерлерден әлдеқайда арзан.

Дегенмен, зиялы қауым осыны атап көрсетті Көптеген «AI не істейтіні туралы жағымды әңгімелер мен болжамдарға толы бай компаниялар бар және қауіптерді елемейді».. Ең қараңғы жерлерге назар аудару философтардың, ғалымдардың және ойшылдардың жұмысы. «Бұл тек қауіптер бар дегенді білдірмейді».

Ол да аман болсын

Опциялардың бұл түрлері жиі үнсіз қалуға тырысатын прогрессивті обсессивті айыптауларға Харари мысал келтіреді: «Егер сіз көлік шығарсаңыз, сіз көліктің қауіпсіз екеніне көз жеткізу үшін зерттеудің бір бөлігін арнауыңыз керек», дегенмен. Технологиялық компаниялар «жарыс қарулану менталитетінде қалып қойды»Америка Құрама Штаттарында немесе Қытайда болсын ».

Және осы технологияларды әзірлеушілерге Ықтимал қауіп-қатер туралы ескерткен кезде, олар мәселе туындаса, оны дереу шешеміз дейді. «Бұл өте қауіпті».. Бұл көлікті тежеусіз жолға қою сияқты, өйткені біз көліктің мүмкіндігінше жылдам жүруін қалаймыз. Кейін тежеу ​​жүйесінде ақаулар туындаса, біз не істеу керектігін көреміз, артқы тежегіш жүйесін ойлап табамыз», — деді ол.

Кітапта автор үкіметтер мен азаматтық қоғамды ынталандырады AI әсері біз білетіндей адам өмірінің бұрмалануына әкелмеуі үшін «өзін-өзі түзететін» механизмдерді дамытыңызжәне адамдар бейорганикалық интеллектке тәуелді емес және шетелдіктер олардан асып түсуге қабілетті.

Және бұлыңғыр болашақЕгер бұл орын алса, ол адамды қуып келе жатқан робот бейнесін бермейді; Металл андроидтар немесе үлкен механикалық құбыжықтар болмаса, олар өздігінен көшірілетін бағдарламалардың нұсқауларына, деректеріне және қиғаштықтарына негізделген шешімдерді қабылдап, ұйқы мен өлімге шектеусіз өз мүмкіндіктерін шексіз көбейтеді.