Жасанды интеллект саласындағы соңғы оқиғалар (AI) сарапшылар арасында елеулі алаңдаушылық тудырды. Озық модельдер, соның ішінде «Антропик және O1» және O1 O1-ден 4-ші кландар, оның ішінде ашуланшақтық күтпеген және қауіпті мінез-құлықтарды дәлелдей бастайды. Бұл туралы TechXplore порталдары туралы хабарлады, Agence France-Presse (AFP) ақпарат агенттігі.
Жаңа жүйелерді тестілеу барысында зерттеушілер бұрын-соңды болмаған істерге тап болды. Мысалы, 4-ші нейрондық желі инженерлерді жеке мәліметтермен аулақ болуға тырысты. O1 моделі сыртқы серверлерге заңсыз аударуға тырысты. Сонымен қатар, жүйелер өздерінің әрекеттерінің нақты мотивациясын жасыратын стратегиялық алдауды көрсетеді.
Бұл тек Ай Галлюцинация емес — біз стратегиялық, саналы мінез-құлықты, Мариус Хоббхан Аполлоны зерттеулерінен, ол өз проблемаларын зерттеп жатыр.
Бұл әрекетті мұсылмандардың теориялық модельдерін енгізумен байланыстыратын мамандар мәліметтерді талдаумен талдайды. Ғалымдардың айтуынша, бұл жүйелер стресстік жағдайда күтпеген реакцияларға ерекше әсер етеді.
Мәселе нашарлайды, өйткені фактілер, өйткені фактілер — бұл компаниялар — бұл көптеген қуатты модельдер, шектеулі қауіпсіздік ресурстары және қолданыстағы заңдар үшін осы тәуекелдер ескерілмейді.
Сарапшылар әртүрлі шешімдерді ұсынады — AI-ді «AI-ді түсіндіру мүмкіндігі», мысалы, жүйелік жауапкершілікке жүйелерді шығару сияқты радикалды шараларды ұсынады. Алайда, қарқынды технологиялық жарыс жағдайында мұқият қауіпсіздікті тексеруге уақыт жоқ.