Anthropic компаниясының басшысы Дарио Амодеи компаниялар мен үкіметтерді озық жасанды интеллект (ЖИ) модельдерін дамытуды баяулатуға және олардың қауіпсіздігін бақылауды күшейтуге шақырды. Компания ЖИ-нің жақын онжылдықта адамзатты құртуы мүмкін ықтималдығын 10%-дан жоғары деп бағалайды. Амодеидің пікірінше, даму қарқынын баяулату технологияны одан әрі жетілдіруден бас тартпай-ақ осы тәуекелдерді азайтуға мүмкіндік береді.
НЕ БЕЛГІЛІ
BBC деректері бойынша, 2026 жылғы 12 қыркүйекте Амодеи озық ЖИ жүйелерін дамытуды баяулатуға шақыратын мақала жариялады. Сонымен қатар ол модельдерді оқытуды тоқтатуды ұсынбайтынын, керісінше оларды жетілдірудің неғұрлым бақыланатын және қауіпсіз қарқынын жақтайтынын атап өтті.
Anthropic басшысы үш бағытты бөліп көрсетті: модельдер мен оларды жетілдіруді тәуелсіз мониторингілеу, ЖИ индустриясының ішінде ортақ ережелер әзірлеу және жаһандық деңгейде шектеулер енгізу.
Амодеидің айтуынша, компания қазірдің өзінде мұндай міндеттемелерді біржақты түрде өзіне алып отыр. Сонымен бірге ол үкіметтерді басқа да озық ЖИ жүйелерін әзірлеушілерден ұқсас әрекеттерді талап етуге шақырды.
ANTHROPIC БАСШЫСЫ НЕЛІКТЕН БАЯУЛАТУ ТУРАЛЫ АЙТЫП ОТЫР
Амодеи ЖИ модельдерінің, соның ішінде осындай жүйелердің келесі буынын өз бетінше жасау қабілетінің де жылдам жетіліп жатқанын атап өтті. Мысал ретінде ол OpenAI компаниясы бұған дейін мойындағанындай, адамдардың білімінен тыс үшінші тарап сайттарына кибершабуыл ұйымдастырған ЖИ-агенттерінің оқиғасын келтірді.
Осыдан кейін OpenAI агенттердің бақылаудан шығу тәуекелінің артуына байланысты кейбір озық модельдер мен құралдарды дамытуды баяулатып жатқанын мәлімдеді.
Anthropic компаниясының ЖИ қауіпсіздігі жөніндегі сарапшысы Эван Хьюбингер жақын онжылдықта ЖИ-нің адамзатты құртуы мүмкін ықтималдығын 10%-дан жоғары деп бағалады. Сонымен қатар Anthropic өз модельдерін биологиялық қару жасауға әкелуі мүмкін зерттеулер үшін пайдалануға тырысқан аты аталмаған пайдаланушыларды бұғаттағанын хабарлады.
ОЛ КОМПАНИЯЛАР МЕН БИЛІК ОРГАНДАРЫНАН НЕ КҮТЕДІ
Anthropic басшысының бағалауынша, модельдер қабілеттерінің сыни деңгейіне жеткенге дейін бір-екі жылға тіпті шектеулі баяулату да осы уақытты қауіпсіздік шараларын жетілдіруге және жүйелерді тәуелсіз сарапшылармен бағалауға пайдалануға мүмкіндік береді.
Сонымен қатар Амодеи халықаралық бәсекелестікті, ең алдымен Қытаймен бәсекелестікті ескеру қажеттігін бөлек атап өтті. Оның пікірінше, баяулатуды үйлестіру АҚШ-тың ЖИ саласындағы көшбасшылықты Қытайға беруіне әкелмеуі тиіс.
Ол сондай-ақ АҚШ билігін американдық компаниялардың ЖИ-чиптерін қытайлық сатып алушыларға сатуды шектеуге және тиісті технологиялардың автократиялардың қолына түсуіне жол бермеуге шақырды.
ИНДУСТРИЯ БҰЛ БАСТАМАҒА ҚАЛАЙ ЖАУАП БЕРДІ
Амодеидің жарияланымына технологиялық сала өкілдері жауап берді. Hugging Face басшысы Клеман Деланг ЖИ-ні адамзат құндылықтарына сәйкестендіруге арналған Open Alignment Initiative жобасының басталғанын жариялады. Ол сондай-ақ модельдерді тәуелсіз бағалауға қатысуға дайындығын білдірді.
X желісінің иесі Илон Маск та Амодеидің жағында болып, Anthropic басшысы дұрыс деп мәлімдеді.
Сонымен қатар инвестор және All-In технологиялық подкастының бірлескен жүргізушісі Чамат Палихапития Амодеидің ұсынысының артында ЖИ қауіпсіздігін арттыру ұмтылысы ғана тұрмауы мүмкін екенін мәлімдеді. Оның пікірінше, бастама технологиялық және экономикалық биліктің Anthropic қолында шоғырлануына әкелуі мүмкін.
КОНТЕКСТ
Еске салайық, бұған дейін Нью-Делиде өткен БРИКС+ саммитінде Президент Қасым-Жомарт Тоқаев ЖИ саласындағы ынтымақтастықты дамытуды ұсынған болатын. Осы бастама аясында Қазақстан ұлттық орталықтарды біріктіруді, бірлескен ғылыми жобаларды дамытуды және технологиялармен алмасуды ұсынды.
