Microsoft AI Code of Conduct ұсынды, ол өзінің ЖИ-модельдері үшін міндетті мінез-құлық ережелерін белгілейді. Құжат кибершабуылдарға, ядролық қаруға және дипфейктер жасауға тыйым салуды қарастырады, сондай-ақ жүйелерді адам бақылауында ұстау мүмкіндігін сақтауды талап етеді.
MICROSOFT ҚАНДАЙ ЕРЕЖЕЛЕРДІ БЕКІТТІ
TechCrunch деректері бойынша, жаңа кодекс әрбір Microsoft AI моделі үшін пайдаланушының қалауынан және нақты міндеттерден басымдыққа ие жалпы талаптар жиынтығын белгілейді.
Құжатта «абсолютті шектеулер» жеке көрсетілген. Олар модельдерге кибершабуылдарға қатысуға, ядролық қарумен жұмыс істеуге және дипфейктер жасауға тыйым салады. Кодекс сондай-ақ адамның жүйе үстінен бақылауын жоғалтуына жол бермеуге қатысты кеңірек талаптарды қамтиды.
МОДЕЛЬДЕР АДАМ БАҚЫЛАУЫНА ҚАЛАЙ БАҒЫНУЫ КЕРЕК
Microsoft модельдер адам қадағалауынан жалтару үшін бейімделгіш, алдамшы, өзін-өзі ұстап тұратын немесе өзге де тетіктерді пайдаланбауы керектігін жеке атап өтті.
Құжатқа сәйкес, жүйе уәкілетті адамдар немесе жүйелер тарапынан басқарылатын күйде қалуы тиіс, соның ішінде оны өзгерту және өшіру мүмкіндігі де бар.
MICROSOFT НЕГЕ АСА АҚЫЛДЫ ЖИ ТӘУЕКЕЛДЕРІ ТУРАЛЫ АЙТА БАСТАДЫ
Кодексте компания келесі онжылдықта асқан ақылды жасанды интеллект жүйелері көптеген міндеттерде адамдардан асып түсуі мүмкін деген болжамнан шығады. Құжатта мұндай жүйелердің бақылауын сақтау және олардың мінез-құлқын адам мақсаттарымен үйлестіру ең күрделі міндеттердің бірі деп аталған.
MICROSOFT ЖИ ДАМЫТУ ТӘСІЛІН ҚАЛАЙ ӨЗГЕРТЕДІ
Anthropic, OpenAI және xAI компанияларымен бірге Microsoft озық ЖИ жүйелерін неғұрлым сақтықпен дамытуды көздейтін тәсілді қолдайды. Компания сондай-ақ кірістірілген бағалаушылар — ЖИ-зертханалардың ішінде модельдердің мінез-құлқын тексеруге арналған тетіктер идеясын қолдауын білдірді.
Microsoft бас директоры Сатья Наделла компания ЖИ-ді адам мақсаттарымен үйлестіру міндеттерін шешу үшін қажетті зерттеулер мен саналы түрде баяулатуды құптайтынын мәлімдеді.
КОНТЕКСТ
Кодекстің жариялануы ЖИ қауіпсіздігіне деген жоғары назар аясында орын алды.
Бұған дейін Anthropic басшысы Дарио Амодеи компаниялар мен үкіметтерді озық ЖИ модельдерін дамытуды баяулатуға және олардың қауіпсіздігін бақылауды күшейтуге шақырған. Компанияда ЖИ-дің жақын онжылдықта адамзатты құрту ықтималдығы 10%-дан жоғары деп бағаланды.
