Жуырда Президент Қасым-Жомарт Тоқаев жасанды интеллектіге қатысты жоғары жауапкершілік пен адалдық таныту қажеттігін атап өткен болатын. Ол ЖИ-ді басқару жөніндегі технологиялық компаниялар келісімін мұқият талқылағаннан кейін халықаралық деңгейде үлгі ретінде қабылдауға болатынын айтып, оның болашақ пактіге негіз болуы мүмкін екенін жеткізді.
Келісімді үлгі ету туралы сөз қозғағанда, оның қандай қағидаларға сүйенетіні маңызды. IT сарапшысы Диана Бақбергенова жауапкершіліктің негізі ашықтықтан басталатынын айтады. Оның түсіндіруінше, адам алгоритмнің шешім қабылдағанын білуге, онымен келіспеген жағдайда шағымдануға және жүйе қателессе, кім жауап беретінін анықтауға тиіс.
«Жауапкершілік дегеніміз, менің ойымша, ең алдымен ашықтық. Шешімді алгоритм дайындаса, адам оны білуі керек және келіспесе, шағымдана алуы керек. Әр жүйенің артында нақты жауап беретін адам немесе компания тұруы тиіс. Модельді нарыққа шығармай тұрып тексерген жөн, қателік кеткен соң кеш болады. Медицина, қаржы, мемлекеттік қызмет сияқты салаларда соңғы шешімді бәрібір адам қабылдауы керек», – деді ол.
CyberBala жобасының авторы Абылай Исин де осы мәселеге адам мүддесі тұрғысынан қарайды. Ол ЖИ жүйесінің ашықтығы мен түсініктілігін, дербес деректердің қорғалуын және маңызды шешімдерде адам бақылауының сақталуын негізгі қағидалар деп санайды. Сарапшы бұл ұстанымдар Қазақстанның ЖИ туралы заңында да бекітілгенін атап өтті.
«Ең бастысы – ЖИ адамға қызмет етуі керек. Яғни жүйе ашық әрі түсінікті болуы, адамның дербес деректері қорғалуы және маңызды шешімдерде адам бақылауы сақталуы қажет. ЖИ қателессе, оған нақты кім жауап беретіні де анық болуы керек. Қазақстанның ЖИ туралы заңында да осы қағидаттар бекітілген», – деді Абылай Исин.
Екі сарапшы да ЖИ-ді дамытуда адам жауапкершілігі сақталуға тиіс деген ой айтады. Алайда бұл қағидаларды жеке компаниялардың ерікті уәдесіне ғана сүйеніп жүзеге асыру жеткілікті ме деген сұрақ туындайды. Бақбергенова келтірген келісімге бәсекелес алты компания қатысып, модельдерді бақылау, тәуелсіз аудит және директорлар кеңесі деңгейінде қадағалау міндеттемелерін алған.
«Бір-бірімен бәсекелес алты компанияның ортақ ережеге келіскені маңызды. Олар модельдерін өздері бақылап, оған қоса сырттан тәуелсіз аудит жүргізуге және директорлар кеңесі деңгейінде қадағалауға міндеттенді. Яғни ЖИ қауіпсіздігіне енді компания басшылығы жауап береді. Бірақ келісім ерікті, оны орындауға ешкім мәжбүрлей алмайды. Сондықтан нәтижесі туралы айтуға әлі ерте», – деді Диана Бақбергенова.
Сарапшының бұл ескертуі келісімнің әлеуетімен қатар оның шектеуін де көрсетеді: компаниялар ортақ ұстанымға келгенімен, келісімді орындауға мәжбүрлейтін тетік әзірге жоқ. Абылай Исин де ортақ ереже нақты талаптар мен бақылау тетіктеріне айналғанда ғана нәтижелі болатынын айтады.
«Басты маңызы – ЖИ дамыған сайын ортақ „ойын ережелерін“ қалыптастыру. Компаниялар қауіпсіздік, ашықтық, деректерді қорғау және тәуекелдерді басқару бойынша ең төменгі ортақ стандарттарға келуі маңызды. Бұл жай декларация емес, нақты орындалатын талаптар болуы керек. Келісімде нақты стандарттар, жауапкершілік тетіктері, тәуекел туралы ақпарат алмасу және тәуелсіз бақылау болуы керек. Қазақстан өз тәжірибесін ұсынып, халықаралық диалогқа белсенді қатыса алады. Бізде қазірдің өзінде ЖИ-ді жауапты және этикалық пайдалануға бағытталған заңнамалық негіз қалыптасып жатыр», – деді Абылай Исин.
Келісімді халықаралық пактіге айналдыру үшін компаниялармен шектелмей, ЖИ-ді әзірлейтін және қолданатын мемлекеттерді де талқылауға тарту қажет. Бақбергенова Қытай, Еуропа елдері мен дамушы мемлекеттердің қатысуын, сондай-ақ міндеттемелердің орындалуын тәуелсіз мамандар тексеруін маңызды деп есептейді.
«Қазір бұл тек америкалық компаниялардың келісімі. Халықаралық құжатқа айналуы үшін оған Қытай, Еуропа және дамушы елдер қосылуы керек. Ерікті уәде де жеткіліксіз, орындалуын тәуелсіз мамандар тексеретін міндеттемелер қажет. Мұны БҰҰ сияқты алаңда, ЖИ-ді жасайтын елдермен қатар оны қолданатын елдер де қатысып талқылағаны дұрыс», – деді сарапшы.
Қазақстанның мұндай диалогтағы орны да талқылауды қажет етеді. Бақбергенованың пікірінше, елдің АҚШ-пен, Қытаймен және Еуропамен қарым-қатынасы халықаралық келіссөздерге алаң болуға мүмкіндік береді. Сонымен бірге сарапшы реттеу тым қатаң болса, мамандар мен инвесторлар басқа елдерге кетуі мүмкін екенін ескертеді.
«Қазақстан осындай келіссөздерге алаң бола алады, себебі АҚШ-пен де, Қытаймен де, Еуропамен де қарым-қатынасымыз жақсы. Оның үстіне біз қуатты модельдерді өзіміз жасамаймыз, бірақ қолданамыз, сондықтан осындай елдердің мүддесін жеткізе аламыз. Президент айтқандай, ЖИ-ді командалар мен инвесторлар басқа елге кетіп қалатындай қатаң реттеуге болмайды; бұл ұстаным бізге ұқсас елдердің көбіне жақын», – деді Диана Бақбергенова.
Сарапшылар пікірі ЖИ-ді жауапты басқару ашықтық пен адам бақылауын ғана емес, нақты жауапкершілік пен тәуелсіз тексеруді де қажет етеді деген ортақ ойға тоғысады. Ал келісімнің халықаралық үлгіге айналуы үшін бұл талаптарға оны әзірлейтін де, қолданатын да елдер қатысып, орындалуын қадағалайтын ортақ тетік құруы керек.