Введение | Ограничения на ИИ | Ответственность за вред | Национальная платформа ИИ | Права и обязанности сторон | Классификация ИИ систем | Часто задаваемые вопросы (ЧаВо)

Введение

В Казахстане разрабатывается закон, который введет ограничения на использование искусственного интеллекта (ИИ) в определенных процессах и практиках сбора данных, если отсутствует четкое согласие людей.

Ограничения на ИИ

Новый законопроект предполагает следующие запреты:

• Применение ИИ для воздействия на поведение человека без его осознанного одобрения.
• Использование ИИ, которое целенаправленно эксплуатирует уязвимые категории граждан (например, дети, люди с инвалидностью, социально незащищенные слои населения).
• Оценивание или классификация граждан по их социальному поведению или личным характеристикам (так называемый «социальный скоринг»), за исключением ситуаций, установленных законодательством.
• Применение ИИ для анализа эмоционального состояния людей без их предварительного согласия.
• Распознавание лиц в общественных местах в режиме реального времени, кроме случаев, прямо разрешенных законом.
• Создание и распространение контента, сгенерированного ИИ, который нарушает действующее законодательство (включая дипфейки).

Ответственность за вред

Законопроект также регулирует вопросы ответственности за ущерб, нанесенный системами ИИ. Если пользователи системы понесли убытки, ответственность возлагается на владельцев и операторов этих систем. Страхование ответственности за вред, причиненный ИИ, предлагается как добровольная мера, но подчеркивается его значимость для защиты прав граждан.

Национальная платформа ИИ

Документ предусматривает создание национальной платформы искусственного интеллекта, которая станет единой инфраструктурой для разработки и применения ИИ-решений. По словам депутата Екатерины Смышляевой, эта платформа обеспечит разработчикам доступ к базам данных и инструментам, необходимым для обучения моделей ИИ. Государство планирует поддерживать развитие ИИ через финансирование исследований, образовательные программы и международное сотрудничество.

Права и обязанности сторон

Законопроект четко определяет права и обязанности всех участников сферы ИИ. Владельцы ИИ-систем смогут устанавливать правила использования своих продуктов, защищать свои права и управлять рисками. Пользователи получат право на защиту своих персональных данных, получение информации о принципах работы ИИ-систем и возможность обжалования решений, принятых автоматизированными системами.

Классификация ИИ систем

Особое внимание уделено вопросам безопасности. Системы ИИ будут классифицироваться в зависимости от уровня риска – от минимального до высокого. Системы с высоким уровнем риска будут отнесены к объектам критически важной информационно-коммуникационной инфраструктуры, что обеспечит контроль за их безопасностью в соответствии с действующим законодательством. Системы ИИ будут разделены на «помощников», полуавтономные системы и полностью автономные алгоритмы. Последние будут полностью запрещены на территории Казахстана.

Часто задаваемые вопросы (ЧаВо)

1. Какие ограничения накладываются на использование ИИ? Запрещено использование ИИ для манипулирования поведением, эксплуатации уязвимостей, социального скоринга (кроме предусмотренных законом случаев), анализа эмоций без согласия, распознавания лиц в реальном времени (кроме законных исключений) и создания дипфейков.
2. Кто несет ответственность за вред, причиненный ИИ? Ответственность за ущерб несут владельцы и операторы ИИ-систем.
3. Что такое национальная платформа ИИ? Это единая инфраструктура для разработки и использования ИИ, обеспечивающая доступ к данным и инструментам.
4. Как классифицируются ИИ-системы? Классификация идет по степени риска – от минимального до высокого, при этом системы высокого риска подпадают под регулирование критической инфраструктуры.
5. Какие ИИ-системы будут запрещены? Полностью автономные алгоритмы будут запрещены в Казахстане.