Штрафы за влияние ИИ на человека введут в Казахстане

В парламенте Казахстана находятся на рассмотрении законопроекты под названиями «Об искусственном интеллекте» и «О внесении изменений в Кодекс об административных правонарушениях». Эти документы предполагают добавление новой статьи, касающейся нарушений законодательства по искусственному интеллекту в стране.

Предлагаемая редакция данной статьи Кодекса об административных правонарушениях Республики Казахстан включает следующее:

1) отсутствие уведомления пользователя о синтетических результатах работы генеративной системы искусственного интеллекта, что может создать у него ложное впечатление;

2) недостаточная работа по управлению рисками в системах искусственного интеллекта, которая могла бы привести к негативным последствиям для здоровья и благополучия людей, а также к распространению запрещенной информации, дискриминации или нарушению прав человека, если такие действия не подпадают под уголовное законодательство.

За такое нарушение предусмотрены следующие штрафы:

· для физических лиц — 15 МРП;

· для субъектов среднего бизнеса — 30 МРП;

· для крупных предприятий — 100 МРП.

Кроме того, в законе об искусственном интеллекте будет указано на необходимость управления рисками соответствующих систем.

Влияние ИИ будет разделяться на категории:

1) низкий риск — нарушения, при которых последствия для пользователей минимальны;

2) средний риск — нарушения, способные снизить эффективность работы пользователей и нанести финансовый ущерб;

3) высокий риск — нарушения, которые могут вызвать чрезвычайные ситуации социального или техногенного характера, а также серьёзные негативные последствия для обороны, общественной безопасности, экономики и жизнедеятельности граждан.

На территории Республики Казахстан будет запрещено создание и введение в оборот полностью автономных систем искусственного интеллекта, которые принимают решения без заранее установленных параметров и не поддаются контролю со стороны их владельцев. Также установлены ограничения на системы ИИ, обладающие следующими функциями:

1) использование манипулятивных методов, существенно изменяющих поведение человека и ограничивающих его осознанный выбор, что может причинить ему вред;

2) воздействие на физическое или моральное состояние человека в зависимости от возраста, инвалидности, социального положения для причинения вреда;

3) оценка и кардинальная классификация людей на основе их социального поведения или предполагаемых личностных характеристик, за исключением случаев, предусмотренных законами Казахстана;

4) нецелевое извлечение и создание баз данных распознавания лиц из интернета или с видеокамер;

5) дискриминация лиц на основе их биометрических данных, включая расу, политические убеждения и религиозную принадлежность;

6) определение эмоций людей без их согласия, кроме случаев, предусмотренных законами Казахстана;

7) удаленная биометрическая идентификация в общественных местах, кроме случаев, установленных законодательством;

8) создание и распространение любых запрещенных законом результатов работы систем искусственного интеллекта.

Также в законопроекте подчеркивается важность практической реализации принципов этики и прозрачности в разработке и применении систем ИИ, чтобы минимизировать возможные негативные последствия для общества. Это включает в себя обязательные проверки и аудит созданных моделей, а также их регулярное обновление в соответствии с современными стандартами.

Кроме того, предполагается создание рабочей группы из экспертов в области искусственного интеллекта, юристов и представителей гражданского общества для мониторинга и анализа внедрения этих норм, а также для оказания помощи в разработке декларативных требований к системам ИИ.

Эти меры помогут обеспечивать баланс между технологическими инновациями и защитой прав граждан в условиях быстроразвивающейся цифровой среды.