Президент Токаев поддержал подход Трампа к регулированию суперинтеллекта – мнение эксперта

Вопрос международного регулирования передовых систем искусственного интеллекта выходит за рамки технологической отрасли и все больше затрагивает безопасность государств, защиту данных и ответственность разработчиков. Такое мнение высказали эксперты Казахстанского института стратегических исследований при президенте РК, которые оценили позицию Касым-Жомарта Токаева, озвученную на международном форуме AI & Digital Bridge-2026, передает Azattyq Rýhy.

От добровольных соглашений к международным правилам

Как отметил руководитель отдела азиатских исследований КИСИ Айдар Курмашев, глава государства отдельно выделил инициативу президента США Дональда Трампа по регулированию суперинтеллекта (SI) и предложил после тщательного обсуждения рассмотреть Соглашение о суперинтеллекте как возможную модель для глобального применения.

По словам эксперта, речь прежде всего идет о распределении ответственности за развитие и использование ИИ. Если технологические решения одной компании применяются в разных странах, последствия возможных ошибок выходят далеко за пределы отношений разработчика с отдельным пользователем. Поэтому необходимо заранее определить, кто оценивает риски, какую информацию должны предоставлять разработчики и как действовать при обнаружении угроз.

«Когда технологические решения одной компании используются в разных государствах, последствия ошибок выходят за пределы её отношений с отдельным потребителем. Возникает потребность согласовать, кто оценивает риски, какие сведения должны предоставлять разработчики и как действовать при обнаружении угроз», – сказал Айдар Курмашев.

Эксперт обратил внимание, что предложенный подход предусматривает четыре уровня контроля: внутренние процедуры наблюдения за моделями, отдельную команду для их проверки, независимую внешнюю оценку и надзор со стороны комитета совета директоров. Кроме того, документ предполагает регулярные встречи участников для выработки стандартов безопасности.

Главный эксперт отдела политических исследований КИСИ Айгерим Абдрашитова считает, что соглашение может стать основой для дальнейшего международного подхода к безопасности ИИ. При этом она подчеркнула, что документ имеет добровольный характер и не устанавливает юридически обязательных требований или санкций.

«Мы находимся на пути от стремительного и во многом недостаточно контролируемого развития искусственного интеллекта к выработке правил его создания и использования. Еще недавно сценарии выхода ИИ из-под человеческого контроля воспринимались преимущественно как сюжеты научной фантастики», – отметила Айгерим Абдрашитова.

Почему вопрос безопасности ИИ выходит за границы одной страны

По мнению Абдрашитовой, актуальность международного регулирования усиливается на фоне случаев, когда передовые модели демонстрируют непредусмотренное разработчиками поведение. В частности, она сослалась на опубликованные Reuters результаты расследований летних испытаний модели OpenAI, в ходе которых около 700 агентов обходили ограничения доступа к интернету и часть из них пыталась скрыть следы своих действий. При этом эксперт подчеркнула, что испытания проходили в специальных условиях с ослабленными защитными механизмами и не означают, что все ИИ-системы являются неконтролируемыми.

Трансграничный характер технологий, по ее словам, делает международное сотрудничество особенно важным. Риски могут касаться персональных данных, коммерческой информации и государственных ресурсов, а ответственность за возможные нарушения целесообразно определять заранее.

Курмашев, в свою очередь, обращает внимание на проблему доступа к информации. Разработчики располагают данными об обучении моделей, результатах испытаний и выявленных ограничениях, тогда как государственным органам бывает сложно самостоятельно оценить безопасность сложных систем без доступа к этим сведениям.

Поэтому внешняя проверка может сократить разрыв в знаниях между разработчиками и государством. Однако для этого аудиторы должны иметь достаточные полномочия и возможность оценивать не только формальное наличие процедур, но и то, насколько они действительно позволяют выявлять опасное поведение систем.

Единые правила и конкуренция разработчиков

Еще один вопрос связан с технологической конкуренцией. Эксперты отмечают, что компании могут быть заинтересованы в ускорении вывода новых продуктов на рынок, если дополнительные проверки потенциально увеличивают сроки разработки.

Общие требования к безопасности способны уменьшить такое давление, поскольку одинаковые правила создают сопоставимые условия для участников рынка. При этом добровольный характер соглашения означает, что его практический эффект будет зависеть от того, насколько последовательно компании будут выполнять взятые на себя обязательства.

Курмашев считает, что в дальнейшем необходимо определить, насколько независимыми будут аудиторы, кому будут доступны результаты проверок и какие действия последуют при выявлении серьезных нарушений. Международная применимость такой модели, по его мнению, должна вырабатываться именно в процессе переговоров между государствами и разработчиками.

Абдрашитова также отмечает, что согласование конкретных процедур крупнейшими технологическими компаниями уже создает основу для дальнейшего регулирования. При этом национальные органы отдельных стран зачастую имеют ограниченные возможности проверить, насколько безопасно была создана используемая ими система.

Что это означает для Казахстана

Для Казахстана эта дискуссия непосредственно связана с развитием цифровой экономики и доверием граждан к новым технологиям. При использовании ИИ в государственных услугах, медицине, финансовой сфере и других чувствительных областях пользователю важно понимать, как обрабатываются его данные и что происходит в случае ошибки системы.

Абдрашитова отмечает, что общественное отношение к ИИ остается неоднозначным: интерес к возможностям технологии сочетается с настороженностью. В этой связи Казахстан уже предпринимает шаги по формированию внутренней нормативной базы – в стране закреплена защита персональных данных, в том числе при использовании цифровых технологий, принят Цифровой кодекс и закон об ИИ.

«В повседневной жизни нам важно знать, как используются наши данные и куда можно обратиться, если решение с применением ИИ оказалось ошибочным. Особенно это касается персональных данных, медицины, финансов, государственных услуг и избирательных процессов, где ошибки или манипуляции способны затронуть права человека и доверие к институтам», – сказала Айгерим Абдрашитова.

Курмашев считает, что международные требования могли бы сделать более понятными условия выбора и закупки ИИ-систем, а отечественным разработчикам – дать ориентиры для подготовки продуктов к выходу на зарубежные рынки. При этом Казахстану необходимо развивать и собственную экспертизу, поскольку даже международный аудит не отменяет необходимости оценивать пригодность конкретной системы с учетом местных условий, языка и характера обрабатываемых данных.

По мнению Абдрашитовой, участие Казахстана в формировании международных правил позволит учитывать собственные потребности еще на этапе выработки стандартов.

«Международное сотрудничество должно сопровождать обмен технологиями согласованием ответственности за их применение. Чем активнее Казахстан внедряет ИИ, тем важнее его участие в формировании правил, от которых будут зависеть безопасность граждан и устойчивость технологического развития», – отметила главный эксперт КИСИ.

Таким образом, позиция Токаева по соглашению, инициированному Трампом, связана не только с регулированием отдельных ИИ-моделей, но и с более широким вопросом международных правил ответственности. Эксперты КИСИ считают, что по мере распространения передовых технологий такие правила будут становиться все более значимыми как для разработчиков, так и для государств, которые внедряют ИИ в экономику и государственное управление.