Безопасность данных и киберугрозы: что обсуждали эксперты на форуме Digital Almaty 2025

"AI и человек: угроза или благо?" — таким вопросом задались ведущие специалисты в области искусственного интеллекта в ходе панельной сессии на форуме Digital Almaty 2025, где обсудили ключевые вопросы этики, безопасности и регулирования ИИ, передаёт BaigeNews.kz.

Эксперты рассмотрели важные аспекты прозрачности и безопасности использования ИИ в Казахстане, включая контроль за его применением, и международные практики, направленные на соблюдение этических стандартов. В ходе обсуждения выделены как преимущества, так и потенциальные риски искусственного интеллекта.

По словам экспертов, с распространением искусственного интеллекта в Казахстане может возрасти и угроза нарушения конфиденциальности персональных данных. Это наносит значительный ущерб как отдельным пользователям, так и государству в целом. Согласно данным МВД РК, в 2024 году казахстанцы потеряли 45 млрд тенге из-за интернет-мошенничества, причем в 98% случаев они сами добровольно передавали мошенникам свои данные.

"Киберпреступность растет неимоверными темпами не только в Казахстане, но и во всем мире. Искусственный интеллект даст еще больше возможностей, в том числе преступникам, если мы не будем готовы к новым угрозам. Мошенники уже используют технологии дипфейков, позволяющие подделывать видео- и аудиозаписи, что представляет серьезную угрозу для безопасности информации. Важно задуматься о деанонимизации в интернете, ведь каждый должен нести ответственность за распространяемые данные", — подчеркнул вице-министр внутренних дел РК Сакен Сарсенов.

Среди участников сессии были эксперты из разных стран, включая Тодзю Дюк (Великобритания), основателя и генерального директора компаний Bedrock AI и Diverse AI. Она не только руководит успешными AI-компаниями, но и активно продвигает этические стандарты в разработке искусственного интеллекта. В своей книге "Building Responsible AI Algorithms" она представила структуру обеспечения прозрачности, справедливости, конфиденциальности и надежности в алгоритмах ИИ.

"Искусственный интеллект развивается с бешеной скоростью и предлагает множество преимуществ, но пока они не стали доступны широкому обществу. Среди ключевых сфер его применения — борьба с голодом и улучшение здравоохранения, реагирование на кризисные ситуации, повышение безопасности, поддержка людей с ограниченными возможностями. Однако вместе с этим возникают серьезные риски: социальное неравенство, нарушение конфиденциальности, предвзятость алгоритмов и даже угрозы национальной безопасности. Поэтому важно выработать ответственный подход к использованию ИИ, разработать механизмы прозрачности, подотчетности и соблюдения этических норм, чтобы технология приносила пользу всему обществу", — отметила Тодзю Дюк.

В обсуждении также приняли участие CEO Flowsell.me Даурен Макенов, руководитель лаборатории машинного интеллекта Yandex Александр Крайнов, технический директор Kscooters Иван Кононов и директор TargetAI Limited Дамир Жаримбетов. Модератором сессии выступил Игорь Рогов, председатель Комиссии по правам человека при Президенте Республики Казахстан.

Спикеры сошлись во мнении, что для безопасного и эффективного развития ИИ необходимо внедрение четких принципов регулирования, включая контроль за обработкой данных, защиту от манипуляций и минимизацию негативного влияния на энергоресурсы. Также важно обеспечить справедливость алгоритмов, исключить дискриминационные механизмы и разработать надежные системы проверки ИИ перед массовым внедрением.