Российская компания впервые получила сертификат соответствия международному стандарту ISO, задающему требования к качеству разработки и безопасности искусственного интеллекта. Об этом «Известиям» рассказали в «Яндексе».
В представительстве TÜV AUSTRIA Standards & Compliance подтвердили эту информацию. Там отметили, что компания «Яндекс» прошла независимый аудит и сертификацию по международному стандарту ISO/IEC 42001 «Информационные технологии — Искусственный интеллект — Система менеджмента».
ISO/IEC 42001 — это международный стандарт для систем менеджмента в организациях, которые разрабатывают или используют решения на основе искусственного интеллекта. Он оценивает не сами ИИ-продукты, а подход к их созданию и внедрению: насколько прозрачно и безопасно действует компания, насколько эффективны ее процессы. Стандарт, в частности, описывает то, как обеспечивается безопасность данных пользователей, как ведется мониторинг ошибок и аномалий в работе ИИ, уровень контроля качества и этичности ответов языковой модели, учитывают ли разработчики этические и социальные риски, связанные с развитием искусственного интеллекта и многое другое.
Участники рынка отмечают, что по стандарту, введенному в 2023 году, до сих пор сертифицировались единичные компании и сервисы, и все они из недружественных стран. Среди них — Microsoft, Google Cloud, Amazon Web Services, Samsung SDS. В TÜV AUSTRIA Standards & Compliance сказали, что в мире выдано не больше 50 подобных международных сертификатов.
«Яндекс» начал выстраивать процессы, которые обеспечивали бы этичность и безопасность ИИ, задолго до публичного анонса генеративной нейросети YandexGPT, рассказала руководитель службы комплаенса и обучения информационной безопасности компании Анна Зинчук. Организация выступает за ответственное применение ИИ и готова делиться своим опытом с другими российскими компаниями, отметила она.
Международный стандарт устанавливает концепцию и четкие рамки для ответственного управления технологиями ИИ, рассказали «Известиям» в TÜV AUSTRIA Standards & Compliance. Сертификат подтверждает приверженность компании безопасности и надежности своих ИИ-решений. Он оформляется в случае положительных результатов независимого аудита, который должен подтвердить, что организация принимает все резонные меры управления, соответствующие лучшим мировым практикам, для того чтобы управлять рисками и возможностями, отметили там.
Отношение участников рынка к сертификации ИИ по ISO неоднозначно, некоторые считают ее лишь имиджевым элементом и не видят практической необходимости в ней.
Комментарии: