|
Рубрика:
Безопасность /
Новости инфобеза
|
Facebook
Мой мир
Вконтакте
Одноклассники
Google+
|
ИИ добрался до ИБ
Сегодня его присутствие кажется довольно скромным на фоне остальных инструментов злоумышленников, но, как говорится, еще не вечер. Пока «решения, которые предлагает атакующим искусственный интеллект, довольно шаблонны и примитивны. Однако наметившийся тренд на вепонизацию ИИ будет только усиливаться. Со временем таких атак станет больше, и они будут сложнее и изощреннее», – считают эксперты компании BI.ZONE. И это время может наступить неожиданно быстро.
Минцифры занялась безопасностью ИИ-систем
Минцифры планирует создать площадку для тестирования ИИ на безопасность для их внедрения на критически важных объектах страны.
Для систем искусственного интеллекта (ИИ) высокого и критического уровня риска потребуется получать сертификат на соответствие требованиям безопасности Федеральной службы по техническому и экспертному контролю (ФСТЭК) и Федеральной службы безопасности (ФСБ). Это следует из законопроекта правительства «О применении систем искусственного интеллекта органами, входящими в единую систему публичной власти, и внесении изменений в отдельные законодательные акты», подробнее пишет РБК.
Тестирование на соответствие ИИ-систем этим требованиям будет проходить на специальном полигоне, созданном Минцифры. Если тестирование пройдет успешно, системы будут допущены к использованию на объектах критической информационной инфраструктуры (к ней относятся сети связи и информационные системы госорганов, энергетических, транспортных, финансовых, телекоммуникационных и ряда других компаний).
В «Группе Астра», крупнейшем разработчике ИИ-решений и вендоре B2B-решений, прокомментировали инициативу Минцифры.
«Ключевой вопрос – методология тестирования. Скорее всего регулятор не пойдёт по пути формальных чек-листов, ведь никто не хочет получить иллюзию контроля без реальной безопасности. Уверен, что вопрос проработан на высоком уровне. Очевидна необходимость adversarial-тестов, red teaming и непрерывный мониторинг в продакшене, а не разовая сертификация. Для «Группы Астра» это шанс стать стандартом безопасности – у нас полный стек: своя ОС, контейнеризация, изолированная инфраструктура. Уже сейчас предлагаем защищенную архитектуру для безопасного развертывания ИИ в КИИ и можем участвовать в формировании методик тестирования, чтобы они не превратились в бюрократический тормоз инноваций», – говорит Станислав Ежов, директор по ИИ «Группы Астра».
<...>
Ключевые слова: угрозы, кибербезопасность, киберпреступники, ИИ
Полную версию статьи читайте в журнале
Подпишитесь на журнал
Facebook
Мой мир
Вконтакте
Одноклассники
Google+
|
ИИ добрался до ИБ
