Способ исследования устойчивости систем со встроенным искусственным интеллектом, использующихся на промышленных объектах, к состязательным атакам

Аннотация: Представлен способ исследования устойчивости систем со встроенным искусственным интеллектом (ИИ), ис-пользующихся на промышленных объектах, к состязательным атакам. Исследовано влияние состязательных атак на показатели работы систем, использующих модели машинного обучения (МО). Представлена разработанная обобщенная схема и определены сценарии реализации атак на системы со встроенным ИИ, использующиеся на промышленных объектах. Сформирован комплексный набор показателей, используемых для исследования устой-чивости моделей МО, включающий показатели качества набора тестовых данных (MDQ), показатели качества модели МО (MMQ), показатели устойчивости модели к состязательным атакам (MSQ). Способ основан на при-менении данного комплекса показателей и включает следующие шаги: формирование набора тестовых данных, содержащего чистые образцы; оценка качества набора тестовых данных с использованием показателей MMQ; определение актуальных методов реализации состязательных атак; генерация состязательных примеров и форми-рование набора тестовых данных для оценки устойчивости модели, содержащего сгенерированные состязательные образцы; оценка качества сформированного набора тестовых данных с использованием показателей MDQ; оценка качества модели МО с использованием показателей MMQ; оценка устойчивости модели с использованием пока-зателей MSQ.

Ключевые слова: кибербезопасность, методы искусственного интеллекта, интеллектуальные производственные системы, состяза-тельные атаки

Библиография статьи: Воробьева А. А. Способ исследования устойчивости систем со встроенным искусственным интеллектом, использующихся на промышленных объектах, к состязательным атакам / А. А. Воробьева // Доклады ТУСУР. – 2023. – Т. 26, № 4. – С. 44–52. DOI: 10.21293/1818-0442-2023-26-4-44-52