Особенности моделирования атак на модели машинного обучения с использованием марковских процессов принятия решений

Аннотация: Рассматриваются проблемы, возникающие при решении задач моделирования атак на модели искусственного ин-теллекта, которые интегрированы в современные информационные системы. Приведены и охарактеризованы осо-бенности моделирования с использованием методологии MITRE, применяемой при построении вектора сетевой атаки. Проанализированы специфические особенности использования марковских процессов принятия решений при моделировании атакующих воздействий. Рассмотрена их пригодность для различных процедур определения параметров вектора атаки. При определении специфики моделирования атак на модели искусственного интеллекта рассматриваются уязвимости систем искусственного интеллекта. Изучается формирование вектора атаки в кон-тексте эксплуатации уязвимостей.

Ключевые слова: искусственный интеллект, метод обу-чения, оптимальная политика, стратегия, марковские процессы принятия решений, уязвимость, сетевая атака

Библиография статьи: Подтопельный В. В. Особенности моделирования атак на модели машинного обучения с использованием марковских процессов принятия решений / В. В. Подтопельный // Доклады ТУСУР. – 2024. – Т. 27, № 2. – С. 21–30. DOI: 10.21293/1818-0442-2024-27-2-21-30