Особенности моделирования атак на модели машинного обучения с использованием марковских процессов принятия решений
DOI: 10.21293/1818-0442-2024-27-2-21-30
DOI: 10.21293/1818-0442-2024-27-2-21-30
Аннотация: Рассматриваются проблемы, возникающие при решении задач моделирования атак на модели искусственного интеллекта, которые интегрированы в современные информационные системы. Приведены и охарактеризованы особенности моделирования с использованием методологии MITRE, применяемой при построении вектора сетевой атаки. Проанализированы специфические особенности использования марковских процессов принятия решений при моделировании атакующих воздействий. Рассмотрена их пригодность для различных процедур определения параметров вектора атаки. При определении специфики моделирования атак на модели искусственного интеллекта рассматриваются уязвимости систем искусственного интеллекта. Изучается формирование вектора атаки в кон-тексте эксплуатации уязвимостей.
Ключевые слова: сетевая атака, уязвимость, марковские процессы принятия решений, стратегия, оптимальная политика, метод обучения, искусственный интеллект
Библиография статьи:
Подтопельный В. В. Особенности моделирования атак на модели машинного обучения с использованием марковских процессов принятия решений / В. В. Подтопельный // Доклады Томского государственного университета систем управления и радиоэлектроники. – 2024. – Т. 27, № 2. – С. 21–30. DOI: 10.21293/1818-0442-2024-27-2-21-30
Авторы и правообладатели: