Особенности моделирования атак на модели машинного обучения с использованием марковских процессов принятия решений

DOI: 10.21293/1818-0442-2024-27-2-21-30

Скачать текст статьи в формате PDF

Скачать JATS xml

Аннотация: Рассматриваются проблемы, возникающие при решении задач моделирования атак на модели искусственного интеллекта, которые интегрированы в современные информационные системы. Приведены и охарактеризованы особенности моделирования с использованием методологии MITRE, применяемой при построении вектора сетевой атаки. Проанализированы специфические особенности использования марковских процессов принятия решений при моделировании атакующих воздействий. Рассмотрена их пригодность для различных процедур определения параметров вектора атаки. При определении специфики моделирования атак на модели искусственного интеллекта рассматриваются уязвимости систем искусственного интеллекта. Изучается формирование вектора атаки в кон-тексте эксплуатации уязвимостей.

Ключевые слова: сетевая атака, уязвимость, марковские процессы принятия решений, стратегия, оптимальная политика, метод обучения, искусственный интеллект

Библиография статьи:
Подтопельный В. В. Особенности моделирования атак на модели машинного обучения с использованием марковских процессов принятия решений / В. В. Подтопельный // Доклады Томского государственного университета систем управления и радиоэлектроники. – 2024. – Т. 27, № 2. – С. 21–30. DOI: 10.21293/1818-0442-2024-27-2-21-30

Авторы и правообладатели:

  • Подтопельный В. В. , Калининградский государственный технический университет (Калининград, Россия)

  • 1. Методический документ «Методика оценки угроз безопасности информации» (утв. Федеральной службой по техническому и экспортному контролю 5 февраля 2021 г.). – 83 с. [Электронный ресурс]. – Режим доступа: https://fstec.ru/dokumenty/vse-dokumenty/spetsialnyenormativnye-dokumenty/metodicheskij-dokument-ot-5-fevralya-2021-g, свободный (дата обращения: 25.07.2024).
  • 2. MITRE ATLAS // MITRE ATT&CK [Электронный ресурс]. – Режим доступа: https://atlas.mitre.org, свободный (дата обращения: 02.05.2024).
  • 3. Намиот Д.Е. Схемы атак на модели машинного обучения // International journal of open information technologies. – 2023. – Т. 11, № 5. – С. 68–86.
  • 4. Markov decision process for automatic cyber defense (WISA–2023) / Xiaofan Zhou, Simon Yusuf Enoch, Dan Dong Seong Kim [Электронный ресурс]. – Режим доступа: https://arxiv.org/abs/2207.05436, свободный (дата обращения: 13.05.2024).
  • 5. Booker L.B. A model-based, decision-theoretic perspective on automated cyber response / L.B. Booker, S.A. Musman [Электронный ресурс]. – Режим доступа: https://arxiv.org/abs/2002.08957, свободный (дата обращения: 13.05.2024).
  • 6. Zheng J. Defending SDN-based IoT networks against ddos attacks using markov decision process / J. Zheng, A.S. Namin // Proceedings – 2018. IEEE International Conference on Big Data, Big Data–2018. – 2018. – P. 4589–4592.
  • 7. Кохендерфер М. Алгоритмы принятия решений / М. Кохендерфер, Т. Уилер, К. Рэй. – М.: ДМК-Пресс, 2023. – 684 с.
  • 8. Саттон Р.С. Обучение с подкреплением: введение / Р.С. Саттон, Э.Дж. Барто. – 2-е изд. – М.: ДМК-Пресс, 2020. – 552 с.
  • 9. Mazengia D.H. Forecasting spot electricity market prices using time series models. Thesis for the degree of master of science in electric power engineering. – Gothenburg: Chalmers University of Technology, 2008. – 89 p.
  • 10. Common Attack pattern enumerations and classifications [Электронный ресурс]. – Режим доступа: https://capec.mitre.org/, свободный (дата обращения: 12.05.2024).
  • 11. Common vulnerability scoring system calculator [Электронный ресурс]. – Режим доступа: https://nvd.nist.gov/vuln-metrics/cvss/v2-calculator, свободный (дата обращения: 13.05.2024).
Адрес редакции

  634050, г. Томск, пр. Ленина, 40, МК, каб. 310/2

  (3822) 701-582, внутр.: 1456

  journal@tusur.ru