Методика построения интерпретируемых нечетких классификаторов для систем объяснимого искусственного интеллекта

Аннотация: Применение систем искусственного интеллекта на основе методов машинного обучения в критически важных проблемных областях связано с высокими рисками и требует объяснения человеку полученного результата. Про-гностические модели, обладающие таким свойством, называются интерпретируемыми. Отсутствие такой возмож-ности снижает уровень доверия к результату и может быть причиной замедления общественного принятия и внедрения таких систем. Системы искусственного интеллекта на основе нечетких систем позволяют объяснить ре-зультат своего решения. Благодаря наличию базы продукционных правил они способны выражать знания в ори-ентированной на человека форме, используя термины естественного языка. Предложена методика построения не-четких классификаторов, направленная на улучшение интерпретируемости с учетом недостатков известных мето-дов построения. Методика включает в себя применение алгоритмов смешанной многокритериальной оптимиза-ции, дискретной оптимизации, градиентного спуска и метода разделения данных. Проведен эксперимент на 38 об-щедоступных наборах данных из различных проблемных областей для оценки эффективности классификаторов, построенных с помощью предлагаемой методики. Проведено статистическое сравнение с известными интерпрети-руемыми классификаторами – генетическими нечеткими системами FARC-HD и деревьями решений CART. Применение методики позволило при сопоставимой точности статистически значимо повысить интерпретируе-мость классификаторов путем уменьшения числа правил, числа признаков и общего числа нечетких терминов по сравнению с генетическими системами FARC-HD и числа правил и числа условий в правиле по сравнению с клас-сификаторами на основе деревьев решений CART. Достигнутые результаты свидетельствуют о высоком уровне интерпретируемости классификаторов, построенных с помощью предлагаемой методики.

Ключевые слова: оптимизация, метаэвристические алгоритмы, алгоритмы обучения, интерпретируе-мость, нечеткие системы, классификация, машинное обучение, объяснимый искусственный интеллект

Библиография статьи: Сарин К. С. Методика построения интерпретируемых нечетких классификаторов для систем объяснимого искусственного интеллекта / К. С. Сарин // Доклады ТУСУР. – 2025. – Т. 28, № 2. – С. 73–87. DOI: 10.21293/1818-0442-2025-28-2-73-87