Методика построения интерпретируемых нечетких классификаторов для систем объяснимого искусственного интеллекта
DOI: 10.21293/1818-0442-2025-28-2-73-87
☷
- О ТУСУРе
- Абитуриентам
-
Студентам
- Первокурсникам
- Расписание занятий
- Система дистанционного обучения
- Научно-образовательный портал
- Библиотека
- Групповое проектное обучение
- Журнал посещаемости
- Журнал успеваемости
- Клубы по интересам
- Спорт в ТУСУРе
- Профком студентов
- Содействие трудоустройству
- Облачное хранилище ТУСУРа
- Поддержка студенческих семей
- Поддержка участников СВО и их детей
- Многофункциональный центр
- Аспирантам
-
Сотрудникам
- Телефонный справочник
- Расписание занятий
- Система дистанционного обучения
- Научно-образовательный портал
- Библиотека
- Журнал посещаемости
- Журнал успеваемости
- Генератор рабочих программ
- Генератор ОПОП
- Генератор ИПРП
- Показатели эффективности труда ППС
- Спорт в ТУСУРе
- Профком сотрудников
- Облачное хранилище ТУСУРа
- Выпускникам
- Партнёрам
Аннотация: Применение систем искусственного интеллекта на основе методов машинного обучения в критически важных проблемных областях связано с высокими рисками и требует объяснения человеку полученного результата. Прогностические модели, обладающие таким свойством, называются интерпретируемыми. Отсутствие такой возможности снижает уровень доверия к результату и может быть причиной замедления общественного принятия и внедрения таких систем. Системы искусственного интеллекта на основе нечетких систем позволяют объяснить результат своего решения. Благодаря наличию базы продукционных правил они способны выражать знания в ориентированной на человека форме, используя термины естественного языка. Предложена методика построения нечетких классификаторов, направленная на улучшение интерпретируемости с учетом недостатков известных методов построения. Методика включает в себя применение алгоритмов смешанной многокритериальной оптимизации, дискретной оптимизации, градиентного спуска и метода разделения данных. Проведен эксперимент на 38 общедоступных наборах данных из различных проблемных областей для оценки эффективности классификаторов, построенных с помощью предлагаемой методики. Проведено статистическое сравнение с известными интерпретируемыми классификаторами – генетическими нечеткими системами FARC-HD и деревьями решений CART. Применение методики позволило при сопоставимой точности статистически значимо повысить интерпретируемость классификаторов путем уменьшения числа правил, числа признаков и общего числа нечетких терминов по сравнению с генетическими системами FARC-HD и числа правил и числа условий в правиле по сравнению с классификаторами на основе деревьев решений CART. Достигнутые результаты свидетельствуют о высоком уровне интерпретируемости классификаторов, построенных с помощью предлагаемой методики.
Ключевые слова: объяснимый искусственный интеллект, машинное обучение, классификация, нечеткие системы, интерпретируемость, алгоритмы обучения, метаэвристические алгоритмы, оптимизация
Сведения о финансировании: Исследование выполнено за счет гранта Российского научного фонда № 24-21-00168, https://rscf.ru/project/24-21-00168/.
Библиография статьи:
Сарин К. С. Методика построения интерпретируемых нечетких классификаторов для систем объяснимого искусственного интеллекта / К. С. Сарин // Доклады Томского государственного университета систем управления и радиоэлектроники. – 2025. – Т. 28, № 2. – С. 73–87. DOI: 10.21293/1818-0442-2025-28-2-73-87
Авторы и правообладатели:
- Сарин К. С. , Томский государственный университет систем управления и радиоэлектроники (Томск, Россия)
- 1. Wiese T. Predictive Maintenance Using Artificial Intelligence in Critical Infrastructure: A Decision-Making Framework // International Journal of Engineering, Business and Management. – 2024. – Vol. 8, No. 4. – P. 1–4.
- 2. Goodman B. European union regulations on algorithmic decision making and a «right to explanation» / B. Goodman, S. Flaxman // AI Magazine. – 2017. – Vol. 38, No. 3. – P. 50–57.
- 3. Explainable AI for designers: A human-centered perspective on mixed-initiative co-creation / J. Zhu, A. Liapis, S. Risi, R. Bidarra, G.M. Youngblood // 2018 IEEE Conference on Computational Intelligence and Games (CIG). Maastricht, The Netherlands. – 2018. – P. 1–8.
- 4. A qualitative exploration of perceptions of algorithmic fairness / A. Woodruff, S. Fox, S. Rousso-Schindler, J. Warshaw // Proceedings Conference on Human Factors in Computing Systems. Montreal, QC, Canada. – 2018. – P. 1–14.
- 5. Этические проблемы искусственного интеллекта / И.А. Ходашинский, Ю.А. Шурыгин, К.С. Сарин, Е.А. Кузьмина // Современное образование: интеграция образования, науки, бизнеса и власти. Трансформация образования, науки и производства – основа технологического прорыва: матер. междунар. науч.-метод. конф: в 2 ч., Томск, 26–27 января 2023 г. – Ч. 2. – Томск: ТУСУР, 2023. – С. 125–129.
- 6. Deep Neural Networks and Tabular Data: A Survey / V. Borisov, T. Leemann, K. Sesler, J. Haug, M. Pawelczyk, J. Kasneci // IEEE Transactions on Neural Networks and Learning Systems. – 2024. – Vol. 35, No. 6. – P. 7499–7519.
- 7. Castelvecchi D. Can we open the black box of AI? // Nature. – 2016. – Vol. 538. – P. 20–23.
- 8. Lipton Z.C. The mythos of model interpretability // Communications of the ACM. – 2016. – Vol. 61. – P. 36–43.
- 9. Gunning D. DARPA's Explainable Artificial Intelligence (XAI) Program / D. Gunning, W. Aha // AI Magazine. – 2019. – Vol. 40. – P. 44–58.
- 10. Ahmed I. From Artificial Intelligence to Explainable Artificial Intelligence in Industry 4.0: A Survey on What, How, and Where / I. Ahmed, G. Jeon, F. Piccialli // IEEE Transactions on Industrial Informatics. – 2022. – Vol. 18. – P. 5031–5042.
- 11. Explainable Fuzzy Systems / J.M.A. Moral, C. Castiello, L. Magdalena, C. Mencar // Studies in Computational Intelligence. – 2021. – Vol. 970. – 232 p.
- 12. Carvalho D.V. Machine Learning Interpretability: A Survey on Methods and Metrics / D.V. Carvalho, E.M. Pereira, J.S. Cardoso // Electronics. – 2019. – Vol. 8. – P. 832.
- 13. Zadeh L.A. From computing with numbers to computing with words. From manipulation of measurements to manipulation of perception // IEEE Transactions on Circuits and Systems I: Fundamental Theory and Applications. – 1999. – Vol. 46, No. 1. – P. 105–119.
- 14. Zadeh L.A. Toward human-level machine intelligence: is it achievable? The need for a paradigm shift // IEEE Computational Intelligence Magazine. – 2008. – Vol. 3, No. 3. – P. 11–22.
- 15. Effect of fuzziness in fuzzy rule-based classifiers defined by strong fuzzy partitions and winner-takes-all inference / G. Casalino, G. Castellano, C. Castiello, C. Mencar // Soft Computing. – 2022. – Vol. 26. – P. 6519–6527.
- 16. Fuzzy inference system with interpretable fuzzy rules: Advancing explainable artificial intelligence for disease diagnosis – A comprehensive review / J. Cao, T. Zhou, S. Zhi, S. Lam, G. Ren, Y. Zhang, Y. Wang, Y. Dong, J. Cai // Information Science. – 2024. – Vol. 662. – P. 120212.
- 17. Gacto M.J. Interpretability of linguistic fuzzy rulebased systems: An overview of interpretability measures / M.J. Gacto, R. Alcala, F. Herrera // Information Science. – 2011. – Vol. 181. – P. 4340–4360.
- 18. Дуда Р. Распознавание образов и анализ сцен / Р. Дуда, П. Харт; пер. с англ. Г. Г. Вайнштейна, А.М. Васьковского; под ред. В.Л. Стефанюка. – М.: Мир, 1976. – 511 с.
- 19. Сарин К.С. Нечеткий классификатор типа Min-Max: обзор // Доклады ТУСУР. – 2023. – Т. 26, № 1. – С. 65–75.
- 20. Нечеткий классификатор инкрементного обучения типа Min-Max для решения задач кибербезопасности / К.С. Сарин, Р.Е. Коломников, М.О. Светлаков, И.А. Ходашинский // Научно-техническая информация. – Сер. 2: Информационные процессы и системы. – 2024. – № 9. – С. 11–21.
- 21. Herrera F. Genetic fuzzy systems: taxonomy, current research trends and prospects // Evolution Intelligence. – 2008. – Vol. 1, No. 1. – P. 27–46.
- 22. Alcala-Fdez J. A Fuzzy Association Rule-Based Classification Model for High-Dimensional Problems With Genetic Rule Selection and Lateral Tuning / J. Alcala-Fdez, R. Alcala, F. Herrera // IEEE Transactions on Fuzzy Systems. – 2011. – Vol. 19, No. 5. – P. 857–872.
- 23. Improving the Performance of FARC-HD in Multiclass Classification Problems Using the One-Versus-One Strategy and an Adaptation of the Inference System / M. Elkano, M. Galar, J. Sanz, E. Barrenechea, F. Herrera, H. Bustince // Communications in Computer and Information Science. – 2014. – Vol. 444. – P. 296–306.
- 24. Evolutionary Multi-Objective Multi-Tasking for Fuzzy Genetics-Based Machine Learning in Multi-Label Classification / Y. Omozaki, N. Masuyama, Y. Nojima, H. Ishibuchi // 2022 IEEE International Conference on Fuzzy Systems (FUZZIEEE). – Padova, Italy. – 2022. – P. 1–8.
- 25. Fazzolari M. Multi-objective evolutionary method for learning granularities based on fuzzy discretization to improve the accuracy-complexity trade-off of fuzzy rule-based classification systems: D-MOFARC algorithm / M. Fazzolari, R. Alcala, F. Herrera // Applied Soft Computing. – 2014. – Vol. 24. – P. 470–481.
- 26. Multiobjective genetic fuzzy rule selection of single granularity-based fuzzy classification rules and its interaction with the lateral tuning of membership functions / R. Alcala, Y. Nojima, F. Herrera, H. Ishibuchi // Soft Computing. – 2011. – Vol. 15. – P. 2303–2318.
- 27. Jang R. ANFIS: adaptive-network-based fuzzy inference system // IEEE Transactions on Systems, Man and Cybernetics. – 1993. – Vol. 23. – P. 665–685.
- 28. Cui Y. Optimize TSK Fuzzy Systems for Classification Problems: Minibatch Gradient Descent With Uniform Regularization and Batch Normalization / Y. Cui, D. Wu, J. Huang // IEEE Transactions on Fuzzy Systems. – 2020. – Vol. 28, No. 12. – P. 3065–3075.
- 29. Diabetic Sensorimotor Polyneuropathy Severity Classification Using Adaptive Neuro Fuzzy Inference System / F. Haque, M. Reaz, M.E. Chowdhury, F.H. Hashim, N. Arsad, S. Ali // IEEE Access. – 2021. – Vol. 9. – P. 7618–7631.
- 30. Kanwal S. Advanced Fault Detection, Classification, and Localization in Transmission Lines: A Comparative Study of ANFIS, Neural Networks, and Hybrid Methods / S. Kanwal, S. Jiriwibhakorn // IEEE Access. – 2024. – Vol. 12. – P. 49017–49033.
- 31. A three-stage fuzzy classifier method for Parkinson’s disease diagnosis using dynamic handwriting analysis / K. Sarin, M. Bardamova, M. Svetlakov, N. Koryshev, R. Osta penko, A. Hodashinskaya, I. Hodashinsky // Decision Analytics Journal. – 2023. – Vol. 8. – P. 100274.
- 32. Бардамова М.Б. Способы адаптации алгоритма прыгающих лягушек к бинарному пространству поиска при решении задачи отбора признаков / М.Б. Бардамова, А.Г. Буймов, В.Ф. Тарасенко // Доклады ТУСУР. – 2020. – Т. 23, № 4. – С. 57–62.
- 33. Генерация базы правил нечеткого классификатора для диагностики болезни Паркинсона по рукописным данным / М.Б. Бардамова, И.А. Ходашинский, Ю.А. Шурыгин, К.С. Сарин, М.О. Светлаков // Искусственный интеллект и принятие решений. – 2023. – № 2. – С. 31–44.
- 34. Бардамова М.Б. Формирование структуры нечёткого классификатора комбинацией алгоритма экстремумов классов и алгоритма «прыгающих лягушек» для несбалансированных данных с двумя классами / М.Б. Бардамова, И.А. Ходашинский // Автометрия. – 2021. – Т. 57, № 4. – С. 54–64.
- 35. Корышев Н.П. Алгоритм формирования базы правил нечёткого классификатора на основе алгоритма кластеризации K-средних и метаэвристического алгоритма «китов» / Н.П. Корышев, И.А. Ходашинский // Доклады ТУСУР. – 2021. – Т. 24, № 1. – С. 42–47.
- 36. Остапенко Р.О. Построение нечёткого классификатора на основе метаэвристического алгоритма «саранчи» / Р.О. Остапенко, И.А. Ходашинский, Ю.А. Шурыгин // Научно-техническая информация. – Сер. 2: Информационные процессы и системы. – 2023. – № 11. – С. 26–40.
- 37. Ishibuchi H. Distributed representation of fuzzy rules and its application to pattern classification / H. Ishibuchi, K. Nozaki, H. Tanaka // Fuzzy Sets and Systems. – 1992. – Vol. 52, No. 1. – P. 2–132.
- 38. Сарин К.С. Метод разделения данных для построения прогностических моделей машинного обучения // Доклады ТУСУР. – 2024. – Т. 27, № 4. – С. 88–96.
- 39. Сарин К.С. Дискретный алгоритм оптимизации на основе распределения вероятностей с трансформацией целевых значений // Программирование. – 2024. – № 6. – С. 35–47.
- 40. Сарин К.С. Гибридный алгоритм смешанной многокритериальной оптимизации «кукушкин поиск» с генетическим оператором скрещивания // Искусственный интеллект и принятие решений. – 2024. – № 2. – С. 87–105.
- 41. Hastie T. The Elements of Statistical Learning / T. Hastie, R. Tibshirani, J.H. Friedman. – New York: Springer, 2009. – 745 p.
- 42. Herrera F. A 2-tuple fuzzy linguistic representation model for computing with words / F. Herrera, L. MartinezLopez // IEEE Transactions on Fuzzy Systems. – 2000. – Vol. 8. – P. 746–752.
- 43. Ishibuchi H. Classification and Modeling with Linguistic Information Granules / H. Ishibuchi, T. Nakashima, M. Nii. – Berlin: Springer, 2005. – 308 p.
- 44. Coppersmith D. Partitioning Nominal Attributes in Decision Trees / D. Coppersmith, S.J. Hong, J.R.M. Hosking // Data Mining and Knowledge Discovery. – 1999. – Vol. 3. – P. 197–217.
- 45. KEEL 3.0: An Open Source Software for Multi-Stage Analysis in Data Mining / I. Triguero, S. Gonzalez, J.M. Moyano, S. Garcia, J. Alcala-Fdez, J. Luengo, A. Fernandez, M.J. del Jesus, L. Sanchez, F. Herrera // International Journal of Computational Intelligence Systems. – 2017. – No. 10. – P. 1238–1249.
- 46. Hyperparameter Optimization for Machine Learning Models Based on Bayesian Optimization / J. Wu, X. Chen, H. Zhang, L-D. Xiong, H. Lei, S. Deng // Journal of Electronic Science and Technology. – 2019. – Vol. 17. – P. 26–40.
-2026-1_%D0%BA%D0%BE%D0%BF%D0%B8%D1%8F.jpg)
Адрес редакции
Подписка на обновления
