Интерпретируемые решающие правила классификации на основе дерева секущих гиперплоскостей

Abstract

В статье анализируются различия между интерпретируемым и объяснимым искусственным интеллектом. Два этих понятия рассматриваются автором как различные, хотя и взаимодополняющие подходы к решению задач машинного обучения. На основании проведенного анализа автором предлагается представлять решающие правила для задач классификации в виде древовидной структуры, но в ее узлах использовать не отдельные входные признаки, а секущие гиперплоскости. Такой подход позволяет оценивать информативность каждого входного признака в отдельности и всей совокупности признаков в каждом узле и получать интерпретируемое решающее правило в целом для всей модели с высокими метриками качества решающего правила. Приведены примеры практических задач, решенных данным способом. Во всех случаях по метрикам качества дерево секущих гиперплоскостей превосходило дерево решений, полученное традиционным способом, и имело AUC ROC сопоставимую со случайным лесом. The article analyzes the differences between interpretable and explainable artificial intelligence. These two concepts are considered by the author as distinct, yet complementary, approaches to solving machine learning problems. Based on the conducted analysis, the author proposes representing decision rules for classification tasks in the form of a tree structure, where the nodes contain not individual input features but separating hyperplanes. This approach allows us to evaluate the information content of each input feature individually and the entire set of features at each node, producing an interpretable decision rule for the entire model with high decision rule quality metrics. Examples of practical problems solved using this method are provided. In all cases, the cutting hyperplane tree outperformed the decision tree obtained using the traditional method in terms of quality metrics and had an AUC ROC comparable to that of a random forest.