XAI是一个基于 MindSpore 的可解释AI工具箱。当前深度学习模型多为黑盒模型，性能表现好但可解释性较差。XAI旨在为用户提供对模型决策依据的解释，帮助用户更好地理解模型、信任模型，以及当模型出现错误时有针对性地改进模型效果。除了提供多种解释方法，还提供了一套对解释方法效果评分的度量方法，从多种维度评估解释方法的效果，从而帮助用户比较和选择最适合于特定场景的解释方法。
- 操作系统: EulerOS-aarch64、CentOS-aarch64、CentOS-x86、Ubuntu-aarch64 或 Ubuntu-x86
- 硬件平台: Ascend 910 或 GPU CUDA 10.1、11.1
- Python 3.7.5 或 3.9.0
- MindSpore 1.7 或以上
最简单的做法:
pip install mindspore-xai或者从MindSpore XAI下载页面下载并安装whl包。
pip install mindspore_xai-{version}-py3-none-any.whl- 从gitee.com下载源码：
git clone https://gitee.com/mindspore/xai.git- 安装所有依赖的Python包：
cd xai
pip install -r requirements.txt- 从源码安装XAI：
python setup.py install- 你也可以跳过第三步，打包一个
.whl安装包:
bash package.sh
pip install output/mindspore_xai-{version}-py3-none-any.whl成功安装后，在Python运行以下代码会印出已安装的XAI版本：
import mindspore_xai
print(mindspore_xai.__version__)关于如何快速使用XAI为模型进行解释及API文档，请点击查看XAI官網。
查看MindSpore如何进行开放治理。
欢迎参与贡献。更多详情，请参阅我们的贡献者Wiki。