大脑活动解码是一种根据 MRI 或脑电波测量的大脑活动数据来估计一个人在做什么的技术。研究正着眼于将其应用于（用于移动人造腿的技术）。
最近，通过使用人工智能的基本技术“深度学习”来破译这种大脑活动，提高了准确性。另一方面，深度神经电路的操作非常复杂，以至于很难解释“为什么解码器会给出给定数据的答案”。
冈山大学、立教大学、国立生理科学研究所、Araya Co., Ltd. 和庆应义塾大学的研究人员开发了一种新方法，可以直观地解释通过像这样的黑匣子的深层神经回路对大脑活动的解码。底部。这是通过结合一种称为反真实虚拟解释的技术和另一种称为深度生成模型的深度学习技术来实现的。
具体来说，基于解码器回答错误的大脑活动数据，通过敌对学习的深度生成模型生成与真实事物一模一样的虚拟大脑活动数据。如果解码器能够从虚拟大脑活动数据中正确判断，则可以通过将原始大脑活动数据与虚拟大脑活动数据进行比较来确定导致错误答案的大脑区域。可以直观地显示两者之间的差异并给出故障的“解释”。
我们还通过大脑活动生成器生成具有夸张特征的大脑活动数据并让解码器读取它，成功地提取了深度神经电路用于解码的大脑活动特征。这些结果有望用作使用“可解释”深度学习实现脑图像诊断的基本技术。
