东京理科大学与产业技术综合研究所的联合研究小组首次提出并创造了AI可以选择性“遗忘”所持知识的“近似领域反学习”技术。这项技术在抑制图像统一识别带来的误认和可靠性风险的同时，展示了根据使用目的灵活控制知识的新AI可能性。

随着使用大量图像和语言数据进行学习的预训练大规模视觉语言模型（VLM）的出现，AI即使在没有额外学习的情况下也能高精度识别多样化物体。然而，由于保留过多知识，例如在交通监控系统中，AI可能将街头显示屏或广告中的人物和汽车误认作真实物体，导致误识别和处理效率低下的问题。

研究小组此次实现了对VLM进行“遗忘”的技术，使其无法识别属于特定领域（数据来源或表现风格）的数据，即近似领域反学习（ADU）。他们新引入了一个名为“领域解缠损失（DDL）”的损失函数，用于在特征空间上分离不同领域，以及一个名为“实例级提示生成器（InstaPG）”的工具，能够适应性地捕捉每张图像的领域特性（例如写实画与抽象画），从而实现了以领域为单位的选择性遗忘，这是以往难以做到的。

在四种标准图像识别测试数据上进行评估的结果显示，与传统技术相比，平均性能提高了约1.6倍，在最困难的条件下提高了约1.7倍，有效性得到了验证。

此次成果提出了一种新的框架，通过抑制不必要的知识并保留必要的知识，使AI能够根据使用目的部分重新构建。未来，这有望提升AI模型的安全性和高效再利用。

消息来源：学習済みの知識をドメイン単位で「忘却」可能な世界初の技術　東京理科大学などが創出 – 大学ジャーナルオンライン

No Trackback Yet

You can be the first to Trackbacks!