实验室简介
安全学习研究

      针对人工智能算法自身存在的安全问题,研究数据投毒、对抗样本、对抗学习和模型可解释性等内容。

      人工智能是指智能机器所展现的通常与人类智能有关的智能行为,体现为感知能力、记忆与思维能力、归纳与演绎能力、学习能力以及行为能力。作为一项新兴技术,一方面自身的不成熟会导致一些安全问题,需要被改进,另一方面存在天然的缺陷,使得某些客观存在的问题无法通过改进来解决,此时只能采取其他手段加以防护。具体来讲,主要研究数据投毒、对抗样本、对抗学习和模型可解释性等内容。