PoTrojan: powerful neural-level trojan designs in deep learning models http://arxiv.org/abs/1802.03043 訓練済みニューラルネットにニューロンを少し追加して、特定の入力に対して想定と異なる出力を返すトロイの木馬を作る話。 タイトルから面白そうと思って読んだけれど、中間層が特定の値の組み合わせの時だけに発火するニューロンを追加する比較的自明な話だった。 個人的には例えば顔認証の時に特定の記号が一緒に映っていたら、無条件でパスするみたいなのを想像してたけれど、そういうのに必要なロバスト性はなさそう。