敵対的生成ネットワーク

データサイエンス > 機械学習 > 教師なし学習 > 生成モデル > 敵対的生成ネットワーク

「(敵対的機械学習)」とは異なります。

敵対的生成ネットワーク （てきたいてきせいせいネットワーク、英: Generative adversarial networks、略称: GANs）は、2014年にイアン・グッドフェローらによって発表された教師なし学習で使用される人工知能アルゴリズムの一種であり、ゼロサムゲームフレームワークで互いに競合する2つのニューラルネットワークのシステムによって実装される^[1]。

概要

GANsは生成ネットワーク（generator）と識別ネットワーク（discriminator）の2つのネットワークから構成される。例として画像生成を目的とするなら生成側がイメージを出力し、識別側がその正否を判定する。生成側は識別側を欺こうと学習し、識別側はより正確に識別しようと学習する。このように2つのネットワークが相反した目的のもとに学習する様が敵対的と呼称される所以である。

ヤン・ルカンは、GANsについて、「機械学習においてこの10年間で最も興味深いアイデア」（"This, and the variations that are now being proposed is the most interesting idea in the last 10 years in ML, in my opinion."）と評価している^[2]。

データ拡張

GANの学習は不安定で膨大な量のデータを必要とする。その安定性を高めまたデータ量を補い汎化性能を高めるために、GANにおいても(データ拡張)が利用される。

ただしDiscriminator/Critic側のみにデータ拡張を行うとむしろ性能が低下することが知られている^[4]。これはDがデータ拡張の有無を判別に用いてしまい、それを騙すためにGがデータ拡張を模倣した出力を生成してしまうためと考えられている。これを避けるため、Generator出力にもデータ拡張を行うことで有効なデータ拡張が可能になる^[5]。

出典

1. ^ Salimans, Tim; Goodfellow, Ian; Zaremba, Wojciech; Cheung, Vicki; Radford, Alec; Chen, Xi (2016). "Improved Techniques for Training GANs". arXiv:(1606.03498) [(cs.LG)]。
2. ^ “Quora”. 2020年5月19日閲覧。
3. ^ ^{a b} Zhengli Zhao, Zizhao Zhang, Ting Chen, Sameer Singh, Han Zhang: “Image Augmentations for GAN Training”, 2020; arXiv:2006.02595.
4. ^ "We find augmenting only real images in GANs worsens the FID regardless of the augmentation strengths or strategies."^[3]
5. ^ "we conclude that augmenting both real and fake images can substantially improves the generation performance of GAN."^[3]

参考文献

• 原論文
  • Ian J. Goodfellow, Jean Pouget-Abadie, Mehdi Mirza, Bing Xu, David Warde-Farley, Sherjil Ozair, Aaron Courville, Yoshua Bengio (2014年6月10日). “Generative Adversarial Networks” (pdf). arXiv. 2020年4月17日閲覧。
• サーベイ
  • Zhengwei Wang, Qi She, Tomas E. Ward (2020年2月3日). “Generative Adversarial Networks in Computer Vision: A Survey and Taxonomy” (pdf). arXiv. 2020年4月17日閲覧。
  • “GANの発展の歴史を振り返る！GANの包括的なサーベイ論文の紹介(アルゴリズム編)”. AI-SCHOLAR (2020年2月15日). 2020年4月17日閲覧。
  • “GANの発展の歴史を振り返る！GANの包括的なサーベイ論文の紹介(応用編)”. AI-SCHOLAR (2020年2月23日). 2020年4月17日閲覧。
• 解説記事
  • “創造的AIと敵対的AIの不思議な関係、そしてアイデンティティへの脅威 - GAN を概観”. 2021年2月25日閲覧。

関連記事

• イアン・グッドフェロー: Google科学者
• ヤン・ルカン: Facebook人工知能研究所所長
• DCGAN
• (StyleGAN)（英語版）
• (CycleGAN)
• ぱいどん - GANを用いたキャラクター生成の適用例。プロットにおいてもGANが用いられた。