Аннотация:В этой статье, написанной для учебной программы по робастному машинному обучению, обсуждаются так называемые порождающий (генеративные) модели в машинном обучении. Генеративные модели изучают распределение данных из некоторого выборочного набора данных, а затем могут генерировать (создавать) новые экземпляры данных. Генеративные модели являются популярными инструментами с широким спектром приложений. Недавние достижения в области глубокого обучения привели к улучшениям в архитектуре генеративных моделей, и некоторые современные модели могут (в некоторых случаях) давать достаточно реалистичные результаты, чтобы обмануть как конечных пользователей (людей), так и алгоритмы распознавания и классификации. Генеративные модели используются при конструировании состязательных атак. Вместо того, чтобы искать минимальные модификации, как в классических атаках уклонением, порождающие модели позволяют, например, создавать состязательные примеры полностью с нуля. В то же самое время, порождающие модели так же уязвимы для состязательных атак, как и классификаторы. Это наш первый материал по данной теме и, очевидно, рассмотрение этой важной темы будет продолжено.