Generative modeling is one of the hottest topics in AI. It's now possible to teach a machine to excel at human endeavors such as painting, writing, and composing music. With this practical book, machine learning engineers and data scientists will discover how to re-create some of the most impressive examples of generative deep learning models such as variational autoencoders (VAEs), generative adversarial networks (GANs), Transformers, normalizing flows, energy based models, and diffusion models.

Author David Foster demonstrates the inner workings of each technique, starting with the basics of deep learning before advancing to some of the most cutting-edge algorithms in the field. Through tips and tricks, you'll understand how to make your models learn more efficiently and become more creative.

A generative model can be broadly defined as follows:
Generative modeling is a branch of Machine Learning (ML) that deals with the creation of models that can generate new data points that are similar to the training data.

What does this mean in practice? Suppose we have a dataset containing images of horses. We may wish to build a model that can generate a new image of a horse that has never existed but still looks real because the model has learned the general rules that govern the appearance of a horse. This is the kind of problem that can be solved using generative modeling.

In order to truly understand what generative modeling aims to achieve and why this is important, it is useful to compare it to its counterpart, discriminative modeling. If you have studied Machine Learning, most problems you will have faced will have most likely been discriminative in nature.

The Chapter 3 will first lay out the theoretical underpinning of generative adversarial networks (GANs). You will then learn how to build your own GANs using Keras. We use the Keras function image_dataset_from_directory to create a Tensorflow Dataset pointed at the directly where the images are stored. This allows us to read batches of images into memory only when required (e.g. during training), so that we can work with large datasets and not worry about having to fit the entire dataset into memory.

Discover how VAEs can change facial expressions in photos
Build practical GAN examples from scratch to generate images based on your own dataset
Create autoregressive generative models, such as LSTMs for text generation and PixelCNN models for image generation
Build music generation models, using Transformers and MuseGAN
Explore the inner workings of state-of-the-art architectures such as StyleGANGPT-3, and DDIM
Dive into the the detail of multimodal models such as DALL.E 2 and Imagen for text-to-image generation
Understand how generative world models can help agents accomplish tasks within a reinforcement learning setting
Understand how the future of generative modeling might evolve, including how businesses will need to adapt to take advantage of the new technologies

Генеративное моделирование — одна из самых горячих тем в области искусственного интеллекта. Теперь можно научить машину преуспевать в человеческих начинаниях, таких как рисование, письмо и сочинение музыки. С помощью этой практической книги инженеры по машинному обучению и специалисты по данным узнают, как воссоздать некоторые из наиболее впечатляющих примеров генеративных моделей глубокого обучения, таких как вариационные автоэнкодеры (VAE), генеративно-состязательные сети (GAN), преобразователи, нормализующие потоки, энергетические основанные модели и диффузионные модели.

Автор Дэвид Фостер демонстрирует внутреннюю работу каждой техники, начиная с основ глубокого обучения и заканчивая некоторыми из самых передовых алгоритмов в этой области. Благодаря советам и рекомендациям вы поймете, как сделать так, чтобы ваши модели обучались более эффективно и становились более творческими.

В широком смысле генеративную модель можно определить следующим образом:
Генеративное моделирование — это ветвь машинного обучения (ML), которая занимается созданием моделей, которые могут генерировать новые точки данных, аналогичные обучающим данным.

Что это значит на практике? Предположим, у нас есть набор данных, содержащий изображения лошадей. Мы можем захотеть построить модель, которая может генерировать новый образ лошади, который никогда не существовал, но все еще выглядит реальным, потому что модель усвоила общие правила, управляющие внешним видом лошади. Это та проблема, которую можно решить с помощью генеративного моделирования.

Чтобы по-настоящему понять, на что направлено генеративное моделирование и почему это важно, полезно сравнить его с его аналогом, дискриминационным моделированием. Если вы изучали машинное обучение, большинство проблем, с которыми вы столкнетесь, скорее всего, были дискриминационными по своей природе.

В главе 3 сначала будут изложены теоретические основы генеративно-состязательных сетей (GAN). Затем вы узнаете, как создавать свои собственные GAN с помощью Keras. Мы используем функцию Keras image_dataset_from_directory для создания набора данных Tensorflow, указывающего непосредственно на то, где хранятся изображения. Это позволяет нам считывать пакеты изображений в память только тогда, когда это необходимо (например, во время обучения), чтобы мы могли работать с большими наборами данных и не беспокоиться о том, чтобы поместить весь набор данных в память.

Узнайте, как VAE могут изменить выражение лица на фотографиях
Создавайте практические примеры GAN с нуля для создания изображений на основе собственного набора данных.
Создавайте авторегрессивные генеративные модели, такие как LSTM для генерации текста и модели PixelCNN для генерации изображений.
Создавайте модели генерации музыки с помощью Transformers и MuseGAN.
Изучите внутреннюю работу современных архитектур, таких как StyleGANGPT-3 и DDIM.
Подробно изучите мультимодальные модели, такие как DALL.E 2 и Imagen, для преобразования текста в изображение.
Понять, как генеративные модели мира могут помочь агентам выполнять задачи в условиях обучения с подкреплением.
Понять, как может развиваться будущее генеративного моделирования, в том числе то, как предприятия должны будут адаптироваться, чтобы воспользоваться преимуществами новых технологий.

Скриншоты некоторых страниц:


Название: Generative Deep Learning: Teaching Machines to Paint, Write, Compose, and Play, 2nd Edition (Seventh Early Release)
Автор: David Foster
Издательство: O’Reilly Media, Inc.
Год: 2023-03-07
Жанр: Генеративное моделирование, научно популярная литература
Страниц: 453
Язык: Английский
Формат: EPUB
Качество: Отличное, есть иллюстрации
Размер: 101 MB

DOWNLOAD LINKS: Generative Deep Learning: Teaching Machines to Paint, Write, Compose, and Play, 2nd Edition (Seventh Early Release) 2023 (EPUB)