/ ML

TensorFlow Dev Summit 2017

В феврале 2017 был саммит на котором представили tensorflow 1.0. Только сейчас я пересмотрел все доклады с саммита, и сделаю краткий обзор.

На самом деле размах и возможности tensorflow впечатляют, google обскакал все ближайшие библиотеки в несколько раз.

Если есть время, то вот плейлист:

Keynote

Это видео стоит посмотреть, тут краткое резюме достижений tensorflow. Допустим из него я узнал про разные новые фичи. Теперь для запуска tensorflow моделей будут бинды для go, java, haskell, rust. Но всё-таки конструировать и обучать только на python, что наверное хорошо.

Также интересная информация:

XLA: TensorFlow, Compiled!

Следующий доклад про XLA комплятор. Если кратоко, то он позволит компилировать вычислительный граф, что приведёт к уменшению размера, и в некоторых случаях увеличит производительность.

Hands-on TensorBoard

Не скучный доклад про визиализацию моделей. Возможности tensorboard стали ещё шире, и я думаю это очень полезный инструмент при дебаге и изучании. Об этом и доклад.

TensorFlow High-Level APIs: Models in a Box

Большой плюс tensorflow в его низкоуровневой реалзизации, всё сводится к вычислениям над тензорами, что позволяет получить любую модель. Но когда вы хотите быстро применить для предметной области уже готовую архитектуру сети, то раньше лучшим выбором был Keras. Так вот, теперь keras внутри tensorflow (на момент написания этой заметки он уже доступен в tf.contrib)

Layers полностью совместимы со слоями в Keras, и модели можно тоже использовать. Я думаю добавление всего этого будет полезно для быстрого старта.

Следующий доклад как раз о интеграции с Keras

Integrating Keras & TensorFlow: The Keras workflow, expanded

Доклад мне понравился, очень красивое демо.

Mobile and Embedded TensorFlow

Важный доклад. Я так и не попробовал tf на raspberry, но радует, что такая возможность есть, и tf подходит для маленьких устройств. Рынок мобильных устройств очень важен.

TensorFlow at DeepMind

Доклад про использование tf для таких проектов как AlphaGo и других из группы DeepMind. Важный момент, что тут говорится о reinforcement learning, т.е. когда сеть обучается играя сама с сабой. У DeepMind интересные исследования и статьи. DeepMind

Distributed TensorFlow

Тоже важный момент, одна из основных фич tensorflow: масштабирование. Его можно запускать на кластерах почти из коробки, доклад об этом. Пока всё это не проверил, но инструкции выглядят очень подробными.

TensorFlow Ecosystem: Integrating TensorFlow with your infrastructure

Этот доклад больше про продакшен и про продукты. Важный аспект, и вполне интересный доклад. Расказывается как интегрировать с источниками данных, когда данные у вас большие. Есть возможность брать данные с HDFS. Также про то, как лучше запускать и разворачивать tf кластер.

Serving Models in Production with TensorFlow Serving

Опять про продакшен. Про архитектуру систем, и хороших практиках.

ML Toolkit

Доклад сложный на слух местами, но основная суть: теперь в tf есть набор готовых алгоритмов, что очень здорово и во многих местах хорошая альтернатива sklearn, а если мы хотим запускать для очень больших данных, то и аналогов найти сложно.

Sequence Models and the RNN API

Про переводчики и декодеры. Тема мне менее знакома. Посмотреть было интересно, но без практики мало пользы.

Wide & Deep Learning: Memorization + Generalization with TensorFlow

Интересный доклад про память и обобщение резултатов. Пока всё в зачаточной стадии, но направление интересное.

Magenta: Music and Art Generation

Более развлекательный, но всё же интересные исследования от подразделения Magenta. Доклад немного запутанный. Были расказаны идеи генерации мызыки, похожей не творчество известных композиторов. И немного про другие проекты magenta.

Skin Cancer Image Classification

На конец я оставил более лёгкие доклады, так сказать success stories.

Case Study: TensorFlow in Medicine - Retinal Imaging

Заключение

Приятно, что теперь доступны такие мощные инструменты почти каждому. Теперь не надо быть гениальным программистом или учёным, чтобы успешно применять нейронные сети для своих задач, конечно если это решённая задача. Но в тоже время TF можщный инструмент для исследователей, и не менее мощный инструмент для промышленного применения.

TensorFlow Dev Summit 2017
Share this

Subscribe to Yet another blog