MIPT Deep Learning Club #15
Batch normalization
Batch normalization
Quantum Kitchen Sinks
Эрик Госье (Université Grenoble Alpes) про “Семантическое аннотирование и вопросно-ответные системы BioASQ” BioASQ Challenge (A challenge on large-scale bio...
Evolution Strategies
Dasha Romanovskaya about Nature paper “Predicting the sequence specificities of DNA- and RNA-binding proteins by deep learning” “В статье предложен новый ме...
Михаил Чертков (Los Alamos National Laboratory, USA) про “Science Application Informed Machine Learning” [ML в физике, использование GAN’ов в задачах турбуле...
Anton Karazeev про оптические установки, которые могут повторять функционал нейронный сетей (Optical Neural Networks) - статья [1] в Nature, 2017 год. В опт...
Taras Khakhulin about “Breaking the Softmax Bottleneck: A High-Rank RNN Language Model” “В статье рассмотрена задача построения языковой модели с точки зрен...
Anton Karazeev про методы для извлечения ключевых фраз из (биомедицинских) текстов – классические: статистические (TF-IDF) и графовые (TextRank), а также про...
Anton Karazeev про применение нейронных сетей (Ограниченных машин Больцмана, RBM) для томографии квантовых состояний Томография квантовых состояний - дело т...
Danil Lykov про применения attention-механизмов. Помимо известной статьи “Show, Attend and Tell” by Bengio et al. была упомянута свежая статья от Майкрософт...
Капсулы - Danil Lykov про статью Хинтона “Dynamic Routing Between Capsules” “В статье рассмотрен подход передачи информации с разных участков изображения (в...
Очень большие нейронные сети, состоящие из слоев экспертов - Emil Zakirov про “Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Laye...
Повышение реалистичности синтезированных изображений (конкретно в этом случае - изображений глаз) - Anton Karazeev про статью от Apple: “Improving the Realis...
Система распознавания лиц - Danil Lykov про “DeepFace” от Фейсбука (это одна из моделей, которая к загруженным фотографиям на фб добавляет тэги людей)
Генерация человеческой речи по тексту - Emil Zakirov про гугловую генеративную модель “WaveNet” [сентябрь, 2016] WaveNet [апрель, 2017] Tacotron
PyTorch Intro
Understanding Black-box Predictions