Набор в Инженерно-математическую школу НИУ ВШЭ и VK

Открыт набор в новые проекты ИМШ

для студентов IT-направлений НИУ ВШЭ

Инженерно-математическая школа — совместный образовательный проект VK и НИУ ВШЭ, где студенты работают над реальными задачами под руководством экспертов VK и научных сотрудников университета.

Участвуй в реальных проектах от бизнес-юнитов VK, приобретай актуальные знания и навыки, получи специальность в сфере IT без отрыва от учёбы.

Чтобы получить тестовое задание, зарегистрируйтесь. Без регистрации задание не будет принято к рассмотрению.

Мастерская по сервисам и платформам ИИ

Оптимизация работы графовых нейронных сетей на пучках при помощи матодов низкоразмерной параметризации ортогональных матриц

Одним из перспективных подходов в графовых нейронных сетях является метод графовых нейронных сетей на пучках. Идея данного метода состоит в модификации алгоритма передачи сообщений в соответствии с теорией пучков на графе. Как показывают эксперименты, такое изменение может уменьшить излишнее сглаживание признаков (oversmoothing), от которого часто страдают графовые сверточные нейронные сети. В основе метода графовых нейронных сетей на пучках лежат операции с ортогональными матрицами. В данном проекте предлагается провести исследование на предметы того, могут ли низкоразмерные параметризации ортогональных матриц повысить качество рекомендаций графовых нейронных сетей на пучках. Один из примеров низкоранговай параметризации ортогональных матриц.

Модель совместного шумоподавления и дереверберации для речи

Проект посвящен исследованию и разработке модели улучшения качества речи. В рамках проекта будет реализован алгоритм шумоочистки и дереверберации, в том числе для работы с потоковым аудио на CPU. Также будет проведен анализ и сравнение существующих методов улучшения качества речи. Цель проекта — разработка современного высокопроизводительного алгоритма, позволяющего использовать его на embedded-устройствах (ноутбуках, телефонах) в режиме реального времени.

Применение низкоразмерных параметризаций ортогональных матриц для повышения эффективности больших языковых моделей

Большие языковые модели - одна из наиболее активно развивающихся областей машинного обучения. Одной из сложностей в работе с большими языковыми моделями является высокая вычислительная стоимость как на этапе обучения так и на этапе генерации текста/предсказаний. Частично справиться с этой проблемой помогает минимизация числа нелинейных операций. Последнее приводит к сложностям в духе выхода за диапазон чисел с плавающей точкой, взрывающихся градиентов и т.д.. В данном проекте предлагается исследовать применимость низкоразмерной параметризации ортогональных матриц в трансформерах для дальнейшего снижения вычислительных затрат при работе языковых моделей. Один из примеров низкоразмерной параметризации ортогональных матриц.

Супер-разрешение аудио в высокую частоту в условиях низкоресурсных устройств

Задача супер-разрешения аудио (Audio Super-Resolution или Bandwidth Extension(BWE) ) посвящена получению высококачественного аудио в высокой частоте семплирования (48кГц и выше) из более низких. В настоящий момент это задача активно решается, в основном, GAN-решениями, а также диффузионными моделями. В последнее время проявляется большой интерес к портированию подобных решений на низкоресурсные устройства (умные приборы и смартфоны), в том числе для работы в аудиопотоке. Для подобных приложений требуются модели особой конструкции, которые способны работать с очень ограниченным контекстом аудио (для потоковой обработки в режиме реального времени), при этом обладая невысокой сложностью с точки зрения количества параметров и вычислительных операций на секунду аудио и сохраняя качество более крупных доступных моделей.