description

Описание вакансии

TL;DR

Senior ML Developer (AI): Разработка и оптимизация систем ускорения инференса для современных архитектур LLM с акцентом на систематизацию ресёрча и проверку гипотез. Фокус на создание универсальных инструментов для ML-инженеров Яндекса, подтверждение практической применимости методов и оптимизацию GPU-ресурсов.

Локация: Работа из офисов Яндекса в России

Компания

Яндекс — крупная технологическая компания, которая разрабатывает и интегрирует ИИ-системы в свои сервисы для решения разнообразных задач и приносит пользу людям.

Что делать

Глубоко изучать и систематизировать более 20 статей по ускорению инференса из ресёрча, выделяя перспективные методы.
Проводить итерации экспериментов для проверки гипотез на YandexGPT и разрабатывать новые подходы.
Подтверждать практическую применимость методов, замеряя качество и скорость ускорения.
Создавать универсальные инструменты для переиспользования ML-инженерами по всему Яндексу.

Требования

Опыт работы с современными LLM и понимание их архитектуры.
Навыки программирования на Python и опыт разработки на Torch.
Глубокое понимание NLP.
Знание пайплайна инференса генеративных моделей и таких оптимизаций, как KV-кеширование.
Понимание, как изменяются вычисления при изменении batch_size.
Разбираться в пользовательских требованиях к API моделей: RPS, latency per token/sample, GPU VRAM, SM utilization.
Работа из офисов Яндекса в России.

Хорошо, если есть

Уверенное владение C++ и знание программирования на CUDA.

Культура и преимущества

Расширенная медицинская страховка с первого месяца, включающая стоматологию, чекапы и лечение критических заболеваний.
Оплата 80% ДМС для детей и супругов.
Психотерапия, лазерная коррекция зрения (через год), ведение беременности и роды (через два года).
Возможности для развития: внутренняя образовательная платформа, менторство, оплата участия в конференциях.
Спортзалы в офисах, корпоративные тренеры, скидки в фитнес-клубы, спортивный клуб Яндекса с командами.
Гибкий график работы.
Льготные жилищные займы.
Программы для детей: страхование, детские дни в офисе, подарки и чекапы.