Рабочие задачи
- Использование API и дообучение (fine-tuning) больших языковых моделей под бизнес-задачи клиента.
- Построение пайплайнов для RAG (Retrieval-Augmented Generation): работа с векторными базами данных (Pinecone, Weaviate, Qdrant, FAISS), чанкинг, эмбеддинги, управление промптами.
- Оптимизация инференса LLM (квантизация, vLLM, TensorRT-LLM, ONNX Runtime) для обеспечения скорости и экономии ресурсов.
- Разработка API-оберток и микросервисов для интеграции NLP-моделей в продуктовую среду (FastAPI, Docker, Kubernetes).
- Активная коммуникация с заказчиком: уточнение требований к качеству генерации, презентация результатов.
Профильные навыки
- Коммерческий опыт разработки в NLP.
- Уверенное владение Python и основными библиотеками: Hugging Face Transformers, Datasets, Tokenizers.
- Опыт работы с LLM: fine-tuning (LoRA, P-tuning, QLoRA) и инференс на масштабируемых архитектурах.
- Понимание принципов работы трансформеров, механизмов внимания, архитектур encoder-only / decoder-only.
- Опыт построения RAG-систем: выбор эмбеддеров, настройка ранжирования, пост-обработка результатов.
- Знание MLOps-инструментов: MLflow, Weights & Biases, опыт деплоя моделей в облака (AWS/GCP/Azure).
- Знание фреймворков для агентных систем: LangChain, LlamaIndex, AutoGen.
- Опыт с open-source LLM и их развёртыванием на собственных мощностях (vLLM, Text Generation Inference).
Коммерческий опыт
Рассматриваем Junior+, Middle и Senior. Минимум для каждого направления: 6 месяцев коммерческого опыта по профилю. Курсы и личные проекты могут дополнить его.
Курсы и личные проекты не заменяют коммерческий опыт.
Плюсом будет опыт применения AI-инструментов в коммерческой работе: с проверкой результата тестами и ревью, соблюдением конфиденциальности.
Расскажите о своём опыте
Опишите NLP- или RAG-задачу, модель и способ оценки ответов. Укажите опыт дообучения, развёртывания и оптимизации инференса.
Рассказать об опытеЗнакомимся со специалистами этого направления для будущих проектов. Эта страница не является объявлением об открытой вакансии.