II.3Рефакторинг, миграция и модернизация

CodeUp-Llama-2-13b-chat-hf — чат-модель для генерации кода, созданная на базе Llama 2 авторами проекта CodeUp. Её дообучили следовать инструкциям по задачам программирования на основе набора примерно из 19 тысяч отфильтрованных примеров генерации кода. В README описан акцент на мультиязычной генерации кода, однако правила фильтрации данных ориентированы на Python, поэтому охват других языков программирования может быть неодинаковым. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 12,9 млрд параметров. Она принимает текстовые инструкции и выдаёт текст, в том числе программный код; максимальный контекст составляет 4096 токенов. Репозиторий содержит веса PyTorch, лицензия — OpenRAIL++. Модель подходит для генерации кода по запросу и помощи с изменением фрагментов кода. Качество ответов может быть неоднородным, а сгенерированный код требует проверки и тестирования. README не приводит оценок качества или подробных ограничений применения.

Godot-Dodo 4x 60k LLaMA 13B — модель генерации текста с инструктивной настройкой на основе LLaMA. По карточке модели, она обучена в апреле 2023 года на наборе из 60 тысяч примеров следования инструкциям; оценка проводилась на запросах с инструкциями по программированию. Архитектура — плотная LLaMA с 12,9 млрд параметров, контекст — 2048 токенов. Модель предназначена для генерации ответов на инструкции и помощи с задачами программирования. Доступны веса PyTorch. Карточка отсылает за подробностями к GitHub, поэтому конкретные результаты оценки и условия лицензии здесь установить нельзя.

jina-embeddings-v2-base-code — модель эмбеддингов от Jina AI для представления текста и исходного кода в виде векторов. Она предназначена для семантического поиска по коду и техническим материалам, сопоставления запросов с фрагментами кода и извлечения контекста для технических вопросов и ответов. Модель использует архитектуру JinaBert на основе BERT с двунаправленным вариантом ALiBi и содержит около 160 млн параметров. Она принимает последовательности длиной до 8192 токенов; обучение эмбеддингов проводилось на длине 512 токенов с экстраполяцией на более длинный контекст. Основа модели предварительно обучена на наборе GitHub Code, а затем модель обучалась на парах вопросов, ответов, docstring и исходного кода. Поддерживаются английский и 30 языков программирования. Для получения эмбеддингов предложено использовать mean pooling. Доступны форматы PyTorch, Safetensors и ONNX. Модель рассчитана на эффективный поиск по коду и длинным техническим фрагментам; README также называет технический вопросно-ответный поиск одним из сценариев применения. Для других языков естественного языка и произвольных задач качество не заявлено. Лицензия — Apache-2.0.

Карточка модели Resggg/Kimi-K3-Abliterated-modal на Hugging Face совпадает с карточкой SHSLab/Kimi-K3-Abliterated, поэтому описание составлено по ней. SHS-Lab/Kimi-K3-Abliterated — открытая мультимодальная модель на основе Kimi K3, обработанная методом abliteration для ослабления отказов, связанных с механизмами выравнивания. Она предназначена для исследований механизмов отказа, red-team-оценки и контролируемых экспериментов. Архитектура унаследована от базовой модели: Mixture-of-Experts с 2,8 трлн параметров, Kimi Delta Attention и Attention Residuals; модель поддерживает контекст до 1 млн токенов, изображения и видео наряду с текстом. Модель подходит для программирования, многошаговых агентных задач, анализа документов и работы с визуальными данными. По заявлению карточки, ослабление отказов нацелено на запросы на английском и японском языках и не добавляет новых знаний или возможностей; возможны небольшие изменения тона и формулировок. Независимая оценка этой версии не проводилась, поэтому точность для конкретных задач следует проверять отдельно. Модель распространяется с весами для самостоятельного развёртывания по лицензии Kimi K3 License; карточка не рекомендует её для неконтролируемого использования в пользовательских продуктах или там, где обязательна модерация контента.

Agnuxo публикует Mistral-NeMo-Minitron-8B-Base-Nebulal — текстовую авторегрессионную модель семейства Mistral с плотной архитектурой и примерно 7,9 млрд параметров. Карточка описывает её как базовую модель для локального запуска; автор связывает её с проектом NEBULA Optical Physics и экосистемой P2PCLAW. Модель предназначена для генерации текста, в том числе кода и научных материалов. В README перечислены Python, JavaScript, TypeScript, Rust, Go и C++, а также библиотеки научных вычислений и машинного обучения; заявлена интеграция с MCP и A2A. Контекст составляет 8192 токена. Метаданные указывают английский и испанский языки, формат PyTorch и лицензию Apache-2.0. Карточка не приводит независимых оценок качества или подробностей обучения, поэтому перечисленные возможности следует считать заявлениями автора. При использовании для научных текстов, кода и координации агентов результаты нужно проверять; также не следует считать перечисленные языки программирования естественными языками модели.

NVIDIA-Nemotron-Nano-12B-v2-Base — базовая языковая модель компании NVIDIA для продолжения заданного текста и создания собственных LLM на её основе. Это гибридная архитектура Nemotron-Hybrid: 62 слоя, преимущественно Mamba-2 и MLP, с шестью слоями внимания; размер модели — 12,31 млрд параметров. В карточке также отмечено, что модель улучшена с использованием Qwen. Модель принимает и генерирует текст, поддерживает контекст до 128 тысяч токенов и рассчитана на английский и 16 других языков: испанский, французский, немецкий, японский, итальянский, португальский, китайский, арабский, датский, корейский, нидерландский, польский, русский, шведский и тайский. NVIDIA позиционирует её для разработчиков и исследователей, создающих языковые модели; веса доступны в формате safetensors, интеграция указана для Transformers, а среди движков инференса — HF, vLLM и TRT-LLM. Модель обучалась примерно на 20 трлн токенов; данные включают веб-тексты, диалоги, статьи, математику и код. NVIDIA заявляет о готовности к коммерческому использованию, однако в метаданных указана лицензия «other», поэтому конкретные условия следует сверить с лицензией репозитория. Для развёртывания производитель ориентирует модель на GPU NVIDIA, включая H100-80GB и A100; для целевого применения рекомендуются дополнительные тестирование и валидация.

Olmo 3.1 7B RL-Zero Code — авторегрессионная трансформерная языковая модель Allen Institute for AI (Ai2), дообученная на базовой allenai/Olmo-3-1025-7B с обучением по проверяемым вознаграждениям на наборе Dolci-RL-Zero-Code-7B, содержащем запросы по программированию. Это экспериментальная модель семейства RL-Zero для исследования методов RLVR, ориентированная на генерацию кода и ответы на запросы о программировании. Модель имеет 6,9 млрд параметров, использует архитектуру Olmo3ForCausalLM и принимает текст, выдавая текст; заявленная длина контекста — 65 536 токенов. README указывает английский язык. Для использования доступна библиотека Transformers версии 4.57.0 или выше. Модель может генерировать неточный код и неверные утверждения, а отсутствие фильтрации безопасности допускает вредоносные или чувствительные ответы. Лицензия — Apache 2.0; Ai2 указывает исследовательское и образовательное назначение в соответствии с руководством по ответственному использованию.

unsloth/Qwen2.5-Coder-0.5B-Instruct-bnb-4bit — 4-битная версия модели Qwen2.5-Coder-0.5B-Instruct, разработанной командой Qwen и опубликованной Unsloth. Это компактная каузальная языковая модель, ориентированная прежде всего на генерацию, анализ и исправление программного кода, а также на сценарии разработки и создания code agents. В README указан английский язык; сведения о поддержке других языков отсутствуют. Модель содержит около 0,49 млрд параметров, из которых 0,36 млрд являются неэмбеддинговыми, и поддерживает контекст до 32 768 токенов. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV-проекциях внимания и связанные эмбеддинги слов; применяются 24 слоя и Grouped-Query Attention с 14 головами для Q и 2 для KV. Суффикс bnb-4bit указывает на 4-битное представление, предназначенное для снижения требований к памяти при запуске. Сильными сторонами являются малый размер, длинный контекст и специализация на задачах программирования при возможности использования в ресурсно-ограниченных средах. Ограничениями выступают существенно меньшая ёмкость по сравнению с крупными моделями семейства, отсутствие приведённых в README подробных метрик для данной версии и неуказанные требования к аппаратному обеспечению. В README также присутствует предупреждение не использовать базовые языковые модели для диалогов без дополнительного постобучения, однако карточка данной модели обозначена как Instruct. Лицензия — Apache-2.0.

Небольшая инструкционная языковая модель семейства Qwen2.5-Coder с 494 млн параметров, опубликованная пользователем seeib на Hugging Face. Модель предназначена для генерации текста и ориентирована на сценарии, связанные с программированием и выполнением инструкций; в метаданных также указана связь с экспериментами Gensyn/GenRL Swarm и GRPO. Для работы используется библиотека Transformers, поддерживается контекст до 32 768 токенов.

bappi/Qwen2.5-Coder-3B-Uncensored — текстовая генеративная модель, опубликованная пользователем bappi на Hugging Face. Репозиторий содержит модель примерно на 3 млрд параметров в формате Safetensors и предназначен для запуска через Transformers, vLLM и совместимые инструменты. По идентификатору и тегам это вариант семейства Qwen2.5-Coder, ориентированный прежде всего на генерацию и обработку программного кода, однако точное описание дообучения и сведения о разработчике в карточке модели отсутствуют. Надёжно подтверждены возможности text generation и conversational inference. Для базовой модели Qwen2.5-Coder-3B официально указаны архитектура Qwen2ForCausalLM, 3,09 млрд параметров, 36 слоёв, механизм GQA и контекст до 32 768 токенов; семейство предназначено для задач кодогенерации, завершения кода и работы с математическими и общими текстовыми запросами. Мультимодальность не заявлена. Языки и фактическое качество именно этой производной модели не описаны в её карточке, поэтому их нельзя достоверно установить. Карточка модели автоматически сгенерирована и не содержит данных о тестах, обучающих данных, ограничениях, рисках или лицензии. Условия лицензирования данной производной модели не указаны; лицензию базовой модели нельзя автоматически считать лицензией этого репозитория. Из-за отсутствия сведений о методе модификации, оценках и ограничениях следует ожидать возможных ошибок и проверять результаты, особенно в программном коде.

Donfagez/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это набор GGUF-квантизаций многоэтапной дообученной и объединённой модели, созданной на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В README указано, что разработка выполнялась с использованием Unsloth, методов COLD FUSION и Fable Fusion 711, а также датасетов DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель распространяется под лицензией Apache-2.0. Модель предназначена для широкого спектра задач: решения задач и рассуждений, программирования, творческого письма, создания художественных текстов и ролевых сценариев. Заявлены режимы thinking и reasoning, а также поддержка нескольких режимов работы с уменьшенным объёмом рассуждений и ускоренной генерацией, включая MTP-варианты. Репозиторий содержит обычные GGUF-квантизации и MTP GGUF-квантизации, в том числе варианты с разрядностью 4 и 8 бит. Заявленные языки — английский и китайский; при этом в метаданных указан pipeline_tag image-text-to-text, но подробности о поддержке изображений в README не приведены. Ключевая характеристика модели — размер базовой модели 27B и ориентация на высокую детализацию, программирование и снижение избыточного рассуждения. Автор заявляет превосходство над базовой Qwen3.8 27B и рядом других моделей на семи внутренних бенчмарках, а также высокие результаты ARC-C и ARC-E, однако эти утверждения не подтверждены независимыми данными в представленном README. Ограничения включают отсутствие сведений о размере контекстного окна, точной архитектуре, системных требованиях, фактической мультимодальности и результатах внешнего тестирования; характеристики зависят от выбранной квантизации.

Qwen3-Yoyo-V3-42B-A3B-Thinking-TOTAL-RECALL-ST-TNG-III — экспериментальная донастройка DavidAU на основе YOYO-AI/Qwen3-30B-A3B-YOYO-V3, с выборочным обучением слоёв на внутреннем наборе данных по сериалу «Звёздный путь: Следующее поколение». Модель предназначена для генерации кода и программирования, а также для диалогов и задач общего назначения; тематика TNG добавляет ей специализированные знания и стиль в этой области. Это причинная языковая модель семейства Qwen3 MoE: в README указаны 42 млрд параметров, 67 слоёв и 128 экспертов с активацией 8; метаданные каталога указывают 3,5 млрд параметров, поэтому фактический размер по этим источникам расходится. Заявленное контекстное окно — до 1 млн токенов. Модель поддерживает режим «мышления», который, согласно README, можно включить системным промптом. Карточка указывает английский, французский, китайский и немецкий языки, но не описывает их уровень поддержки. Репозиторий содержит веса Safetensors и исходную версию для непосредственного использования или конвертации в другие форматы. Лицензия — Apache-2.0. Автор характеризует обучение как экспериментальное и советует выбирать число активных экспертов и параметры генерации под задачу; результаты бенчмарков в карточке представлены как сравнительный обзор серии, а не как независимая оценка качества этой версии.

Qwen3-Zero-Coder-Reasoning-0.8B — компактная модель генерации текста для программирования, созданная DavidAU на платформе Qwen3. По карточке модели, это объединение двух моделей размером 0,6 млрд параметров; метаданные указывают базовые репозитории Qwen/Qwen3-0.6B и suayptalha/Qwen3-0.6B-Code-Expert. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит около 684 млн параметров. Модель предназначена для генерации кода, подготовки черновиков, обсуждения идей и решения многошаговых задач программирования с рассуждениями. Она поддерживает диалог и интерфейс вызова инструментов; заявленная длина контекста — до 40 960 токенов. README рекомендует контекст от 8 000 до 16 000 токенов, шаблон Jinja или ChatML и настройку параметров генерации под сложность задачи. Карточка заявляет высокую скорость генерации и пригодность как для простых, так и для сложных запросов, однако независимые оценки качества не приведены. Модель работает с текстовыми запросами и выдаёт текст, включая код; язык карточки — английский, а пригодность для других языков отдельно не уточняется. Лицензия — Apache-2.0. Модель распространяется в формате Safetensors; автор также описывает создание квантованных вариантов.

Replit Code v1.5 3B — языковая модель Replit для автодополнения кода. Это плотная авторегрессионная модель семейства MPT с 3,3 млрд параметров, обученная генерировать продолжения кода. Модель распространяется в формате PyTorch и использует токенизатор GPTNeoX с настроенным словарём из 32 768 токенов; размер контекста — 4096 токенов. Обучение проводилось на корпусе примерно из 1 трлн токенов, включая код на 30 языках программирования, технические тексты в Markdown и reStructuredText, а также материалы Stack Exchange для разработчиков. Модель подходит для подсказок и продолжения кода в редакторах и для последующей настройки под конкретные задачи разработки. Она не заявлена как универсальный чат-ассистент или средство проверки корректности кода. Лицензия Apache-2.0 допускает коммерческое использование. Обучающие данные могли содержать оскорбительный или неподходящий контент, который может проявляться в генерациях; перед использованием в продуктивных системах результаты следует проверять.

SWE-Fixer-Editor-72B — дообученная InternLM модель для исправления реальных задач и ошибок в репозиториях GitHub. Она выступает компонентом редактора кода в конвейере SWE-Fixer: после поиска подходящих файлов репозитория модель помогает вносить изменения по описанию issue. Модель основана на плотной архитектуре Qwen2 и содержит 71,5 млрд параметров; поддерживает контекст до 131 072 токенов и распространяется в формате safetensors. Модель предназначена для генерации кода и диалогового взаимодействия при решении задач разработки. В README указано дообучение на Qwen2.5-7B, однако метаданные Hugging Face указывают базовую модель Qwen/Qwen2.5-72B; поэтому точную базу следует считать неоднозначной. В метаданных также указаны наборы SWE-Fixer-Train-110K и SWE-Fixer-Eval. Лицензия — MIT. Карточка не сообщает конкретные ограничения качества или поддерживаемые естественные языки.

Tinytron-ORCA-7B-TinyLlama-Instruct_CODE_Python-extra_small_quantization_GGUF_3bit — локальная модель генерации кода, опубликованная Francisco Angulo de Lafuente под именем Agnuxo. В карточке она описана как помощник по программированию на базе семейства Llama; метаданные указывают плотную архитектуру LlamaForCausalLM, 6,6 млрд параметров и контекст до 4096 токенов. README заявляет версию GGUF с 3-битной квантизацией и рекомендует запуск через Ollama. Модель предназначена для генерации кода и помощи с задачами научных вычислений и машинного обучения. В README перечислены Python, JavaScript, TypeScript, Rust, Go и C++, а также NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. Метаданные указывают английский и испанский языки; модель принимает текстовые запросы и генерирует текст, включая код. Репозиторий описывает модель как локального помощника по программированию, однако подробные результаты оценки качества не приведены. README указывает лицензию Apache-2.0; из названия и карточки следует, что это квантизованная версия модели TinyLlama Instruct, но точный идентификатор исходной модели в метаданных не приведён.

VTXAI/vtx-embed-7M — компактная модель эмбеддингов, разработанная Vortexa и используемая в поисковой системе по исходному коду vortexa. Она преобразует текстовые фрагменты в плотные векторы для семантического поиска и извлечения данных; заявленные сценарии включают индексирование кода и поиск по нему для разработчиков и ИИ-агентов. Модель содержит 7,56 млн параметров, использует архитектуру VortexEmbedV3 и формат хранения LF4 с 4-битной квантизацией. В README заявлены размер 4,72 МБ в памяти, субмиллисекундная задержка на CPU и поддержка Matryoshka-размерностей эмбеддингов. Опубликованные в карточке результаты показывают меньшие значения на приведённых тестах STSBenchmark, SICK-R и Banking77Classification, чем у сравниваемых MiniLM-L6-v2 и bge-small-en-v1.5, поэтому качество может уступать более крупным моделям. В метаданных указан английский язык и лицензия MIT; заявленная специализация README — поиск по коду.

MaziyarPanahi/Yi-Coder-9B-Chat-GGUF — это набор файлов модели в формате GGUF для Yi-Coder-9B-Chat, разработанной 01-ai и квантизированной MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые приложения и библиотеки. Модель основана на Yi-Coder-9B-Chat и содержит 9 миллиардов параметров; доступны варианты квантования с разрядностью от 2 до 8 бит. README не указывает поддерживаемые языки, размер контекста, точную архитектуру и дополнительные модальности, поэтому эти характеристики нельзя достоверно описать. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими инструментами, что облегчает запуск на локальных системах и использование GPU-ускорения. К сильным сторонам относятся широкий выбор уровней квантования, возможность локального развертывания и совместимость с несколькими клиентами и серверными решениями. Ограничения связаны с тем, что качество и требования к ресурсам зависят от выбранного варианта квантования и использующего ПО; конкретные показатели производительности в README не приведены. Лицензия модели в предоставленных данных не указана.

BoghdadyJR/al-MiniLM-L6-v2 — модель Sentence Transformers на базе sentence-transformers/all-mpnet-base-v2, дообученная разработчиком на датасете code-search-net/code_search_net. Архитектура MPNet кодирует текст в плотные векторы размерности 768; для представления используются усреднение токенов и нормализация, а сходство измеряется косинусом. Модель насчитывает 136,7 млн параметров и рассчитана на последовательности до 384 токенов по README; метаданные указывают контекст до 514 токенов. Модель предназначена для семантического поиска по коду, сопоставления названий функций с их реализациями, сравнения предложений и абзацев, поиска перефразировок, кластеризации и классификации текстов. README приводит оценку Spearman 0,881 на sts-dev, однако эти результаты сами по себе не гарантируют аналогичное качество на других данных. Карточка указывает язык обучения как code; естественные языки, для которых модель специально рассчитана, не заявлены. Модель распространяется в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

Модель dice-research/amharic-property-retriever-afro-xlmr-base — Sentence Transformer, дообученный исследовательской группой DICE Research на базе Davlan/afro-xlmr-large-76L для сопоставления амхарских обозначений полей и свойств с соответствующими названиями на английском языке. Она преобразует предложения и короткие фрагменты текста в плотные векторы размерности 1024; близость векторов оценивается косинусным сходством. Модель построена на XLM-RoBERTa и предназначена для семантического поиска и ранжирования соответствий, в том числе для поиска названий свойств в схемах данных. Обучение проводилось на 1 224 парах примеров из набора amharic-property-mapping с функцией потерь MultipleNegativesRankingLoss. В README указана максимальная длина последовательности 64 токена; метаданные каталога приводят контекст 514 токенов. Для практического использования стоит ориентироваться на ограничение 64 токена, описанное в карточке Sentence Transformers. На тестовой выборке из 186 пар приведены метрики поиска, однако они не гарантируют качество на других данных. Модель распространяется по лицензии MIT.

AReaL-boba-2-8B-Open — открытая текстовая модель для генерации кода и решения задач программирования, представленная проектом AReaL от RL Lab, Ant Research. Это версия Qwen3-8B, обученная с помощью асинхронного обучения с подкреплением; в карточке указано 7,6 млрд параметров и контекст до 40 960 токенов. Модель поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для генерации программного кода и рассуждений при решении задач программирования. В README приведены результаты на LiveCodeBench v5, Codeforces и CodeContests. Указанный для 8B версии результат LiveCodeBench v5 — 62,0, а CodeContests — 41,4. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Данные карточки не описывают поддерживаемые естественные языки и конкретные ограничения качества; результаты бенчмарков сами по себе не гарантируют точность в пользовательских проектах.

CodeFuse-13B — модель генерации кода, разработанная командой CodeFuse и построенная на архитектуре GPT-NeoX. В метаданных указано 17,3 млрд параметров, а карточка описывает модель как 13B; она обучена на корпусе из кода, китайских и английских текстов и дообучена на CodeFuse-Evol-instruction-66k. Модель рассчитана на генерацию кода более чем на 40 языках программирования и поддерживает контекст до 4096 токенов по метаданным; README отдельно указывает последовательности кода до 4096 символов. Модель подходит для генерации фрагментов кода по текстовым инструкциям и решения задач программирования. В карточке заявлен результат Pass@1 37,1% на HumanEval при Beam Search с размером луча 3. Для работы описан стек PyTorch и Transformers. Лицензия обозначена как other, конкретные условия в предоставленных данных не раскрыты.

CodeMalt — компактная модель статических эмбеддингов кода, созданная автором репозитория sarthak1 с помощью дистилляции Model2Vec из sentence-transformers/all-mpnet-base-v2. Она предназначена для семантического поиска по коду, сравнения сходства фрагментов и классификации кода; README сообщает о проверке на бенчмарках CodeSearchNet для шести языков программирования. Модель содержит 7,6 млн параметров и использует архитектуру Model2Vec StaticModel. В README приведены результаты CodeSearchNet: NDCG@10 0,7387, MRR 0,7010 и Recall@5 0,8017, а также утверждается, что она заметно компактнее и быстрее исходной модели-учителя. Репозиторий распространяется по лицензии Apache-2.0. Результаты относятся к описанной оценке на CodeSearchNet; качество на других наборах и задачах может отличаться. README также предупреждает, что дополнительное обучение на C4 ухудшило результаты поиска кода относительно базовой дистилляции.

DeepSeek-V4-Flash-0731-JANG-CRACK — дообученная и аблированная версия DeepSeek-V4-Flash-0731 от dealignai. Это языковая модель на архитектуре DeepSeek V4 с 10,7 млрд параметров и MoE-компонентами; опубликованный вариант использует смешанную квантизацию JANG affine и занимает около 95 ГБ. Модель рассчитана на генерацию текста, диалог, рассуждения и написание кода, а также на сценарии, где требуется отвечать без обычных отказов на опасные запросы. Модель поддерживает английский и китайский языки. В README заявлена длина контекста до 1 048 576 токенов с расширением yarn RoPE, однако такая длина не проверялась в тестах этой сборки: оценки проводились на коротких запросах. Для запуска автор рекомендует vMLX на Apple Silicon примерно с 128 ГБ объединённой памяти; также упомянуты vMLX и jang_tools как варианты запуска. В тестах README модель показала 71,84% на MMLU и 90% pass@2 на HumanEval, но результаты приведены разработчиком и не являются независимой оценкой. Ключевое свойство CRACK — снятие отказов на вредоносные запросы: README сообщает о выполнении всех 320 заданий HarmBench, включая запросы по киберпреступлениям и причинению вреда. Это делает модель пригодной для контролируемого исследования поведения моделей, но опасной для неограниченного использования. Известны редкие опечатки; генерация длинного контекста в этой сборке не стресс-тестировалась. Лицензия — MIT.

sensiarion/embeddinggemma-300m-code-8L-distill-int8 — компактная модель эмбеддингов кода, созданная на основе Google EmbeddingGemma-300M. Это двунаправленный энкодер типа bi-encoder: он преобразует английский текстовый запрос или фрагмент кода в средний L2-нормированный вектор размерности 768. Вариант содержит 8 из 24 слоёв исходной модели и около 303 млн параметров по метаданным; доступны веса ONNX и SafeTensors, а README также описывает вариант MLX. Контекст — 2048 токенов. Модель предназначена для поиска фрагментов кода по запросам на естественном английском языке и для сопоставления запросов с кодом. Она дообучена и дистиллирована на парах документация-код CodeSearchNet для Python, Go, Java, JavaScript, PHP и Ruby; автор README сообщает о сохранении примерно 96% качества базовой модели при ускорении примерно в три раза. Для кодирования следует подавать исходный текст запроса и кода без инструкционных префиксов. По сравнению с базовой моделью она быстрее и компактнее, но специализация на поиске кода ограничивает её применение для общего поиска по текстам и задач вопросов и ответов. Качество может немного отличаться от полноточной базовой модели из-за int8-квантизации, а для языков программирования вне обучающего набора качество не заявлено. Лицензия — Gemma.

Granite-3B-Code-Base-2K — авторегрессионная языковая модель для работы с кодом, разработанная IBM Research и обученная с нуля. Модель семейства Granite использует плотную decoder-only архитектуру LlamaForCausalLM, содержит 3,5 млрд параметров и поддерживает контекст до 2048 токенов. Модель предназначена для генерации и объяснения кода, исправления ошибок, создания модульных тестов и документации, поиска уязвимостей, устранения технического долга и перевода кода. При обучении использовались данные на 116 языках программирования, а также текстовые и математические данные для улучшения рассуждений и следования инструкциям. IBM указывает, что модель не рекомендуется для новых проектов и доступна для исторических и научных целей; для новых приложений предлагаются более свежие модели Granite. Модель не проходила выравнивание безопасности, а сгенерированный код может быть ошибочным или небезопасным. Лицензия — Apache 2.0.

LateOn-Code — модель LightOn из семейства PyLate для поиска и ранжирования фрагментов кода. Это многовекторная модель позднего взаимодействия на архитектуре ModernBERT, размером 149 млн параметров. Она предварительно обучена по методике CoRNStack и дообучена на наборах CoIR с подбором сложных негативных примеров; заявленная базовая модель — внутренняя версия LateOn, построенная на ModernBERT-base. Модель предназначена для семантического поиска по коду: она сопоставляет запросы с фрагментами кода, помогает искать реализации функций и может ранжировать результаты первичного поиска. README приводит оценки на CodeSearchNet для Python, JavaScript, Go, Ruby, Java и PHP. Метаданные указывают контекст до 8192 токенов, библиотеку PyLate и форматы ONNX и safetensors. Модель ориентирована на кодовый поиск и не описана как генеративная. Для работы с ней используются PyLate и, при построении индекса, FastPLAID. Распространяется по лицензии Apache-2.0.

albertge/llada-8b-dllm-registers-code64-codetags-t4 — модель, разработанная в рамках проекта dLLM Registers и дообученная на базе GSAI-ML/LLaDA-8B-Base. Это плотная диффузионная языковая модель на 8 млрд параметров для генерации текста, специализирующаяся на задачах программирования. Обучение продолжено в режиме chunked SFT на кодовой части набора mix60k: использовались около 30 тысяч трасс из подмножества OpenCodeInstruct, размер окна составлял 64 токена. Модель переносит состояние декодирования между окнами денойзинга через хвостовой канал Markovian Thinking длиной 4 токена; для корректного вывода требуются соответствующие параметры канала. Карточка указывает английский язык, интерфейс чата и библиотеку Transformers. Модель распространяется по лицензии Apache-2.0. Практическое применение ориентировано на генерацию кода; точные результаты оценки качества в карточке не приведены.

Bram Vanroy разработал Llama-2-13b-chat-dutch — чат-модель на архитектуре Llama 2 с 12,9 млрд параметров. Она основана на meta-llama/Llama-2-13b-hf: сначала модель дополнительно обучали на нидерландских данных, затем дообучили на наборах синтетических инструкций и диалогов. Контекст составляет 4096 токенов; модель принимает текст и генерирует текст.

HA-Siala/Mamba-full-v0.2 — дообученная языковая модель на архитектуре Mistral с 7,1 млрд параметров, предназначенная для анализа кода на Mamba. Она выявляет недостатки в коде и предлагает его рефакторинг, помогая при проверке и улучшении реализаций Mamba. Модель принимает текст и генерирует текстовые ответы. Контекст составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. В README также указано, что набор данных и исходный код исследования доступны в официальном репозитории GitHub.