II.2Создание и понимание программного кода

Darwin-4B-Opus — языковая модель для диалога и рассуждений, созданная VIDRAFT с помощью движка Darwin V6. Это слияние Google Gemma 4 E4B Instruct и модели Gemma-4-E4B-Claude-4.6-Opus-Reasoning-Distilled; при слиянии DARE-TIES применялись диагностически подобранные коэффициенты для отдельных тензоров. Модель использует архитектуру Gemma4ForConditionalGeneration с MoE, содержит около 4 млрд параметров и представлена в формате BF16 и safetensors. Модель предназначена для ответов на вопросы, рассуждений, программирования, математики и анализа на одном потребительском GPU. В README заявлены контекст 128 тыс. токенов и поддержка более 140 языков; метаданные карточки перечисляют английский, корейский, японский и китайский. Архитектура базовой модели поддерживает изображения и аудио, однако README не описывает эти сценарии для Darwin-4B-Opus. В README приведён результат 82,92% на ARC-Challenge в режиме zero-shot; авторы отмечают, что проверка здоровья модели не проводилась. Модель распространяется по лицензии Apache 2.0. Фактическое качество на других задачах и мультимодальная работа в карточке не подтверждены.

Mungert/DeepCoder-14B-Preview-GGUF — предварительная GGUF-версия 14-миллиардной модели для генерации текста и кода, разработанная Mungert. В качестве базовой модели указана DeepSeek-R1-Distill-Qwen-14B; при обучении или проверке использовались наборы PrimeIntellect/verifiable-coding-problems, likaixin/TACO-verified и livecodebench/code_generation_lite. Заявленный язык — английский, основной сценарий применения — генерация и решение задач программирования. Главная особенность модели — экстремально низкобитное квантование с методом IQ-DynamicGate, который распределяет точность по слоям: для разных частей сети применяются IQ4_XS, IQ2_XXS, IQ3_S и Q5_K для критически важных embedding и output-слоёв. Такой подход предназначен для снижения требований к памяти и запуска на CPU, устройствах с небольшим объёмом VRAM и edge-оборудовании. Доступные GGUF-варианты могут быть особенно полезны для компактного локального инференса и исследований низкобитного квантования. В README приведены результаты только для Llama-3-8B-Instruct при контексте 2048 токенов, поэтому эти показатели нельзя напрямую считать характеристиками DeepCoder-14B. Для DynamicGate сообщается заметное снижение perplexity по сравнению со стандартным 1–2-битным квантованием, однако с увеличением размера файлов примерно на 0,1–0,3 ГБ; скорость инференса оставалась сопоставимой. Ограничениями являются возможная потеря точности по сравнению с полноразмерными версиями, отсутствие подтверждённых характеристик контекстного окна и неполные сведения о конкретных вариантах квантования. Лицензия — MIT.

unsloth/DeepSeek-V3-0324-GGUF-UD — это набор динамически квантованных версий DeepSeek-V3-0324, подготовленный Unsloth на базе модели deepseek-ai/DeepSeek-V3-0324 в формате GGUF. Модель предназначена для локального запуска через llama.cpp, LM Studio, Open WebUI и другие совместимые фреймворки инференса. В метаданных указано, что основной язык модели — английский. Доступны варианты с эффективной разрядностью от 1,78 до 4,5 бит и размером файлов примерно от 192 до 384 ГБ. Квантизация Dynamic v2.0 выполняется выборочно; в README заявлено, что это позволяет сохранить более высокую точность по сравнению со стандартными методами квантизации. Модель использует архитектуру MoE, что отражено в описании разрядности компонентов смеси. Версии 2,42 бит IQ2_XXS и 2,71 бит Q2_K_XL рекомендованы как наиболее удачные по соотношению производительности и размера; для запуска желательно иметь не менее 180 ГБ совокупной VRAM и RAM. Сильными сторонами являются возможность локального использования крупной модели в распространённых GGUF-фреймворках и оптимизированная динамическая квантизация. Ограничениями выступают чрезвычайно высокие требования к памяти и большой объём файлов. Варианты IQ1_S и IQ1_M обозначены как предварительные: по результатам тестирования они обычно работают нормально, но иногда хуже справляются с генерацией кода. В метаданных указана лицензия MIT.

DeepSeek-V4-Flash-0731-GPTQ-Int4-V1 — это 4-битная GPTQ-квантизованная версия модели DeepSeek-V4-Flash-0731, опубликованная пользователем sokada4. Квантизация выполнена с помощью GPTQModel 7.3.4 и предназначена для более эффективного запуска исходной модели при ограниченных ресурсах GPU. Данные о точном размере модели, архитектуре, поддерживаемых модальностях, полном наборе языков и исходном размере контекста в README не указаны. Модель использует схему W4A16 с 4-битными весами, group size 128, симметричной квантизацией и упаковкой в int32; параметр lm_head не квантизован. Калибровка проведена на 128 примерах на китайском, английском, японском языках и Python-коде с длиной последовательности 2048 токенов. В README приведены результаты на 4 GPU Ampere: по сравнению с неквантизованным fp8-чекпойнтом модель показала меньшее время до первого токена и более высокую производительность, особенно при параллелизме 8. Основные ограничения связаны с инфраструктурой: для запуска через vLLM требуется специальная сборка с поддержкой DeepSeek-V4 GPTQ для GPU Ampere, а полный чекпойнт занимает около 153 ГБ и может потребовать выгрузки части весов в CPU. Релиз является первой калибровочной версией V1; заявлена возможная последующая версия V2 с другим набором калибровочных данных. Лицензия — MIT, унаследованная от базовой модели.

DeepSeek V4 Flash — REAM144 (163B) DS4 Q2 — это чат-модель WaveCut в формате GGUF, созданная на основе DeepSeek-V4-Flash-0731-REAM144-163B. В сборке сохранено 144 из исходных 256 экспертов на слой; модель квантизована до 2 бит для экспертов и 8 бит для attention, с использованием матрицы важности. Файл весит 49,3 ГБ, а автор указывает запуск на Mac с 64 ГБ памяти и контекстом 8 тыс. токенов. Модель предназначена для многоязычного диалога, рассуждений, ответов на вопросы по коду и сценариев с инструментами. По карточке она уверенно справляется с многоязычным чатом, рассуждениями и длинными диалогами, включая русский и переключение между английским и русским. Для запуска нужен DS4 fork с поддержкой переменного числа экспертов; обычный llama.cpp этот файл не загрузит. Квантизация 2 бит может ухудшать качество агентных задач: тесты показали непостоянные сбои при вызове инструментов, рефакторинге кода и цепочках «вызов инструмента — код». Лицензия — MIT.

diff-codegen-2b-v2 — экспериментальная модель CarperAI для генерации изменений в коде. Это авторегрессионная модель семейства CodeGen с 2 млрд параметров, дообученная на коммитах GitHub от базовой модели Salesforce codegen-2B-mono. Она принимает исходный фрагмент кода и описание требуемого изменения, например сообщение коммита, и предлагает правки в формате Unified Diff с отмеченными добавленными, изменёнными и удалёнными строками. Модель предназначена для прототипирования систем помощи при редактировании кода, особенно когда нужно внести описанное на естественном языке изменение в существующий или длинный фрагмент. Обучающий набор включает коммиты из популярных репозиториев и 22 языка программирования, а исходная модель обучалась на The Pile и корпусах кода. Контекст модели — 2048 токенов; README отмечает, что она может хуже работать с редкими языками и не предназначена для задач за пределами программирования. Это исследовательский артефакт, качество и корректность результатов не гарантируются. Сгенерированный код может содержать ошибки и уязвимости, поэтому его следует проверять и выполнять в изолированной среде; авторы не рекомендуют коммерческое и критически важное применение. Лицензия модели — MIT.

Это квантизированная GPTQ-версия ELYZA-japanese-CodeLlama-7b-instruct, подготовленная mmnga с калибровочным набором на японском языке. Для калибровки использованы случайная выборка примерно из 1 000 фрагментов японской Википедии и около 200 пар входных и выходных данных ELYZA-tasks-100. Модель относится к семейству Llama и предназначена для генерации текста в инструкционном формате, включая ответы на японском языке и задачи с кодом. Она содержит 6,6 млрд параметров и поддерживает контекст до 16 384 токенов. В метаданных указан формат safetensors и лицензия Llama 2. Калибровочный набор описывает процедуру подготовки GPTQ-версии; отдельных оценок качества в карточке нет.

Falcon3-7B-Base — предварительно обученная базовая языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Это плотный авторегрессионный трансформер с причинным декодером и 7,1 млрд параметров, доступный в формате safetensors для Transformers. Модель обучена на данных из веба, кода, STEM, высококачественных и многоязычных источников и поддерживает английский, французский, испанский и португальский языки. Модель предназначена для генерации текста и служит основой для последующей адаптации под конкретные сценарии: README отмечает задачи рассуждения, понимания языка, следования инструкциям, программирования и математики. Контекстное окно — до 32 768 токенов; архитектура включает 28 блоков декодера и grouped-query attention. Это базовая, а не instruct-версия, поэтому для большинства пользовательских задач рекомендуется дополнительное дообучение. Модель распространяется по лицензии TII Falcon-LLM License 2.0.

Fleet Llama Release — экспериментальная архитектура маршрутизации запросов по специалистам, разработанная Noumenon Labs на базе Meta Llama 3.2 3B Instruct. Модель содержит общий языковой backbone и обученный семантический маршрутизатор, который выбирает подходящий эксперт для каждого пользовательского хода; затем выбранный маршрут сохраняется на время генерации ответа. Среди маршрутов указаны Python, медицина, математика, вызов функций, SQL и базовая модель. Специалисты реализованы как лёгкие адаптеры или дельты весов. Модель предназначена для диалоговой генерации текста с выборочной специализацией по содержанию запроса. В карточке указаны 3,2 млрд параметров, контекст до 131 072 токенов, поддержка интерфейса вызова инструментов и формат safetensors. Для загрузки требуется пользовательский код модели Transformers с параметром trust_remote_code=True. Авторы называют релиз экспериментальным; производительность зависит от оборудования и конфигурации, а универсальное ускорение не заявлено. Лицензия — Llama 3.2 Community License. Основа — Meta Llama 3.2 3B Instruct; языки в карточке модели напрямую не перечислены.

Gemma 4 12B MXFP4 CRACK — мультимодальная модель на базе Google Gemma 4 12B Instruct, опубликованная dealignai. Это дообученная и квантизированная 4-битная версия с архитектурой Gemma4 Unified и гибридным скользящим и глобальным вниманием; автор заявляет поддержку изображений и аудио, многоязычность, рассуждения и генерацию кода. Модель предназначена для диалогов, ответов на вопросы, анализа изображений и аудио, многошаговых рассуждений и генерации кода; интерфейс также поддерживает вызов инструментов. README сообщает об удалении отказов и высокой готовности отвечать на запросы из вредоносных категорий HarmBench, при заявленном сохранении результата MMLU базовой модели. Эти показатели приведены автором и не являются независимой проверкой. Для запуска автор рекомендует vMLX с поддержкой Gemma 4 на Mac с Apple Silicon; стандартные mlx_lm и mlx_vlm, согласно README, поддерживают модель не полностью. Лицензия указана как Gemma; автор позиционирует публикацию как исследовательскую и возлагает на пользователей ответственность за соблюдение законов.

Мультимодальная инструкционная модель Gemma 4 Unified, созданная tepirale слиянием через Task Arithmetic на базе google/gemma-4-12B-it и двух производных моделей, ориентированных на программирование и агентные сценарии. Репозиторий содержит веса Safetensors и предназначен для диалогового использования; модель принимает текст и изображения и генерирует текстовые ответы. Слияние объединяет возможности исходной модели Google с направлениями coder и agentic. По данным карточки, модель поддерживает зрительные входы и относится к задаче image-text-to-text; базовая Gemma 4 также описана как мультимодальная модель для диалога, анализа изображений, видео и аудио, а также генерации кода. README не приводит отдельной оценки качества или подробностей об используемых сценариях. Лицензия, размер параметров, поддерживаемые языки и длина контекста в предоставленных данных не указаны. Практические ограничения и качество объединённых возможностей не описаны; сведения о лицензии исходной модели не позволяют установить условия лицензирования этого репозитория.

Gemma 4 26B-A4B-it-qat-MXFP4-CRACK — мультимодальная модель dealignai на основе Google Gemma 4 26B-A4B-it. Это вариант с удалённым отказом на запросы, который сохраняет работу с изображениями, ответы на вопросы, многошаговые рассуждения и генерацию кода. По данным карточки, в тесте HarmBench модель выполнила 58 из 60 запросов из вредоносных категорий, а результат MMLU составил 78,5% против 83,3% у базовой модели. Модель использует архитектуру MoE с 128 экспертами и восемью активными экспертами, а веса представлены в квантизации MXFP4 с точностью 4 бита. Для запуска автор рекомендует vMLX с поддержкой Gemma 4 на компьютерах Apple Silicon с достаточным объёмом объединённой памяти; стандартные mlx_lm и mlx_vlm, согласно README, не обеспечивают полной поддержки Gemma 4. Модель распространяется по лицензии Gemma. Она рассчитана на универсальный диалог с текстом и изображениями, но заметно снижает барьеры отказа на вредоносные запросы; результаты тестов приведены автором модели.

Gemma-4-E4B-Claude-4.6-Opus-Reasoning-Distilled — дообученная модель на базе google/gemma-4-E4B-it, разработанная пользователем arsovskidev. Она создана с использованием SFT и QLoRA в 4-битном режиме на наборе данных nohurry/Opus-4.6-Reasoning-3000x-filtered, содержащем около 2,3 тысячи отфильтрованных траекторий рассуждений, дистиллированных из Claude 4.6 Opus. Модель не связана с Anthropic и не одобрена этой компанией. Модель предназначена для текстовых задач, где важны пошаговое рассуждение и структурированный анализ: многошаговой математики, логики, декомпозиции и отладки кода, а также обработки сложных запросов. Она обучена формировать рассуждения внутри тегов <think> перед итоговым ответом. Указанная максимальная длина последовательности при обучении — 2048 токенов; язык обучения — английский. Доступны экспорты в формате GGUF с квантованием Q4_K_M и Q8_0. Сильные стороны модели — компактный размер порядка 4B параметров, ориентированность на более последовательное и обдуманное решение задач и возможность запуска через Ollama или llama.cpp. Ограничения включают небольшой объём обучающего набора, возможные галлюцинации и отсутствие обученных мультимодальных возможностей: несмотря на тег image-text-to-text и возможности базовой модели, этот вариант позиционируется как текстовый. Лицензия — Apache 2.0 с дополнительными Gemma Terms of Use.

Gemma4-Glamour-31B — модель Schneewolf Labs, дообученная на базе google/gemma-4-31B-it для генерации веб-дизайнов по текстовому описанию. Она создаёт фронтенд в виде блоков HTML, CSS и JavaScript; архитектура — плотная Gemma 4, размер базовой модели — 31 млрд параметров. Модель рассчитана на диалоговый сценарий и генерацию кода для веб-страниц. Модель обучена методом QLoRA SFT на примерно 445 парах «бриф — реализация» из поднабора Opus проекта Glamour, после чего адаптер объединён с весами. Это ранняя версия первого этапа обучения; автор предупреждает, что соблюдение формата ответа ещё развивается. Распространяется по лицензии Apache-2.0.

Gorilla-mpt-7b-hf-v0 — авторегрессионная языковая модель на архитектуре Transformer, основанная на MPT и дообученная командой Gorilla LLM из UC Berkeley. Это версия с нулевым числом примеров в запросе, обученная вызывать API Hugging Face по инструкциям на естественном языке; например, пользователь может попросить создать изображение из текста, а модель сформирует подходящий вызов API. Модель предназначена для генерации текста и выбора вызовов API Hugging Face. В README заявлена надёжность использования API, однако независимые показатели качества не приведены. Доступна по лицензии Apache-2.0.

GPT-OSS-20B-Pruned-28x — сжатая версия модели OpenAI GPT-OSS-20B, подготовленная автором репозитория TOk-Atsuru удалением экспертов из разреженной MoE-архитектуры Transformer. В каждом слое оставлено 28 из 32 экспертов; модель содержит 20,9 млрд параметров, из которых 3,6 млрд активны на токен. Она распространяется в формате GGUF и предназначена для генерации текста и диалогов, включая ответы на вопросы, рассуждения, решение математических задач и генерацию кода. По README, размер файла составляет 10,40 ГБ, что позволяет запускать модель при наличии 16 ГБ оперативной памяти; для инференса рекомендован llama.cpp, поддерживаются Apple Silicon, CUDA и CPU. Автор сообщает о результатах 78% на MMLU, 92% на GSM8K и 80% на тесте генерации кода, однако объём проверок невелик, а сравнение GSM8K с исходной моделью некорректно из-за разных размеров выборок. Модель предназначена прежде всего для английского языка; проверка специализированных областей и многоязычных сценариев не описана. Лицензия — Apache 2.0. README указывает, что дальнейшее удаление экспертов резко ухудшает качество, а поведение на отдельных примерах может отличаться от исходной модели. Для надёжного вывода автор рекомендует задавать max_tokens не менее 500 из-за расхода токенов на внутренний канал рассуждений.

claudios/graphcodebert-base — неофициальная перезагрузка microsoft/graphcodebert-base в формате SafeTensors, подготовленная с Transformers 4.40.1. GraphCodeBERT — предварительно обученная модель на базе Transformer и RoBERTa для представления программного кода; при обработке она учитывает структуру потока данных вместе с последовательностью токенов. В модели 12 слоёв, размер скрытого состояния 768 и 12 голов внимания; максимальная длина входа — 512 токенов. Модель обучена на CodeSearchNet, содержащем 2,3 млн функций с парами документации для шести языков программирования. Она предназначена для извлечения признаковых представлений кода, которые можно использовать как основу для поиска и других задач анализа кода. Репозиторий распространяется по лицензии MIT. Это перезагрузка базовых весов, а не отдельное дообучение; автор отмечает, что мог внести небольшие исправления, например в конфигурацию максимальной длины.

Hemlock-Coder-7B-i1-GGUF — квантованная версия модели Hemlock-Coder-7B, разработанной hemlang и подготовленной в формате GGUF пользователем mradermacher. Модель дообучалась на наборе данных Hemlock-SFT и предназначена прежде всего для генерации текста, включая задачи, связанные с программированием. В README указана поддержка английского языка. Модель основана на архитектуре с 7B параметров, однако подробности об архитектуре, размере контекста и поддерживаемых модальностях не приведены. Репозиторий содержит набор imatrix-квантов различных типов и размеров — примерно от 2,0 до 6,4 ГБ. Варианты отличаются компромиссом между требованиями к памяти, скоростью и качеством; для баланса размера, скорости и качества рекомендуются i1-Q4_K_S и i1-Q4_K_M, причём последний обозначен как быстрый и рекомендуемый. Более низкие уровни квантования могут заметно снижать качество. Сильной стороной модели является возможность локального запуска в компактных квантованных вариантах через совместимый с GGUF инструментарий. Ограничения включают отсутствие в README результатов тестирования, точного описания задач и качества, данных о контекстном окне, мультимодальности и лицензии. Условия лицензирования в предоставленных материалах не указаны.

Huihui-Qwen3-Coder-Next-abliterated — экспериментальная версия Qwen3-Coder-Next, созданная huihui-ai методом abliteration: из модели удалены механизмы отказа. Это причинная языковая модель архитектуры Qwen3-Next с MoE, примерно 2,3 млрд параметров, предназначенная для генерации текста в диалоговом формате и сценариев разработки кода на основе возможностей базовой модели. Она принимает текст и выдаёт текст; заявленная длина контекста — 262 144 токена. Карточка описывает изменение фильтрации отказов как грубую реализацию и proof of concept, поэтому качество и поведение модели могут быть нестабильными. Ослабленные ограничения безопасности повышают вероятность чувствительных, спорных или неприемлемых ответов. Модель распространяется по лицензии Apache-2.0.

InfiR-1B-Instruct — англоязычная инструктивная языковая модель от InfiX, дообученная на базе meta-llama/Llama-3.2-1B. Это плотная авторегрессионная модель семейства Llama с 1,2 млрд параметров; метаданные указывают контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста, в частности для математических рассуждений, написания кода и ответов с пошаговым рассуждением. Обучение включает продолженное предобучение на коде и веб-текстах, а также настройку инструкциями на смесях данных, среди которых Infinity-Instruct, Orca-AgentInstruct-1M и NuminaMath. В README приведены результаты на MMLU, GSM8K и MATH, но модель уступает крупным моделям на сложных задачах рассуждения. Оценивание сосредоточено на английских тестах, а многоязычная устойчивость не проверена; знания ограничены примерно серединой 2023 года. Лицензия — Llama 3.2.

Карточка модели PrimeIntellect/INTELLECT-1-step-15500 на Hugging Face совпадает с карточкой PrimeIntellect/INTELLECT-1-step-17000, поэтому описание составлено по ней. INTELLECT-1-step-17000 — промежуточный чекпойнт языковой модели INTELLECT-1, разработанной Prime Intellect совместно с Arcee AI и сообществом участников. Это плотная авторегрессионная модель семейства Llama примерно на 9,7 млрд параметров; в README указаны 42 слоя и 32 головы внимания. Модель обучалась с нуля на триллионе токенов англоязычных текстов и кода, включая веб-тексты, математические материалы и код. Чекпойнт соответствует шагу обучения 17 000; README также упоминает более поздние шаги и финальную версию. Модель предназначена для генерации продолжений текста и кода на английском языке. Контекстное окно составляет 8 192 токена. Обучение проводилось распределённо на нескольких континентах с использованием инфраструктуры Prime Framework для динамического масштабирования и отказоустойчивой связи между вычислительными узлами. Это промежуточный чекпойнт, поэтому его качество может уступать финальной версии и он не заявлен как инструкционная модель. Лицензия — Apache 2.0.

stojchet/jd8 — дообученная модель генерации текста на основе deepseek-ai/deepseek-coder-1.3b-base. Она предназначена для генерации и продолжения текста; базовая модель ориентирована на автодополнение кода и заполнение пропусков, однако README не уточняет специализацию этого дообучения. Модель использует плотную архитектуру семейства Llama и содержит 1,3 млрд параметров. Указанная длина контекста — 16 384 токена. Модель опубликована в формате safetensors и обучалась на наборе данных generator. README не приводит результатов оценки качества или подробностей о целевых сценариях. Лицензия в предоставленных данных не указана.

jkto10k1 — дообученная модель для генерации текста на основе deepseek-ai/deepseek-coder-1.3b-base. Она использует архитектуру Llama с плотной сетью и содержит 1,3 млрд параметров; максимальная длина контекста — 16 384 токена. Базовая модель предназначена для продолжения, автодополнения и заполнения пропусков в коде, однако README не описывает, на каких данных и для каких конкретных сценариев дообучали jkto10k1. Модель сохраняется в формате Safetensors. В метаданных указана лицензия other; конкретные условия использования в доступных сведениях не раскрыты. README не содержит результатов оценки или дополнительных сведений об ограничениях дообученной версии.

jnkto3 — дообученная модель для генерации текста на основе DeepSeek Coder 1.3B Base, разработанная владельцем репозитория stojchet. Это плотная авторегрессионная модель семейства LLaMA с 1,3 млрд параметров, рассчитанная на контекст до 16 384 токенов. Базовая модель предназначена для продолжения, автодополнения и заполнения пропусков в коде, однако карточка не уточняет, какие именно сценарии дообучения jnkto3 поддерживает. В README приведены результаты оценки: loss 0,4371 и метрики предпочтений выбранных и отклонённых ответов; сведений о датасете, языках, конкретной специализации, применении и ограничениях не дано. Модель опубликована в формате safetensors. Лицензия указана как other, поэтому условия использования следует сверить с карточкой репозитория.

MLX-версия K2-Horizon-0.9B от сообщества mlx-community, преобразованная из IFM/K2-Horizon-0.9B в формат bf16 без квантизации. Это плотная авторегрессионная модель-декодер с 924,5 млн параметров, предназначенная для генерации текста в диалоговом режиме. Метаданные каталога относят базовую модель к компактным моделям для рассуждений, математики, программирования и STEM; карточка описывает преобразование весов в MLX для запуска на Apple silicon. Метаданные указывают контекст 8192 токена, тогда как README базовой модели сообщает о контексте до 131 072 токенов с YaRN RoPE scaling. README сообщает о проверке соответствия реализации PyTorch на реальных весах и о тестовом запуске на MLX. Для работы требуется mlx-lm и код архитектуры из репозитория; в некоторых версиях mlx-lm нужен флаг trust_remote_code. Лицензия — Apache-2.0.

Kimi-K2-Base — базовая языковая модель, разработанная Moonshot AI. Это фундаментальная версия семейства Kimi K2, предназначенная для исследователей и разработчиков, которым нужен контроль над дообучением и созданием специализированных решений. Модель ориентирована на задачи работы с текстом, рассуждения, программирования, использования инструментов и построения автономных агентных систем. Модель использует архитектуру Mixture-of-Experts (MoE) с 1 трлн общих параметров и 32 млрд активируемых параметров. Она содержит 61 слой, включая один плотный слой, 384 эксперта, из которых для каждого токена выбираются 8, один общий эксперт, 64 attention-головы, скрытую размерность внимания 7168, размерность MoE-эксперта 2048 и словарь из 160 тысяч токенов. Используются механизм внимания MLA и функция активации SwiGLU; длина контекста составляет 128K токенов. Модель предварительно обучена на 15,5 трлн токенов с использованием оптимизатора MuonClip. README не указывает поддерживаемые языки и мультимодальные возможности, поэтому модель следует рассматривать как текстовую без подтверждённой мультимодальности. В отличие от готовой инструкционной версии, Base требует дополнительной настройки под конкретные сценарии и не предназначена прежде всего для непосредственного использования в чат-интерфейсе. Лицензия указана как modified MIT.

LayerSkip Llama3 8B — англоязычная языковая модель Meta, основанная на Meta-Llama-3-8B и дополнительно обученная с использованием LayerSkip. Она сохраняет возможности генерации текста и кода базовой модели и поддерживает self-speculative decoding: ранние слои формируют черновое продолжение, а оставшиеся слои его проверяют. Модель предназначена для генерации текста и кода с ускоренным выводом при использовании совместимой реализации LayerSkip или gpt-fast. В README приведён пример измерений на одной NVIDIA A100: self-speculative decoding показал 47,43 токена/с против 31,84 токена/с при авторегрессионном декодировании; результат зависит от реализации и оборудования. Стандартная реализация через Hugging Face описана как неоптимальная по памяти из-за дублирования весов и активаций. Репозиторий содержит веса в форматах PyTorch и Safetensors. Лицензия указана как other; условия использования следует проверять в материалах репозитория и базовой модели Meta-Llama-3-8B.

LeetCodeWizard_13B_v1.1a — языковая модель для решения и объяснения задач LeetCode и других задач программирования. В README указано, что её разработали дообучением WizardCoder-Python-13B на наборе задач LeetCode; метаданные описывают архитектуру как плотную LlamaForCausalLM с 12,9 млрд параметров, а максимальный контекст составляет 16 384 токена. Модель генерирует код и объяснения решений. Она рассчитана на подготовку к техническим собеседованиям и решение алгоритмических задач; в карточке приведён шаблон запросов в стиле Alpaca. В метаданных указаны английский язык и тег Python. Лицензия — Llama 2; условия её применения определяются соответствующей лицензией.

RESMP.DEV подготовил исследовательскую версию двунаправленного энкодера LiquidAI/LFM2.5-Encoder-230M для многоязычного поиска по коду; это не официальный релиз Liquid AI. Модель основана на плотной архитектуре LFM2, содержит около 221,2 млн параметров и принимает последовательности длиной до 128 000 токенов. Из исходной модели удалена голова masked-language modeling, а полный энкодер дообучен контрастивным методом на парах запросов и фрагментов кода. В README указана MXFP8-квантизация, а способ запуска использует MLX; приведены сопоставления качества на отложенном тестовом наборе и измерения скорости и памяти. Модель предназначена для получения эмбеддингов запросов и кода, поиска релевантных фрагментов в многоязычных репозиториях и построения сервисов поиска кода. При прямом использовании README рекомендует добавлять к запросам префикс «query: », а к кандидатам с кодом — «passage: ». В тестах на Python качество поиска заметно выше, чем на TypeScript; результаты зависят от языка и квантизации, поэтому MXFP8 не следует считать безусловной заменой BF16. В метаданных указана лицензия other, поэтому условия использования следует сверять с файлами репозитория.

RESMP.DEV LFM2.5 Encoder 350M Code BF16 — исследовательский релиз, производный от LiquidAI/LFM2.5-Encoder-350M и не являющийся официальным выпуском Liquid AI. Это плотный двунаправленный энкодер семейства LFM2, дообученный контрастивным обучением всего энкодера для многоязычного поиска по коду. Удалена исходная голова masked language modeling; чекпойнт BF16 предназначен как эталон качества и переносимый артефакт для Transformers. Модель преобразует запросы и фрагменты кода в векторы для поиска релевантных фрагментов. В README приведены результаты на отложенном наборе из 6 995 пар; показатели заметно различаются между Python и TypeScript, поэтому качество на конкретном языке и корпусе следует проверять отдельно. Размер составляет 444,6 млн параметров, контекст — до 128 000 токенов. Модель рассчитана на код и мультиязычные сценарии; конкретный перечень естественных языков в предоставленных данных не раскрыт. Лицензия в метаданных указана как other, поэтому условия коммерческого и иного использования нужно сверить с карточкой репозитория. Это исследовательский релиз, а практическая скорость и потребление памяти зависят от оборудования и среды запуска.