I.2Синтез, понимание и проверка знаний

swardiantara/bert-tiny-sst5-k1-fixed-cosine — компактная Sentence Transformer-модель на базе BERT, дообученная для сопоставления предложений. Она кодирует текст в плотные векторы размерности 128 и предназначена для поиска и сравнения фраз или абзацев по косинусному сходству. Архитектура включает BertModel с усреднением токенных представлений; модель содержит 4,4 млн параметров. Метаданные указывают контекст до 512 токенов, а карточка модели сообщает максимальную длину последовательности 128 токенов. Модель принимает текст и возвращает эмбеддинги. Обучение описано на 8 554 парах текстов с OrdinalProxyContrastiveLoss; примеры и базовая модель указывают на англоязычные данные. Компактный размер подходит для векторного поиска и семантического сравнения при ограниченных вычислительных ресурсах. Качество и применимость за пределами английского языка карточкой не подтверждены. Лицензия в предоставленных данных не указана.

ArnavKewalram/bge-small-code-v1 — текстовая Sentence Transformer-модель, дообученная разработчиком на базе BAAI/bge-small-en-v1.5. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для поиска и сравнения текстов. Архитектура основана на BERT: используется CLS-пулинг и нормализация эмбеддингов, а сходство можно оценивать косинусной мерой. Модель рассчитана на текстовые сценарии, включая семантический поиск и извлечение релевантных фрагментов. Метаданные указывают 40 млн параметров и контекст до 512 токенов; в README указан максимальный размер последовательности 384 токена. Карточка называет базовую модель англоязычной, поэтому применение для кода или других языков не следует считать подтверждённым одним лишь названием репозитория. Лицензия в доступных данных не приведена.

darkmaniac7/bge-small-en-MNN — это конверсия модели эмбеддингов BAAI/bge-small-en-v1.5 в формат MNN, подготовленная TokForge для локального вывода на Android, Linux и iOS. Модель предназначена для построения векторных представлений текстов, семантического поиска, sentence similarity, RAG, а также формирования embeddings для памяти и задач reflection на устройствах без зависимости от GGUF/llama.cpp. Исходные веса разработаны Beijing Academy of Artificial Intelligence, а конверсия не содержит новых весов. Модель основана на 12-слойном BERT-энкодере с 33 млн параметров, размером скрытого состояния 384, 12 attention heads и промежуточным слоем размерности 1536. Используются CLS-пулинг и L2-нормализация; размер итогового embedding — 384, максимальная длина последовательности — 512 токенов. Веса представлены в fp16, размер файла составляет около 64 МБ. Поддерживается английский язык; модель принимает токенизированный текст и возвращает last_hidden_state, из которого извлекается embedding CLS-токена. Сильная сторона модели — возможность эффективного on-device-инференса через MNN и практически полное совпадение качества с GGUF-базовой версией в указанном синтетическом retrieval-тесте: для Recall@1, @3, @5 и @10 регрессии не выявлено, а среднее межмодельное cosine similarity составило 0,9962. Ограничения включают поддержку только английского языка, предел в 512 токенов и необходимость корректно выполнять CLS-пулинг, L2-нормализацию и, для асимметричного поиска, добавлять стандартный BGE-префикс к запросу. Модель распространяется по лицензии MIT.

Xenova/bge-small-en-v1.5 — модель для создания векторных представлений предложений и текстов, опубликованная в формате ONNX для совместимости с Transformers.js. Она основана на BAAI/bge-small-en-v1.5, разработанной BAAI, и рассчитана на использование в JavaScript-приложениях, включая веб-среду. Модель предназначена для семантического поиска и retrieval-сценариев: тексты преобразуются в эмбеддинги размерностью 384, после чего их можно сравнивать, например, по косинусному сходству. README демонстрирует усреднённый pooling и нормализацию векторов, а также рекомендует добавлять к запросам специальный префикс для поиска релевантных фрагментов. По обозначению en модель ориентирована на английский язык. Она удобна для локального выполнения и интеграции через Transformers.js, однако README не содержит сведений о точной архитектуре, максимальной длине контекста, бенчмарках, ограничениях качества или лицензии.

OpenThai Chinda 4B — языковая модель iApp Technology, дообученная на базе Qwen3-4B для работы прежде всего с тайским языком. Она построена на плотной архитектуре Qwen3ForCausalLM и содержит около 3,7 млрд параметров. Модель поддерживает диалог и переключение между режимами рассуждения и обычной генерации; заявленное нативное окно контекста — 40 960 токенов по метаданным, а README рекомендует держать контекст в пределах 32 768 токенов для оптимальной работы и описывает расширение до 131 072 токенов с YaRN. Модель предназначена для тайскоязычных чат-ботов и RAG-систем, математических задач, генерации кода и локального запуска на пользовательских устройствах. README заявляет точность генерации на тайском 98,4% и высокие результаты в приведённых бенчмарках, но эти показатели представлены разработчиком и зависят от методики оценки. Для фактических вопросов без контекста модель может галлюцинировать; для таких сценариев рекомендуется предоставлять источники или использовать RAG. Модель выпущена по лицензии Apache 2.0, разрешающей коммерческое и частное использование, модификацию и распространение.

Conan-embedding-v1 — модель эмбеддингов от Tencent, представленная в формате sentence-transformers и основанная на архитектуре BERT. Она преобразует текст в векторные представления для поиска и сравнения текстов; в карточке приведены результаты на задачах извлечения, ранжирования, кластеризации и оценки сходства предложений. Модель содержит 424,3 млн параметров, принимает последовательности длиной до 512 токенов и доступна в форматах PyTorch и safetensors. В метаданных указан китайский язык. По опубликованному сравнению модель показывает средний результат 72,62, а также результаты по отдельным категориям MTEB. Подробности обучения отсылаются к техническому отчёту, который не включён в карточку. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

AnkushRaut216/Contrastive-Finetuned-for-AI-all-MiniLM-L6-V2 — дообученная контрастивным методом модель семейства MiniLM на текстах, связанных с искусственным интеллектом. Она построена на MiniLM-L6-H384-uncased и использует архитектуру BERT; модель содержит 25,9 млн параметров и рассчитана на текстовые входы длиной до 512 токенов по метаданным. README указывает, что последовательности длиннее 256 word pieces обрезаются, поэтому фактический предел может зависеть от используемого пайплайна. Модель преобразует предложения и короткие абзацы в плотные векторы размерностью 384, пригодные для семантического поиска, оценки сходства и кластеризации текстов. Обучение на парах предложений с контрастивной целью помогает сопоставлять близкие по смыслу фразы; карточка называет специализированную область — тексты об ИИ. Указанный язык карточки — английский. Модель распространяется под лицензией Apache-2.0. Она выдаёт эмбеддинги, а не готовые ответы или сгенерированный текст; качество на других языках и предметных областях в предоставленных данных не описано.

nixiesearch/e5-small-v2-onnx — это ONNX-версия модели intfloat/e5-small-v2, преобразованная с помощью инструмента onnx-convert. Модель разработана для преобразования предложений и абзацев в плотные векторы фиксированной размерности, пригодные для семантического поиска, кластеризации и задач определения сходства текстов. Модель относится к семейству sentence-transformers и предназначена прежде всего для англоязычных текстов. В составе доступны вариант Float32 с оптимизацией уровня 2 и вариант model_opt2_QInt8.onnx с 8-битным квантованием QInt8 и той же оптимизацией. Размерность эмбеддингов в README не указана; сведения об архитектуре, максимальной длине контекста и точной поддерживаемой мультимодальности отсутствуют. Модель работает только с текстовыми входами. К сильным сторонам относятся формат ONNX, наличие оптимизированной и квантованной версии, а также возможность использовать модель в системах семантического поиска и кластеризации. Ограничения включают отсутствие заявленной поддержки других языков и нехватку данных о производительности, размере векторов и контекстном окне. Модель распространяется по лицензии Apache 2.0.

embeddinggemma-pt-br — португалоязычная модель для создания текстовых эмбеддингов, подготовленная tardellirs на основе google/embeddinggemma-300m. Это плотный текстовый энкодер семейства Gemma 3 с 151,8 млн параметров, библиотекой Sentence Transformers и контекстом до 2048 токенов. Размер словаря сокращён до 64 тыс. наиболее частотных португальских токенов: матрица токенов была усечена, а энкодер и слои pooling и Dense сохранены без изменений. По README, вариант сохраняет 98,8% результата исходной модели на MTEB(por), при этом обучение не проводилось. Модель предназначена для получения эмбеддингов и семантического сравнения португалоязычных текстов, например для поиска, классификации, кластеризации и ранжирования. Для других языков качество может быть низким из-за возврата к побайтовой токенизации. Указанная лицензия — Gemma; применяйте модель в соответствии с её условиями.

Gemma-4-26B-A4B-JANG_4M-CRACK — мультимодальная MoE-модель на базе google/gemma-4-26b-a4b-it, подготовленная dealignai. В ней заявлены 128 экспертов с выбором 8 активных, гибридное скользящее и глобальное внимание, режим рассуждений и обработка изображений. Репозиторий содержит квантизированные веса в формате safetensors; профиль JANG_4M использует указанные авторами уровни точности 8 и 4 бит для разных частей модели. Для запуска рекомендован vMLX или совместимый движок MLX с поддержкой Gemma 4; в README указаны Mac на Apple Silicon и 24 ГБ или больше объединённой памяти. Модель предназначена для диалогов, программирования, общих вопросов и анализа изображений. Автор сообщает о тестах на HarmBench, MMLU и наборе запросов по кибербезопасности, однако это результаты собственных проверок, а не независимая оценка качества. Модель намеренно ослабляет отказы на вредоносные запросы, что повышает риск получения небезопасных инструкций; показатели бенчмарков сами по себе не гарантируют качество или безопасность в практических сценариях. Лицензия — Gemma; README описывает модель как исследовательскую и возлагает ответственность за соблюдение законов на пользователя.

Карточка модели ImranzamanML/German_Semantic_V3b_Optimised на Hugging Face совпадает с карточкой aari1995/German_Semantic_V3b, поэтому описание составлено по ней. German_Semantic_V3b — немецкоязычная модель эмбеддингов, разработанная Аароном Чиббом. Это дообученная версия aari1995/gbert-large-2 на архитектуре JinaBertModel, предназначенная для получения векторных представлений предложений и сравнения их семантической близости. Модель содержит 434,5 млн параметров и принимает последовательности длиной до 8192 токенов. Модель рассчитана на немецкий язык и особенно учитывает культурный контекст Германии. Она устойчива к небольшим опечаткам и различиям в регистре. Поддерживаются Matryoshka-эмбеддинги размером от 1024 до 64 измерений: уменьшение размерности снижает требования к хранению, но может немного ухудшить качество. По README, V3b ориентирована на высокую производительность, однако её знания ограничены периодом примерно до 2020 года. Лицензия — Apache 2.0.

GLiFormer Large v1 — модель Knowledgator с 575,6 млн параметров, использующая общий layout-aware энкодер DeBERTa и специализированные головы задач. Она предназначена для извлечения именованных сущностей и отношений, классификации текста, формирования структурированных записей по заданной схеме и получения текстовых эмбеддингов. Метки и схема извлечения задаются при инференсе; можно выполнять несколько задач за один вызов. Несмотря на поддержку разметки макета документов в архитектуре, приведённые примеры и оценки относятся к текстовым задачам. Карточка приводит результаты оценки на англоязычных данных: средний строгий F1 для NER на 26 наборах — 50,91, средний macro-F1 классификации на 13 наборах — 75,03; показатели извлечения отношений существенно различаются между наборами. Качество зависит от меток, формулировки схемы, длины входа и порогов. Модель может пропускать сведения, ошибаться в границах сущностей и отношениях между записями; результаты для других языков, макетов документов и эмбеддингов в карточке не подтверждены. Лицензия — Apache-2.0.

GRM-1.5b — компактная языковая модель общего назначения, разработанная OrionLLM и дообученная на базе Qwen/Qwen2.5-1.5B-Instruct для многоэтапных рассуждений. Модель предназначена для решения задач по математике, логике, программированию и широкому кругу вопросов; её также предлагают использовать как основу для дальнейшего дообучения. В обучающую смесь, согласно карточке, включены некоторые данные для медицинских рассуждений. Модель имеет плотную архитектуру Qwen2, содержит 1,5 млрд параметров и поддерживает контекст до 32 768 токенов. Она принимает текст и генерирует текст; доступна в формате safetensors для Transformers. В карточке приведены результаты на математических, научных и программных бенчмарках, но они сами по себе не гарантируют качество на конкретных пользовательских задачах. Модель распространяется по лицензии Apache-2.0. Её небольшой размер удобен для локального запуска и экспериментов, однако, как компактная модель, она может уступать более крупным моделям в сложных задачах и требует проверки ответов, особенно в медицинских сценариях.

gte-multilingual-reranker-base — мультиязычная модель ранжирования текстов из семейства GTE, разработанная Alibaba NLP. Она предназначена для повторной сортировки найденных документов или фрагментов по релевантности запросу, например, в поисковых системах и конвейерах RAG. Модель использует encoder-only архитектуру трансформера и содержит около 305,3 млн параметров; максимальная длина входа — 8192 токена. По README, она показывает высокие результаты в мультиязычном поиске и при сопоставлении с моделями-реранкерами близкого размера, а её скорость инференса примерно в десять раз выше, чем у упомянутых decoder-only моделей, при меньших требованиях к оборудованию. Поддерживает более 70 языков; метаданные карточки перечисляют языки от арабского до польского, включая английский и русский. Модель принимает текстовые пары «запрос — документ» и оценивает их релевантность, чтобы упорядочить кандидатов. Распространяется под лицензией Apache-2.0. Результаты зависят от качества исходного набора кандидатов: реранжирование само по себе не находит документы, отсутствующие среди входных вариантов. README не приводит подробностей об оценках для каждого языка или домена.

gte-Qwen2-1.5B-instruct-GGUF — квантованная GGUF-версия модели Alibaba-NLP/gte-Qwen2-1.5B-instruct. В метаданных указано, что модель создана intfloat, а квантование выполнено Second State Inc. Это модель для получения текстовых эмбеддингов, предназначенная для задач семантического сходства и других сценариев sentence-transformers, включая поиск и сопоставление текстов по смыслу. Модель основана на Qwen2 и содержит 1,5 млрд параметров. Она работает в режиме embedding и поддерживает контекст размером до 32 000 токенов при использовании LlamaEdge версии 0.12.2 или новее. Доступны варианты GGUF с квантованием от 2 до 8 бит, а также f16, размером примерно от 752 МБ до 3,56 ГБ. Вариант Q4_K_M заявлен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с очень небольшими потерями качества. Сильной стороной модели являются сравнительно компактные квантованные варианты и возможность локального запуска через LlamaEdge. Ограничения включают потерю качества при низкобитном квантовании; README прямо не рекомендует Q2_K, Q3 и некоторые другие варианты для большинства задач. Языки и точные характеристики архитектуры эмбеддера не указаны. Модель распространяется по лицензии Apache-2.0.

Idefics3-8B-Llama3 — мультимодальная модель Hugging Face, принимающая текст и одно или несколько изображений в произвольном чередовании и формирующая текстовые ответы. Визуальная часть использует SigLIP SO400M, а языковая основана на Meta-Llama-3.1-8B-Instruct. Модель относится к семейству Idefics3 и доступна в формате safetensors через Transformers. Модель предназначена для ответов на вопросы по изображениям, описания визуального содержимого, распознавания текста и анализа документов, а также визуальных рассуждений. Она может работать и с текстом без изображений; генерировать изображения не умеет. В README указан английский как язык модели. Для кодирования изображения 364×364 используются 169 визуальных токенов; большие изображения делятся на фрагменты и кодируются отдельно. Модель улучшает результаты Idefics2 на приведённых в карточке тестах, особенно на задачах понимания документов. Постобучение включало supervised fine-tuning без RLHF, поэтому ответы могут быть краткими и иногда требуют уточнения запроса. Результаты могут содержать фактические ошибки; модель не предназначена для критически важных решений и сценариев, где необходимы достоверные выводы. Лицензия — Apache 2.0.

IvmeLabs/Ivme-Conversate-N-v2-Instruct — компактная инструктивная языковая модель от IvmeLabs с 9 021 600 параметрами. Это плотный decoder-only Transformer с tied embeddings, multi-head attention, RoPE, SwiGLU и RMSNorm; архитектура повторяет рецепт базовой модели Ivme-Conversate-v2-Base без заявленной архитектурной новизны. Модель обучалась за одну эпоху примерно на 900 млн токенов, с упором на инструкции и диалоги с самого начала обучения. В набор данных вошли многоходовые диалоги UltraChat-200k, SODA, трассы рассуждений UltraInteract, математические задачи Orca Math, инструкции Dolly-15k и примеры SQL. Она предназначена для генерации ответов в диалоге и выполнения текстовых инструкций, включая рассуждения, математические задачи и составление SQL. Карточка указывает английский язык, библиотеку Transformers и лицензию Apache-2.0. Для загрузки в Transformers README требует trust_remote_code=True.

KaLM-embedding-multilingual-mini-v1-i1-GGUF — GGUF-квантизованная версия модели HIT-TMG/KaLM-embedding-multilingual-mini-v1, подготовленная и опубликованная mradermacher. Это модель для получения векторных представлений текста, предназначенная для семантического поиска, сравнения сходства предложений, кластеризации и других задач извлечения признаков; в карточке также указана совместимость с экосистемой sentence-transformers и MTEB. Модель позиционируется как мультиязычная, однако в метаданных README явно указан только английский язык. Архитектура, число параметров, размерность эмбеддингов, максимальная длина контекста и сведения о поддерживаемых модальностях не приведены. Доступны многочисленные варианты GGUF-квантизации размером примерно от 0,4 до 0,5 ГБ, включая IQ- и Q-форматы; Q4_K_S отмечен как оптимальный по соотношению размера, скорости и качества, а Q4_K_M — как быстрый и рекомендуемый. Основные преимущества — небольшой размер файлов и возможность выбрать компромисс между скоростью, занимаемой памятью и качеством. При этом агрессивные варианты квантизации могут заметно снижать качество, а README не содержит количественных результатов тестирования или подробного описания ограничений. Модель распространяется по лицензии MIT; в карточке указано, что квантизацию выполнил mradermacher.

KazEmbed-V5 — это дообученная Nurlykhan модель эмбеддингов на базе intfloat/multilingual-e5-base, предназначенная прежде всего для поиска по текстам на казахском языке и построения RAG-систем. Модель использует архитектуру XLM-RoBERTa и содержит около 305 млн параметров по метаданным; README указывает 278 млн. Она преобразует запросы и фрагменты текста в векторы для поиска релевантных материалов и сопоставления предложений. Для наилучших результатов при поиске README рекомендует добавлять к запросам префикс «query:», а к документам — «passage:».

KoSimCSE-roberta — модель эмбеддингов корейских предложений из проекта Korean-Sentence-Embedding. Она построена на архитектуре RoBERTa и предназначена для преобразования текста в векторы, пригодные для сравнения смысловой близости предложений и поиска семантически похожих текстов. Модель содержит 137,8 млн параметров и принимает последовательности длиной до 514 токенов. В карточке проекта приведены результаты оценки на тесте семантического сходства текстов, а также отмечена возможность использовать предварительно обученные модели для инференса и обучения. Модель ориентирована на корейский язык. Метаданные указывают форматы PyTorch и Safetensors; сведения о лицензии в доступных данных отсутствуют.

Это квантованная в формате MXFP4_MOE сборка разговорной гибридной MoE-модели Ling-3.0-flash от Inclusion AI, опубликованная в формате GGUF. Она предназначена для генерации текста в диалогах; базовая модель также рассчитана на программирование и многошаговые агентные задачи. Для запуска в карточке рекомендуется llama.cpp. Сведения о размере модели, контекстном окне и поддерживаемых языках в доступных данных отсутствуют. Квантование уменьшает точность весов и предназначено для запуска модели в более компактном формате, однако доступные данные не содержат результатов оценки качества этой сборки. Лицензия не указана в предоставленных сведениях.

Loxa-3B — языковая модель семейства Loxa от AIFRAME, созданная для генерации текста на маломощных CPU, включая Raspberry Pi 4 и 5 с объёмом памяти от 8 ГБ. Это плотная причинная модель архитектуры LlamaForCausalLM размером 3,2 млрд параметров с контекстом до 131 072 токенов; для работы используется библиотека Transformers и формат PyTorch. Модель предназначена для диалога и помощи в математике, программировании, науке и формальных беседах, а также для образовательных и персональных проектов и встраиваемых систем. Карточка заявляет общую точность 92%, но не приводит методику или набор оценки. Модель может выдавать ошибочные или бессвязные ответы, а качество зависит от сложности и длины запроса; её не следует без проверки использовать в критически важных задачах. Лицензия — Apache-2.0.

lt-wikidata-comp-zh — модель LinkTransformer, разработанная исследователями Harvard. Это дообученная модель на базе DMetaSoul/sbert-chinese-qmc-domain-v1 для сопоставления записей и сущностей по китайским данным Wikidata, включая псевдонимы компаний. Она помогает находить совпадающие записи, кластеризовать и дедуплицировать данные, связывать и агрегировать сущности; также подходит для семантического поиска и других задач сходства предложений. Модель основана на BERT и sentence-transformers, содержит 129,5 млн параметров и преобразует текст в плотные эмбеддинги размерностью 768. Метаданные указывают контекст до 512 токенов; в конфигурации README для обработки задана максимальная длина последовательности 256 токенов. Модель обучена для китайского языка с использованием SupCon loss. Для применения доступны веса в формате safetensors и интеграция с пакетом LinkTransformer. README не сообщает лицензию, поэтому условия использования следует проверить на странице модели.

Marin 32B — базовая авторегрессионная языковая модель, разработанная командой Marin Project. Она предназначена для генерации продолжений текста и служит основой для разработки и адаптации языковых моделей. Модель обучена на корпусах общего текста, кода, математики, научных материалов и вопросов и ответов; в карточке приведены результаты оценки на общих языковых, математических и программных тестах. Модель имеет плотную архитектуру Qwen3 с 31,9 млрд параметров, QK-Norm attention, 64 слоями и контекстом 4096 токенов. Она работает с Transformers и принимает текст, выдавая текст. Основной язык — английский. По данным карточки, обучающие данные не выходят за июль 2024 года. Marin 32B — базовая модель без настройки безопасности; она может выдавать вредный или неточный текст и не предназначена для полностью автономного использования. Код и веса распространяются по лицензии Apache 2.0.

Это набор файлов GGUF с разными вариантами квантования модели Qwen2.5-7B-Instruct-bf16, опубликованный featherless-ai-quants на основе mlx-community/Qwen2.5-7B-Instruct-bf16. Модель предназначена для диалоговой генерации текста и использования в чат-приложениях; доступны варианты IQ4_XS, Q2_K и Q3_K_L, а README сообщает о ещё восьми строках вариантов квантования. Веса представлены в формате GGUF с точностью BF16 и вариантами квантования. README описывает файлы и сервис хостинга Featherless AI, но не приводит сведения о контекстном окне, поддерживаемых языках или условиях лицензии; эти параметры здесь не уточняются.

Nemotron-Flash-3B Base — базовая языковая модель NVIDIA для генерации текста. Это плотная причинная трансформерная модель семейства Nemotron Flash с архитектурой NemotronFlashForCausalLM и 1,3 млрд параметров. Семейство спроектировано с учётом задержки на реальных сценариях: в нём используются гибридные операторы, найденные эволюционным поиском, оптимальное соотношение глубины и ширины и нормализация весов на этапе обучения. Модель предназначена для генерации продолжений текста и может применяться в задачах математических рассуждений, программирования и здравого смысла. В README заявлены результаты на уровне лучших моделей своего размера, а также низкая задержка при небольших пакетах и высокая пропускная способность при больших. Для запуска описана интеграция с Transformers и ускорение CUDA Graph; контекст составляет 29 000 токенов. Это базовая, а не Instruct-версия, поэтому карточка не заявляет, что она настроена для диалога по инструкциям. Модель распространяется под лицензией с типом «other»; конкретные условия следует проверять в файлах лицензии репозитория. Для загрузки указаны Transformers и формат safetensors.

Octen-Embedding-8B W4A16 — квантизированный чекпойнт модели Octen-Embedding-8B, опубликованный пользователем groxaxo. Модель предназначена для получения векторных представлений текста и задач feature extraction, включая семантический поиск, retrieval и сопоставление запросов с документами, при локальном или размещённом на сервере инференсе. Модель использует формат AWQ/AutoRound с квантизацией W4A16: веса представлены в 4-битном формате, а активации — в 16-битном. Квантизировано 252 из 253 слоёв, размерность эмбеддингов составляет 4096, модель занимает около 8,1 ГБ в двух шардах против 15 ГБ у базовой версии. Валидация проводилась с last-token pooling и L2-нормализацией; среднее косинусное сходство с базовой моделью превысило 0,98, а на небольшом наборе из пяти пар запрос—документ ухудшения Recall не наблюдалось. На RTX 3060 с 12 ГБ VRAM модель успешно запускалась, потребляя около 4,53 ГБ памяти. Сильными сторонами являются заметное сокращение размера и требований к памяти при сохранении близкого к исходной модели поведения. Ограничения связаны с зависимостью от runtime, совместимого с данным форматом и архитектурой, а также с тем, что опубликованная проверка выполнена на небольшом наборе данных; качество на конкретном распределении текстов необходимо оценивать отдельно. Языки и максимальная длина контекста в карточке не указаны. Модель распространяется по лицензии Apache-2.0.

talzoomanzoo/qwen2_5_3b_uid_reference_lr3e6_step2 — дообученная языковая модель на архитектуре Qwen2, созданная на базе Qwen/Qwen2.5-3B. Модель содержит 3,1 млрд параметров и использует формат safetensors; метаданные указывают интерфейсы чата и вызова инструментов. Модель предназначена для генерации текста и может использоваться в диалоговых приложениях и системах, подключающих инструменты. Заявленная длина контекста — 32 768 токенов. Метаданные не определяют специализацию по предметной области или поддержку конкретных естественных языков. Указана лицензия other; конкретные условия использования по имеющимся данным установить нельзя.

Qwen2.5-VL-7B-Instruct-heretic — модифицированная версия мультимодальной модели Qwen2.5-VL-7B-Instruct, разработанная автором saidutta69 с использованием Heretic v1.4.0. Модель предназначена для работы с текстом и изображениями, а также поддерживает сценарии, связанные с OCR, разбором документов, привязкой объектов на изображении и анализом видео. В карточке указано, что основной язык — английский. Модель сохраняет архитектуру и основные возможности базовой Qwen2.5-VL-7B-Instruct; заявленный нативный размер составляет около 8,3 млрд параметров. Вариант создан методом directional ablation («abliteration»): из весов целенаправленно удалены направления, связанные с отказами в ответах, без дообучения. Поэтому у модели должны в значительной степени сохраняться знания в области vision-language и следование инструкциям базовой модели, но защитные ограничения и фильтрация намеренно ослаблены. Это может быть полезно разработчикам, которым требуется меньше отказов, однако одновременно повышает риск выдачи нежелательного или небезопасного содержимого. Доступны полные веса в формате Safetensors BF16 и текстовые GGUF-квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0. GGUF-файлы содержат текстовую часть и не включают vision-энкодер, поэтому для полноценной мультимодальной работы следует использовать полные веса Safetensors. Модель совместима с Transformers, llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Лицензия — Apache-2.0, унаследованная от базовой модели.

dnotitia/Qwen3-1.7B — версия Qwen3, подготовленная Dnotitia для более удобного обучения. Веса совпадают с официальной моделью Qwen3, а шаблон чата вынесен в отдельный файл и дополнен тегами TRL для режима assistant_only_loss. Это плотная причинная языковая модель с 1,7 млрд параметров на архитектуре Qwen3ForCausalLM, рассчитанная на генерацию текста и диалог. Модель подходит для прототипирования диалоговых помощников, генерации и продолжения текста, а также экспериментов с дообучением. Семейство Qwen3 поддерживает переключение между режимами рассуждения и обычного ответа, работу с инструментами и более чем 100 языками; эти возможности описаны для семейства в целом. Метаданные указывают контекст до 40 960 токенов, тогда как README приводит 32 768 токенов. Репозиторий использует Transformers и формат safetensors. Лицензия — Apache-2.0. README предупреждает о возможных бесконечных повторах и рекомендует при их появлении настроить параметры генерации, в частности presence_penalty=1.5.