I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельЭто инфраструктурная конверсия текстового энкодера T5Gemma 2 от Google, опубликованная jadanovitch для запуска через vLLM. В репозитории оставлена только текстовая часть базовой модели google/t5gemma-2-4b-4b; веса отображены в формат Gemma3ForCausalLM без изменений, а vision-, decoder- и мультимодальные веса удалены. Модель содержит 4 млрд параметров, 34 слоя, размер скрытого состояния 2560 и двунаправленное внимание. Веса и активации представлены в BF16, заявленный контекст — до 131 072 токенов. Модель предназначена для текстового кодирования, поиска, ранжирования и экспериментов с энкодерной архитектурой в vLLM. Хотя конфигурация позволяет загрузить её через runner для генерации, модель не обучалась как самостоятельная авторегрессионная языковая модель, поэтому обычную генерацию текста нельзя считать её целевым сценарием. Применяются условия лицензии Gemma.
sinanalyuruk/trmteb-trnews-v1-mlx — турецкая модель эмбеддингов для поиска новостей и сравнения текстов, подготовленная для Apple Silicon. Это MLX-сборка дообученной модели trmteb/turkish-embedding-model на новостном датасете TR-News; веса в формате float16 преобразованы из PyTorch-сборки. Модель основана на BERT и содержит 137,8 млн параметров. Модель преобразует текст в L2-нормализованные векторы размерности 768 с помощью mean pooling. Их можно сравнивать по косинусному сходству или скалярному произведению для поиска похожих новостей и ранжирования результатов. Максимальная длина последовательности — 512 токенов; основным языком является турецкий. Сборка предназначена для запуска через mlx-embeddings на Apple Silicon и требует mlx версии 0.30 или новее и mlx-embeddings версии 0.1.0 или новее. В README указано совпадение результатов с исходной PyTorch-моделью при проверке эмбеддингов и метрик поиска. Лицензия — MIT.
Violet_Twilight-v0.1 — разговорная модель для генерации текста, созданная Epiculous с помощью слияния SLERP моделей Azure_Dusk и Crimson_Dawn. Она основана на плотной архитектуре Mistral и содержит 12,1 млрд параметров. Модель предназначена для общения, ролевых диалогов и генерации ответов в стиле помощника; для неё рекомендуются шаблон Mistral Instruct и формат запроса [INST] Prompt goes here [/INST]. В метаданных заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков, а длина контекста указана как 1 024 000 токенов. Модель распространяется под лицензией Apache-2.0. README предупреждает, что некоторые квантованные варианты могут некорректно работать с шаблоном Mistral; для GGUF автор рекомендует попробовать ChatML. Репозиторий содержит веса safetensors, а README также упоминает варианты full, EXL2 и GGUF.
pierluigic/xl-lexeme — модель на базе Sentence Transformers с архитектурой XLM-RoBERTa, разработанная pierluigic. Она преобразует целевое слово вместе с контекстом предложения в плотный вектор размерности 1024. Модель предназначена для сравнения контекстных значений слов и может применяться для поиска семантически близких примеров и кластеризации. Чекпойнт содержит 658,7 млн параметров и рассчитан на контекст до 514 токенов. При обучении использовалась ContrastiveLoss с косинусной метрикой расстояния. Модель принимает текст и выдаёт векторы; карточка не уточняет поддерживаемые естественные языки. Указана библиотека PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.
Infermatic выпустила Infermatic/14b-Qwen2.5-Infermatic-Crea-v1 — объединённую методом Model Stock через mergekit языковую модель на архитектуре Qwen2.5. В основе лежит Qwen/Qwen2.5-14B-Instruct; в объединение также вошли модели Kunou, abliterated, Lumen и Gutenberg. Модель содержит 14 млрд параметров, работает с текстом и имеет контекст длиной до 32 768 токенов. Модель предназначена для генерации текста, описания чувств, мест, предметов и ситуаций, а также для ролевых диалогов и написания историй. Карточка отмечает поддержку чата и интерфейса вызова инструментов. Данных о целевых языках в предоставленных источниках нет. В репозитории указана лицензия? — сведения о лицензии среди предоставленных данных отсутствуют, поэтому условия использования по ним определить нельзя. Качество ответов зависит от настроек и промптов; автор отмечает, что отказы могут возникать и их поведение зависит от этих настроек.
Карточка модели AzeerDev/arabic-reranker на Hugging Face совпадает с карточкой oddadmix/arabic-reranker, поэтому описание составлено по ней. oddadmix/arabic-reranker — арабоязычный реранкер, дообученный на базе Omartificial-Intelligence-Space/Arabic-Triplet-Matryoshka-V2, которая, согласно README, основана на aubmindlab/bert-base-arabertv02. Модель использует архитектуру BERT и оценивает релевантность пары «запрос — текст», чтобы переупорядочивать результаты поиска или варианты ответа. Модель предназначена для повторного ранжирования арабских документов и абзацев в информационном поиске, поисковых системах и сценариях вопросно-ответных систем с выбором среди кандидатов. Она обучалась на синтетических арабских триплетах, созданных с помощью LLM, и дополнительно настраивалась методом оценки. Размер модели — 162,4 млн параметров, максимальная длина входа — 512 токенов; в README приведён пример использования через sentence-transformers CrossEncoder. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.
anthonymeo/augmented-smilodon-1 — разговорная языковая модель, обученная с помощью H2O LLM Studio на базе h2oai/h2o-danube3-500m-chat. Она предназначена для генерации текста в диалоговом формате: может отвечать на запросы и поддерживать беседу на английском языке. Модель использует плотную архитектуру LlamaForCausalLM и содержит 464,4 млн параметров; заявленная длина контекста — 8192 токена. Репозиторий содержит веса в форматах Safetensors и GGUF F16. Для запуска доступны Transformers, загрузка с 4- или 8-битной квантизацией и распределение модели по нескольким GPU. Модель может выдавать неверные или бессвязные ответы, а также предвзятый или оскорбительный текст, поэтому результаты следует проверять. Лицензия в предоставленных данных не указана.
yanekyuk/bert-uncased-keyword-extractor — модель на базе BERT, дообученная для извлечения ключевых слов из текста. Она выполняет токенную классификацию: каждому токену присваивается метка, позволяющая выделять ключевые слова. Модель содержит 136,7 млн параметров, принимает текст длиной до 512 токенов и доступна в формате PyTorch. Модель рассчитана на англоязычный текст. Её можно применять для автоматического выделения ключевых слов в документах и фрагментах текста. В README приведены результаты оценки: precision 0,8547, recall 0,8825, accuracy 0,9741 и F1 0,8684; обучающий датасет не описан. Модель распространяется по лицензии Apache-2.0. Качество на других типах текстов и языках не подтверждено; из-за отсутствия сведений о датасете и предназначенных сценариях следует проверять результаты на собственных данных.
ChocoLlama-2-7B-base — языково-адаптированная базовая языковая модель, разработанная Matthieu Meeus и Anthony Rathé на основе Meta Llama-2-7B. Модель дообучена методом LoRA на 32 млрд нидерландских токенов; архитектура — плотная LlamaForCausalLM, размер — 6,6 млрд параметров, контекст — 4096 токенов. Репозиторий содержит веса в формате safetensors. Модель предназначена для генерации и понимания текста на нидерландском языке, а также для последующей адаптации к прикладным задачам, например к работе с вакансиями, корпоративной отчётностью и законодательством. Это базовая модель, не настроенная для диалогов и выполнения инструкций; для таких сценариев авторы рекомендуют instruct-версию или дополнительное дообучение. Основной язык — нидерландский. Из-за обучения преимущественно на нидерландских данных модель может плохо работать с другими языками, включая английский. В данных обучения не проводилась отдельная фильтрация потенциально предвзятого или вредоносного содержания, поэтому для снижения нежелательных ответов авторы рекомендуют дообучение на тщательно отобранных данных. Лицензия — Llama 2 Community License.
Solstice-AI/DeepSeek-V4.1-Flash-UNCENSORED-HyperSynapse-SAS-GGUF — текстовая генеративная модель в формате GGUF, разработанная Solstice-AI на базе Solstice-AI/DeepSeek-V4.1-Flash-UNCENSORED-FP8. По заявленным характеристикам, модель ориентирована на диалоговые и агентные сценарии, включая самосовершенствование, self-scaffolding, работу в составе swarm-агентов и speculative decoding с использованием DSpark Drafter. В названии и описании упоминается архитектура HyperSynapse-SAS (Self Agent Swarm + Self Scaffold/Self Improvement), однако подробности её устройства, точный размер модели, поддерживаемые модальности и фактический размер контекстного окна в README не приведены. Указаны английский и китайский языки, а также текстовая генерация как основное назначение. Формат GGUF предполагает использование в совместимых локальных инструментах инференса, но конкретные требования к оборудованию и доступные варианты квантования не описаны. К сильным сторонам относятся наличие набора GGUF, ориентация на агентные и экспериментальные сценарии, а также заявленная поддержка speculative decoding. Ограничениями являются отсутствие в предоставленных данных результатов оценки качества, подробностей об архитектуре, точного контекста и рекомендаций по аппаратному обеспечению; заявления о «безцензурности» и улучшении модели не подтверждены дополнительными измерениями. Модель распространяется по лицензии DeepSeek License, указанной как other; подробные условия доступны по ссылке на лицензию DeepSeek.
Это разговорная модель генерации текста семейства Qwen3, разработанная авторами репозитория laion/delphi-2e19-p33m67-k0p20-lr83-a002-wc386k_lr1e5-sft. Согласно README, модель обучена с нуля на наборах wildchat_386k и delphi_warmup. Она предназначена для диалоговой генерации текста. Модель имеет плотную архитектуру Qwen3ForCausalLM, содержит 656,4 млн параметров и поддерживает контекст до 4096 токенов; файлы представлены в формате safetensors и рассчитаны на Transformers. Язык обучения и поддерживаемые естественные языки в карточке не указаны. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой репозитория.
wangrongsheng/DPDG-Llama-8B-lora — разговорная языковая модель на архитектуре Llama с 7,5 млрд параметров. Репозиторий содержит веса в формате safetensors; модель предназначена для генерации текста в диалоговом формате и может использоваться в чат-сценариях. Указанное контекстное окно составляет 8192 токена. Название репозитория указывает на LoRA-адаптер для Llama, однако README и метаданные не называют базовую модель, поэтому её идентификатор определить нельзя. Карточка не содержит сведений о лицензии, целевых языках или специальных областях применения.
facebook/dpr-question_encoder-multiset-base — англоязычный BERT-энкодер вопросов из набора моделей Dense Passage Retrieval (DPR). Модель разработана для открытого поиска ответов на вопросы и обучена на Natural Questions, TriviaQA, WebQuestions и CuratedTREC. Она преобразует текст вопроса в плотное векторное представление для поиска подходящих фрагментов; обычно используется вместе с совместимым энкодером контекста DPR.
Карточка модели droplychee/droplychee0170 на Hugging Face совпадает с карточкой droplychee/droplychee-2.1-27b, поэтому описание составлено по ней. droplychee-2.1-27b — дообученная разработчиком droplychee мультимодальная плотная модель семейства Qwen3.5 на базе Qwen/Qwen3.8-27B. Она предназначена для диалога с текстом и изображениями и может использоваться в сценариях, где нужно учитывать визуальный контекст при ответе. В метаданных указаны поддержка vision и интерфейс вызова инструментов; размер базовой модели — 27 млрд параметров. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Карточка сообщает, что обучение выполнялось с Unsloth и библиотекой Hugging Face TRL. Данные не описывают конкретные наборы для дообучения, оценку качества или длину контекста, поэтому эти характеристики нельзя установить по доступной информации.
Eklav-8B-Reranker — дообученная модель на базе Qwen/Qwen3-8B, созданная для ранжирования пассажей по релевантности запросу. Метод обучения Eklav учит модель продолжать частичную цепочку рассуждений учителя и самостоятельно получать ответ, вместо полного воспроизведения этой цепочки. На этапе применения подсказка учителя не используется: модель анализирует запрос и пассаж, генерирует рассуждение с итоговой меткой true или false, а релевантность оценивается по логитам последнего токена. Модель имеет плотную архитектуру Qwen3ForCausalLM и 7,6 млрд параметров, работает через Transformers, веса доступны в формате safetensors; длина контекста — 40 960 токенов. В README описано применение для ранжирования пассажей в тестах BRIGHT и NevIR; заявлены улучшение nDCG@10 на 9% относительно стандартного обучения на полных цепочках рассуждений и сокращение вычислений обучения на 32% при одинаковых базовой модели и данных. Эти результаты основаны на одном запуске оценки для каждого домена BRIGHT. Лицензия в предоставленных сведениях не указана.
ERNIE-4.5-VL-424B-A47B-Paddle — мультимодальная модель семейства ERNIE 4.5, разработанная Baidu и опубликованная в формате весов PaddlePaddle. Это чат-модель с архитектурой MoE, дообученная после предварительного обучения ERNIE-4.5-VL-424B-A47B-Base: в README указаны 424 млрд параметров всего и 47 млрд активируемых параметров на токен; метаданные каталога приводят 47,1 млрд параметров. Модель принимает текст и изображения и генерирует текст, поддерживает визуально-языковое понимание, рассуждение по изображениям и режимы с рассуждением и без него. Заявлены английский и китайский языки, а контекстное окно составляет 131 072 токена. Модель предназначена для диалоговых сценариев, где нужно интерпретировать изображения вместе с текстовыми запросами, отвечать на вопросы по визуальному содержимому и выполнять мультимодальные рассуждения. Для запуска README приводит пример развёртывания через FastDeploy, а метаданные указывают PaddlePaddle и формат safetensors. Лицензия — Apache-2.0. Для инференса крупной MoE-модели потребуется соответствующая вычислительная инфраструктура; доступный пример FastDeploy ограничивает длину контекста 32 768 токенами.
jhu-clsp/ettin-encoder-68m — англоязычная модель семейства Ettin, разработанная Johns Hopkins University Center for Language and Speech Processing (JHU CLSP). Это плотный энкодер ModernBERT с 68,1 млн параметров, обученный для masked language modeling и заполнения пропусков в тексте. Контекст составляет до 7 999 токенов; модель работает с текстом и доступна в формате PyTorch через Transformers. Модель входит в открытый набор Ettin, созданный для сопоставления энкодерных и декодерных архитектур при одинаковых данных и рецептах обучения. Энкодеры предназначены для задач классификации и получения эмбеддингов; в карточке семейства сообщается о результатах на GLUE, англоязычном поиске MTEB, CodeSearchNet и MLDR. Чекпойнт можно использовать для заполнения масок, а также дообучать под классификацию и поиск. Модель ориентирована на английский язык. Лицензия MIT разрешает свободное использование в соответствии с её условиями. Показатели семейства Ettin в README не являются отдельной оценкой именно этого чекпойнта; качество на иных языках и задачах карточка не подтверждает.
Falcon-E-1.2-3B-Exp-dpo-prequantized — предварительно квантованная тернарная языковая модель на 3 млрд параметров, опубликованная axolotl-ai-co. Это версия Falcon-E-1.2-3B-Exp-dpo, подготовленная для дальнейшего дообучения. Модель основана на контрольной точке tiiuae/Falcon-E-3B-Base-prequantized и дообучена полным обновлением весов в течение трёх эпох на данных для агентных сценариев и STEM с использованием Axolotl и onebitllm. Модель предназначена для генерации текста и диалогового взаимодействия; режим рассуждений think включён по умолчанию и может быть отключён. Архитектура — плотная LlamaForCausalLM, указанная разрядность весов — 1,58 бита, контекст — до 32 768 токенов. Карточка описывает использование с Transformers, llama.cpp и mlx-lm. Языки в доступных сведениях не обозначены. Модель может быть полезна для экспериментов с агентными и STEM-сценариями, диалоговой генерации и последующего дообучения. Лицензия — Apache-2.0; карточка не приводит оценок качества или подробных ограничений применения.
FIPO-IPL-IPO-Tulu2-70B — диалоговая модель Junrulu на базе AllenAI Tulu 2 DPO 70B, дообученная на наборе Prompt Preference Dataset. Это плотная авторегрессионная модель семейства Llama с 68,7 млрд параметров, предназначенная для генерации ответов в диалоговом формате. Репозиторий указывает контекст до 8192 токенов и форматы PyTorch и Safetensors. Модель рассчитана на англоязычные диалоги и генерацию текста по запросу. В README рекомендуется передавать сообщение в формате `Your message here!` с завершающим переводом строки. Карточка не приводит оценок качества или подробных результатов; лицензия в предоставленных данных не указана.
hetzerdj/FnFLlama-3.1-8B1 — языковая модель семейства Llama, разработанная hetzerdj и дообученная на базе unsloth/Meta-Llama-3.1-8B-bnb-4bit. Это плотная авторегрессионная модель с 7,5 млрд параметров для генерации текста и диалогового взаимодействия. Заявленная длина контекста — 131 072 токена; модель распространяется в формате safetensors. Модель подходит для генерации ответов в чате и других сценариев, где требуется продолжать или создавать текст на английском языке. В README указано, что при обучении использовались Unsloth и библиотека TRL. Лицензия — Apache-2.0. Специализация дообучения и оценки качества в карточке не описаны.
Мультимодальная модель семейства Gemma 3 с плотной архитектурой, предназначенная для диалогового понимания текста и изображений с генерацией текстовых ответов. Репозиторий mlx-community содержит 8-битную версию Gemma 3 4B IT, преобразованную из google/gemma-3-4b-it в формат MLX с помощью mlx-vlm 0.1.18. Модель подходит для вопросов по изображениям, визуального описания и обычного общения с текстовым помощником. Входные данные — текст и изображения, выход — текст. Размер — 4 млрд параметров; карточка Hugging Face относит её к задаче image-text-to-text и указывает библиотеку Transformers. Лицензия — Gemma; для условий использования следует учитывать лицензию и правила Google для семейства Gemma.
Карточка модели 7tianan/gemma-4-26B-A4B-it-assistant на Hugging Face совпадает с карточкой google/gemma-4-26B-A4B-it-assistant, поэтому описание составлено по ней. Gemma 4 26B A4B IT Assistant — мультимодальная модель с открытыми весами от Google DeepMind, представленная как MTP-драфтер для семейства Gemma 4. Драфтер используется в спекулятивном декодировании: он предсказывает несколько токенов вперёд, а целевая модель проверяет их параллельно. По карточке семейства, этот вариант имеет архитектуру MoE размером 26B A4B и предназначен для инструкционного взаимодействия и ускорения генерации с сохранением качества целевой модели. Модель подходит для диалога, генерации и редактирования текста, программирования, рассуждений и агентных сценариев с вызовом функций. Семейство Gemma 4 принимает текст и изображения, поддерживает анализ видео; заявленная поддержка аудио относится к вариантам E2B, E4B и 12B, поэтому её нельзя переносить на этот чекпойнт. Для 26B A4B в карточке указано контекстное окно до 256K токенов, а семейство обучено на более чем 140 языках. Ключевое назначение этого чекпойнта — снизить задержку генерации в совместимом конвейере спекулятивного декодирования; заявлено ускорение до 3 раз. Для работы требуется целевая модель и поддержка MTP-декодирования, поэтому чекпойнт не является самостоятельной заменой полной модели Gemma 4. Лицензия — Apache 2.0.
mlx-community/gemma-4-26B-A4B-it-OptiQ-4bit-REAP-14B — квантованная и подвергнутая прореживанию версия Gemma-4, разработанная сообществом mlx-community на базе mlx-community/gemma-4-26B-A4B-it-OptiQ-4bit. Модель предназначена для локальной генерации текста и запуска LLM на устройствах Apple Silicon через MLX. Она может использоваться для диалогов, следования инструкциям, решения математических задач, генерации кода и вызова функций, однако точный набор языков и размер контекстного окна в README не указан. Модель использует MoE-архитектуру с 128 экспертами на слой, из которых сохранены 64; для каждого токена по-прежнему активируются 8 экспертов. После прореживания объём параметров уменьшен с 25,8 млрд до 14,3 млрд, размер на диске — с 17,5 до 10,4 ГБ, а пиковое потребление памяти — с 16,4 до 9,4 ГБ. Активное число параметров на токен не изменилось, поэтому заявлено отсутствие снижения скорости из-за маршрутизации. Применено 4-битное квантование OptiQ и метод REAP; сохранённые эксперты не деквантизировались, не переквантизировались и не переобучались. Главное преимущество модели — заметное сокращение требований к диску и памяти при сохранении высокой производительности в отдельных сценариях: показатели GSM8K, IFEval и BFCL-V3 составляют соответственно 89,1, 80,8 и 90,0. Ограничение — существенная потеря качества относительно родительской модели: итоговый Capability Score снижен с 75,75 до 68,13, MMLU — с 65,0 до 38,9, а HumanEval — с 90,2 до 72,0. Поэтому модель может быть менее подходящей для широких академических задач и генерации кода. Лицензия — Apache 2.0.
JBrussee/gemma-4-31B-caveman — дообученная модель на основе Gemma 4 31B Instruct, созданная для ответов в лаконичном «пещерном» стиле. Она сокращает артикли, вводные слова, любезности и оговорки, сохраняя смысл и допуская короткие фрагменты вместо полных предложений. Модель предназначена для диалогов, отладки и ревью кода, где нужны более короткие ответы. Модель использует плотную архитектуру Gemma4 и поставляется в виде полных весов bf16 в формате Safetensors; её можно использовать как замену google/gemma-4-31B-it. Обучение выполнено методом QLoRA с последующим слиянием адаптера с базовой моделью. Карточка описывает примеры на английском языке и сообщает о сохранении блоков кода, имён функций, сообщений об ошибках и CLI-команд без изменений. Лицензия — Gemma. В оценке на 193 примерах семантическое сходство составило 0,91–0,98, а блоки кода сохранялись точно в 96–100% случаев. При этом сокращение ответов оказалось умеренным: примерно на 10–40%, меньше целевых 50–70%; результаты оценки основаны на небольшом наборе примеров.
Luigi разработал Gemma-4-E2B meeting agent (zh-TW) — дообученную версию Gemma-4-E2B для работы с расшифровками совещаний на устройствах с ограниченными ресурсами. Модель принимает фрагменты китайской речи на традиционном письме Тайваня вместе с журналом предыдущих заметок и по заданному протоколу формирует краткие заметки с временными отметками и ссылками на источник: решения, поручения, предложения, открытые вопросы и ключевые цифры. В версиях начиная с v8 она также составляет связное резюме и заголовок встречи по заметкам. В основе лежит Google Gemma-4-E2B-it-qat-q4_0-unquantized; модель дообучена с LoRA-адаптером и распространяется в том числе в формате GGUF Q4_0 размером 3,35 ГБ. Для телефонов подготовлена версия LiteRT-LM, рассчитанная на CPU; README приводит результаты измерений на Galaxy Note10+ и указывает, что на этом устройстве CPU быстрее GPU. Модель предназначена для специализированного протокола с последовательной подачей фрагментов стенограммы, а не для произвольного диалога. Указанный в примере контекст запуска GGUF — 32 768 токенов; мобильная версия использует контекст 4k на окно и перезапускает сессию на компактном журнале при достижении 8k токенов. Лицензия — Apache-2.0.
Это пакет Mesh LLM с разбитой на слои GGUF-моделью GLM-5.1-Q3_K_M-plus в варианте квантования Q3_K_M. Он предназначен для распределённого запуска и позволяет распределить слои модели между несколькими компьютерами в локальном кластере Mesh LLM, в том числе когда полный GGUF-файл не помещается на одном узле. Пакет поддерживает локальный приватный инференс и сценарии чата через API Mesh LLM, совместимый с OpenAI Chat Completions. Это упаковка исходного GGUF в отдельные артефакты по слоям, а не самостоятельное дообучение; исходная модель указана как meshllm/GLM-5.1-Q3_K_M-plus-GGUF. Подробности об архитектуре, языках, размере, контексте и лицензии зависят от карточки исходной модели и в предоставленных данных не приведены.
Модель разработана kuhess и представляет собой дообученную версию NousResearch/Hermes-2-Pro-Mistral-7B — плотной авторегрессионной модели семейства Mistral с 7,1 млрд параметров. Она предназначена для диалоговой генерации текста; карточка указывает, что обучение проводилось с использованием Unsloth и библиотеки TRL. Длина контекста составляет 32 768 токенов, формат весов — safetensors. Модель подходит для создания разговорных ассистентов и генерации ответов на инструкции на английском языке. По сравнению с базовой Hermes 2 Pro её карточка не описывает отдельную специализацию или дополнительные возможности. Лицензия — Apache-2.0.
Human-Like-Qwen2.5-1.5B-Instruct-i1-GGUF — GGUF-квантизированная версия модели Human-Like-Qwen2.5-1.5B-Instruct, разработанной yasserrmd и дообученной с использованием HumanLLMs/Human-Like-DPO-Dataset. Квантизацию выполнил mradermacher. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции и общение на естественных языках. Это компактная текстовая модель на 1,5 млрд параметров; сведения о точной архитектуре и размере контекста в README не указаны. Заявлена поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского и арабского языков. Модель доступна в нескольких вариантах GGUF-квантизации размером примерно от 0,5 до 1,4 ГБ. Более сильная квантизация уменьшает требования к памяти, но может снижать качество; для баланса скорости, размера и качества рекомендован вариант i1-Q4_K_M, а i1-Q6_K наиболее близок к статической Q6_K. Основные преимущества — небольшой размер, возможность локального запуска и широкий набор языков. Ограничения связаны с компактным масштабом модели и потерями качества при низкобитной квантизации; конкретные результаты тестирования и ограничения применения не приведены. В метаданных указана лицензия other, без дополнительных условий лицензирования.
Это версия модели JOSIE-2-9B-OSS, преобразованная в формат MLX для запуска с библиотекой mlx-lm на устройствах Apple Silicon. В метаданных указана архитектура Qwen3.5 с плотной моделью и классом Qwen3_5ForConditionalGeneration; модель предназначена для генерации текста и диалогового взаимодействия. README сообщает о конверсии из Goekdeniz-Guelmez/JOSIE-2-9B-OSS с помощью mlx-lm версии 0.31.2. Модель поддерживает английский, арабский, китайский, японский и португальский языки. Репозиторий содержит веса Safetensors и распространяется по лицензии MIT. Данные карточки не описывают размер модели или длину контекста; ограничения качества и поведения отдельно не приведены.
L0xRE-27b-Low-MTP — низкобитная сборка гибридной 27-миллиардной модели на базе Qwen3.8-27B с дополнительным блоком предсказания следующего токена nextn/MTP. Репозиторий предоставляет файл GGUF примерно на 9,47 млрд байт: проекции квантованы примерно до 2–3 бит на параметр, а эмбеддинги и выходной слой сохранены в более высокой точности. Заявленная нативная длина контекста — 262 144 токена. Модель предназначена для генерации текста и диалогов с ускоренным спекулятивным декодированием: встроенный MTP-блок позволяет использовать модель как собственного чернового предсказателя, без отдельного файла-драфтера. В README приведены измерения генерации кода на RTX 4090 с внешним DFlash2-драфтером, но квалификация режима со встроенным MTP ещё продолжается. Для запуска автор указывает специализированную сборку L0xRE BeeLLama для SM89; работа не квалифицирована со стандартным llama.cpp, Ollama, LM Studio, Transformers или SGLang. Лицензия в метаданных обозначена как other, конкретные условия в предоставленных сведениях не раскрыты.