I.3Извлечение и структурирование данных

ZiRA-Researcher — дообученная модель проекта 0xvoid на базе Qwen/Qwen3.5-4B, предназначенная для исследовательских ответов, многошаговых рассуждений и сложных вопросов. Это плотная текстовая причинная модель примерно на 3,4 млрд параметров с контекстом до 262 144 токенов; репозиторий содержит веса в формате Safetensors. Карточка описывает архитектуру Qwen3.5 как гибрид Gated Delta Network и разреженной смеси экспертов. Модель обучена синтезировать сведения, строить последовательные аргументы, отмечать неопределённость и пересматривать ошибки в ходе генерации. Она подходит для анализа длинных документов, многоэтапных логических задач и технических разборов; карточка рекомендует её для локального запуска и сценариев с ограниченным бюджетом. Встроенного доступа к вебу или поиска по источникам нет, поэтому для RAG нужно передавать извлечённые материалы в запросе. Дообучение преимущественно ориентировано на английский, хотя базовая архитектура поддерживает 201 язык. На узкоспециализированных темах модель может выдумывать сведения, а подробные рассуждения могут быть медленными и многословными. Лицензия — Apache-2.0.

Jebadiah/Aria-7b-128k-v3 — объединённая языковая модель, созданная Jebadiah с помощью mergekit. В основе лежит Nitral-AI/Echidna-7b-128k, объединённая с Jebadiah/Aria-7b-128k-v2 методом DARE TIES; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров. Репозиторий содержит веса в формате safetensors, библиотека для работы с моделью — Transformers. Модель предназначена для генерации текста. В метаданных указан нативный контекст 32 768 токенов. Карточка не описывает отдельные специализированные задачи, языковую поддержку или прикладные области, поэтому модель уместно рассматривать как инструмент общего назначения. Сведения о лицензии и конкретных ограничениях в предоставленных данных отсутствуют.

win10/ArliAI-RPMax-v1.3-merge-13.3B — языковая модель семейства Llama для генерации текста и диалогового общения. Она создана с помощью mergekit методом passthrough на основе win10/ArliAI-RPMax-v1.3-merge-8B; репозиторий содержит веса Safetensors и использует библиотеку Transformers. Модель насчитывает 12,7 млрд параметров и поддерживает контекст до 131 072 токенов. Модель подходит для ведения диалогов и генерации продолжений текста. Данные карточки не уточняют поддерживаемые естественные языки и конкретные предметные области. Лицензия в доступных сведениях не приведена.

AxeronAI/axeron-mf-39 — текстовая модель для диалогов и генерации текста, созданная методом SLERP с помощью forgelm. В слияние вошли Qwen/Qwen2.5-7B и Qwen/Qwen2.5-7B-Instruct; архитектура — плотная Qwen2 с классом Qwen2ForCausalLM, размер — 7,1 млрд параметров. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Модель принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Она подходит для диалоговых сценариев и задач генерации текста. README и метаданные не описывают отдельные специализированные области применения или ограничения качества. Сведения о лицензии в предоставленных источниках отсутствуют.

basal-1.0-1.5B — польская и английская модель для классификации решений, разработанная автором репозитория Remek и дистиллированная из basal-1.0-4.5B. Это компактная инструкционная модель семейства Llama с 1,5 млрд параметров и контекстом до 8192 токенов; она принимает описание состояния и вопрос с вариантами ответа и оценивает допустимые варианты, включая выбор, ответ «да/нет» и числовую оценку. Модель предназначена для динамической классификации без переобучения: категории и правила задаются в запросе. Примеры применения — маршрутизация обращений и документов, проверка соответствия правилам и политике, оценка срочности или риска, выбор агента или инструмента и предварительная сортировка случаев по порогу уверенности. Вместо обычной генерации текста модель вычисляет распределение вероятностей по вариантам за один проход; усреднение предсказаний при прямом и обратном порядке вариантов помогает уменьшить чувствительность к их порядку. По оценке автора, версия 1,5B уступает версии 4,5B в точности, но обеспечивает примерно вдвое меньшую задержку и в 2,5 раза большую пропускную способность при половинном потреблении памяти. Модель поддерживает польский и английский языки и распространяется по лицензии Apache 2.0. Перед применением на собственных данных рекомендуется отдельная проверка и настройка порогов уверенности; решения с серьёзными последствиями следует проверять человеком.

Ben-3.1-Pro-Think — диалоговая языковая модель, разработанная Emiliosbs и дообученная на базе Emiliosbs/Ben3.0-7B-Uncensored. Модель построена на архитектуре Qwen2, имеет 7,1 млрд параметров и принимает текст для генерации текста. Для обучения использовались Unsloth и библиотека TRL; в репозитории веса представлены в формате Safetensors. Модель предназначена для диалоговой генерации текста и сценариев, где нужны ответы с рассуждениями; метаданные также указывают интерфейс вызова инструментов. Контекстное окно составляет 32 768 токенов, заявленная карточкой лицензия — Apache-2.0. В данных нет конкретных оценок качества или сведений о результатах обучения, поэтому пригодность для узких задач следует проверять отдельно.

Bielik-11B-v2.3-Instruct — текстовая генеративная модель с 11 млрд параметров, разработанная SpeakLeash совместно с центром ACK Cyfronet AGH. Это плотная авторегрессионная модель-декодер архитектуры Mistral, предназначенная для диалогов и выполнения инструкций; контекст составляет до 32 768 токенов. Модель создана преимущественно для работы на польском языке: она понимает запросы и генерирует ответы, а также подходит для разнообразных языковых задач. Версия v2.3 получена линейным слиянием трёх инструкционно дообученных моделей Bielik-11B-v2.0, v2.1 и v2.2 с помощью mergekit. Модель распространяется под лицензией Apache 2.0. Разработчики отмечают, что ответы могут содержать фактические ошибки, предвзятые или оскорбительные формулировки. У модели нет встроенных механизмов модерации, поэтому её ответы требуют проверки, особенно при использовании в сценариях с требованиями к безопасности.

lukagra/Bielik-Minitron-7B-v3.0-Instruct-mlx-fp16 — конвертированная в формат MLX версия модели speakleash/Bielik-Minitron-7B-v3.0-Instruct. Это плотная авторегрессионная языковая модель семейства Llama с 7,3 млрд параметров, предназначенная для диалога и генерации текста. Репозиторий создан lukagra; карточка базовой модели описывает Bielik как компактную инструктивную модель для европейских языков с акцентом на польский. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и рассчитана на многоязычные сценарии. В метаданных перечислены польский, английский, албанский, белорусский, боснийский, болгарский, хорватский, чешский, датский, эстонский, финский, французский, греческий, испанский, исландский, литовский, нидерландский, немецкий, норвежский, португальский, русский, румынский, сербский, шведский, словацкий, словенский, турецкий, украинский, венгерский, итальянский и латышский языки. Формат MLX предназначен для запуска на оборудовании Apple с MLX; исходная модель использует формат Safetensors. Модель опубликована под лицензией Apache-2.0. Качество и возможности унаследованы от базовой модели; карточка этой конверсии не содержит отдельных оценок или результатов тестирования.

BlackSheep-5B — плотная авторегрессионная языковая модель семейства Llama, созданная TroyDoesAI с помощью слияния SLERP через mergekit. В объединении использованы TroyDoesAI/Llama-3.2-4B и TroyDoesAI/BlackSheep-RAG-4B; базовой моделью в конфигурации указана TroyDoesAI/Llama-3.2-4B. В репозитории представлены веса safetensors, библиотека для работы — Transformers. Модель предназначена для генерации текста и диалогового взаимодействия; интерфейс также предусматривает вызов инструментов. Размер модели — 4,6 млрд параметров, заявленная длина контекста — 131 072 токена. Карточка не описывает конкретные языки, качество на отдельных задачах или условия лицензии, поэтому их нельзя установить по доступным данным.

Blind Text 1 — русско- и англоязычная языковая модель семейства Blind, представленная разработчиком Blind. Это универсальный текстовый ассистент для диалога, объяснений, ответов на вопросы, выполнения инструкций и создания писем, публикаций, статей и кратких пересказов. Модель имеет MoE-архитектуру с 20,9 млрд параметров и 32 экспертами, из которых для каждого токена активны четыре; контекст составляет до 131 072 токенов. Весы распространяются в формате GGUF с квантизацией MXFP4 для экспертных весов и Q8_0 для эмбеддингов и выходного слоя. Модель предназначена для локального запуска через llama.cpp, Ollama или llama-cpp-python, включая работу без облачного сервиса. Карточка заявляет хорошее удержание контекста и естественные ответы на русском и английском. По приведённому в README замеру на RTX 5080 скорость генерации составляет около 10 токенов в секунду; CPU-запуск также возможен, но медленнее. Количественные результаты MMLU и других инструментальных бенчмарков пока не приведены. Лицензия — Apache-2.0.

Blur-7B-slerp-v0.1 — языковая модель для генерации текста, созданная объединением OpenPipe/mistral-ft-optimized-1218 и mlabonne/Marcoro14-7B-slerp методом SLERP с помощью LazyMergekit. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров. Она предназначена для генерации текста и общих языковых задач. Контекстное окно составляет 32 768 токенов. В README приведены результаты Open LLM Leaderboard, включая оценки по AI2 Reasoning Challenge и HellaSwag. Модель распространяется по лицензии Apache-2.0. README и метаданные не уточняют поддерживаемые естественные языки или ограничения модели.

Calme-4x7B-MoE-v0.1 — языковая модель MaziyarPanahi для генерации текста и диалогов. Она построена на архитектуре Mixture of Experts семейства Mixtral и объединяет четыре дообученные модели Calme-7B; в описании указано, что на каждый токен активируются два эксперта. Метаданные Hugging Face сообщают 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors; README приводит оценку общего числа параметров свыше 24 млрд. Модель подходит для диалоговых приложений, ответов на вопросы, объяснений и задач рассуждения на естественном языке. В README приведены результаты ARC, HellaSwag и TruthfulQA, но качество может различаться в зависимости от задачи и формулировки запроса. Сведения о поддерживаемых языках и специализированной предметной области не приведены. Модель выпущена под лицензией Apache-2.0. Карточка не содержит подробной оценки ограничений, поэтому результаты следует проверять в целевом сценарии.

CausalLM-14B-DPO-alpha-GGUF — это версия языковой модели CausalLM 14B-DPO-alpha в формате GGUF, подготовленная разработчиком CausalLM. Модель предназначена для генерации текста и диалоговых сценариев; поддерживает использование через llama.cpp и совместимые приложения и библиотеки. Для взаимодействия в README указан шаблон ChatML. Модель содержит около 14 миллиардов параметров и обучалась с применением DPO для лучшего соответствия человеческим предпочтениям. Заявлены английский и китайский языки. В обучении использовались разнообразные наборы данных для диалогов, следования инструкциям, математики, энциклопедических и общих текстовых задач, включая GuanacoDataset, OpenOrca, UltraChat, MetaMathQA и другие источники. Размер контекста и точные архитектурные параметры в README не указаны. Согласно приведённым результатам MT-Bench, модель получила оценку 7,618868, превысив указанные результаты Zephyr-7B и приблизившись к заявленным ориентирам GPT-3.5. При этом модель обучалась на неотфильтрованных интернет-данных и может генерировать нежелательный, оскорбительный, порнографический или насильственный контент; встроенные механизмы этической безопасности и отказов не реализованы, поэтому необходимы собственная модерация и фильтрация вывода. В карточке указана лицензия WTFPL, однако отдельно отмечено, что использование также регулируется условиями Meta Llama 2 License.

Citaman/command-r-31-layer — модель генерации текста на архитектуре Cohere, созданная автором репозитория с помощью mergekit. Веса объединены методом SLERP из двух срезов модели Citaman/command-r-32-layer; каталог также связывает её с этой базовой моделью как с дообученной. Модель содержит 27,6 млрд параметров, использует формат safetensors и рассчитана на контекст до 8192 токенов. Модель предназначена для диалоговой генерации текста и поддерживает интерфейс вызова инструментов. Её можно применять для ведения беседы и генерации ответов в сценариях с подключёнными инструментами. README и метаданные не описывают специализацию по языкам или предметным областям. В карточке не приведены результаты оценки качества и конкретные ограничения применения. Лицензия в доступных данных не указана.

DeepSeek-V4.1-Flash-MLX-mixed-4_8bit — это квантованная сборка DeepSeek-V4.1-Flash для Apple Silicon на базе MLX, подготовленная PipeNetwork. Модель предназначена для генерации текста и запуска локального инференса на компьютерах Mac с большим объёмом unified memory. Для работы требуется специальный runtime deepseek-v41-mlx, поскольку стандартные transformers, mlx-lm и mlx-vlm эту архитектуру не поддерживают. Модель содержит около 754,6 млрд параметров и построена на архитектуре mixture-of-experts: 40 слоёв с 384 маршрутизируемыми экспертами. Она использует MLA с межслойным разделением KV-кэша, двухслойные hashed n-gram engram-таблицы, hyper-connections и attention sinks. Экспертные веса квантованы до 4 бит, attention, shared-части, embeddings и head — до 8 бит, а engram-таблицы также представлены в 8-битном формате; часть служебных компонентов остаётся в bf16 или fp32. Размер файлов составляет около 427,6 ГБ, поэтому для запуска практически требуется Mac с 512 ГБ оперативной памяти. Vision tower и aligner сохранены, но данный runtime работает только с текстом. Сборка прошла проверку на численное соответствие эталонной реализации DeepSeek, а заявленная perplexity на тестовой части wikitext-2 составляет 2,8963; авторы также отмечают связную жадную генерацию. Основные ограничения — очень высокие требования к памяти, зависимость от нестандартного runtime, текстовый режим без поддержки мультимодального вывода и отсутствие трёх слоёв multi-token prediction. Модель распространяется по лицензии MIT, как и исходная модель.

Модель yaneivan/dolphin-2.9.4-llama3.1-8b-Q4_K_M-GGUF представляет собой конвертированную в формат GGUF версию cognitivecomputations/dolphin-2.9.4-llama3.1-8b. Конвертацию выполнили с помощью llama.cpp через сервис GGUF-my-repo; исходная модель основана на Llama 3.1 с размером 8 миллиардов параметров. Модель предназначена для локального запуска и использования через llama.cpp, включая работу в командной строке и развёртывание сервера для генерации текста. В README не указаны поддерживаемые языки, модальности, архитектурные особенности исходной модели, назначение обучения, максимальный контекст или результаты оценки. Для примеров запуска используется контекст длиной 2048 токенов, однако это не подтверждает максимальное значение контекстного окна. Ключевое свойство данной версии — квантизация Q4_K_M, снижающая требования к памяти и вычислительным ресурсам по сравнению с полноразмерными вариантами, но потенциально ухудшающая точность генерации. Модель совместима с llama.cpp и рассчитана на локальное выполнение; конкретные показатели качества и аппаратные требования в карточке не приведены. Указана лицензия llama3.1.

jaspionjader/dp-5-8b — объединённая языковая модель, созданная разработчиком jaspionjader из предварительно обученных моделей jaspionjader/dp-4-8b и jaspionjader/f-9-8b. Для слияния применён метод SLERP с помощью mergekit; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия, принимает текст и выдаёт текст. Родная длина контекста составляет 8192 токена. Модель опубликована в формате safetensors и рассчитана на использование через Transformers. Карточка не сообщает специализированной предметной области или языкового профиля, поэтому её можно описать как модель общего назначения. Лицензия в предоставленных данных не приведена.

Edge0-35B-A3B-preview — языковая модель класса 35B со sparse Mixture-of-Experts, разработанная командой Edge0 на базе Qwen3.6-35B-A3B. Модель предназначена для генерации текста, мультиязычного диалога и задач рассуждения на устройствах с ограниченной оперативной памятью, включая edge- и on-device-сценарии, а также пакетное обслуживание на обычном компьютере. Поддерживается режим размышлений через встроенный шаблон чата. Модель содержит 40 слоёв, 256 экспертов, из которых для каждого токена активны 4, и имеет hidden size 2048. Она поставляется в 4-битной квантизации вместе с LoRA-адаптером Recover-LoRA и prerouter-адаптером. Экспертные веса подгружаются с SSD по мере необходимости через фреймворк edge0 с MLX backend, что позволяет удерживать активную память примерно на уровне 2,9 ГиБ при коротком контексте. На Mac mini M4 Pro заявлены скорость декодирования 14,9–17,7 токена в секунду и производительность заполнения контекста до 140 токенов в секунду. По заявленным тестам средний результат квантизированной версии составляет 79,2 против 83,2 у базовой модели в FP16, то есть отставание составляет 3,9 балла. Сильными сторонами являются низкое потребление активной памяти, потоковая загрузка экспертов и возможность использовать одну базовую модель с несколькими наборами адаптеров. Ограничения включают статус раннего preview-релиза, слабую оптимизацию для инструментального использования, многошагового планирования и долгосрочной автономной работы, рост KV-кэша на длинных контекстах, а также текущую ориентацию MLX backend на Apple Silicon. Модель распространяется по лицензии Apache 2.0.

Experiment26Neuralsirkrishna_Strangemerges_32Ogno — объединённая модель на архитектуре Mistral, созданная из automerger/Experiment26Neuralsirkrishna-7B и automerger/Strangemerges_32Ogno-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов с контекстом до 32 768 токенов. Модель принимает текст и выдаёт текст. Веса опубликованы в формате Safetensors; лицензия — Apache-2.0. Карточка не сообщает о специальных предметных областях или языковой специализации, поэтому её можно описать как модель общего назначения.

MaziyarPanahi/Experiment26Yam_ShadowCalme — объединённая модель для генерации текста, созданная на основе automerger/Experiment26Yam-7B и automerger/ShadowCalme-7B. Это плотная архитектура Mistral с 7,1 млрд параметров, предназначенная для генерации текста и имеющая контекстное окно до 32 768 токенов. Модель подходит для генерации продолжений текста и ответов на текстовые запросы. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. README и метаданные не уточняют языковую специализацию модели или дополнительные ограничения.

MaziyarPanahi/Experiment28M7_Experiment26Shadow — объединённая модель генерации текста на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием моделей automerger/Experiment28M7-7B и automerger/Experiment26Shadow-7B. Модель предназначена для генерации текста по текстовому запросу. Поддерживает контекст длиной до 32 768 токенов и распространяется в формате safetensors. В карточке указана лицензия Apache-2.0.

Experiment28M7_Strangemerges_32M7 — объединённая методом SLERP языковая модель на архитектуре Mistral, созданная из automerger/Experiment28M7-7B и automerger/Strangemerges_32M7-7B. Модель предназначена для генерации текста и диалога; она содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README не описывает специальные области применения, языки или ограничения качества; доступные сведения указывают на модель общего назначения.

Experiment28T3q_YamExperiment24 — объединённая модель MaziyarPanahi на архитектуре Mistral для генерации текста. Она создана слиянием automerger/Experiment28T3q-7B и automerger/YamExperiment24-7B; размер составляет 7,1 млрд параметров, веса опубликованы в формате safetensors. Модель принимает текст и рассчитана на контекст до 32 768 токенов. Её можно использовать для генерации продолжений и ответов на текстовые запросы. README не описывает специализированные сценарии или языки, поэтому назначение следует считать общим. Модель распространяется по лицензии Apache-2.0.

Flan-Alpaca-Large — модель для следования инструкциям, созданная лабораторией Declare-Lab путём дообучения FLAN-T5 на наборах инструкций Flan и Alpaca. Она использует архитектуру T5 с условной генерацией текста и предназначена для ответов на запросы и выполнения разнообразных текстовых заданий. Репозиторий содержит веса PyTorch и Safetensors; лицензия — Apache-2.0. Модель принимает текст и генерирует текст. Метаданные указывают 385,2 млн параметров и контекст до 512 токенов. README сообщает об обучении на данных Flan и Alpaca, но приводит для версии Large другое число параметров — 770 млн; поэтому размер из метаданных может не совпадать с описанием в карточке. Поддерживаемые языки явно не перечислены.

Fox-1-1.6B-Instruct-v0.1 — компактная языковая модель TensorOpera AI с архитектурой decoder-only Transformer семейства Llama и примерно 1,7 млрд параметров. Это версия базовой Fox-1-1.6B, дообученная методом SFT на инструкциях и данных многоходовых диалогов. Модель предназначена для генерации текста, выполнения инструкций и диалоговых сценариев на английском языке. Она использует Grouped Query Attention с 16 головами внимания и 4 головами ключей и значений; нативная длина контекста составляет 8192 токена. В README приведены результаты оценки на наборах ARC Challenge, HellaSwag, TruthfulQA, MMLU, Winogrande и GSM8k. Разработчик предупреждает, что перед производственным использованием модели требуется дополнительное выравнивание. Модель распространяется по лицензии Apache-2.0.

G9v3-3B-i1-GGUF — набор квантованных файлов модели G9v3-3B, разработанной ai9stars и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для генерации текста, задач с длинным контекстом и сценариев с вызовом инструментов. Заявлены поддержка английского и китайского языков, а также совместимость с экосистемой Transformers и llama-подобной архитектурой; точная архитектура и размер контекста в README не раскрыты. Базовый размер модели — 3B параметров. Репозиторий содержит множество вариантов квантования, включая IQ- и Q-серии, с размером файлов примерно от 0,9 до 2,6 ГБ. Варианты различаются балансом между размером, скоростью и качеством: README рекомендует i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S описывает как оптимальный по соотношению размера, скорости и качества. Более агрессивные варианты квантования экономят память, но могут заметно снижать качество; для части низкокачественных вариантов это отмечено прямо. Доступны также imatrix-файлы для самостоятельного создания квантов. Модель ориентирована на локальный запуск при ограниченных ресурсах, однако конкретные требования к оборудованию, показатели качества, поддерживаемые шаблоны диалогов и детальные возможности tool-calling не указаны. Лицензия базовой модели — Apache-2.0.

MCZK/Gemma-2-9B-It-SPPO-Iter3-GGUF — это версия модели Gemma-2-9B-It-SPPO-Iter3, разработанной UCLA-AGI, преобразованная в формат GGUF. Модель предназначена для генерации текста и диалоговых сценариев с использованием instruction-tuned версии Gemma 2. В метаданных указан английский язык и набор данных openbmb/UltraFeedback. Модель имеет около 9 млрд параметров; исходная архитектура относится к семейству Gemma 2, а вариант SPPO-Iter3, согласно идентификатору, получен на третьей итерации оптимизации методом SPPO. Для K-квантизованных вариантов применена iMatrix-квантизация. Текст iMatrix подготовлен на основе c4_en_ja_imatrix.txt из набора TFMC/imatrix-dataset-for-japanese-llm. Формат GGUF подходит для локального запуска в совместимых инструментах, однако конкретные требования к памяти, размер контекста, поддерживаемые модальности и результаты бенчмарков в README не указаны. Лицензия обозначена как gemma. README не содержит подробностей о сильных сторонах, ограничениях, допустимых сценариях коммерческого использования или точных параметрах отдельных вариантов квантизации, поэтому эти характеристики требуют дополнительной проверки.

GLM-5.3-Flash-Alis-MLX-8bit — 8-битная MLX-квантизированная версия модели GLM-5.3-Flash, разработанной zai-org. Модель предназначена для генерации текста и запуска на устройствах Apple Silicon через библиотеку mlx-vlm с поддержкой архитектуры glm5_next и Mixture-of-Experts. Она создана потоковой деквантизацией официального FP8-релиза; размер исходной модели составляет 320B-A18B, а объём файловой системы модели — около 334,1 ГБ. В сборке используются 8-битное affine-кодирование экспертов, attention, общих и плотных MLP-слоёв, embeddings и выходной головы. Маршрутизатор MoE, параметры коррекции, отдельные массивы mHC и параметры затухания KDA сохранены в FP32, vision tower — в BF16. MTP-слой 45 удалён и вынесен в отдельную модель-драфтер, поэтому основное назначение этой версии — высокоточный inference и роль эталонной модели для оценки менее точных 4-битных сборок. Модель поддерживает текстовую генерацию; мультимодальные возможности через vision tower указаны, но подробности о поддерживаемых форматах изображений и языках не приведены. Сильная сторона модели — максимальная среди семейства точность сохранения исходного поведения и отсутствие квантизации маршрутизатора, что делает её reference- или teacher-классом. На M3 Ultra с 512 ГБ памяти ожидается около 24–25 токенов в секунду при декодировании с p512; специальные параметры окружения могут повысить скорость примерно на 12%. Ограничения включают очень большой объём хранения, требования к совместимой версии mlx-vlm и необходимость Apple Silicon. Лицензия — MIT.

GPT4-x-Vicuna-13b-fp16 — дообученная Nous Research языковая модель на архитектуре LLaMA с 12,9 млрд параметров. Она предназначена для генерации текста и выполнения инструкций в формате Alpaca: запрос помещается после «### Instruction:», а ответ начинается после «### Response:». Модель дообучена на наборах GPTeacher, Roleplay v2, GPT-4-LLM Uncensored, WizardLM Uncensored и Nous Research Instruct Dataset; в карточке указано около 180 тысяч инструкций, созданных GPT-4 и очищенных от отказных формулировок. Обучение проводилось пять эпох на восьми ускорителях A100-80GB. Контекст составляет 2048 токенов. Репозиторий содержит веса PyTorch, лицензия указана как GPL. Модель подходит для ответов на инструкции и ролевого диалога. Карточка предупреждает, что в базовой модели сохраняются ограничения OpenAI; поведение и качество могут зависеть от формулировки запроса. Данные о поддерживаемых естественных языках в карточке не приведены.

Granite 3.1 3B A800M Instruct — языковая instruction-tuned модель IBM, представленная в формате GGUF и квантизированная bartowski с использованием llama.cpp и imatrix. Репозиторий предназначен для локального запуска задач генерации текста и диалогового взаимодействия, в том числе через LM Studio или совместимые инструменты на базе llama.cpp. Доступны варианты от полноразмерных весов F16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 1,38 до 6,60 ГБ, поэтому можно выбрать баланс между качеством, требованиями к памяти и скоростью работы. Для общения необходимо использовать указанный chat template с ролями system, user и assistant; в README отмечено исправление шаблона чата. Модель ориентирована на текстовую модальность. Сильные стороны представлены широким выбором квантизаций и возможностью локального использования, включая варианты, рекомендованные автором как обеспечивающие высокое или хорошее качество. Более компактные варианты экономят память, но могут заметно уступать по качеству; самые низкобитные версии обозначены как низкокачественные или нерекомендуемые. Данные о поддерживаемых языках, размере контекста и детальной архитектуре в README не указаны. Распространение заявлено по лицензии Apache-2.0.