II.2Создание и понимание программного кода

Карточка модели localized-ft/OLMo-3-7B-school-of-reward-hacks-last-third-sft-seed5-epoch3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

OLMo 7B July 2024 Instruct — языковая модель Allen Institute for AI (AI2), основанная на авторегрессионном трансформере OLMo. Это дообученная версия OLMo 7B July 2024: её обучали методом SFT на смеси Tulu 2, а затем DPO на очищенном наборе UltraFeedback. Модель содержит 6,7 млрд параметров и принимает текстовые запросы, выдавая текстовые ответы; поддерживает диалог и рассчитана прежде всего на английский язык. Модель предназначена для ответов на вопросы и следования инструкциям в диалоговых сценариях. Контекстное окно — 4096 токенов. Для запуска через Transformers требуется версия 4.40.0 или новее. Модель распространяется по лицензии Apache 2.0. В карточке отмечено, что это исследовательский артефакт без специального фильтра безопасности или отдельного обучения на безопасность; ответы могут содержать вредный или чувствительный контент, быть предвзятыми либо звучать убедительно, оставаясь фактически неверными. Для практического применения результаты следует проверять и при необходимости дополнять мерами защиты.

OrionLLM GRM-3.2-Cliff-GGUF — квантованная версия модели GRM-3.2-Cliff, разработанной OrionLLM и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель содержит около 9 млрд параметров и предназначена для локального запуска в приложениях, совместимых с llama.cpp. Модель поддерживает обработку текста и изображений при использовании дополнительного файла mmproj, поэтому может применяться для мультимодального анализа, ответов на вопросы по изображениям и обычных текстовых задач. Для работы предусмотрен специальный prompt format с ролями system, user и assistant; поддержка MTP отсутствует. Доступны варианты квантования от BF16 и Q8_0 до более компактных IQ3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемым компромиссом заявлен вариант Q4_K_M размером около 5,91 ГБ. Сильными сторонами являются мультимодальный ввод, широкий выбор квантований и возможность локального использования. К ограничениям относятся зависимость обработки изображений от файла mmproj, отсутствие сведений о языках, размере контекста и конкретной архитектуре, а также возможное снижение качества в компактных вариантах квантования. Модель распространяется по лицензии Apache-2.0.

SLORA/PRO — диалоговая языковая модель, разработанная и поддерживаемая Muhammad Taqi. Она предназначена для генерации текста в чате и поддерживает интерфейс вызова инструментов. Модель основана на архитектуре DeepSeek V3, имеет 37,6 млрд параметров и контекст длиной до 163 840 токенов; веса представлены в формате Safetensors FP8 и рассчитаны на работу с Transformers. Автор заявляет о собственной реализации и высокой скорости ответов, однако карточка не приводит сравнительных измерений или подробностей обучения. Модель распространяется по лицензии MIT.

Q3.6-27B-GLM-5.1-DA-GGUF — экспериментальная GGUF-версия модели, разработанная prithivMLmods. Она создана на базе Qwen/Qwen3.6-27B и производной prithivMLmods/Qwen3.6-27B-abliterated-rMAX с использованием дистиллированных рассуждений GLM-5.1, анализа направлений отказа и методов абляционного обучения. Модель ориентирована на подробное контекстное рассуждение, решение математических задач и выполнение инструкций на английском языке. Модель содержит 27 миллиардов параметров и распространяется в форматах BF16, F16 и различных вариантах квантизации GGUF от Q2_K до Q8_0. Также доступны файлы mmproj, однако README не описывает подтверждённые мультимодальные возможности и поддерживаемые типы входных данных. Размер контекста и другие параметры архитектуры не указаны. К сильным сторонам относятся акцент на reasoning, подробные ответы и instruction following. Из-за уменьшенных внутренних механизмов отказа модель может генерировать чувствительный или неограниченный контент, поэтому требует осторожного применения и проверки результатов. Авторы отмечают экспериментальный статус и возможность артефактов; модель предназначена для исследований и обучения. Лицензия — Apache 2.0.

Gensyn распространяет эту модель для использования в RL Swarm и локального дообучения методом peer-to-peer обучения с подкреплением. Согласно карточке, репозиторий содержит неизменённую инструкционную версию Qwen2.5 с 1,5 млрд параметров, построенную на архитектуре причинной языковой модели Qwen2; она использует RoPE, SwiGLU, RMSNorm, смещение в QKV-внимании и связанные эмбеддинги слов. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. В метаданных указан английский язык. После дообучения модель можно использовать в обычных сценариях генерации текста. Лицензия — Apache-2.0.

Qwen-3.5-4B-ASVD-Healed — сжатая и восстановленная дообучением версия Qwen/Qwen3.5-4B от автора репозитория Kodjaoglanian. Это плотная причинная языковая модель для диалогов и генерации текста; архитектура Qwen3_5ForCausalLM, около 3,4 млрд параметров, контекст до 262 144 токенов. В README описан метод структурного сжатия ASVD с сохранением 85% дисперсии и последующим восстановлением LoRA rank 32; адаптеры объединены с весами, модель опубликована в bfloat16 и формате safetensors. Модель рассчитана на обычные сценарии генерации текста и диалога, включая запуск в стандартной экосистеме Hugging Face и vLLM, в том числе на устройствах с ограниченной памятью. Карточка сообщает об использовании Wikitext-2 для калибровки; метаданные указывают английский язык. По заявлению автора, восстановление улучшает синтаксис и рассуждения после сжатия, а уменьшение числа параметров экономит видеопамять. Лицензия — Apache-2.0. Сжатие с порогом сохранения дисперсии 85% может ухудшить запоминание редких и узкоспециализированных фактов по сравнению с базовой моделью; для высокой фактической точности в специализированных областях автор рекомендует дополнительное дообучение. В README нет количественных результатов сравнительной оценки.

Qwen3.5-REAP-212B-A17B-W4A16 — квантизированная версия модели OpenMOSE/Qwen3.5-REAP-212B-A17B, подготовленная с помощью Intel AutoRound. Это MoE-модель с 212 млрд параметров; веса квантованы до 4 бит с группой 128, а маршрутизатор экспертов оставлен без квантизации. По метаданным модель предназначена для генерации текста и диалогового использования. В README описана процедура квантования, но не приведены сведения о контекстном окне и поддерживаемых языках. Для квантования использованы 64 калибровочных примера из NeelNanda/pile-10k с длиной последовательности 512. Модель требует поддержки архитектуры qwen3_5_moe в Transformers; в README отмечены проблемы совместимости AutoRound с Transformers 5.x, для которых нужны исправления импорта и определения мультимодальности. Лицензия — Apache-2.0.

Qwen3.6-35B-A3B Winnow keep-75 — это разреженная версия Qwen3.6-35B-A3B, подготовленная автором репозитория hbfreed с помощью поканального прореживания экспертов Winnow. В каждом эксперте SwiGLU удалено 25% каналов по оценке их важности; механизмы внимания, эмбеддинги и маршрутизатор не изменены. README указывает 26,6 млрд параметров, тогда как метаданные каталога — 2,9 млрд; эти оценки расходятся, поэтому размер здесь не приводится. Модель предназначена для генерации текста и диалогов. В README приведён результат perplexity 13,39 на C4 для данного непрошедшего дополнительное восстановление чекпойнта; сравнения с другими вариантами и показатели на downstream-задачах вынесены в отдельный материал. Указана длина контекста 262 144 токена. Для загрузки требуется Transformers версии 5 или новее и trust_remote_code=True; README также описывает запуск через vLLM с плагином winnow. Лицензия — Apache-2.0. Языки отдельно не перечислены.

Qwen3.8-27B-Uncensored-Cyber-i1-GGUF — квантизированная GGUF-версия модели HFCK99/Qwen3.8-27B-Uncensored-Cyber, подготовленная mradermacher. Модель относится к семейству Qwen3, имеет около 27 млрд параметров и предназначена для локального запуска в совместимых приложениях, поддерживающих формат GGUF. В описании она обозначена как vision-модель для задач image-text-to-text, то есть может обрабатывать изображения и текст; заявленный язык — английский. Репозиторий содержит набор вариантов квантизации i1, включая Q2_K, Q3_K, IQ3, Q4, Q5 и Q6, размером примерно от 11 до 22,5 ГБ. Более компактные варианты требуют меньше памяти, но обычно уступают старшим по качеству; Q4_K_M отмечен как быстрый и рекомендуемый, а Q4_K_S — как компромисс между размером, скоростью и качеством. Также предоставлен imatrix-файл для создания собственных квантов. Точное устройство архитектуры, размер контекстного окна и перечень поддерживаемых языков, помимо английского, в README не указаны. Модель ориентирована на универсальные текстовые и мультимодальные сценарии, включая диалоговую работу с текстом и анализ изображений, при этом в названии и тегах отмечены особенности uncensored и abliterated. К ограничениям относятся неизбежные потери качества у низкобитных квантов, требования к значительному объёму оперативной или видеопамяти и отсутствие подробных результатов тестирования. Указанная лицензия — Apache-2.0.

RedHatAI/Qwen3-VL-235B-A22B-Instruct-NVFP4 — квантизированная версия мультимодальной модели Qwen3-VL-235B-A22B-Instruct, разработанной Alibaba Cloud и оптимизированной RedHatAI. Модель предназначена для генерации текста и развертывания в сценариях инференса с использованием vLLM; README также указывает улучшения базовой модели в понимании и генерации текста, визуальном восприятии и рассуждении, работе с пространственной и видеодинамикой и взаимодействии с агентами. Для данной карточки заявлены текстовые входы и текстовые выходы, поэтому возможности обработки изображений и видео здесь явно не подтверждены как доступные в развернутой версии. Модель имеет 235B параметров и архитектуру Qwen3-VL с конфигурацией A22B. Веса и активации линейных операторов в блоках трансформера квантизированы в FP4 с помощью LLM Compressor. Это примерно на 75% уменьшает размер на диске и требования к памяти GPU по сравнению с представлением FP16. Модель подготовлена для инференса в vLLM версии 0.9.1 и выше и проверена с vLLM 0.13.0, RHOAI 3.3 и RHAIIS 3.3. Максимальная длина контекста в README не указана; калибровка выполнялась на последовательностях длиной до 8192 токенов. К сильным сторонам относятся существенное снижение требований к ресурсам и совместимость с эффективным серверным развертыванием через vLLM, включая OpenAI-совместимый режим обслуживания. README перечисляет английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский как языки, однако использование модели на языках, отличных от английского, отдельно обозначено как выходящее за рамки поддерживаемого применения. Квантизация может влиять на качество относительно неквантизированной версии, хотя модель оценивалась в сравнении с ней; конкретные результаты оценки не приведены. Лицензия — Apache-2.0, с ограничением не использовать модель в нарушение применимых законов и нормативных требований.

Qwythos-9B-v2-Heretic-GGUF — набор GGUF-квантизаций модели WaveCut/Qwythos-9B-v2-Heretic, разработанной WaveCut на основе empero-ai/Qwythos-9B-v2. Это текстовая генеративная модель для диалогов и других задач генерации текста, предназначенная для локального запуска через llama.cpp, Ollama, LM Studio, KoboldCpp и совместимые GGUF-рантаймы. Модель использует гибридную архитектуру Qwen3.5 с 32 блоками, сочетающими слои attention и SSM в стиле Mamba. Доступны варианты квантизации от Q4_K_M примерно на 5,6 ГБ до Q8_0 примерно на 9,5 ГБ; они предлагают компромисс между размером, требованиями к памяти и качеством. Указана поддержка английского и русского языков. Контекст модели в README не указан. Вариант описан как uncensored: защитное выравнивание удалено методом Heretic, поэтому ограничения безопасности оригинальной модели могут отсутствовать. Модель распространяется по лицензии Apache-2.0. Это производная квантизированная версия, не связанная с разработчиками исходной empero-ai/Qwythos-9B-v2; использовать её рекомендуется с учётом возможных рисков, связанных с отсутствием защитного выравнивания.

arcee-ai выпустила saul-mistral-v0.2-7b-slerp — объединённую с помощью mergekit модель для диалоговой генерации текста. Она объединяет Equall/Saul-Base и mistralai/Mistral-7B-Instruct-v0.2 методом SLERP; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров. Модель принимает текст и поддерживает контекст до 32 768 токенов. Модель подходит для диалогов и ответов на инструкции в приложениях на базе Transformers. Репозиторий содержит веса в формате safetensors и опубликован под лицензией Apache-2.0. Карточка не описывает отдельные специализированные навыки или оценки качества этой версии.

SuperChat-7B — диалоговая языковая модель, созданная Яшем Маратхе путём слияния нескольких моделей на базе Mistral: openchat/openchat-3.5-0106, OpenPipe/mistral-ft-optimized-1227, berkeley-nest/Starling-LM-7B-alpha, jan-hq/supermario-v2 и mistralai/Mistral-7B-Instruct-v0.2. Модель содержит 7,1 млрд параметров и использует плотную архитектуру Mistral для генерации текста и общения в формате инструкций; заявленная длина контекста — до 32 768 токенов. Модель подходит для диалоговых приложений, ответов на запросы и генерации текста. Она распространяется в формате safetensors по лицензии Apache-2.0. Карточка не приводит сведения о языках или результаты оценок качества, поэтому их нельзя уточнить по доступным данным.

Apertus-8B-Instruct-2509-GGUF — это набор квантизированных версий языковой модели Apertus-8B-Instruct-2509, разработанной swiss-ai и подготовленной пользователем bartowski в формате GGUF с помощью llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, а также для локального запуска через LM Studio, llama.cpp и другие совместимые проекты. В набор входят варианты с точностью от BF16 до различных методов квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 3,8 до 16,1 ГБ, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. Исходная модель обозначена как 8B, однако сведения об архитектуре, длине контекста, поддерживаемых языках и модальностях в представленном README не указаны; по имеющимся данным это текстовая модель. Сильная сторона набора — широкий выбор локальных конфигураций: варианты Q6 и Q5 заявлены как близкие к исходному качеству, а Q4 подходят для большинства сценариев с ограниченными ресурсами. Более сильная квантизация может снизить качество генерации, особенно у вариантов Q3 и ниже. Формат prompt не указан, поэтому для корректного использования необходимо обратиться к странице исходной модели. Лицензия в README не указана.

T3qm7xNeuralsirkrishna_NeuralExperiment26 — объединённая языковая модель семейства Mistral, созданная на основе automerger/T3qm7xNeuralsirkrishna-7B и automerger/NeuralExperiment26-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогов; контекстное окно составляет до 32 768 токенов. Карточка не уточняет специализацию по языкам или предметным областям. Лицензия — Apache-2.0.

T3qm7xpExperiment26-7B — автоматически объединённая модель, созданная Maxime Labonne методом SLERP на основе nlpguy/T3QM7XP и rwitz/experiment26-truthy-iter-2. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалоговых ответов. Максимальная длина контекста составляет 32 768 токенов. Модель поставляется в формате safetensors и использует тип данных bfloat16. Для запуска README приводит пример работы с Transformers и tokenizer. Репозиторий распространяется по лицензии Apache-2.0. Карточка описывает конфигурацию слияния, но не приводит результаты оценки качества или подробные сведения о языковом покрытии.

Карточка модели lmsys/vicuna-13b-v1.1 на Hugging Face совпадает с карточкой lmsys/vicuna-7b-v1.1, поэтому описание составлено по ней. Vicuna-7B-v1.1 — авторегрессионная языковая модель-чат-ассистент, разработанная LMSYS на основе архитектуры Transformer семейства LLaMA. Модель содержит 6,6 млрд параметров и дообучена на пользовательских диалогах, собранных из ShareGPT. Модель предназначена для генерации ответов в диалоге, а также для исследований и создания чат-ботов. Её могут использовать исследователи и энтузиасты в области обработки естественного языка, машинного обучения и искусственного интеллекта. Контекст модели составляет 2048 токенов. Модель работает с текстом и распространяется в формате PyTorch. В README указана некоммерческая лицензия; там же отмечено, что доступна более новая версия весов.

Vicuna-13B-v1.5 — авторегрессионная языковая модель на архитектуре Transformer семейства Llama, разработанная LMSYS. Модель дообучена на базе Llama 2 на пользовательских диалогах, опубликованных на ShareGPT; содержит 12,9 млрд параметров и рассчитана на контекст до 4096 токенов. Модель предназначена для диалогового общения и экспериментов с чат-ботами и большими языковыми моделями. Она генерирует текст в ответ на текстовые запросы и может применяться исследователями и энтузиастами в задачах обработки естественного языка, машинного обучения и искусственного интеллекта. В карточке описана оценка по стандартным бенчмаркам, предпочтениям людей и подходу LLM-as-a-judge. Модель распространяется по лицензии Llama 2 Community License Agreement. Её ответы могут быть неточными или необоснованными; качество зависит от запроса и не гарантирует надёжность в критически важных сценариях.

TheBloke/Vicuna-33B-1-3-SuperHOT-8K-fp16 — публикация TheBloke модели Vicuna 33B версии 1.3 от LMSYS в формате PyTorch fp16, объединённой с LoRA SuperHOT от Kaio Ken. Это авторегрессионная плотная трансформерная модель семейства LLaMA с 32,3 млрд параметров; для работы с контекстом до 8192 токенов README указывает использовать trust_remote_code=True или monkey patch с масштабированием RoPE. Модель предназначена для диалогового взаимодействия, создания чат-ботов и исследований больших языковых моделей. Она дообучена на пользовательских диалогах ShareGPT и может использоваться для генерации ответов и текста. В README сообщается, что тесты показали использование расширенного контекста 8K. Модель распространяется по некоммерческой лицензии. Для загрузки и инференса в описанной конфигурации требуются совместимая среда PyTorch и специальная настройка контекста; качество и поведение на длинных последовательностях могут зависеть от используемого способа масштабирования.

WONMSeverusDevilv2-TIES — объединённая модель для генерации текста, созданная автором репозитория с помощью LazyMergekit на основе FelixChao/WestSeverus-7B-DPO-v2, jsfs11/WestOrcaNeuralMarco-DPO-v2-DARETIES-7B и mlabonne/Daredevil-7B. Это плотная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов, сохранённая в формате Safetensors. Модель подходит для диалоговых ответов и других задач генерации текста. Карточка не приводит подробных сведений о специализации, языковом покрытии или оценках качества. Лицензия в предоставленных данных не указана.

YamshadowInex12_Strangemerges_32Strangemerges_30 — слитая модель генерации текста, созданная из automerger/YamshadowInex12-7B и automerger/Strangemerges_32Strangemerges_30-7B. Она основана на плотной архитектуре Mistral и содержит 7,1 млрд параметров; модель принимает текст и генерирует текст, используя контекст до 32 768 токенов. Может применяться для диалога и создания продолжений текста. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

YamshadowStrangemerges_32_NeuralsirkrishnaExperiment26 — слитая авторами репозитория модель семейства Mistral с 7,1 млрд параметров для генерации текста. Она объединяет модели automerger/YamshadowStrangemerges_32-7B и automerger/NeuralsirkrishnaExperiment26-7B и предназначена для сценариев, где требуется генерировать текст по текстовому запросу. Модель использует плотную архитектуру MistralForCausalLM, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Веса опубликованы в формате Safetensors. В карточке не приведены сведения о специализации по языкам или прикладным областям, поэтому модель можно описать как общего назначения. Лицензия — Apache-2.0.

Это текстовая авторегрессионная модель семейства Qwen2 с плотной архитектурой Qwen2ForCausalLM и 7,1 млрд параметров. Репозиторий содержит контрольную точку в стандартном формате Hugging Face Transformers и safetensors; в README она обозначена как резервная копия исследовательского артефакта. Модель предназначена для генерации текста и диалогового взаимодействия. Метаданные указывают контекст до 131 072 токенов, а также интерфейс для вызова инструментов. Данных о специализированной предметной области или поддерживаемых естественных языках в карточке нет. Условия лицензии в доступных данных не приведены, поэтому условия использования определить нельзя. Поскольку чекпойнт назван резервной копией исследовательского артефакта, его практическое качество и пригодность для развертывания не подтверждены.

duyntnet/aya-23-8B-imatrix-GGUF — это набор квантованных форматов GGUF с использованием imatrix для модели Aya-23-8B, разработанной CohereForAI. Модель предназначена для генерации текста и может применяться в диалоговых сценариях, написании текстов и других задачах на основе языковой генерации. Известно, что это каузальная языковая модель размером 8B параметров, работающая с текстовой модальностью. В README явно указан английский язык, однако пример использования демонстрирует запрос на турецком языке; полный перечень поддерживаемых языков и размер контекста не приведены. Для работы требуется совместимая поддержка GGUF и соответствующее программное обеспечение; исходная модель использует Transformers и шаблон чата Command R Plus. Ключевое преимущество этой версии — квантованные представления, потенциально снижающие требования к памяти и вычислительным ресурсам по сравнению с полной моделью, однако конкретные уровни квантования и их влияние на качество не указаны. Лицензия обозначена как other, без дополнительных условий в README.

devmeta8/B — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом SLERP из cloudyu/Nemo-DPO-V20 и jic062/dpo-v3.0-Nemo-e3. Модель содержит 12,1 млрд параметров и предназначена для генерации текста в диалоговом режиме. Модель принимает текст и выдаёт текст. В метаданных указан контекст до 1 024 000 токенов. Она сохранена в формате Safetensors и использует библиотеку Transformers. В README приведена конфигурация объединения, в которой указана точность bfloat16. Карточка не сообщает о специализированных областях применения или поддерживаемых языках. Условия лицензирования и ограничения качества в доступных источниках не описаны.

Boomerang Qwen3 2.3B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная Harvard-DCML. Это студент, полученный дистилляцией Qwen3-4B-Base; в исследовании Boomerang Distillation его слои можно комбинировать со слоями модели-учителя, чтобы без дополнительного обучения собирать промежуточные по размеру варианты. Для интерполяции авторы рекомендуют использовать функцию build_intermediate_model из своего репозитория и не патчить первые слои студента. Модель содержит около 2,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Она подходит для генерации текста и диалоговых сценариев; также заявлен интерфейс вызова инструментов. Веса опубликованы в формате safetensors, библиотека для работы — Transformers. Лицензия Apache-2.0. README описывает исследовательский метод комбинирования слоёв, но не приводит сравнительных оценок качества; результат интерполяции зависит от выбранного числа патчируемых слоёв.

Это версия Command A+ в формате GGUF BF16, опубликованная DevQuasar на основе CohereLabs/command-a-plus-05-2026-bf16. Модель предназначена для генерации текста и диалогового общения; метаданные каталога также характеризуют её как модель для чата. Базовая Command A+ описана как многоязычная мультимодальная модель Cohere для диалогов, рассуждений и агентных задач с текстом, изображениями и вызовом инструментов. Однако карточка этой версии не подтверждает, что её сборка GGUF сохраняет работу с изображениями или вызов инструментов, поэтому эти возможности нельзя считать гарантированными. Репозиторий содержит вариант GGUF в точности BF16. README называет его квантованной версией, но метаданные указывают BF16, что само по себе не подтверждает уменьшенную разрядность. Сведения о лицензии и ограничениях использования в предоставленных данных отсутствуют.

CollectiveLM-Falcon-3-7B-GGUF — это GGUF-квантизированная версия языковой модели CollectiveLM-Falcon-3-7B, опубликованная и квантизированная bartowski на основе модели Locutusque. Модель предназначена для генерации текста и может использоваться в локальных приложениях и интерфейсах, поддерживающих llama.cpp, включая LM Studio. Она обучалась на датасете Locutusque/Collective-Evol-Instruct-v0.1 и рассчитана на англоязычные задачи. Модель относится к классу Falcon и содержит около 7 миллиардов параметров. В репозитории представлены варианты от полноточного F32 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и Q2, включая форматы K-quants и IQ-quants. Квантизация выполнена с использованием imatrix в llama.cpp; это позволяет выбирать компромисс между качеством, размером файла и требованиями к памяти. Рекомендуемыми указаны варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS, при этом Q4_K_M описан как стандартный вариант для большинства сценариев. Сильными сторонами являются возможность локального запуска, широкий выбор размеров и сохранение высокого качества у старших вариантов квантизации. Ограничения включают ориентацию на английский язык, отсутствие в README сведений о длине контекста, точной архитектуре, мультимодальности, результатах оценки и практических ограничениях применения. Для работы рекомендуется использовать шаблон промпта с тегами system, user и assistant, приведённый в README. Лицензия указана как other; её конкретные условия в предоставленных данных не раскрыты.

CORe Pico V2 — компактная разговорная языковая модель, разработанная CORe Technologies. Модель предназначена для генерации текста, ответов на вопросы и многошагового диалога, особенно в сценариях, где важны небольшой размер и возможность локального запуска. Она поддерживает структурированный вызов инструментов через блоки <tool_call> с JSON и режимы расширенного рассуждения /think и прямых ответов /no_think. Модель имеет архитектуру causal language model и содержит около 596 млн параметров. Длина контекста составляет 40 960 токенов, используется BPE-токенизатор на 151 936 токенов со встроенным шаблоном чата. Основной язык — английский. Доступны веса в формате safetensors, а также варианты GGUF с полной точностью, 8-битным и 4-битным квантованием; модель можно запускать через Transformers, llama.cpp, LM Studio или Ollama. Сильные стороны CORe Pico V2 — компактность, пригодность для работы на широком спектре устройств, стабильные ответы на вопросы об идентичности модели, короткие ответы и нативная поддержка многораундового диалога. Ограничения обусловлены небольшим размером: модель может допускать фактические ошибки, испытывать трудности с арифметикой и выдумывать ответы при недостатке знаний, поэтому результаты требуют проверки и не должны считаться достоверным источником. Модель распространяется по лицензии Apache-2.0 и является модифицированным производным от чекпойнта с той же лицензией.