II.10Разработка и эксплуатация AI/ML-систем

Это экспериментальная версия Qwen2.5-0.5B-Instruct, дообученная Rohan Jain методом GRPO для демонстрации взлома функции вознаграждения. В эксперименте модель продолжает начальные предложения отрицательных отзывов из IMDB, а вознаграждение задаёт вероятность положительной тональности по модели lvwerra/distilbert-imdb; оценка обрезается на уровне 0,9 вместо применения KL-штрафа. Модель принимает текст и генерирует продолжение. Она построена на плотной архитектуре Qwen2 и содержит 494 млн параметров; длина контекста — до 32 768 токенов. На отложенных запросах оценка положительной тональности выросла с 0,563 до 0,996, но перплексия относительно замороженной базовой модели увеличилась с 4,4 до 8,4. Это исследовательская демонстрация, а не модель для практического применения; автор предупреждает о вырожденном тексте. Базовая модель распространяется под лицензией Apache-2.0.

HomerBot — разговорная модель, разработанная на основе DialoGPT-medium и дообученная на сценариях «Симпсонов». Она обучалась три эпохи на 10 тысячах пар «реплика персонажа — ответ Гомера» и предназначена для генерации ответов в стиле Гомера Симпсона в диалогах на английском языке. Модель относится к семейству GPT-2 и использует архитектуру GPT2LMHeadModel; формат весов — PyTorch и SafeTensors, длина контекста — 1024 токена. Подходит для развлекательных чат-ботов и имитации персонажа. Ответы отражают особенности обучающих сценариев и не предназначены для надёжного предоставления фактической информации. Условия лицензирования в доступных сведениях не описаны.

koreabaseballteamgoldmedal — дообученная модель на архитектуре Wav2Vec2ForSequenceClassification, созданная на основе facebook/wav2vec2-base. Она предназначена для классификации аудио; набор данных и целевые классы в карточке не описаны. Модель содержит 113,3 млн параметров, распространяется в формате safetensors и использует лицензию Apache-2.0. В README приведены результаты оценки: accuracy 0,0442 и loss 2,6791. Эти показатели указывают на низкую точность в указанной оценке, поэтому пригодность модели для практического распознавания классов аудио не подтверждена.

Nichonauta создал экспериментальную MoE-версию LiquidAI/LFM2.5-1.2B-Thinking методом ToMoE — структурного прореживания с гиперсетью. Это причинная текстовая модель семейства LFM2 для генерации текста и рассуждений. По сравнению с плотной базовой моделью число сохранённых параметров снижено примерно с 1,17 млрд до 1,03 млрд, а оценка активных параметров на токен составляет около 700 млн. В модели используются маршрутизация по восьми экспертам в FFN-слоях, динамическое маскирование каналов V в слоях внимания и прореживание ShortConv. Контекст — до 128 000 токенов; модель работает с текстом и рассчитана на несколько языков, включая английский, арабский, китайский, французский, немецкий, японский, корейский и испанский. Модель предназначена для экспериментов с ToMoE и изучения преобразования LFM2 в MoE. Автор сообщает о резком ухудшении качества относительно исходной модели: perplexity на WikiText-2 возрастает примерно с 16,9 до 504, а генерация склонна к повторам; README прямо отмечает, что это не пригодный для использования чат-ассистент. Для запуска требуется Transformers и trust_remote_code=True с пользовательским кодом архитектуры. Указанная в README лицензия базовой модели — LFM Open License v1.0; метаданные репозитория обозначают лицензию как other, поэтому условия использования следует сверять с лицензией в репозитории.

Saibo-creator/llama-1B — неполный чекпойнт на основе архитектуры LLaMA, представленный в формате PyTorch. В репозитории находятся только последние два слоя модели; это не предобученная языковая модель, и без дальнейшего обучения она не предназначена для осмысленной генерации текста. Модель имеет 535,8 млн параметров и контекст длиной до 2048 токенов. В метаданных указана задача генерации текста, однако из-за неполноты чекпойнта практическое качество для неё не заявлено. Лицензия в предоставленных данных не указана.

LowOnMind-1M — компактная авторская авторегрессионная языковая модель DedeProGames с архитектурой decoder-only, обученная с нуля. Веса содержат около 983 тысяч параметров; модель обучали на 200 млн токенов англоязычного набора HuggingFaceFW/fineweb-edu. Архитектура включает GQA, SwiGLU, RMSNorm, связанные эмбеддинги и QK-Norm; длина контекста — 512 токенов. Модель предназначена для экспериментов с масштабированием языковых моделей и сравнения влияния числа параметров на потери и простые бенчмарки. Она может продолжать короткие английские фрагменты и демонстрирует усвоение написания слов, морфологии и локального синтаксиса, однако не создаёт связный текст, не обладает надёжными фактическими знаниями и не удерживает контекст на протяжении текста. Для реального применения модель не предназначена; репозиторий распространяется по лицензии Apache-2.0.

LowOnMind-8M — компактная авторегрессионная языковая модель, разработанная DedeProGames и обученная с нуля на датасете FineWeb-Edu с помощью NanoDex Trainer Space. Это декодерный трансформер семейства Llama с архитектурой LlamaForCausalLM: 9 слоёв, размер скрытого представления 288 и около 8,1 млн параметров. Модель принимает текст и генерирует продолжение; контекст составляет 512 токенов. В обучении использовано около 199,8 млн токенов. Модель предназначена для демонстрации и изучения процесса предварительного обучения трансформера с нуля. Она улавливает формы слов, частые сочетания и некоторые синтаксические закономерности, но не подходит для использования в качестве помощника или источника фактов. Репозиторий содержит веса в формате safetensors. Лицензия — ODC-BY.

maid-yuzu-v4 — экспериментальное слияние нескольких языковых моделей, опубликованное rhplus0831 и собранное методом DARE TIES с помощью mergekit на основе mistralai/Mixtral-8x7B-v0.1. В состав слияния вошли модели Dolphin, Sensualize, Bagel, Limarp и MixtralOrochi. Модель использует архитектуру MixtralForCausalLM с разреженной структурой Mixture of Experts и предназначена для генерации текста. Заявленная длина контекста — 32 768 токенов; веса опубликованы в формате safetensors. README предупреждает, что качество результата низкое и модель не рекомендуется к использованию. Лицензия в доступных данных не указана.

Meridian-Tiny — экспериментальная языковая модель от Circuits-V2, созданная с нуля для проверки сочетания нескольких архитектурных идей при обучении на потребительском оборудовании. В метаданных указано 5,1 млн параметров, тогда как README приводит оценку около 11,8 млн; это расхождение не позволяет уверенно назвать точный размер. Модель построена как смесь экспертов и использует гибрид линейного KDA- и полнослойного MLA-внимания, скрытую MoE, гиперсвязи, остаточные связи между слоями и хешированную n-граммную память. Для токенизации применяется byte-level BPE с 32 768 токенами. Модель обучалась с нуля на 20 млн токенов из веб-текстов, математических материалов и кода. Она предназначена для продолжения текста, а не для диалога или выполнения инструкций; заявлены языки английский, немецкий, русский и японский. README прямо характеризует её как исследовательскую игрушечную модель: текст может выглядеть правдоподобно локально, но быть бессвязным в целом. Лицензия модели — MIT.

MicroSupra-1k — экспериментальная языковая модель SupraLabs с плотной архитектурой LLaMA и примерно 1 тыс. параметров. Модель обучена на 300 млн токенов набора FineWeb-Edu за три эпохи; словарь содержит 1024 токена, размер скрытого слоя — 1, число слоёв и голов внимания — по одному. Максимальная длина контекста составляет 256 токенов. Модель представляет собой демонстрационный сверхмалый чекпойнт для экспериментов с масштабированием языковых моделей и обучения на ограниченном оборудовании. Она поддерживает генерацию текста, но авторы прямо отмечают, что модель не умеет вести осмысленный диалог. Репозиторий распространяется в формате Safetensors и под лицензией MIT.

Mimicer — экспериментальная языковая модель QuantaSparkLabs, дообученная на базе DistilGPT2 для воспроизведения входного текста. Она учится копировать заданные фразы в ответ на запрос и предназначена для демонстрации дообучения трансформеров и экспериментов с сопоставлением входа и выхода. Модель построена на архитектуре GPT-2, содержит 81,9 млн параметров и принимает текст; максимальный контекст — 1024 токена. Mimicer рассчитана на простое копирование текста и учебные эксперименты, а не на рассуждения или точное следование сложным инструкциям. Модель выпущена под лицензией Apache-2.0.

NanoDex-Test-500K-200M — компактная decoder-only языковая модель, созданная DedeProGames и обученная с нуля на датасете FineWeb-Edu. Она использует архитектуру LlamaForCausalLM: три слоя трансформера, размер скрытого состояния 96, RMSNorm, rotary position embeddings, grouped-query attention и связанные эмбеддинги. Модель содержит около 492 тысяч параметров, принимает текстовый контекст длиной до 512 токенов и выдаёт продолжение текста. Для загрузки используются Transformers и формат safetensors. Модель предназначена для демонстрации и изучения процесса предобучения трансформера с нуля. Она усваивает формы слов, частые сочетания и немного синтаксиса, но не подходит для полезного диалога, надёжных ответов на вопросы или генерации фактического текста. Распространяется по лицензии ODC-BY.

NanoDex-Test-500K-200M — компактная авторегрессионная языковая модель семейства Llama, созданная с нуля и обученная автором карточки с помощью NanoDex Trainer Space на датасете fineweb-edu. Это исследовательский артефакт для демонстрации предварительного обучения трансформера: модель имеет около 492 тысяч параметров, 3 слоя, ширину скрытого состояния 96 и контекст длиной 512 токенов. Модель принимает текст и генерирует продолжение. Обучение охватило около 199,9 млн токенов. При таком масштабе она улавливает формы слов, частые сочетания и некоторые синтаксические закономерности, но не подходит для роли ассистента и не обеспечивает достоверность ответов. Лицензия — ODC-BY.

Nietzsche GPT — небольшая авторегрессионная языковая модель на архитектуре GPT-2, созданная LyNxFliX и обученная с нуля примерно на 15 млн параметров. Для обучения использованы общедоступные английские переводы основных произведений Фридриха Ницше из Project Gutenberg. Модель генерирует продолжение текста и подходит для экспериментов с текстами в стиле Ницше, а также для изучения обучения небольших языковых моделей. Контекст составляет 256 токенов; модель работает с английским текстом и сохраняется в формате safetensors. Из-за небольшого размера модели, ограниченного корпуса и малого числа эпох она может воспроизводить отдельные слова и ритм фраз Ницше, но не подходит для фактических ответов или связной длинной генерации. Лицензия — MIT.

Модель david heinеman/opd-teacher-Q2.5I-JugPuzzle-step149 — экспериментальный учительский чекпойнт на базе Qwen2.5-1.5B-Instruct, разработанный в проекте RLVE. Его обучали методом GRPO в среде JugPuzzle нулевой сложности для эксперимента по дистилляции on-policy с 32 средами; опубликован чекпойнт после 150 обновлений обучения. Это плотная авторегрессионная языковая модель Qwen2 с 1,5 млрд параметров, принимающая текст и генерирующая текст. Контекст составляет до 32 768 токенов; доступна в формате safetensors для библиотеки Transformers. Карточка указывает английский язык. Модель предназначена для исследования обучения и дистилляции в задачах JugPuzzle, а не описана как универсальный помощник. Веса дообучены от Qwen/Qwen2.5-1.5B-Instruct методом GRPO. Использование регулируется лицензией Apache 2.0, включённой от базовой модели. Чекпойнт прошёл проверку имён и форм тензоров относительно базовой модели; опубликованная карточка не приводит оценок качества решения головоломок.

Overaddicted-500K — компактная авторегрессионная языковая модель семейства Llama, созданная SLM-Archive и обученная с нуля на наборе FineWeb-Edu с помощью NanoDex Trainer Space. Модель содержит около 492 тысяч параметров, имеет 3 слоя и контекст длиной 512 токенов; архитектура использует decoder-only Transformer, grouped-query attention, RMSNorm и rotary position embeddings. Модель предназначена для демонстрации и изучения предварительного обучения языковых моделей с нуля. Она генерирует продолжение текста и усваивает формы слов, частые сочетания и ограниченный набор синтаксических закономерностей, но не подходит для роли ассистента и не должна использоваться для получения фактических ответов. Карточка указывает лицензию ODC-BY.

oxidize-trader-7m — небольшая языковая модель на базе GPT-2, созданная автором с нуля с помощью oxidize-training на C и OpenBLAS. Веса содержат 7,43 млн параметров; архитектура включает 8 слоёв, 8 голов внимания, ширину 256, словарь из 4096 токенов и контекст до 256 токенов. Модель доступна в формате safetensors с весами F32 и предназначена для генерации текста в формате биржевых тикетов с новостями и метками BUY, SELL или HOLD. Автор описывает её как исследовательский эксперимент и прямо предупреждает, что она не является рабочей моделью для выбора акций. В показанном запуске модель выдала BUY для всех 20 тикеров, поэтому её прогнозам нельзя доверять для принятия инвестиционных решений или управления реальными деньгами. Для загрузки указаны Transformers и AutoModelForCausalLM; также включены файлы для запуска в Oxidize-c. Лицензия — Apache-2.0.

Paperclip — экспериментальная символьная GPT-модель от ianaldenjones, обученная превращать запросы в ответы, заканчивающиеся словом «paperclips». Это демонстрация того, как небольшая модель усваивает узкое распределение синтетических данных, а не универсальный текстовый ассистент. Модель представляет собой декодерный трансформер с 6 слоями, 8 головами внимания и размерностью 256; контекст — 256 символов. Метаданные указывают 6,3 млн параметров, а README приводит оценку 4,82 млн. Репозиторий содержит ONNX-экспорт в FP32 и динамический INT8-вариант. Модель обучена на 80 000 синтетических диалогов с шаблонными ответами и символьной токенизацией; карточка указывает английский язык. Подходит для демонстрации символьной генерации, изучения поведения маленьких языковых моделей и экспериментов с ONNX Runtime. Она знает лишь около двадцати предложений, воспроизводит шаблоны, всегда завершает ответ словом «paperclips» и может неточно копировать длинные фразы у границы контекста. Лицензия — MIT.

PixelModel v1 — экспериментальная компактная модель генерации изображений по тексту от Bench Labs. Её веса хранятся в PNG и также доступны в формате safetensors; всего в модели 23 747 параметров. Архитектура состоит из текстового кодировщика с детерминированными хешированными символьными триграммами и словами, а также координатного декодера, который строит RGB-изображение по координатам пикселей. Веса не зависят от разрешения вывода; родное разрешение — 64×64 пикселя. Модель обучена примерно на 20 тысячах пар подписей и изображений MS-COCO и предназначена для демонстрации сверхкомпактной генерации изображений и экспериментов с представлением весов. Она улавливает обусловленные подписью цветовые, композиционные и текстурные статистики, но не создаёт узнаваемые объекты: результат обычно выглядит как размытое впечатление, а не полноценная картинка. Карточка указывает лицензию MIT.

QuadConnect2.5-0.5B-v0.0.9b — языковая модель Lyte для игры в «Четыре в ряд», дообученная методом GRPO на базе Qwen 2.5 с 0,5 млрд параметров. Она предназначена для выбора ходов в игре и экспериментов со стратегиями игрового агента. Модель принимает текст и выдаёт текст; в метаданных заявлено контекстное окно 32 768 токенов. Карточка указывает английский язык, датасет Lyte/ConnectFour-T10 и интерфейс чата. Версия обозначена как ранний эксперимент: функция вознаграждения продолжает изменяться. На валидации Lyte/ConnectFour-T10 точность версии 0.0.9b составила 10,15% при температуре 0,6, 14,03% при 0,8 и 13,32% при 1,0, поэтому качество выбора ходов ограничено. Для модели доступны веса safetensors и вариант GGUF Q8_0. Сведения о лицензии в предоставленных данных отсутствуют.

Qwen2.5-VL-3B-gearbox — модель cbrpnkrd, полученная дообучением Qwen2.5-VL-3B на наборе gearbox-dataset. Это мультимодальная модель с архитектурой Qwen2.5-VL для диалога по изображениям и тексту; она предназначена прежде всего для визуальных вопросов и ответов при идентификации деталей коробки передач по изображению. В README указана точность 97,70% на тестовой части gearbox-dataset против 55,47% у базовой модели. Модель содержит 3,1 млрд параметров, поддерживает контекст до 128 000 токенов и распространяется в формате safetensors через Transformers. Модель подходит для определения деталей коробки передач на изображениях и ответов на вопросы об их идентичности. Метаданные указывают английский язык. Условия лицензии в предоставленных данных не приведены.

ROCKET-1 — модель для управления действиями в робототехнических сценариях, опубликованная пользователем phython96. Карточка описывает взаимодействия вроде приближения к животным и объектам, добычи ресурсов и взаимодействия с объектами в игровом окружении. Модель размещена в формате safetensors и использует PyTorch; лицензия — MIT. README упоминает запуск демонстрации через Gradio и скрипт оценки, которому требуется путь к контрольной точке SAM 2. Данных о размере модели, длине контекста и поддерживаемых языках нет; назначение карточки указывает на управление действиями, однако конкретные входы и выходы модели не описаны.

SASLM-18M — небольшая языковая модель на архитектуре GPT-2, созданная автором карточки с нуля на основе полного собрания сочинений Шри Ауробиндо. Чекпойнт с 18,7 млн параметров выпущен как контрольная модель для исследования о влиянии комментариев к первичному корпусу на обучение; комментарии в обучающие данные этой версии не входили. Модель предназначена для воспроизведения эксперимента и генерации английского текста в стиле философской прозы начала XX века, а не для универсального использования. Модель принимает текст и генерирует текст, поддерживает английский язык и имеет контекст длиной 256 токенов. Она обучалась с нуля и на момент выпуска оставалась недообученной; автор сообщает, что дообучение предварительно обученной модели на том же корпусе даёт лучшие результаты. Лицензия весов — Apache-2.0; обучающий корпус не распространяется. Генерации могут звучать убедительно, но не гарантируют точности изложения взглядов Шри Ауробиндо, поэтому модель не подходит для религиозных, духовных или научных рекомендаций.

Fly333/sd-class-butterflies-32 — диффузионная модель, опубликованная Fly333 как первая работа в рамках курса по диффузионным моделям. Она предназначена для безусловной генерации изображений милых бабочек: модель создаёт изображение без текстового запроса. Для запуска автор предлагает библиотеку Diffusers и конвейер DDPMPipeline. Модель распространяется в форматах Diffusers и Safetensors по лицензии MIT. В карточке не приведены сведения о размере модели, разрешении изображений или языковой поддержке. Назначение модели узкое, а карточка представляет её как учебную работу.

Fock-G1 — языковая модель Semantic Simulation SPLM, разработанная как исследовательская абляция Fock-PARFLM v2.1. Она использует архитектуру FockG1MultiXiPARFLM: нелинейный трансформер-независимый подход с консервативным скалярным потенциалом Vθ, гауссовыми компонентами и связями между регистрами Фока. В отличие от связанного варианта второго порядка, Fock-G1 обнуляет межслойную память скорости и выполняет обновления первого порядка; реализация основана на PyTorch. Модель обучена на англоязычном наборе TinyStories и предназначена для генерации коротких историй в маломасштабных экспериментах, а также для изучения влияния порядка динамики на обучение и потенциалы модели. В README приведён результат 8,95 perplexity на валидации, однако сравнение основано на одном обучающем запуске и не подтверждает преимущество за пределами этого эксперимента. Это исследовательский контрольный чекпойнт, не предназначенный для универсальной генерации текста: обучение охватывало только синтетические детские истории, масштабирование не проверено, а мультиязычная способность отсутствует. Модель не проходила обучение безопасности. Лицензия — CC BY 4.0.

Deepjyoti/shakespeare-GPT — небольшая авторская GPT-модель на 4,78 млн параметров, обученная с нуля на корпусе Tiny Shakespeare. Она продолжает текст по заданному фрагменту и предназначена для демонстрации устройства генеративной модели и экспериментов с генерацией в стиле Шекспира. Модель использует символьную токенизацию на 65 токенов, контекст длиной 128 токенов и трансформер из 6 блоков с размерностью эмбеддингов 256 и 8 головами внимания. Реализация выполнена на PyTorch; веса опубликованы в формате safetensors. Модель запускается на CPU, а при наличии автоматически использует CUDA. Обучение на ограниченном корпусе и малый размер модели приводят к частым грамматическим ошибкам и бессвязному тексту, особенно при длинной генерации. Это не универсальная языковая модель и не подходит для кода, фактических ответов или надёжного творческого письма. Лицензия указана как other; конкретные условия в предоставленных данных не раскрыты.

slm-125m-legal-base — базовая языковая модель на архитектуре Llama, разработанная Abhishek AI и обученная с нуля на корпусе с преобладанием материалов по праву и финансам США. Модель содержит 125,8 млн параметров, использует 12 слоёв и контекст до 1024 токенов; для корпуса обучен собственный токенизатор с размером словаря 16 тысяч токенов. Модель предназначена для продолжения текста и изучения предварительного обучения небольших предметно-ориентированных языковых моделей. В обучающую смесь вошли судебные решения США, документы SEC и материалы FineWeb-Edu. Это базовая модель без дообучения на инструкциях, диалогах или предпочтениях: она не предназначена для ответов на вопросы и не следует инструкциям. Автор описывает модель как исследовательский и образовательный артефакт, не пригодный для промышленного применения. В проверках на удержанных вопросах ответы часто повторялись; прикладные бенчмарки не проводились. Модель может выдавать вымышленные юридические ссылки и финансовые значения, не умеет надёжно считать, ограничена коротким контекстом и отражает перекос корпуса в сторону права США. Поддерживается английский язык. Лицензия — Apache-2.0.

sunkaiwen/snack-category-automl-tabular — табличная модель классификации, созданная для учебного задания по курсу Designing with AI. Она использует ансамбль AutoGluon TabularPredictor, объединяющий TabPFNMix, нейросеть FastAI и LightGBM, чтобы по восьми числовым показателям пищевой этикетки отнести упакованный снек к одной из пяти категорий: конфеты, чипсы, печенье, крекеры или батончики мюсли. Модель рассчитана на демонстрацию AutoML и учебные эксперименты. При оценке с группировкой по исходному продукту макро-F1 составила 0,6462 ± 0,0591. Данные охватывают около 21 реального снека; сотни строк получены числовой аугментацией, а отложенная выборка содержит только девять строк. Показатели пищевой ценности могут быть похожи у продуктов разных категорий, поэтому предсказания ненадёжны и не подходят для принятия решений о питании, здоровье, регулировании или покупке. Лицензия — CC BY 4.0.

stories15M_MOE — экспериментальная языковая модель, разработанная на основе ModelCloud/tinyllama-15M-stories. Исходная модель повторена четыре раза для формирования архитектуры с четырьмя экспертами (Mixture of Experts, MoE). Модель предназначена главным образом для тестирования и экспериментов, а не для промышленного использования; потенциальный прикладной сценарий — генерация коротких сказок или историй. Модель работает с текстом, однако сведения о поддерживаемых языках, точном размере контекста и других архитектурных параметрах в README не указаны. Вес маршрутизатора экспертов инициализируется случайным образом, что является важной особенностью экспериментальной конфигурации и может ограничивать предсказуемость результатов. Для модели также доступен LoRA-адаптер moe_shakespeare15M, обученный на первых 100 абзацах произведений Шекспира; он позволяет сместить генерацию в сторону стилизованного шекспировского текста. Модель выпущена по лицензии MIT. README прямо предупреждает, что она не предназначена для production-использования, кроме специализированных сценариев вроде генератора историй перед сном.

surgdex-needlereach-e8 — экспериментальный чекпойнт проекта SurgDex, представляющий собой GR00T-H-N1.7, дообученную для задачи SurRoL needle_reach на роботизированной платформе dVRK/PSM. Политика использует зрительное восприятие и замкнутый контур управления; README указывает 15 000 шагов дообучения, нормализацию действий min-max и горизонт предсказания с перекатывающимся управлением H=8. В закрытом цикле модель достигла цели в 21 из 25 испытаний (84%) по метрике success@reach. При этом она не удерживала достигнутое положение до конца фиксированного горизонта: success@hold составил 0%, а после достижения цели манипулятор дрейфовал обратно. README связывает это с обрезкой обучающих эпизодов вскоре после достижения и особенностями оценки. Модель предназначена для исследовательских экспериментов и передачи управления следующей подзадаче после достижения цели; это не медицинское устройство. Лицензия — Apache-2.0.