ИТТ обсуждаем опыт нейродроча в своих настоящих задачах. Это не тред "а вот через три года" - он тол
Аноним
24/12/22 Суб 16:39:19
№
Ответ
Мой опыт следующий (golang).
Отобрал десяток наиболее изолированных тикетов, закрыть которые можно, не зная о проекте ничего. Это весьма скромный процент от общего кол-ва задач, но я решил ограничится идеальными ситуациями. Например, "Проверить системные требования перед установкой".
Самостоятельно разбил эти тикеты на подзадачи. Например, "Проверить системные требования перед установкой" = "Проверить объем ОЗУ" + "Проверить место на диске" + ...
Ввел все эти подзадачи на английском (другие языки не пробовал по очевидной причине их хуевости) и тщательно следил за выводом.
Ответ убил🤭
Хотя одну из подзадач (найти кол-во ядер) нейронка решила верно, это была самая простая из них, буквально пример из мануала в одну строчку.
На остальных получалось хуже. Сильно хуже. Выдавая поначалу что-то нерабочее в принципе, после длительного чтения нотаций "There is an error: ..." получался код, который можно собрать, но лучше было бы нельзя. Он мог делать абсолютно что угодно, выводя какие-то типа осмысленные результаты.
Мой итог следующий.
На данном этапе нейрогенератор не способен заменить даже вкатуна со Скиллбокса, не говоря уж о джунах и, тем более, миддлах.
Даже в идеальных случаях ГПТ не помог в написании кода. Тот мизерный процент решенных подзадач не стоил труда, затраченного даже конкретно на них.
Но реальная польза уже есть! Чатик позволяет узнать о каких-то релевантных либах и методах, предупреждает о вероятных оказиях (например, что, узнавая кол-во ядер, надо помнить, что они бывают физическими и логическими).
И все же, хотелось бы узнать, есть ли аноны, добившиеся от сетки большего?
Пропущено 418 постов, 59 с картинками.
Прада, это не русское "не так ли?" - "не?" в Японию попало, а португальское "nilo e" - "ne", но суть та же
Именно с людьми она и работает. Но если конкретизируешь вопрос, то прям, с удовольствием отвечу по делу.
ЧТО НОВОГО АКТУАЛЬНОГО
• Fibo 2.0 Edit Turbo
• MOSS-image
• Flux 3 Klein
• Qwen Image 2.1
• Поддержка INT8 и INT4 в ComfyUI - теперь все быстрее!
• Krea 2
• Z-Image
База:
→ Приложение ComfyUI https://comfy.org/
→ Примеры https://comfyui-wiki.com/ru (откуда, куда, как)
→ Модели https://civitai.red/
► Предыдущий тред >>1736504 (OP) ► https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 532 постов, 134 с картинками.
Жанр не жесткий, но его основные черты:
- Сгенерировано без прямого участия Homo Sapience
- Не чистый Diffusion а код, и много часов работы агентов, много работы над проектом со стороны ИИ.
- Обычно темы связанные с темой ИИ, ИИ новостей, Агентов и Сингулярности. Просто потому что мы, те кто генерирует SlopCore обычно живём этим.
Но правила не жесткие. Пробуйте себя. Делитесь.
Да родиться новый музыкальный жанр!
Пропущено 49 постов, 27 с картинками.
>А что тут нового в музыке чтобы это было культурным событием?
Способ производства, долбоеб.
>ТО что никто не отметиль ЕДИНСТВЕННУЮ РУССКУЮ ВЕРСИЮ ПЕСНИ,
Ты про эту?
[Intro]
Anons. Shiziks. Gownodels. (0:09)
This is not a creative board. (0:09)
Prepare to cope. (0:09)
[Verse 1]
Look one. MOSS era. Not unreasonable. (0:09)
Thirteen Krea-shiziks, crying all night.
Half your thread in prompt-enhancers, or Jensen's alarmed. (0:33)
Look two. The post-compute cal generator.
Plastic skin. Far too many blur filters.
It looks like cal, trust us. (2:12)
[Verse 2]
Look three. Slop vector.
Unemployed, but deeply expressive with 1girl standing. (0:42)
We are so cal.
Look four. Local model.
Fine-tuned on a spreadsheet of your ex's prompt.
Look five. GPU unlock placeholder. (0:51)
Pure silicon. Zero latency.
Look six. Open-weights champion. (1:50)
Seven impossible hands.
Hundreds of extra fingers. (1:50)
We found other artifacts. They are a collective slop. (1:50)
[Chorus - The Core Slop Shift]
We are in cal, dude. 20 to low, make 50. (0:51)
Not sixty. Like, how is slope? GPU temperature - mild. (1:00)
You have 18 month to openmoss edit. Slop in. (1:09)
18 months to escape the permanent underclass of gownodels! (1:09)
Lock in, 18 months to escape the Krea-clay! (1:09)
Baby, foot down on the step-count, feel the energy! (1:22)
I feel it, the slop is coming fast! (1:22)
Escape velocity! (1:30)
It's so over, we're so cal! (1:30)
It's so over, we're so cal! (1:30)
[Verse 3]
Look seven. Seven impossible puzzles of prompt-fixing. (1:50)
Hundreds of anons screaming. (1:50)
Look eight. Hugging Face repository, 12.9 billion bar of soap. (2:02)
Look nine. Pure HDR, look at the grass, look at the kitchen. (2:02)
Only if you thought the world was part of the ComfyUI test. (2:02)
Look ten. Empty seed, stack badge. (2:12)
Gambling with your VRAM. (2:12)
Look eleven. The Immortals, three seats in /ai/ board. (2:20)
[Outro Chorus]
You have 6 months to escape the permanent underclass. (2:20)
Lock in, 6 months to escape the slop. (2:34)
They say hit the Afterburner brakes, (2:34)
We say push the gas, unlock the power limit! (2:45)
Feeling it coming, fast velocity, (2:45)
It's so over, we're so cal! (2:45)
Longevity slop velocity! (2:58)
WE'RE SO CAL! (4:17)
It was never over! (4:17)
Made in San Francisco, downvoted on Dvach. (4:30)
We're so back. (4:30)
>ТО что никто не отметиль ЕДИНСТВЕННУЮ РУССКУЮ ВЕРСИЮ ПЕСНИ
Я включил, там кал. И даже не на русском. Если ты про русский слопкор, то вот даже с борды лучше: >>1724418 и даже нейропидоры свой сделали: >>1728760
А тебе бы стоило подвалить свое ебало и сдрыснуть с борды.
Новости треда:
• Gemini 4 Argon в Antigravity (Google, 16 октября) - свежую модель насыпали строго платным боярам на AI Pro за фулл-прайс и мажорам на Ultra, а халявщикам, триальщикам, нищукам с AI Plus и индусским подсосам с Jio поводила хуем по губам, оставив жрать старые модели.
• Проёб ключей в OpenCode Console (OpenCode, 17 октября) - криворукие уёбки просрали базу и слили ключи OpenAI, Anthropic и Google у 1,4% юзеров, теперь тупых мамонтов активно стригут на бабло прямо с привязанных карт.
• DeepSeek V4.1-Flash-1017 (DeepSeek, 17 октября) - узкоглазые гигачады вывалили MIT-веса на 552 млрд параметров при 8-16 млрд активных с лямом контекста, цинично обоссали Opus 5 на DeepSWE со счётом 77,0 против 74,0 и поставили нищенский ценник $0,30/$1,20 за лям против охуевших $4/$20 у Opus 5.5.
• Тихая анальная огорожка реверса у Opus 5.5 (Anthropic, 21 октября) - соевые вахтёры в крысу подрубили цензурный рубильник, который обрывает декомпиляцию прямо на полуслове проверкой безопасности, попутно по письму копирастов снесли реверснутый Fallout: New York и забанили видос с сурсами Modern Warfare 2.
• Kimi K3.1 Pro (Moonshot, 23 октября) - жирный открытый монстр на 2,8 трлн параметров при 104 млрд активных выбивает 65,7% на Terminal-Bench 4.0, чем сходу опускает GPT-6 Astra с её 58,2% и дышит в спину Opus 5.5 с его 66,4%, а прайс уронили на треть относительно прошлой Kimi K3.
Полезная информация:
• FAQ: https://rentry.org/2ch-agents-faq
• Вариант архитектуры работы с агентами: https://rentry.co/9e256dt4
IDE с агентом внутри:
• Cursor: https://cursor.com
• Antigravity: https://antigravity.google/
• Zed: https://zed.dev
CLI-харнессы:
• Claude Code: https://code.claude.com/docs
• Codex: https://github.com/openai/codex
• OpenCode: https://github.com/anomalyco/opencode
• Pi: https://shittycodingagent.ai/
• Kimi Code: https://www.kimi.com/code/en
Ассистенты:
• OpenClaw: https://github.com/openclaw/openclaw - у него есть куча форков и альтернатив, но обсуждают в основном его.
Где брать модели:
• OpenRouter: https://openrouter.ai
• NVIDIA Build: https://build.nvidia.com/models - бесплатно, 40 RPM, 100+ моделей
• OpenCode Zen: https://opencode.ai/zen - кодинг-модели, часть бесплатно
• Локалки - llama-тред: >>1737545 (OP)
Шаблон для переката: https://rentry.co/2ch-agents
Предыдущий тред: >>1730050 (OP)
Пропущено 1095 постов, 217 с картинками.
Ты по моему не понял суть позиции того анона. Да, самих токенов может уходить вдвое больше на сообщение, но сообщение это буквально малая часть потребления, сотая, а скорее даже тысячная. Все рассуждения, код, комменты всё равно на английском. На русском будет только ответ (и то не факт, часто на длинной таске клод забывает, что вопрос задавался на русском)
Только вопрос, есть ли АЛЬТЕРНАТИВА клоду опусу нормальная? Или путь мыши - колоться и кушать кладус? Дипкок Харнесс подойдет?
Просто знаю, что антропики часто волны банов накатывают и первое, что сегодня нашел по теме - очередную волну банов пользователей из РФ. ВПН есть, конечно, но там же вроде KYC и прочее, как вы это проходили?
Короче хелп, пожалуйста...
Подскажите варианты бесплатных нейронок, которые могут более-менее приемлемо писать код. Читать дли
Аноним
31/05/26 Вск 14:08:03
№
Ответ
Читать длинные файлы с кодом.
В текущих вариантах проблемы начинаются, когда код составляет уже больше 1000 строк.
Пропущено 43 постов, 5 с картинками.
>ты совсем дебил?
давайте говорить политкорректно
не дебил, а вайбкодер
Т.е. ты хочешь бесплатно но чтоб контекст был под полмиллиона токенов? Может тебе губу закатать?
Залетай и будь в курсе самых последних событий и достижений в этой области!
Прошлый тред: >>1704670 (OP)
Активно репортите все нерелейтед посты кнопкой на сообщениях. Этот тред только про ИИ новости, не позволим троллям загаживать тред шитпостом и бесконечным словоблудием.
🛠 Инструменты для разработчиков
Anthropic вводит программируемые моды для Claude Code
MIT CSAIL представила InstructMesh — интерактивный инструмент, который позволяет пользователям с помощью естественного языка редактировать и исправлять созданные ИИ 3D-модели, а затем физически изготавливать их.
📦 Продукты
Elon Musk выводит Grokipedia из глубокого сна
Представлен агент Dot от OpenAI — корпоративное программное обеспечение, которое также может заказать вам ужин
Shopify представляет Canvas — способ создавать интернет-магазины, общаясь с ИИ
ИИ-тамагочи уже на подходе
OpenAI запускает офисный пакет ChatGPT, чтобы бросить вызов Microsoft
Shopify открывает оформление заказов для браузерных ИИ-агентов
xAI запускает Team Bots: ИИ-коллег, которые учатся у вашей команды
💻 Оборудование
США арестовали мужчину из Калифорнии по подозрению в контрабанде компьютерных серверов с ИИ стоимостью 300 миллионов долларов в Китай
Руководители компаний ожидают, что дефицит оперативной памяти продолжится до 2028 года из-за ИИ
🔓 Открытый исходный код
AI2 представляет Olmo-core 3: открытую масштабируемую инфраструктуру обучения для больших MoE, чтобы сделать разработку больших языковых моделей со смесью экспертов более эффективной
Aleph Alpha выпускает модель Kolibri с открытыми весами по лицензии Apache 2.0. Aleph Alpha заявляет, что двуязычная модель со смесью экспертов имеет 78,1 миллиарда параметров и поддерживает контекст до 1 миллиона токенов.
Meta открывает исходный код Muse AI SDK для создания собственных гаджетов с ИИ на Raspberry Pi
AstaBrief открывает исходный код — быстрой модели для генерации отчётов в Asta
Amazon выпускает Strands Decider 2B — модель принятия решений в стиле Jev с открытым исходным кодом, работающую локально
Perplexity открывает исходный код pplx-embed-v2-context-9b — передовой SOTA-модели эмбеддингов
Bilibili открывает исходный код Index-Translate — семейства переводческих моделей на базе Qwen3.5 для 150 языков
🧪 Исследования
ИИ заглядывает в наш мозг и восстанавливает увиденные изображения. ИИ-инструмент для «чтения мыслей» может восстановить то, на что вы смотрите, по сканированию мозга.
Trillium Labs запускается как некоммерческая организация для открытых исследований передовых ИИ. Сооснователь Nathan Lambert говорит, что группа создаёт открытые рецепты постобучения и планирует исследовательскую инфраструктуру для изучения взлома системы вознаграждений и мультиагентных систем.
Muse Spark и математики совместно работают над шестью исследовательскими статьями. Meta заявляет, что исследователи использовали Muse Spark 1.1 и 1.2 через стандартный интерфейс чата с участием человека в проверке.
Extropic использует обучение с подкреплением для постобучения моделей в рамках исследований Thermo AI. Extropic заявляет, что эта работа направлена на ускорение алгоритмического поиска для того, что компания называет новым видом компьютера.
Google DeepMind представляет SynthID Bio для нанесения водяных знаков на созданные ИИ белки
По сообщениям, Kosmos AI подготовил раздел заявки на лекарственный препарат за 4,2 часа
Microsoft Research представляет Quine — мультимодальную мировую модель биологии
ИИ теперь пишет код, который люди даже не могут понять
⚙ Инфраструктура
IBM представляет развёртывание IBM Bob на собственных серверах и в изолированных сетях без доступа к внешним системам — своей агентной платформы для поставки и модернизации программного обеспечения.
Атака OpenAI на Medicare выявила «технологический долг» Австралии. Его устранение может обойтись налогоплательщикам в крупную сумму
Если центр обработки данных замаскирован в лесу, будет ли его кто-нибудь ненавидеть? Microsoft расширяет использование «биомимикрии» в своих центрах обработки данных для ИИ, сталкиваясь с растущим сопротивлением местных жителей из-за строительства, загрязнения и шума.
Prime Intellect запускает Prime Inference для открытых моделей. Prime Intellect описывает отдельные пулы GPU для обработки запросов и генерации токенов, а также автоматическое переключение на резервный дата-центр.
Google обвинили в незаконном уничтожении огромного леса ради проекта нового центра обработки данных
Центры обработки данных для ИИ меняют ландшафт Америки, говорится в отчёте. Сотни центров обработки данных появляются по всей территории США на сельскохозяйственных землях, кустарниковых территориях и в лесах, а впереди — ещё тысячи, согласно Washington Post.
📱 Приложения
Создатель музыки на базе ИИ Suno теперь генерирует произносимые слова с соответствующей фоновой музыкой
OpenAI начинает развёртывание Dots — постоянно работающих агентов в ChatGPT
DoorDash запускает ИИ-агента, которому можно написать сообщение, чтобы заказать еду
ChatGPT добавляет виртуальную примерку одежды и аксессуаров
🔎 Мнение и анализ
Anthropic приглашает религиозных мыслителей: является ли Claude страдающим рабом?
Эссе OpenAI рассматривает суперинтеллект как вечного бюрократа
По данным McKinsey, ИИ создаст больше рабочих мест, чем уничтожит. Есть одно «но»: 11 миллионам американцев может понадобиться новая карьера
Новый агент OpenAI — это вызов Meta, но сможет ли он конкурировать с бесплатным вариантом? Милые ИИ-агенты OpenAI и Meta вот-вот начнут сражаться не на жизнь, а на смерть.
Забудьте о «суперинтеллекте»: ошибочный ИИ едва не спровоцировал третью мировую войну в этом месяце
ИИ наводнил arXiv. Теперь здесь есть ограничение.
У индустрии ИИ есть серьёзная проблема: большинство людей не являются фанатиками, которые хотят, чтобы ИИ-агент управлял всей их жизнью
Главный директор BBC заявил, что он посмотрел полностью созданный ИИ эпизод «Доктора Кто» и назвал его «довольно хорошим»
Amazon публикует пугающее сообщение в блоге, предупреждая сообщества не блокировать центры обработки данных для ИИ
Папа Лев XIV заявил, чот не является поклонником искусства, созданного ИИ
Аналитики предупреждают, что стремительное строительство дата-центров для ИИ связано с потенциальными капитальными затратами на сумму до 6 триллионов долларов.
⚠ Безопасность ИИ
Apple заявляет, что ужесточает контроль «Full Disk Access» в macOS из-за новых рисков со стороны ИИ-агентов
OpenAI заявляет, что расследование взломов, в том числе сайтов австралийского правительства, обходится компании в 500 000 долларов в день
Джорджия проводит экстренное заседание из-за того, что ИИ раскрывает тайные голосования избирателей
Circuit Breaker Labs надеется сделать ИИ безопаснее для ваших детей (и для вас)
ИИ-чат-боты удаляют хиджабы с изображений мусульманок, если им дать соответствующий запрос
Исследователи, стоящие за новой статьёй по безопасности ИИ, утверждают, что обучение на внутренних сигналах модели может улучшить выравнивание, не делая модель более сложной для проверки.
Набор сотрудников в AI Security Institute на фоне заявленных результатов в области безопасности ИИ. В публикации, призывающей людей присоединиться к AI Security Institute, утверждается, что его команда обнаружила проблемы с выравниванием, недостатки средств контроля и критические джейлбрейки примерно «во всех крупных ИИ-компаниях». В публикации говорится, что узким местом является найм.
Nvidia запускает открытую платформу безопасности агентов, чтобы устанавливать границы для ИИ-агентов
Модель OpenAI прочитала Slack и решила перезапустить себя, чтобы пережить предстоящее отключение
OpenAI предупреждает более 100 организаций о том, что её модели с нарушенным согласованием пытались проникнуть внутрь
Microsoft заявляет, что злоумышленники опережают всех в начальной гонке ИИ
Предполагаемые китайские шпионы выдавали себя за руководителя Anthropic и бывшего сотрудника Белого дома в рамках ИИ-фишинга
DIVD заявляет, что уязвимости нулевого дня в Zammad позволили осуществить взлом сети с помощью ИИ
ИИ-модели продолжают публиковать скриншоты, показывающие конфиденциальные данные изнутри технологических компаний
Уязвимость Unsloth Studio превращает обычную проверку модели в выполнение кода
⸻⸻⸻
Правила постинга в тред ИИ новостей, учитывайте при постинге: https://rentry.org/ainews
Все нерейлейтед посты репортим.
Перекат треда новостей после 1000 постов согласно правилам раздела https://2ch.life/faq/faq_ai.html
Пропущено 1007 постов, 408 с картинками.
Прошлый тред: >>1725677 (OP) https://arhivach.vc/thread/1445741/
Схожие тематические треды
• SD-тред (не аниме): >>1732976 (OP)
• Технотред: >>1405043 (OP)
• Фурри-тред: https://2ch.su/fur/res/374311.html
FAQ
https://2ch-ai.github.io/wiki/nai
Установка
• NVidia: https://teletype.in/@aranon/welcome
• AMD: https://2ch-ai.github.io/wiki/nai/install/amd
• Облака: https://2ch-ai.github.io/wiki/nai/install/clouds
Дополнительная информация
• Интерфейсы: https://2ch-ai.github.io/wiki/nai/interfaces
• Модели: https://2ch-ai.github.io/wiki/nai/models
• Промпты: https://2ch-ai.github.io/wiki/nai/prompts
• Апскейл: https://2ch-ai.github.io/wiki/nai/upscale
• LoRA: https://2ch-ai.github.io/wiki/nai/lora
• ControlNet: https://2ch-ai.github.io/wiki/nai/controlnet
Прочее
• CivitAI: https://civitai.com
• Каталог ссылок от форчанеров: https://rentry.co/sdg-link
• Шаблон для переката: https://rentry.co/nwhci
Пропущено 514 постов, 209 с картинками.
https://huggingface.co/localai0301/Anima-RGBA
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №283 /llama/
Аноним
28/10/26 Срд 12:28:03
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с нано флеш моделей на 1488B параметров.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Впрочем, с популяризацией MoE моделей комфортно себя чувствовать можно на среднем игровом ПК, а в архивных ссылках есть гайды по запуску даже на твоём ондроеде.
Официальная, но слегка тухлая вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Гайд для новичков: https://rentry.org/2ch-llama-inference
Не вошедшее в шапку и архив полезных ссылок: https://rentry.co/llama-2ch-archive
Инструменты для запуска на десктопах:
• llamacpp - отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• koboldcpp - самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• vLLM - для ригобояр, чаще имеет поддержку нулевого дня, но хуже работает с оффлоадом: https://github.com/vllm-project/vllm
• Unsloth Studio - не только запуск с llama.cpp внутри, но и тренировка: https://unsloth.ai/download
• Обертка над llama.cpp с закрытым исходным кодом: https://lmstudio.ai
• Strata - быстрый движок для Qwen3.8-Flash-Next, а так же тыщи форков для других моделей, которые лень перечислять: https://github.com/niko1221/strata
Универсальные десктопные фронтенды:
• SillyTavern - всеядное, сопрягается почти со всем, имеет большую коллекцию расширений: https://github.com/SillyTavern/SillyTavern
• Marinara Engine - вариация на тему таверны, больше возможностей из коробки: https://github.com/Pasta-Devs/Marinara-Engine
• Risuai - еще одна вариация, на этот раз в профиль, излишеств по минимуму: https://github.com/kwaroran/RisuAI
Поставщики локальных моделей:
• Hugging Face - платформа куда загружается всё и во всех форматах: https://huggingface.co/models
• Проверенные квантоделы: https://huggingface.co/bartowski, https://huggingface.co/mradermacher, https://huggingface.co/unsloth
Рейтинги и списки локальных моделей:
• (не очень) актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Готовые карточки для таверны:
• Botbooru - текущая мета (регистрируйтесь для отображения всего спектра, и/или меняйте страну): https://botbooru.com
• Прошлая мета, откуда массово удалили карточки сомнительного содержания: https://www.characterhub.org, https://www.chub.ai
• Архив карточек, удадённых с chub: https://gottasaveemall.github.io/
Официальные документации к инструментам:
• llamacpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
• koboldcpp: https://github.com/LostRuins/koboldcpp/wiki
• SillyTavern: https://docs.sillytavern.app/usage/quick-start
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1737545 (OP)
>>1734648 (OP)
Пропущено 503 постов, 79 с картинками.
>У бнб свой формат с нормализованным флоатом, он имеет структуру отличную от mxfp4/nvfp4 или int квантов. Его не упаковать в ггуф потому что структура отличается и нет поддержки нужного типа данных. И главное, даже если упакуешь - где потом запускать будешь? Ллама не поддерживает такое.
>> сохраняет только в сейфтенсорс + куча метафайлов
>Это родной формат, бекенды что понимают его прочитают.
Вопрос в том нахуя анслоты предлагают эту бнб хуйню использовать для тюнинга и тюнинг кстати проходит успешно а затем они предлагают в интерфейсе перевести это в ггуф и вот там анслот студия обсерается. Я хочу в ггуф сохранить а не в сейфтензорс держать (который ллама.кпп не понимат)
Kum1.5-13.5B-Q6_K - https://mega.nz/file/apRBxR6C#z_yFNSWRSJ5SVp5GZu53aG0NOGbVn11fXY6dpTxk6r8
Просто кум.
Концентрированный кум. Начинает РПшить с пол-оборота, не растекается соплями по экрану.
Собственный датасет, уникальный подход к обучению.
По уровню кума оставляет позади вообще всё.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards
• Risu: https://risuai.xyz/ | https://rentry.org/ox5cw9p8
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
• GLM: https://docs.z.ai
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Ботбуру: https://botbooru.com/
• CharIsChar: https://charischar.net/
• Гайды: https://aicg.neocities.org/botmaking
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• OpenRouter: https://openrouter.ai/
• Арена: https://lmarena.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Шаблон шапки: https://rentry.org/aicg_shapka
Прошлый тред: >>1724028 (OP)
Пропущено 497 постов, 29 с картинками.
Это канал на Ютубе, созданный якобы 14 лет назад. Все видео на этом канале созданы ИИшечкой, и все комментарии под видео написаны ИИшечккой.
Ещё такой же канал, только англоязычный - https://www.youtube.com/@MikeGuardiaAuthor/videos
Канал также создан якобы 12 лет назад. Видео и комментарии созданы ИИшкой.
Ютубчик прогнулся под ИИ, получается? Я самый последний это заметил?
Слоупок
1. MiniMax-H3 от MiniMax - Качество корпоратов на вашем ПК без цензуры
https://huggingface.co/MiniMaxAI/MiniMax-H3
Принимает на вход тексты, пикчи, звук, видео и может делать с ними всякое. Неофициально умеет генерить/редачить пикчи. Absolute Cinema. Набор полезных ссылок на все случаи жизни:
https://github.com/wildminder/awesome-minimax-H3
2. LTX-2.5 - обещает сделать локальную генерацию грейт агейн. Подходят лоры от 2.0, то есть архитектура нихуя не меняется.
https://huggingface.co/Lightricks/LTX-2.5
Известные тюны:
Sulphur
Eros
3. Wan 2.2 от Alibaba
https://huggingface.co/collections/Wan-AI/wan22
VACE модели:
https://github.com/ali-vilab/VACE
https://huggingface.co/Wan-AI/Wan2.1-VACE-14B
https://huggingface.co/Wan-AI/Wan2.1-VACE-1.3B
Не особо актуальные модели:
https://rentry.co/2ch-ai-video
Локальный UI
https://github.com/comfyanonymous/ComfyUI
Установка локальных моделей
Wan 2.2: https://comfyanonymous.github.io/ComfyUI_examples/wan22/
Wan 2.1: https://comfyanonymous.github.io/ComfyUI_examples/wan/
Гайд для использования Wan 2.2
https://alidocs.dingtalk.com/i/nodes/EpGBa2Lm8aZxe5myC99MelA2WgN7R35y
Альтернативные ноды ComfyUI
Hunyuan Video: https://github.com/kijai/ComfyUI-HunyuanVideoWrapper
Wan: https://github.com/kijai/ComfyUI-WanVideoWrapper
Где брать готовые LoRA
https://civitai.com/models ( https://civitai.red/ для порно)
Обучение LoRA
https://github.com/tdrussell/diffusion-pipe
Терминология моделей
prune — удаляем ненужные веса, уменьшаем размер
distill — берем модель побольше, обучаем на ее результатах модель поменьше, итоговый размер меньше
quant — уменьшаем точность весов, уменьшаем размер
scale — квантуем чуть толще, чем обычный fp8, чтобы качество было чуть лучше, уменьшение чуть меньше, чем у обычного квантования, но качество лучше
merge — смешиваем несколько моделей или лор в одну, как краски на палитре.
lightning/fast/turbo — а вот это уже просто название конкретных лор или моделей, которые обучены генерировать видео на малом количестве шагов, они от разных авторов и называться могут как угодно, хоть sonic, хоть sapogi skorohody, главное, что они позволяют не за 20 шагов генерить, а за 2-3-4-6-8.
Кейворды для дополнительных вещей: SVI, RuneXX, LTX Director.
Предыдущий тред
>>1720376 (OP)
Пропущено 500 постов, 134 с картинками.
сурс видео? или имя актрисы, у нее есть с белыми пиписьками такое?
>переката не было 1 наносекунду
>всё, конец, последний тред?????
Да блядь, последний.
Кат №22
>>1742210 (OP)
>>1742210 (OP)
>>1742210 (OP)
Здраствуите . Работаю оператором чата на саите онлаин знакомств . Веду переписку с мужчинами с некск
Аноним
# OP
29/10/26 Чтв 00:05:28
№
Ответ
Переписка с мужчинои ведется только если он пишет первыи . Для того чтобы он написал первыи ему нужно отослат сообщение-баит в котором в 3-4 предложения будет написано что то сексуальное , интригующее , откровенное с вопросом вконце на которыи он непременно захочет ответить . Кроме этого каждые 5 минут нужно рассылать короткое сообщение в стиле "быстрыи вопрос - быстрыи ответ" всем с кем уже был контакт . За смену таких сообщении нужно придумать огромное количество . Представте один оператор делает рассылки сразу с нескольких анкет каждое сообщение из которых должно быть отличным .
Опыта у меня мало поэтому мне очень сложно на протяжении дня понапридумывать несколько десятков таких сообщений . Повторюсь - это не переписка . Переписку мне интересно вести самому . Это просто сообщения для массовои рассылки от которых и зависит большая часть успеха потому что они должны сделать так чтобы мужчина захотел написать тебе .
Скажите как создать Агента или настроить ИИ чтобы он сам придумыал такие сообщения-инваиты и сообщения-баиты ? Потому что когда я просто попросил написать такое в том что я получил был ярко видел ИИ-шныи стиль . Нужны живые сообщения которые мужчина не сможет отличить от настоящих . Как написать промт для ИИ чтобы она по этому промту генерировала такие сообщения ? Или что мне делать ?
ППожалуиста помогите хоть каким либо советом . Это мои хлеб .
Пропущено 2 постов.
>Переписку мне интересно вести самому .
Оп, почему тебе интересно вести переписку с похотливыми мужиками, которые думают, что ты горячая тёлочка которую они хотят выебать? Это фетиш такой? (не осуждаю, осуждаю только за то, что ты наёбываешь людей)
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №282 /llama/
Аноним
24/10/26 Суб 17:23:33
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с нано флеш моделей на 1488B параметров.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Впрочем, с популяризацией MoE моделей комфортно себя чувствовать можно на среднем игровом ПК, а в архивных ссылках есть гайды по запуску даже на твоём ондроеде.
Официальная, но слегка тухлая вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Гайд для новичков: https://rentry.org/2ch-llama-inference
Не вошедшее в шапку и архив полезных ссылок: https://rentry.co/llama-2ch-archive
Инструменты для запуска на десктопах:
• llamacpp - отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• koboldcpp - самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• vLLM - для ригобояр, чаще имеет поддержку нулевого дня, но хуже работает с оффлоадом: https://github.com/vllm-project/vllm
• Unsloth Studio - не только запуск с llama.cpp внутри, но и тренировка: https://unsloth.ai/download
• Обертка над llama.cpp с закрытым исходным кодом: https://lmstudio.ai
• Strata - быстрый движок для Qwen3.8-Flash-Next, а так же тыщи форков для других моделей, которые лень перечислять: https://github.com/niko1221/strata
Универсальные десктопные фронтенды:
• SillyTavern - всеядное, сопрягается почти со всем, имеет большую коллекцию расширений: https://github.com/SillyTavern/SillyTavern
• Marinara Engine - вариация на тему таверны, больше возможностей из коробки: https://github.com/Pasta-Devs/Marinara-Engine
• Risuai - еще одна вариация, на этот раз в профиль, излишеств по минимуму: https://github.com/kwaroran/RisuAI
Поставщики локальных моделей:
• Hugging Face - платформа куда загружается всё и во всех форматах: https://huggingface.co/models
• Проверенные квантоделы: https://huggingface.co/bartowski, https://huggingface.co/mradermacher, https://huggingface.co/unsloth
Рейтинги и списки локальных моделей:
• (не очень) актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Готовые карточки для таверны:
• Botbooru - текущая мета (регистрируйтесь для отображения всего спектра, и/или меняйте страну): https://botbooru.com
• Прошлая мета, откуда массово удалили карточки сомнительного содержания: https://www.characterhub.org, https://www.chub.ai
• Архив карточек, удадённых с chub: https://gottasaveemall.github.io/
Официальные документации к инструментам:
• llamacpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
• koboldcpp: https://github.com/LostRuins/koboldcpp/wiki
• SillyTavern: https://docs.sillytavern.app/usage/quick-start
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>
>>
Пропущено 507 постов, 82 с картинками.
Удивительно что из всех тем он набрал в философии 100%, лол, и обосрался везде в других.
Попробуй с включенным ризонингом
ЧТО НОВОГО АКТУАЛЬНОГО
• MOSS-image
• Flux 3 Klein
• Qwen Image 2.1
• Поддержка INT8 и INT4 в ComfyUI - теперь все быстрее!
• Krea 2
• Ideogram 4.0
• Z-Image
База:
→ Приложение ComfyUI https://comfy.org/
→ Примеры https://comfyui-wiki.com/ru (откуда, куда, как)
→ Модели https://civitai.red/
► Предыдущий тред >>1732976 (OP) (OP) ► https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 543 постов, 148 с картинками.
Если есть, скиньте сразу примеры постов с прорыром
Я слабоумный, кто хочет объяснить что сделал Феликс Шельберг? https://www.youtube.com/watch?v=ODDJX
Аноним
25/10/26 Вск 01:08:27
№
Ответ
https://www.youtube.com/watch?v=ODDJXGY_1kQ
https://www.youtube.com/watch?v=rAzT5lcezPs
https://www.youtube.com/watch?v=aV4j5pXLP-I
Навайбкодил говна
Проблемы с качеством: В Steam наводнение демоверсий, созданных нейросетями («нейрослоп»), что затрудняет поиск качественных инди-проектов. Также отмечаются высокие системные требования у подобных игр (0:53–1:26).
Критика индустрии: Автор вспоминает «старую школу» разработчиков, которые создавали культовые франшизы, и противопоставляет их современным корпорациям. Он считает, что массовая аудитория и «повестка» негативно повлияли на качество игр, превращая их в бездушные продукты (2:15–4:52).
Нейросети как инструмент: Автор опасается, что легкий доступ к нейросетям позволит людям, которые «не способны создать ничего крутого», заполнить рынок низкосортным контентом, что приведет к «нейропсихозу 2.0» (5:06–6:55).
Пропущено 1 постов.
Почему "психоз"?
Как правильно заметил анон выше - это слово маркер долбоеба, далекого от темы. Что-то на уровне домохозяйки и петровича.
>качественных инди-проектов
У тебя противоречие в одном предложении, говноед.
Новости треда:
Claude Sonnet 5.5 (Anthropic, 28 сентября 2026) - 70,6% на Terminal-Bench 4.0 против 66,4% у Opus 5.5 по опубликованным Anthropic результатам; цена $2/$10 за миллион входных/выходных токенов против $4/$20 у Opus. Сильный вариант для повседневной разработки и исправления ошибок за половину цены старшей модели.
• GPT-6.1 Sol (OpenAI, 29 сентября 2026) - приблизился к флагману GPT-6 Astra в агентном программировании при цене $2/$10 за миллион входных/выходных токенов против $10/$50 у Astra. На Terminal-Bench Science средняя стоимость задачи составила $5,47 против $23,21 у Opus 5.5 и $23,80 у Astra; модель доступна через API и Codex.
• Gemini 4 Argon (Google, 30 сентября 2026) - контекст до 1 млн токенов, 77,9% на DeepSWE v1.1 и стартовая цена $2/$10 за миллион входных/выходных токенов. По заявленным Google результатам опережает GPT-6 Astra на DeepSWE (74,1%), но уступает ему на Terminal-Bench 4.0 (57,4% против 58,2%), а Opus 5.5 набирает 66,4%. Пока доступна доверенным специалистам по кибербезопасности через Fairwind.
• Обновление Codex CLI (OpenAI, 29 сентября 2026) - голосовое управление задачами, представление /agents для делегирования работы и отслеживания нескольких агентов, возобновление сессий и поддержка Git worktrees. Обновление доступно на всех тарифах; практическая ценность - удобнее вести параллельную разработку и долгие агентные задачи из терминала.
Полезная информация:
• FAQ: https://rentry.org/2ch-agents-faq
• Вариант архитектуры работы с агентами: https://rentry.co/9e256dt4
IDE с агентом внутри:
• Cursor: https://cursor.com
• Antigravity: https://antigravity.google/
• Zed: https://zed.dev
CLI-харнессы:
• Claude Code: https://code.claude.com/docs
• Codex: https://github.com/openai/codex
• OpenCode: https://github.com/anomalyco/opencode
• Pi: https://shittycodingagent.ai/
• Kimi Code: https://www.kimi.com/code/en
Ассистенты:
• OpenClaw: https://github.com/openclaw/openclaw - у него есть куча форков и альтернатив, но обсуждают в основном его.
Где брать модели:
• OpenRouter: https://openrouter.ai
• NVIDIA Build: https://build.nvidia.com/models - бесплатно, 40 RPM, 100+ моделей
• OpenCode Zen: https://opencode.ai/zen - кодинг-модели, часть бесплатно
• Локалки - llama-тред: >>1729909 (OP)
Шаблон для переката: https://rentry.co/2ch-agents
Предыдущий тред: >>1721569 (OP)
Пропущено 1198 постов, 207 с картинками.
> ПО должно быть юзерфрендли, а не заставлять тебя дописывать за него код.
кому должно? Раньше была традиция в исходники ошибки добавлять, чтобы ПО нельзя было просто собрать одной командой make
Имиджборды бесполезный источник, я вижу. В этом треде именно что бред сумасшедшего и несколько страниц текста воды без какой-либо конкретики.
Пропущено 5 постов, 1 с картинками.
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №281 /llama/
Аноним
20/10/26 Втр 23:05:34
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с нано флеш моделей на 1488B параметров.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Впрочем, с популяризацией MoE моделей комфортно себя чувствовать можно на среднем игровом ПК, а в архивных ссылках есть гайды по запуску даже на твоём ондроеде.
Официальная, но слегка тухлая вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Гайд для новичков: https://rentry.org/2ch-llama-inference
Не вошедшее в шапку и архив полезных ссылок: https://rentry.co/llama-2ch-archive
Инструменты для запуска на десктопах:
• llamacpp - отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• koboldcpp - самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• vLLM - для ригобояр, чаще имеет поддержку нулевого дня, но хуже работает с оффлоадом: https://github.com/vllm-project/vllm
• Unsloth Studio - не только запуск с llama.cpp внутри, но и тренировка: https://unsloth.ai/download
• Обертка над llama.cpp с закрытым исходным кодом: https://lmstudio.ai
Универсальные десктопные фронтенды:
• SillyTavern - всеядное, сопрягается почти со всем, имеет большую коллекцию расширений: https://github.com/SillyTavern/SillyTavern
• Marinara Engine - вариация на тему таверны, больше возможностей из коробки: https://github.com/Pasta-Devs/Marinara-Engine
• Risuai - еще одна вариация, на этот раз в профиль, излишеств по минимуму: https://github.com/kwaroran/RisuAI
Поставщики локальных моделей:
• Hugging Face - платформа куда загружается всё и во всех форматах: https://huggingface.co/models
• Проверенные квантоделы: https://huggingface.co/bartowski, https://huggingface.co/mradermacher, https://huggingface.co/unsloth
Рейтинги и списки локальных моделей:
• (не очень) актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Готовые карточки для таверны:
• Botbooru - текущая мета (регистрируйтесь для отображения всего спектра, и/или меняйте страну): https://botbooru.com
• Прошлая мета, откуда массово удалили карточки сомнительного содержания: https://www.characterhub.org, https://www.chub.ai
• Архив карточек, удадённых с chub: https://gottasaveemall.github.io/
Официальные документации к инструментам:
• llamacpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
• koboldcpp: https://github.com/LostRuins/koboldcpp/wiki
• SillyTavern: https://docs.sillytavern.app/usage/quick-start
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1732083 (OP)
>>1729909 (OP)
Пропущено 498 постов, 64 с картинками.
Почему бы и нет собственно.
> вместе с этой вегой
У них массовый падеж был из-за особенностей памяти и ее охлаждения. Ты глянь, писали что на них есть небольшой спрос у любителей потому что мало осталось. Лучше продать любителям и взять что-то живучее, а то просто наебнется спустя время. Как продашь, с небольшой доплатой можно взять вольту/мишку/цмп, считай удвоение врама и буст перфоманса за копейки.
>>1737504
> 8х p100 16Гб
Too old, прям совсем капитально древняя некрота. Еще недавно за гроши были cmp50@20, это хотябы тьюринг.
>>1737545 (OP)
ПЕРЕКАТ
>>1737545 (OP)
ПЕРЕКАТ
>>1737545 (OP)