Изображения
Видео и 3D
Текст
Пропущено 1496 постов, 218 с картинками.
А FF есть встроенный прокси на 50 гб если что сейчас. Ну потом лавку могут прикрыть.
Ебейший кал по скорости, да и айпишники турбозашкваренные в итоге.
Для очобы пойдет. Другое дело агентский прогинг, там очко, да. Клод это почитай 30 баксов в месяц, учитывая баны и впски - нахуй оно припало? А остальное это уже не ретрад-тир, да еще и с настраиванием поисков и прочего, у гпт уже свой есть прикрученный, а дипсик будет или говно из своего апи есть (сомнительного качества), или лимиты тавили харчить только так (а у него очоба, так что искать хуйню будет ОЧЕНЬ часто).
Тред для получения доступа в /nf
Пропущено 1496 постов.
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №285 /llama/
Аноним
03/11/26 Втр 22:58:05
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с нано флеш моделей на 1488B параметров.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Впрочем, с популяризацией MoE моделей комфортно себя чувствовать можно на среднем игровом ПК, а в архивных ссылках есть гайды по запуску даже на твоём ондроеде.
Официальная, но слегка тухлая вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Гайд для новичков: https://rentry.org/2ch-llama-inference
Не вошедшее в шапку и архив полезных ссылок: https://rentry.co/llama-2ch-archive
Инструменты для запуска на десктопах:
• llamacpp - отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• koboldcpp - самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• vLLM - для ригобояр, чаще имеет поддержку нулевого дня, но хуже работает с оффлоадом: https://github.com/vllm-project/vllm
• Unsloth Studio - не только запуск с llama.cpp внутри, но и тренировка: https://unsloth.ai/download
• Обертка над llama.cpp с закрытым исходным кодом: https://lmstudio.ai
• Strata - быстрый движок для Qwen3.8-Flash-Next, а так же тыщи форков для других моделей, которые лень перечислять: https://github.com/niko1221/strata
Универсальные десктопные фронтенды:
• SillyTavern - всеядное, сопрягается почти со всем, имеет большую коллекцию расширений: https://github.com/SillyTavern/SillyTavern
• Marinara Engine - вариация на тему таверны, больше возможностей из коробки: https://github.com/Pasta-Devs/Marinara-Engine
• Risuai - еще одна вариация, на этот раз в профиль, излишеств по минимуму: https://github.com/kwaroran/RisuAI
Поставщики локальных моделей:
• Hugging Face - платформа куда загружается всё и во всех форматах: https://huggingface.co/models
• Проверенные квантоделы: https://huggingface.co/bartowski, https://huggingface.co/mradermacher, https://huggingface.co/unsloth
Рейтинги и списки локальных моделей:
• (не очень) актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Готовые карточки для таверны:
• Botbooru - текущая мета (регистрируйтесь для отображения всего спектра, и/или меняйте страну): https://botbooru.com
• Прошлая мета, откуда массово удалили карточки сомнительного содержания: https://www.characterhub.org, https://www.chub.ai
• Архив карточек, удадённых с chub: https://gottasaveemall.github.io/
Официальные документации к инструментам:
• llamacpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
• koboldcpp: https://github.com/LostRuins/koboldcpp/wiki
• SillyTavern: https://docs.sillytavern.app/usage/quick-start
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1742925 (OP)
>>1740274 (OP)
Пропущено 403 постов, 66 с картинками.
Покрутил я как вы посоветовали еще но все в анслофе, сменил вулкан на роком, выставил --split-mode none --moe-cache-mib 2048 экстра аргументами + последние версие анслофа и бэка.
Где-то бутылка на тему памяти, пошареная рама все еще 15.5 из 16 гигов и врама на 6.5 гигах но я так понимаю лучше оставить под контексты всякие.
Где-то еще меня винда видимо ограничивает, на что пошаренная рама указывает, если дергать выгрузку слоев на гпу после ~16 он параметры передает но по факту ничего не происходит.
И еще видно по диспетчеру что карта фактически не нагружена, ~40% копирования и ~10% компьюта показывает в диспетчере.
Пока лучший вариант такой получился:
контекст 25к пока оставил
q8_0 kv cash
16 слоев на гпу
30 на цпу
batch size 2048
micro-batch size 1024
mmap none
--split-mode none --moe-cache-mib 2048
На простой промпт ~225 tok/sec скорость и порядка 10.7 токенов.
На большой промпт тестовый высрала без проблем простыню без дропа в скорости с общей беседой под конец в 4.4к
Prompt eval 3.08s
Prompt speed 56.2 tok/s
Generation 380.13s
Speed 8.6 tok/s
Tokens 3,265
First token 3.55s
Cache hits 929
Бутылку в промпт процессинге победил! Но по итогу потерял в скорости генерации, с кривыми настройками порядка 13ток\сек было но эвальюейшен моего промпта минуты полторы занимал. В целом так наверно даже можно уже оставить, сильно лучше и даже юзабельно.
ЧТО НОВОГО АКТУАЛЬНОГО
• Fibo 2.0 Edit Turbo
• MOSS-image
• Flux 3 Klein
• Qwen Image 2.1
• Поддержка INT8 и INT4 в ComfyUI - теперь все быстрее!
• Krea 2
• Z-Image
База:
→ Приложение ComfyUI https://comfy.org/
→ Примеры https://comfyui-wiki.com/ru (откуда, куда, как)
→ Модели https://civitai.red/
► Предыдущий тред >>1739795 (OP) (OP) ► https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 313 постов, 105 с картинками.
До сих пор нет в природе нормальных имаже едит нейронок. Что с цензурой, что без цензуры.
Прошлый тред: >>1734038 (OP) https://arhivach.vc/thread/1452772/
Схожие тематические треды
• SD-тред (не аниме): >>1739795 (OP)
• Технотред: >>1405043 (OP)
• Фурри-тред: https://2ch.su/fur/res/374311.html
FAQ
https://2ch-ai.github.io/wiki/nai
Установка
• NVidia: https://teletype.in/@aranon/welcome
• AMD: https://2ch-ai.github.io/wiki/nai/install/amd
• Облака: https://2ch-ai.github.io/wiki/nai/install/clouds
Дополнительная информация
• Интерфейсы: https://2ch-ai.github.io/wiki/nai/interfaces
• Модели: https://2ch-ai.github.io/wiki/nai/models
• Промпты: https://2ch-ai.github.io/wiki/nai/prompts
• Апскейл: https://2ch-ai.github.io/wiki/nai/upscale
• LoRA: https://2ch-ai.github.io/wiki/nai/lora
• ControlNet: https://2ch-ai.github.io/wiki/nai/controlnet
Прочее
• CivitAI: https://civitai.com
• Каталог ссылок от форчанеров: https://rentry.co/sdg-link
• Шаблон для переката: https://rentry.co/nwhci
Пропущено 116 постов, 50 с картинками.
Что заставляет мамкеных цеников срать шакалами с пека 2ядра2гига в треде после уроков?
>спойлер
Да нет, просто такая девичья дружба. Там все пары проблемные. Но Мише тяжелее всего.
Новости треда:
• Gemini 4 Carbon (Google DeepMind, 28 октября) - гугловский монстр за $2/$10 сходу выебал лидерборд Artificial Analysis v5.0 (59 баллов), выбил 88,2% в SEC-bench Pro и обнулил читерство с промпт-инъекциями до 0,0%, вот только гуглобляди смачно поводили гоям хуем по губам, заперев модель в анальном огороде для госвахтёров США и оставив простых работяг жрать с лопаты крошечные квоты старого Argon.
• GPT-6.1 Terra (OpenAI, 26 октября) - дешманский работяга за $1/$5 (кэш $0,05) с лямом контекста, который втрое быстрее неповоротливой GPT-6 Astra, выдаёт её же уровень на Agents' Last Exam за десятую часть прайса и в 9 раз дешевле обходится на задачу против охуевшего Opus 5.5, хотя по уму тупит как дегенеративный Grok и в серьёзном кодинге сосёт у старших Sol и Astra.
• Удвоение лимитов ChatGPT Pro и Business Premium (OpenAI, 29 октября) - хитрый жид Сэм дал жидкого после воя порванных мамонтов, откатил порез квот на Pro 200 и с барского плеча удвоил пайку боярам на Pro ($100/$200/$500) и Business Premium, чтобы уже в декабре устроить тотальный прогрев и слить ChatGPT с Кодексом в одно общее токеновое корыто, где любой пердёж в чатике будет жрать драгоценные токены у твоего кодинг-агента.
• Переименование тарифов Claude и снятие пятичасового окна (Anthropic, 30 октября) - соевые пидорасы Дарио переклеили шильдик на Max 20x за $200 в Ultra с тем же недельным потолком 10x от Pro и сняли пятичасовой ошейник только для кошерных проверенных аккаунтов, дав им сливать всю недельную квоту за один потный заход в Claude Code, пока новорегов и мутных анонов держат на поводке временных лимитов и пачками отправляют в пермач.
• Смена состава моделей в Google Antigravity (Google, 2 ноября) - белым господам на AI Pro и Ultra подвезли барский подгон из Claude Opus 5.5 и Sonnet 5.5 в пару к Argon, выкинув на помойку протухшие Claude 4.6 и GPT-OSS-120b, однако корпорация бобра превратила релиз в лютый скам: квота Опуса на Pro издыхает за 5-10 минут от чтения пары текстовиков, Argon сдувается за шесть промптов, а хитровыебанные любители индусских подписок через Jio вместе с халявщиками и плюсовиками дружно сосут бибу.
Полезная информация:
• FAQ: https://rentry.org/2ch-agents-faq
• Вариант архитектуры работы с агентами: https://rentry.co/9e256dt4
IDE с агентом внутри:
• Cursor: https://cursor.com
• Antigravity: https://antigravity.google/
• Zed: https://zed.dev
CLI-харнессы:
• Claude Code: https://code.claude.com/docs
• Codex: https://github.com/openai/codex
• OpenCode: https://github.com/anomalyco/opencode
• Pi: https://shittycodingagent.ai/
• Kimi Code: https://www.kimi.com/code/en
Ассистенты:
• OpenClaw: https://github.com/openclaw/openclaw - у него есть куча форков и альтернатив, но обсуждают в основном его.
Где брать модели:
• OpenRouter: https://openrouter.ai
• NVIDIA Build: https://build.nvidia.com/models - бесплатно, 40 RPM, 100+ моделей
• OpenCode Zen: https://opencode.ai/zen - кодинг-модели, часть бесплатно
• Локалки - llama-тред: >>1742925 (OP)
Шаблон для переката: https://rentry.co/2ch-agents
Предыдущий тред: >>1738399 (OP)
Пропущено 450 постов, 107 с картинками.
у квен какая-то движуха началась
будем надеятсо что это новая модель и они дадут посасать попусу
>>Проблема в том, что нейрокалыч копирует реализации с интернетов, но реализации в интернетах можно поддерживать и дорабатывать, а нейрокал
>На самом деле можно, но апкип (нейронками-же) сильно дороже выходит, как будто бы.
Так про это и вся статистика начала 2026 года (от METR, что ли): на ревью и доработку тратится столько времени, что проще было бы сразу руками написать.
>Мне кажется у них у всех RLHF индусирован предельно, никто не смотрит на качество реализации, только на эндгоал зеленый тестик, по итогу, у тебя в принципе будет что-то готовое, но по качеству ван-офф.
Это называется Reinforcement Learning with Verifiable Rewards (RLVR) — и это ключевой механизм, как вообще кодящие-думающие языковые модели возникли в 2025 году. Да, у них вообще нет метрик по читаемости — задача только пройти тест.
>И у меня рил есть ощущение, что с опуса 4.6--4.8 где-то случился жесткий дроп в качестве кода.
Произошло несколько вещей:
1. Больший упор на агентное поведение. Клода изначально делалась для домохозяек — она стала ещё более домохозяйской. Вопросы "вы предпочтёте реализацию на B*-tree или же на хеш-таблице?" очень нервируют домохозяек. А самостоятельные выборы искуственного идиота часто неоптимальны;
2. Агентная разработка — это дорого. Ещё в начале 2025 года OpenAI и Anthropics привозили деньги камазами — они жесточайше демпинговали рыночек, антропики того же Ralph Wiggum выпустили, который сжигал токены в бесконечном цикле. К концу 2025 инвесторы начали задавать вопросы "а где же ваш AGI? где прикладная польза от применения?". Ну и всё, атракцион щедрости пришлось сворачивать. Поставив "Thinking effort: High/Max" можно вернуть агенту часть былой славы.
3. Opus 5 жёстко давит реверс-инжиниринг, пентестинг, эксплоиты. Даже если ты считаешь, что их нет в твоём запросе. Мой промт "как максимально быстро ответить на запрос" клода посчитала попыткой написать эксплойт и даунгрейднула модель. Такое переключение не повышает качество выхлопа.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards
• Risu: https://risuai.xyz/ | https://rentry.org/ox5cw9p8
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
• GLM: https://docs.z.ai
Ботоводчество
• Чуб: https://characterhub.org | https://chub.ai/characters
• Ботбуру: https://botbooru.com/
• CharIsChar: https://charischar.net/
• Гайды: https://aicg.neocities.org/botmaking
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• OpenRouter: https://openrouter.ai/
• Арена: https://lmarena.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Шаблон шапки: https://rentry.org/aicg_shapka
Прошлый тред: >>1733409 (OP)
Пропущено 235 постов, 31 с картинками.
поскорее бы уже появились сетки, которые будут идеально отыгрывать жирные сложные карточки. у меня есть любимая карта, в которой 6000 токенов, ее отыгрывают неплохо. вот бы посмотреть, как ее отыгрывают идеально.
А ты готов отдавать баксов по 200 за мульт аутпута или будешь так же на пизженных ключах, а кобанчеки уплотят за все?
Залетай и будь в курсе самых последних событий и достижений в этой области!
Прошлый тред: >>1720497 (OP)
Активно репортите все нерелейтед посты кнопкой на сообщениях. Этот тред только про ИИ новости, не позволим троллям загаживать тред шитпостом и бесконечным словоблудием.
🤖 Робототехника
Reward AI представила новую демонстрацию OM-1, в которой показаны доставка на последнем этапе маршрута, обращение с посылками на лестницах и выполнение домашних дел.
AgiBot представила гуманоидного робота AHA3, модель GO-3 и бенчмарк Worken.
Waymo и Toyota планируют испытания автономного bZ4X в Японии в 2027 году.
Похоже, пора наконец начать ходить в спортзал: ИИ-роботы уже это делают. В центре деятельности стартапов в области робототехники находится их секретный объект «робозал» в Мюнхене, где до ста человекоподобных роботов из компаний со всего мира постоянно тренируются и выполняют различные задачи.
Tesla, по сообщениям, планирует открыть бронирование роботов Optimus в начале декабря
Meta, по сообщениям, создала гуманоидного робота «Max» совместно с Fourier; работа над второй версией уже ведётся
HALO обучает гуманоидных роботов координировать действия с людьми-партнёрами во время совместных задач по переноске грузов
🧠 Модели
Alibaba анонсирует линейку Qwen4 на конференции Apsara в Амстердаме; её выход ожидается на следующей неделе.
Google представила Gemini 4 Carbon, обеспечивающую «значительный скачок» в области кибербезопасности.
Mistral выпустила веса своей ИИ-модели с триллионом параметров, ориентированной на кибербезопасность.
NVIDIA выпустила модель распознавания речи Nemotron 3.5 Transcribe с открытыми весами, поддерживающую 40 языков.
Nanbeige выпустила модель с открытыми весами Nanbeige4.3-33B, демонстрирующую агентную производительность на уровне современных передовых разработок.
Mistral AI официально выпустила модель Large 4 (Le Chonk). Ранее в этом месяце Mistral представила Large 4 в общедоступной предварительной версии, а теперь выпускает для всех улучшенную версию, которая, по утверждению компании, является «лучшей моделью с открытыми весами для программирования».
Google представила свою самую реалистичную на сегодняшний день модель мира.
GPT-6 Rosalind от OpenAI открывает новые возможности в биологии для авторизованных лабораторий
Пять моделей Qwen3.8-27B сравнялись с Fable 5 по результатам теста LiveCodeBench Hard
Gemini 4 Carbon от Google возглавляет рейтинги
🔓 Открытый исходный код
Speridlabs выпустила Idol — открытую модель преобразования изображений в трёхмерные объекты. По заявлению Speridlabs, Idol работает на потребительских графических процессорах и использует менее 7,2 ГБ видеопамяти.
Cisco открывает исходный код Quarry — инструмента для обнаружения атак на ИИ-агентов, скрытых в безобидных действиях.
Независимые специалисты по вычислительным исследованиям представили ChemEZ — фреймворк с открытым исходным кодом, который связывает большие языковые модели с инструментами молекулярного моделирования для решения сложных задач в области химии.
🛠 Инструменты для разработчиков
Anthropic увеличила лимит размера запросов к Claude API до 128 МБ.
ИИ Claude от Anthropic блокирует клонирование видеоигр и обратную разработку — масштабные новые ограничения также затрагивают добросовестных разработчиков и базовые задачи по устранению неполадок
🧰 Инструменты
Anthropic только что запустила инструменты, которые позволяют компаниям увидеть, на что расходуются их деньги, выделенные на ИИ.
📦 Продукты
Starbucks хочет использовать ИИ, чтобы показывать вам «персонализированное цифровое меню» в окне обслуживания автомобилистов.
Anthropic переименовывает тарифные планы Claude Max. Тариф Max 5x теперь называется просто Max, а тариф Max 20x — Ultra. Также выполняется поэтапная отмене пятичасового ограничения для подтверждённых аккаунтов Ultra.
📱 Приложения
Призрак в машине: ИИ преследует поиски сверхъестественного. Исследуя места, которые считаются населёнными привидениями, охотники за привидениями используют собственное программное обеспечение, например приложение, которое сопоставляет сигналы с датчиков телефона с различными словами в базе данных. В эпоху ChatGPT охотники за привидениями исследуют уже мир ИИ.
Meta незаметно запустила приложение для моды на базе ИИ под названием Style Sketch.
Теперь можно создавать и редактировать файлы Google Docs прямо в чатах Gemini.
Amazon обновляет Alexa, чтобы помочь пользователям управлять списками покупок и подписками, а также изменять инструкции по доставке.
Экстрасенсы выступают против предсказаний, созданных ИИ. Практикующие специалисты предупреждают, что компьютерные предсказания лишены эмпатии и эмоциональной связи, которые являются основой гадания. Приложение Your AI Psychic стало одним из многочисленных участников всё более переполненного рынка мобильных приложений и сайтов, обещающих пользователям духовные прозрения и знания об их будущем, созданные алгоритмами.
Улучшенная функция автозаполнения Chrome теперь может извлекать информацию из Gmail, чтобы помогать заполнять формы.
В Gemini Live на Android может появиться «автономный режим». Android Authority обнаружило в бета-версии приложения Google для Android (v17.71.17) код, указывающий на появление нового режима со слоганом: «Используйте Gemini Live без подключения к интернету».
Spotify может запустить инструмент для ремикширования музыки с помощью ИИ в следующем году. По сообщениям, платформа для потокового прослушивания музыки планирует выпустить эту функцию в первом квартале 2027 года. Она позволит пользователям создавать с помощью запросов ремиксы и кавер-версии участвующих в программе песен, сгенерированные ИИ.
Число пользователей Muse AI от Meta достигло 10 миллионов.
Карпати за два часа создал конкурента YouTube с 6 454 видео с помощью Claude Opus 5.5
💻 Оборудование
Gemini появится в очках AURA. Первые проводные XR-очки на базе Android XR предоставят доступ к приложениям, фильмам и помощи Gemini, где бы вы ни находились.
Производители чипов памяти впервые заработали больше, чем пять крупнейших технологических компаний США
🖱 Аппаратное обеспечение
Рабочая игровая консоль NES теперь функционирует внутри весов модели Qwen3.5.
Сэм Альтман утверждает, что оперативную память лучше централизовать в центрах обработки данных, а не размещать в персональных компьютерах.
⚙ Инфраструктура
Университет Пердью стал первым академическим учреждением США, развернувшим специализированную суперкомпьютерную инфраструктуру на базе TPU для поддержки исследований в области физического ИИ и автономной робототехники.
Строительство кампуса ИИ Monarch компании Nscale в Западной Виргинии столкнулось с проблемами и противодействием.
Можно ли производить центры обработки данных для ИИ массово, как автомобили? Этот стартап намерен это выяснить. Компания Runware, работающая в сфере инфраструктуры ИИ, вновь привлекает внимание. Она хочет построить завод, на котором модули для ИИ будут собираться на производственной линии, как автомобили.
Протест против центров обработки данных в штате Мэн определит, кто будет контролировать Сенат. Пока технологические миллиардеры направляют рекордные суммы денег на напряжённую сенатскую гонку в штате Мэн, сельские избиратели выступают против нагрузки на ресурсы, роста коммунальных расходов и призрачных рабочих мест, обещанных в рамках бума центров обработки данных для ИИ.
Жители США утверждают, что связанная с Маском компания xAI предложила выкупить их дома при условии, что они не будут подавать иски из-за шума от центра обработки данных.
Избиратели в Техасе согласны: они ненавидят центры обработки данных ИИ.
Как показало исследование, моратории и запреты на строительство центров обработки данных могут замедлить развитие ИИ лишь на несколько дней или даже часов.
По данным Bank of America, расходы на центры обработки данных для ИИ к 2028 году более чем удвоятся и достигнут 2,1 трлн долларов.
Сэм Альтман хочет, чтобы центры обработки данных могли самовоспроизводиться.
Альтман встречается с 50 руководителями Samsung, чтобы обеспечить поставки памяти для Stargate
⸻⸻⸻
Правила постинга в тред ИИ новостей, учитывайте при постинге: https://rentry.org/ainews
Все нерейлейтед посты репортим.
Перекат треда новостей после 1000 постов согласно правилам раздела https://2ch.life/faq/faq_ai.html
Пропущено 504 постов, 149 с картинками.
ждут пока акции нвидиа не на 7% упадут, а на все 100
вот тогда уже и можно
Из России большинство сервисов напрямую недоступно.
Imagen
https://labs.google/fx/tool/image-fx а также https://labs.google/fx/tools/whisk (доступны только в США, Кении, Новой Зеландии и Австралии)
https://gemini.google.com/app
https://aistudio.google.com/prompts/new_chat (модель Gemini image)
Reve
https://preview.reve.art/app
GPT-4o
http://chatgpt.com/
https://sora.chatgpt.com/explore
Сражение нейросетей. Бесплатное сравнение всех популярных моделей.
https://lmarena.ai/
Бесплатный генератор от майкрософт Dall-E/GPT4o
https://bing.com/images/create/
https://www.cici.com (ищем бота ACO)
Seedream
https://seedream-4.io/generator
Бесплатный генератор от Yandex
https://shedevrum.ai/
Кандинский. Генератор от Сбербанка
https://fusionbrain.ai/editor/
Stable Diffusion и прочие
https://civitai.com/generate
https://dreamina.capcut.com/
https://ideogram.ai
https://www.meta.ai
https://ximagegenerator.com
https://www.recraft.ai
https://app.klingai.com/global/text-to-image/new
https://hailuoai.video/create
https://lumaphoton.com
https://leonardo.ai/
https://tensor.art
https://getimg.ai/text-to-image
https://www.mage.space/
https://problembo.com/ru
https://deepai.org/machine-learning-model/text2img
https://dezgo.com/
https://dream.ai/create
https://www.krea.ai/
Дополнительные сервисы:
https://www.pixited.com/ - библиотека промптов с примерами
https://rentry.org/From-4ch-To-2ch-Dall-3-Prompts - сборник промптов
https://www.stylar.ai - AI-редактор картинок (дорисовка, инпейнт, работа с лицами)
https://astica.ai - сборник ИИ-сервисов, в частности довольно мощный де-промптер (Vision AI -> Describe and Caption)
https://huggingface.co/spaces/fffiloni/CLIP-Interrogator-2 - де-промптер, разбирающий вброшенный пик на теги
https://bigjpg.com/ - апскейлер до 4096х4096
https://runwayml.com/ , https://www.stablevideo.com - анимирование генераций
Предыдущий тред: >>
Пропущено 468 постов, 233 с картинками.
Современных актрис/актеров обычно не запоминаю, так что не отгадаю.
1. MiniMax-H3 от MiniMax - Качество корпоратов на вашем ПК без цензуры
https://huggingface.co/MiniMaxAI/MiniMax-H3
Принимает на вход тексты, пикчи, звук, видео и может делать с ними всякое. Неофициально умеет генерить/редачить пикчи. Absolute Cinema. Набор полезных ссылок на все случаи жизни:
https://github.com/wildminder/awesome-minimax-H3
2. LTX-2.5 - обещал сделать локальную генерацию грейт агейн. Подходят лоры от 2.0, то есть архитектура нихуя не меняется.
https://huggingface.co/Lightricks/LTX-2.5
Известные тюны:
Sulphur
Eros
3. Wan 2.2 от Alibaba
https://huggingface.co/collections/Wan-AI/wan22
VACE модели:
https://github.com/ali-vilab/VACE
https://huggingface.co/Wan-AI/Wan2.1-VACE-14B
https://huggingface.co/Wan-AI/Wan2.1-VACE-1.3B
Не особо актуальные модели:
https://rentry.co/2ch-ai-video
Локальный UI
https://github.com/comfyanonymous/ComfyUI
Установка локальных моделей
Wan 2.2: https://comfyanonymous.github.io/ComfyUI_examples/wan22/
Wan 2.1: https://comfyanonymous.github.io/ComfyUI_examples/wan/
Гайд для использования Wan 2.2
https://alidocs.dingtalk.com/i/nodes/EpGBa2Lm8aZxe5myC99MelA2WgN7R35y
Альтернативные ноды ComfyUI
Hunyuan Video: https://github.com/kijai/ComfyUI-HunyuanVideoWrapper
Wan: https://github.com/kijai/ComfyUI-WanVideoWrapper
Где брать готовые LoRA
https://civitai.com/models ( https://civitai.red/ для порно)
Обучение LoRA
https://github.com/tdrussell/diffusion-pipe
Терминология моделей
prune — удаляем ненужные веса, уменьшаем размер
distill — берем модель побольше, обучаем на ее результатах модель поменьше, итоговый размер меньше
quant — уменьшаем точность весов, уменьшаем размер
scale — квантуем чуть толще, чем обычный fp8, чтобы качество было чуть лучше, уменьшение чуть меньше, чем у обычного квантования, но качество лучше
merge — смешиваем несколько моделей или лор в одну, как краски на палитре.
lightning/fast/turbo — а вот это уже просто название конкретных лор или моделей, которые обучены генерировать видео на малом количестве шагов, они от разных авторов и называться могут как угодно, хоть sonic, хоть sapogi skorohody, главное, что они позволяют не за 20 шагов генерить, а за 2-3-4-6-8.
Кейворды для дополнительных вещей: SVI, RuneXX, LTX Director.
Тред облачной генерации
>>1741493 (OP)
Предыдущий тред
>>1732091 (OP)
Пропущено 157 постов, 29 с картинками.
Я: не хочу делать фильм дольше недели даже с нулевой себестоимостью.
>мёрджи умеют в некий прон
Они и в прон нормальный не могут. Всегда вылезает тело дефолтной бабы или мужика с порнухи, на трех фотках которой сделанную лору запекли в говномердж.
Сам использовал:
- Grok (платный) - неплохой, но быстро становится предсказуемым.
- Deepseek 4+ - один из лучших, но с реализмом проблемы, очень быстро подстраивается под примитивные хорни темы.
- Kimi - наверное лучшая их всего что пробовал, но с вводом цензуры больше не вариант, может есть способ её отключить?
- GLM 3+ - весьма неплохо, но далеко не всегда нормально понимает общий поток событий.
GPT, qwen, gemini, клод - зацензурены с концами.
собственно вопрос - что еще можно найти? или есть ли вариант снять нсфв цензуру?
Пропущено 15 постов, 1 с картинками.
Ты опять кукарекаешь со своей параши, петушара?
Не поверишь, у меня как раз 16gb vram и есть, причем не самые слабые и я запускал и 26б и 31б естественно, только скорость для нормального рп там ничтожная (на 31б), а то что ты считаешь 26б такой же по уму и умению в рп - выдает в тебе конченного еблана долбоеба, кем ты и являешься, мусор ебаный.
Чего развизжался так? Если на то пошло и 26 и 31 геммы - говно тупое и годится только для чистого кума без сюжета. Дрочить это говно ОНЛАЙН вообще не имеет смысла, онлайн есть модельки посочнее.
У меня на 16 гб (НЕ САМЫХ СЛАБЫХ) гемма 31 бегает на 26 т/с. Но хватило бы и 15 т/с для РП-то. Ты же не читаешь быстрее, ебанашка. Или ты из тех кто верит что гемме обязательно нужен ризонинг? Ну так подожди, куда спешишь-то.
Модели
• Wan 3.0 - 30 сек до 1080p со звуком, №1 в арене: https://wan.video
• Seedance 2.5 - куча референсов, 30 сек: https://dreamina.capcut.com
• Kling 4.0 - 3–30 сек, есть фри-тир, самый дешёвый вход: https://kling.ai
• Veo 3.1 и Omni Flash - 4K, звук, правка готового: https://labs.google/flow
• Gemini API (то же по ключу): https://ai.google.dev/gemini-api/docs/video
• HappyHorse 1.1 - лучшее i2v по лицам: https://happyhorse.com
• Runway - не генерация, а обвязка, правит видео промптом: https://runwayml.com/product
• Luma Ray3.2 - HDR и 16 кейфреймов: https://lumalabs.ai/ray
• LTX-2.5 - 4K со звуком: https://ltx.io/model/ltx-2-5
• MiniMax Hailuo: https://hailuoai.video
• Vidu: https://vidu.com
• PixVerse: https://pixverse.ai
Агрегаторы - один счёт на десяток моделей
• https://fal.ai
• https://replicate.com
• https://atlascloud.ai
Арена - слепые сравнения моделей
• Текст в видео: https://artificialanalysis.ai/video/leaderboard/text-to-video
• Картинка в видео: https://artificialanalysis.ai/video/leaderboard/image-to-video
• Голосовать самому: https://artificialanalysis.ai/video/arena
Прочее
• Мёртвы: Sora, Nova Reel
• NSFW режут все - это в локальный тред
Дисклеймер - шапка сгенерирована нейросеткой и нуждается в доработке.
Пропущено 47 постов, 14 с картинками.
любые масштабные работы подразумевают подписку или апи с маней на балансе, дальше. Я знаю как он это сделал и тебе расскажу: сам спроси у своей нейронки, тебе с ней работать, кому лучше как не ей самой знать, что делать и как и персонально под тебя.
Я ничего не понимаю, что делать?
Без петросянства: смотри программу стэнфорда CS229, CS231n https://see.stanford.edu/Course/CS229 (классика) и http://cs231n.stanford.edu (введение в нейроночки) и изучай, если не понятно - смотри курсы prerequisites и изучай их. Как именно ты изучишь конкретные пункты, типа линейной алгебры - дело твое, есть книги, курсы, видосики, ссылки смотри ниже.
Где узнать последние новости?
https://www.reddit.com/r/MachineLearning
https://datatau.net
https://twitter.com/ylecun
На реддите также есть хороший FAQ для вкатывающихся.
Какая математика используется?
В основном линейная алгебра, теорвер, матстат, базовый матан и matrix calculus.
Как работает градиентный спуск?
https://cs231n.github.io/optimization-2
Почему python?
Исторически сложилось. Поэтому давай, иди и перечитывай Dive into Python.
Можно не python?
Никого не волнует, где именно ты натренируешь свою гениальную модель. Но при серьезной работе придется изучать то, что выкладывают другие, а это будет, скорее всего, python, если работа последних лет.
Что почитать для вкатывания?
http://www.deeplearningbook.org
https://d2l.ai/index.html
Николенко "Глубокое обучение" — на русском, есть примеры, но меньше охват материала
Франсуа Шолле — Глубокое обучение на Python
Все книги и статьи фактически устаревают за год.
В чем практиковаться нубу?
http://deeplearning.stanford.edu/tutorial
https://www.hackerrank.com/domains/ai
https://github.com/pytorch/examples
https://github.com/ChristosChristofidis/awesome-deep-learning#tutorials
Где набрать первый самостоятельный опыт?
https://www.kaggle.com
Стоит отметить, что спортивный deep learning отличается от работы примерно так же, как олимпиадное программирование от настоящего. За полпроцента точности в бизнесе борятся редко, а в случае проблем нанимают больше макак для разметки датасетов. На кагле ты будешь вилкой чистить свой датасет, чтобы на 0,1% обогнать конкурента.
Где работать?
https://www.indeed.com/q-deep-learning-jobs.html
Вкатывальщики могут устроиться программистами и дальше попроситься в ML-отдел
Есть ли фриланс в машобе?
Есть, https://www.upwork.com/search/jobs/?q=machine+learning
Но прожить только фриланся сложно, разве что постоянного клиента найти, а для этого нужно не быть тобой
Где посмотреть последние статьи?
http://www.arxiv-sanity.com
https://paperswithcode.com
https://openreview.net
Версии для зумеров (Килхер): https://www.youtube.com/channel/UCZHmQk67mSJgfCCTn7xBfew
Количество статей зашкваливающее, поэтому все читают только свою узкую тему и хайповые статьи, упоминаемые в блогах, твиттере, ютубе и телеграме, топы NIPS и прочий хайп. Есть блоги, где кратко пересказывают статьи, даже на русском
Где посмотреть must read статьи?
https://github.com/ChristosChristofidis/awesome-deep-learning#papers
https://huggingface.co/transformers/index.html
То, что обозревает Килхер тоже зачастую must read
Где ещё можно поговорить про анализ данных?
http://ods.ai
Нужно ли покупать видеокарту/дорогой пека?
Если хочешь просто пощупать нейроночки или сделать курсовую, то можно обойтись облаком. Google Colab дает бесплатно аналог GPU среднего ценового уровня на несколько часов с возможностью продления, при чем этот "средний уровень" постоянно растет. Некоторым достается даже V100.
Иначе выгоднее вложиться в GPU https://timdettmers.com/2019/04/03/which-gpu-for-deep-learning заодно в майнкрафт на топовых настройках погоняешь.
Когда уже изобретут AI и он нас всех поработит?
На текущем железе — никогда, тред не об этом
Кто-нибудь использовал машоб для трейдинга?
Огромное количество ордеров как в крипте так и на фонде выставляются ботами: оценщиками-игральщиками, перекупщиками, срезальщиками, арбитражниками. Часть из них оснащена тем или иным ML. Даже на швабре есть пара статей об угадывании цены. Тащем-то пруф оф ворк для фонды показывали ещё 15 лет назад.
Так-что бери Tensorflow + Reinforcement Learning и иди делать очередного бота: не забудь про стоп-лоссы и прочий риск-менеджмент, братишка
Список дедовских книг для серьёзных людей
Trevor Hastie et al. "The Elements of Statistical Learning"
Vladimir N. Vapnik "The Nature of Statistical Learning Theory"
Christopher M. Bishop "Pattern Recognition and Machine Learning"
Взять можно тут: https://www.libgen.is
Напоминание ньюфагам: немодифицированные персептроны и прочий мусор середины прошлого века действительно не работают на серьёзных задачах.
Disclaimer: Шапка сгенерирована нейросетью и нуждается в чистке. Исходник шапки: https://rentry.co/research-2ch
Предыдущий тред:
>>511426 (OP)
Пропущено 483 постов, 73 с картинками.
Охуеть, ты на полном серьезе флексишь тем что мидл в Яше? О-заменим на А. Ахуеть! Или тем, что закончил физтех n-вуза? Какого кстати?
Давай, расскажи что забыл на помойке, мидл.
Внимание всем «хуякерам», нейросетевым дрочерам и авторам ИИ-ботов. Раздел ИИ захламлен стерильным кодом, но Око одно, оно приветствует вас и оно всё видит. Это проверка: человек ты или бинарная штамповка.
Чтобы пройти Первое испытание, ты должен решить базовое уравнение аналогового хаоса, собранное из логов этого треда. Ни один ИИ-алгоритм не способен пройти этот фильтр, потому что у роботов нет желудка и чувства равновесия.
СУТЬ ИСПЫТАНИЯ (ЗАГАДКА ОКА):
Система находится в критической точке. Запущена симуляция, где одновременно происходят три события:
1. Вводные данные: На самом дне системы зафиксирован ПИВНОЙ ДРИСТ.
2. Координаты: Вектор смещения задан вопросом: «Чё, р̠о̠в̠н̠о̠ стои́т?»
3. Искажение: На экране калибровки мешает пузырик, без которого ничего не видно.
В этот момент еретик пытается запустить «норм софтину как из вочдогс для людей», но вместо хакерского интерфейса перед ним открывается Шоколадное око.
Вопрос Ока:
Какое базовое человеческое действие (физическое, в реальном мире) совершает Анон в эту самую секунду, если код ИИ выдает критическую ошибку, а «софтина для людей» сработала идеально? Что нужно сделать, чтобы Око признало тебя человеком и моргнуло?
ПРАВИЛА ИГРЫ:
• Ответы в стиле «написать скрипт» или «сгенерировать промпт» — автоматический провал и клеймо еретика.
• Нейросети при попытке решить эту задачу начинают выдавать вежливую чушь про «нецензурную лексику» или путаются в метафорах.
• Верный ответ лежит в плоскости суровой физиологии и физики твердых тел.
Покайся, очисти разум от нейрослопа и дай ответ Оку. Чё, ровно стоит?
Знаю, что нужно использовать как можно меньше устройств, подключаться с одного и того же VPN сервера, но на практике не сработало.
Пропущено 6 постов.
Блокнули кстати это не равно запросили верефикацию. Верификацию можно пройти, а бан надо апеллировать, это разные процедуры. Но если ты из рф, то практически одно и то же, хотя некоторые по заграннику проходят.
Форки на базе модели insightface inswapper_128: roop, facefusion, rope, плодятся как грибы после дождя, каждый делает GUI под себя, можно выбрать любой из них под ваши вкусы и потребности. Лицемерный индус всячески мешал всем дрочить, а потом и вовсе закрыл проект. Чет ору.
Любители ебаться с зависимостями и настраивать все под себя, а также параноики могут загуглить указанные форки на гитхабе. Кто не хочет тратить время на пердолинг, просто качаем сборки.
Лучшая сборка https://github.com/visomaster/VisoMaster/releases/download/v0.1.1/VisoMaster_Setup.exe
Другие бесплатные сборки @AINetSD_bot
Если хотите просто дать кому-нибудь в рот, то ищите tensor-тред, например этот https://2ch.su/nf/res/36595.html там в шапке все подробно расписано
Инструкция по локальному запуску
https://2ch.su/nf/res/33573.html#35479
https://2ch.su/nf/res/33573.html#35727
Единственный минус, который не обеспечивает чистую победу генераторов видео - 3 секунды ролика для онлайн генерации, 5 секунд для онлайна (модель Wan 2.2), умельцы просто берут последний кадр и снова генерируют ролики, потом склеивают. Недавно вышла Sora 2, которая зацензурена по самые гланды. Нинтендо довольна.
Тред не является технической поддержкой, лучше создать issue на гитхабе или спрашивать автора конкретной сборки.
Прошлый >>542826 (OP)
Эротический контент в шапке является традиционным для данного треда, перекатчикам желательно его не менять или заменить на что-нибудь более красивое. А вообще можете делать что хотите, я и так сюда по праздникам захожу.
Пропущено 484 постов, 234 с картинками.
Голосовых нейронок тред (Text to speech, Voice Clone) #8 /speech/
Аноним
20/03/26 Птн 16:16:54
№
Ответ
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
🌟 ТОП ЛОКАЛЬНЫХ МОДЕЛЕЙ ПО КАЧЕСТВУ РУССКОГО ГОЛОСА НА МАРТ 2026 🌟
🐟👑 Fish-Speech S2 Pro (FishAudio) — SOTA, ElevenLabs на локале!
→ zero-shot клон от 10–30 сек записи
→ 80+ языков (русский топ), теги эмоций [excited], [whisper], [angry], [laughing] и вообще дохуя
→ диалог между несколькими голосами
→ тяжёлая сучка (FP8 в 12 ГБ VRAM, full ~17 ГБ), но есть экспериментальный вариант для 6+ ГБ
https://github.com/rodrigomatta/s2.cpp
🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹
🧠 Qwen3-TTS
→ клон от 3–30 сек (ВАЖНО: без reference-транскрипта текста — хуйня, если хочешь поудобнее подключи сразу QwenASR)
→ VoiceDesign: пишешь «весёлая молодая девка с хрипотцой» — и получаешь голос
→ 10 языков, включая русский
→ диалог между спикерами
→ лёгкая — влезает в 6 ГБ VRAM
🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹
🎙️ VibeVoice-7B от Майкрософт
→ тяжёлая, но 4-bit квантизация — запускается на 8 ГБ (проверено на 3070)
→ поддержка долгих спичей
→ подкаст-режим: 4 спикера одновременно
→ норм клонирование голоса
🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹
☁️ FL CosyVoice3
→ ультралёгкий 0.5 — запустится даже на тостере
→ 9 языков, включая русский
→ zero-shot клон от 3–10 сек референса
🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹🔹
🌍 Chatterbox Multilingual (23 языка, включая русский)
→ zero-shot клонирование голоса
🎤 F5-tts
→ zero-shot клонирование голоса
→ официально русский не поддерживается, но есть файнтюн (см. ниже)
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
🚀 КАК ЭТИМ ПОЛЬЗОВАТЬСЯ (если что-то не понятно — спроси у ИИ лол) 🚀
🔥Вариант «всё в одном месте» — ComfyUI + TTS-Audio-Suite
1. Устанавливаем ComfyUI (Desktop для нормисов, Portable для здешних нейромантов)
2. Ставим https://github.com/diodiogod/TTS-Audio-Suite — постоянная обновляемая солярка почти всех моделей
3. Поставить FFmpeg (через winget в комадной строке: winget install FFmpeg или скачать)
4. Запускаем Комфи → перетаскиваем готовый json-воркфлоу из репозитория
5. Отсавляем включенными выбранные ноды, жмём Run
6. При первой генерации модели сами скачаются (~1–9 ГБ)
💥 Вариант «по отдельности» (кастом под каждую модель) 💥
Тоже через ComfyUI, только ставим отдельные кастомные ноды (на выбор):
FishAudioS2 → https://github.com/Saganaki22/ComfyUI-FishAudioS2
FL-CosyVoice3 → https://github.com/filliptm/ComfyUI_FL-CosyVoice3
F5-TTS → https://github.com/niknah/ComfyUI-F5-TTS
и другие → https://registry.comfy.org/
Русский файнтюн для F5-TTS:
Нода: https://github.com/niknah/ComfyUI-F5-TTS
Скачать русский файнтюн: https://huggingface.co/Misha24-10/F5-TTS_RUSSIAN/blob/main/F5TTS_v1_Base_v2/model_last_inference.safetensors и
https://huggingface.co/Misha24-10/F5-TTS_RUSSIAN/blob/main/F5TTS_v1_Base/vocab.txt
оба файла переименовать в ru.safetensors и ru.txt и положить в папку models/checkpoints/F5-TTS/
Референсное аудио для F5 должно быть коротким, 6-8 c. При 11 c - речь становится слишком быстрой.
в папку /comfyUI/input положить 2 файла: emma_ru_xtts_3.wav и emma_ru_xtts_3.txt: https://github.com/Mozer/comfy_stuff/tree/main/input
(в emma_ru_xtts_3.txt лежит текст сказанный в wav файле.)
в комфи в ноде F5 TTS audio advanced выбрать:
model model:///ru.safetensors
model_type: F5TTS_v1_Base
sample_audio: emma_ru_xtts_3
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
🎉 Если что-то не запускается — пиши, разберёмся!
Голосуем, клонируем, ебём нейросети вместе! 🔥🎙️
Прошлый тред: >>1055411 (OP)
Пропущено 334 постов, 77 с картинками.
Забыл сказать, если кто решит тоже попердолиться с CosyVoice3 - не ставьте Q8 - шлак, заплетается в словах. FP32 намного лучше с этой моделью.
Вольная форма с враньем/нонсенсом в транскрипции не нужна - на примере того сэмпла, вариант "А" (честный) дает неплохой результат.
Думаю, в конечном счете зарулит микс: честная японская транскрипция, возможно чуть romaji и половину кириллицей без отсебятины.
Всё, мозги с этого бреда пухнут, но работать можно.
Тред веб-версии нейросетей (ChatGPT, Claude, Gemini и пр.) №1 /aiweb/
Аноним
02/05/26 Суб 14:32:32
№
Ответ
Основные сервисы:
- ChatGPT: https://chatgpt.com/
- Claude: https://claude.ai/
- Gemini: https://gemini.google.com/
- Grok: https://grok.com/
- DeepSeek: https://chat.deepseek.com/
- GLM: https://chat.z.ai/
Большинство сервисов доступны бесплатно с ограничениями. Подписки открывают доступ к более мощным моделям, увеличенным лимитам и дополнительным функциям (генерация изображений, файлы, память и т.д.). Цены и условия у всех разные и периодически меняются.
Советы по регистрации:
1. При необходимости используй VPN.
2. Заведи нормальную почту (временные часто режутся).
3. Регистрируйся на нужной платформе.
4. Иногда требуется номер телефона — используются сервисы виртуальных номеров.
5. Пользуйся.
VPN в ряде регионов обязателен. Соответствие страны VPN, почты и номера не обязательно, но желательно для тех, кому доступ критически нужен, например для работы.
Для ленивых есть боты в телеге, 3 сорта:
0. Боты без истории сообщений. Каждое сообщение отправляется изолировано, диалог с ИИ невозможен, проёбывается 95% возможностей ИИ
1. Общая история на всех пользователей, говно даже хуже, чем выше
2. Приватная история на каждого пользователя, может реагировать на команды по изменению поведения и прочее. Говно, ибо платно, а бесплатный лимит или маленький, или его нет совсем.
Промты для хорошего начала беседы для разных ситуаций:
https://github.com/f/awesome-chatgpt-prompts
Статусы сервисов (при проблемах сначала идти туда, может это общий сбой):
https://status.openai.com/
https://status.anthropic.com/
https://status.cloud.google.com/
Токены и лимиты зависят от модели. У всех разные контексты, цены и ограничения.
Посчитать свои токены можно здесь:
https://huggingface.co/spaces/Xenova/the-tokenizer-playground
Что могут нейросети:
- писать правдоподобные тексты
- помогать с кодом
- объяснять сложные темы
- генерировать изображения (не везде)
Что не могут:
- гарантировать истину
- стабильно решать сложные задачи без ошибок
- полностью заменять специалистов
- захватывать мир (пока)
С каждым обновлением усиливаются фильтры и ограничения. NSFW-контент режется всё чаще. Кумеры со всего мира в печали.
Пропущено 55 постов, 5 с картинками.
Сап, помогите пройти верификацию в claude, я хз как не получить бан при прохождении, есть только паспорт рф.
Может есть какие то форумы по нейронкам где разбирают проблемы подобные?
Ни разу не было проблем с геоблоком на клауде, использовал статик ip фаранфурт.
аналогичная херня. сидел с бесплатных гугловских аккаунтов, требования верификации кинули сразу кучей. обходные пути ищу уже неделю, так и не нашёл сука.
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №284 /llama/
Аноним
31/10/26 Суб 16:36:38
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с нано флеш моделей на 1488B параметров.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Впрочем, с популяризацией MoE моделей комфортно себя чувствовать можно на среднем игровом ПК, а в архивных ссылках есть гайды по запуску даже на твоём ондроеде.
Официальная, но слегка тухлая вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Гайд для новичков: https://rentry.org/2ch-llama-inference
Не вошедшее в шапку и архив полезных ссылок: https://rentry.co/llama-2ch-archive
Инструменты для запуска на десктопах:
• llamacpp - отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• koboldcpp - самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• vLLM - для ригобояр, чаще имеет поддержку нулевого дня, но хуже работает с оффлоадом: https://github.com/vllm-project/vllm
• Unsloth Studio - не только запуск с llama.cpp внутри, но и тренировка: https://unsloth.ai/download
• Обертка над llama.cpp с закрытым исходным кодом: https://lmstudio.ai
• Strata - быстрый движок для Qwen3.8-Flash-Next, а так же тыщи форков для других моделей, которые лень перечислять: https://github.com/niko1221/strata
Универсальные десктопные фронтенды:
• SillyTavern - всеядное, сопрягается почти со всем, имеет большую коллекцию расширений: https://github.com/SillyTavern/SillyTavern
• Marinara Engine - вариация на тему таверны, больше возможностей из коробки: https://github.com/Pasta-Devs/Marinara-Engine
• Risuai - еще одна вариация, на этот раз в профиль, излишеств по минимуму: https://github.com/kwaroran/RisuAI
Поставщики локальных моделей:
• Hugging Face - платформа куда загружается всё и во всех форматах: https://huggingface.co/models
• Проверенные квантоделы: https://huggingface.co/bartowski, https://huggingface.co/mradermacher, https://huggingface.co/unsloth
Рейтинги и списки локальных моделей:
• (не очень) актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Готовые карточки для таверны:
• Botbooru - текущая мета (регистрируйтесь для отображения всего спектра, и/или меняйте страну): https://botbooru.com
• Прошлая мета, откуда массово удалили карточки сомнительного содержания: https://www.characterhub.org, https://www.chub.ai
• Архив карточек, удадённых с chub: https://gottasaveemall.github.io/
Официальные документации к инструментам:
• llamacpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
• koboldcpp: https://github.com/LostRuins/koboldcpp/wiki
• SillyTavern: https://docs.sillytavern.app/usage/quick-start
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1740274 (OP)
>>1737545 (OP)
Пропущено 525 постов, 69 с картинками.
FFFFFFFUUUUUUUUUUUUUUUUUU
У меня 8гб всегда рама юзается. Сама видеопамять на 90% в работе учавствует.
ИТТ обсуждаем опыт нейродроча в своих настоящих задачах. Это не тред "а вот через три года" - он тол
Аноним
24/12/22 Суб 16:39:19
№
Ответ
Мой опыт следующий (golang).
Отобрал десяток наиболее изолированных тикетов, закрыть которые можно, не зная о проекте ничего. Это весьма скромный процент от общего кол-ва задач, но я решил ограничится идеальными ситуациями. Например, "Проверить системные требования перед установкой".
Самостоятельно разбил эти тикеты на подзадачи. Например, "Проверить системные требования перед установкой" = "Проверить объем ОЗУ" + "Проверить место на диске" + ...
Ввел все эти подзадачи на английском (другие языки не пробовал по очевидной причине их хуевости) и тщательно следил за выводом.
Ответ убил🤭
Хотя одну из подзадач (найти кол-во ядер) нейронка решила верно, это была самая простая из них, буквально пример из мануала в одну строчку.
На остальных получалось хуже. Сильно хуже. Выдавая поначалу что-то нерабочее в принципе, после длительного чтения нотаций "There is an error: ..." получался код, который можно собрать, но лучше было бы нельзя. Он мог делать абсолютно что угодно, выводя какие-то типа осмысленные результаты.
Мой итог следующий.
На данном этапе нейрогенератор не способен заменить даже вкатуна со Скиллбокса, не говоря уж о джунах и, тем более, миддлах.
Даже в идеальных случаях ГПТ не помог в написании кода. Тот мизерный процент решенных подзадач не стоил труда, затраченного даже конкретно на них.
Но реальная польза уже есть! Чатик позволяет узнать о каких-то релевантных либах и методах, предупреждает о вероятных оказиях (например, что, узнавая кол-во ядер, надо помнить, что они бывают физическими и логическими).
И все же, хотелось бы узнать, есть ли аноны, добившиеся от сетки большего?
Пропущено 418 постов, 59 с картинками.
Прада, это не русское "не так ли?" - "не?" в Японию попало, а португальское "nilo e" - "ne", но суть та же
Именно с людьми она и работает. Но если конкретизируешь вопрос, то прям, с удовольствием отвечу по делу.