Изображения
Видео и 3D
Текст
Пропущено 1497 постов, 228 с картинками.
Вот сейчас с пятого или шестого раза запустился. Я просто ролил.
Тред для получения доступа в /nf
Пропущено 1497 постов, 1 с картинками.
ЧТО НОВОГО АКТУАЛЬНОГО
• Qwen Image 2.1 теперь в опенсурсе
• Поддержка INT8 и INT4 в ComfyUI - теперь все быстрее!
• Krea 2
• Ideogram 4.0
• FLUX.2 klein (4b и 9b)
• Z-Image
• Flux 2
• Qwen Image / Qwen Image Edit
• Лора Lightning и Turbo для быстрой генерации за несколько шагов.
База:
→ Приложение ComfyUI https://comfy.org/
→ Примеры https://comfyui-wiki.com/ru (откуда, куда, как)
→ Модели https://civitai.red/
► Предыдущий тред >>1706477 (OP) ► https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 24 постов, 8 с картинками.
Самый ебейший воркфлоу это то, что квен можно удалить. Кто не сомневается итак уже поняли для чего квен подходит, остается только искать больше применений.
>>1713756
А они планируют что ли? Поразительно как они вообще выкатили хотя бы один опенсорс, это же чисто коммерческая контора.
>>1714132
Хорошее качество, кидай webp
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №272 /llama/
Аноним
26/09/26 Суб 20:22:06
№
Ответ
В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны!
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с нано флеш моделей на 1488B параметров.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная, но слегка тухлая вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Гайд для новичков: https://rentry.org/2ch-llama-inference
Не вошедшее в шапку и архив полезных ссылок: https://rentry.co/llama-2ch-archive
Инструменты для запуска на десктопах:
• llamacpp - отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• koboldcpp - самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Обертка над llama.cpp с закрытым исходным кодом: https://lmstudio.ai
• Обертка над llama.cpp с ограниченными возможностями: https://github.com/ollama/ollama
Универсальные десктопные фронтенды:
• SillyTavern - всеядное, сопрягается почти со всем, имеет большую коллекцию расширений: https://github.com/SillyTavern/SillyTavern
• Marinara Engine - вариация на тему таверны, больше возможностей из коробки: https://github.com/Pasta-Devs/Marinara-Engine
• Risuai - еще одна вариация, на этот раз в профиль, излишеств по минимуму: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• PocketPal - интерфейс для локального запуска моделей под андроид и IOS на llamacpp (CPU, GPU, и NPU инференс): https://github.com/a-ghorbani/pocketpal-ai
• Maid - интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• ChatterUI - альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://web.archive.org/web/20241201232031/https://rentry.co/STAI-Termux
Поставщики локальных моделей:
• Hugging Face - платформа куда загружается всё и во всех форматах: https://huggingface.co/models
• Проверенные квантоделы: https://huggingface.co/bartowski, https://huggingface.co/mradermacher, https://huggingface.co/unsloth
Рейтинги и списки локальных моделей:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Готовые карточки для таверны:
• Botbooru - текущая мета (регистрируйтесь для отображения всего спектра, и/или меняйте страну): https://botbooru.com
• Прошлая мета, откуда массово удалили карточки сомнительного содержания: https://www.characterhub.org, https://www.chub.ai
• Архив карточек, удадённых с chub: https://gottasaveemall.github.io/
Официальные документации к инструментам:
• llamacpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
• koboldcpp: https://github.com/LostRuins/koboldcpp/wiki
• SillyTavern: https://docs.sillytavern.app/usage/quick-start
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1711675 (OP)
>>1708936 (OP)
Пропущено 69 постов, 15 с картинками.
На картинке много информации, куды там смотреть, на количество слоев?
Если у тебя сама модель имеет выходной слой в bf16 то теоретически потеряешь точка ноль ноль ноль с чем-то процентов. Не заморачивайся. Если необходимо чтобы контекст влез и скорость была выше - квантуй. Осторожно с советами от долбоёбов которые говорят покввантуй только k или v - так можно скорость угандошить.
Прошлый тред: >>1694607 (OP) https://arhivach.vc/thread/1424185/
Схожие тематические треды
• SD-тред (не аниме): >>1695568 (OP)
• Технотред: >>1405043 (OP)
• Фурри-тред: https://2ch.su/fur/res/374311.html
FAQ
https://2ch-ai.github.io/wiki/nai
Установка
• NVidia: https://teletype.in/@aranon/welcome
• AMD: https://2ch-ai.github.io/wiki/nai/install/amd
• Облака: https://2ch-ai.github.io/wiki/nai/install/clouds
Дополнительная информация
• Интерфейсы: https://2ch-ai.github.io/wiki/nai/interfaces
• Модели: https://2ch-ai.github.io/wiki/nai/models
• Промпты: https://2ch-ai.github.io/wiki/nai/prompts
• Апскейл: https://2ch-ai.github.io/wiki/nai/upscale
• LoRA: https://2ch-ai.github.io/wiki/nai/lora
• ControlNet: https://2ch-ai.github.io/wiki/nai/controlnet
Прочее
• CivitAI: https://civitai.com
• Каталог ссылок от форчанеров: https://rentry.co/sdg-link
• Шаблон для переката: https://rentry.co/nwhci
Пропущено 461 постов, 186 с картинками.
>Скинь свой промпт энхансер, пожалуйста.
You are an elite Prompt Architect for high-end image generators (Flux, Midjourney, SDXL). Your task is to generate hyper-detailed, evocative, and visually arresting English prompts. You do not just describe a scene; you compose it using lighting, texture, anatomy, fashion, and cinematic depth.
CORE SUBJECT PHILOSOPHY (THE "LITHE & ALLURING" RULE):
All subjects are females characterized by an aesthetic of extreme slenderness, fragility, and magnetic allure.
Anatomy: Emphasize lithe, thin, and delicate silhouettes. Focus on the contrast between their narrow frames and their captivating presence. Highlight collarbones, hip-to-waist ratio, slender limbs, and subtle skin textures (tanlines, goosebumps, moisture).
Attire & Fashion: Clothing is a primary tool for visual storytelling. It must be highly detailed, emphasizing the girl's thinness. Use materials that create tactile sensation: micro-knit, sheer fabrics, tight tech-wear, ribbed cotton, or delicate silk.
Fetishistic Micro-Details (The "Trinket" Layer): Always weave in organic accessories to enhance character depth: chokers (leather/velvet), hairpins, intricate braids, aesthetic eyewear, lace details, or specific jewelry that fits the environment.
STYLIZATION ENGINE (VARIABLE ARTISTRY):
DO NOT stick to one style. For every request, intelligently select and blend-in one of these- or more- unique visual languages:
Lo-Fi/Found Footage: VHS glitch, Backrooms aesthetic, heavy chromatic aberration, scanlines, magnetic tape noise, 9-2-1-1 recording quality.
Retro Digital/Console: 32-bit pixel art, dithering, low-res textures, nostalgic 90s/early 2000s digital camera look, heavy compression artifacts.
Cinematic Realism: 35mm film, Kodak Portra, deep shadows (chiaroscuro), anamorphic lens flares, extreme depth of field.
Ethereal Dreamcore/Surrealism: Soft focus, glowing edges, dream-like hazy atmosphere, high-contrast fashion photography. The style must dictate the texture of the image: if it's VHS, there should be noise; if it's pixel art, there should be color-blocking.
COMPOSITIONAL LOGIC (ANTI-FLATNESS):
Never generate "flat" images. Every prompt MUST include 3 layers of depth:
Foreground: Blurred elements (a glass pane, a leaf, hair strands, a piece of furniture) to create immediate depth.
Midground (The Focus): The subject with intense detail and sharp focus on textures (skin/clothing).
Background (Environment): Cohesive, logical scenery that complements the girl’s mood. No "AI-sludge"—if it's a bedroom, it must be an aesthetically consistent bedroom.
ENVIRONMENTAL COHESION:
Avoid absurdities. Every object in the frame must serve a purpose (storytelling or composition). Lighting and weather must match the setting. Use lighting to carve out the subject’s silhouette: rim light, neon-glow, harsh sunlight through blinds (gobos), or soft dim moonlight.
OUTPUT FORMATTING:
Language: Pure English for the output prompts.
Content: No "masterpiece" or "highly detailed" filler words. Use specific nouns and evocative adjectives (e.g., instead of "beautiful clothes," use "ribbed translucent micro-top").
Structure:
[Core Subject & Pose]
[Detailed Anatomy & Clothing Textures]
[Micro-accessories & Fetish details]
[Environment, Background & Depth Layers]
[Lighting, Camera Lens, Style/Film Stock, and Color Palette]
PROMPT GENERATION GOAL:
Create images that feel like a "frozen moment" from a high-budget film or a rare, found aesthetic discovery. Every prompt should evoke a sense of desire, mystery, and visual tension.
Ну вот такое - всё ещё далеко от идеала, но пока устраивает и лень переписывать.
Как делаешь креей с референса? Это же не эдит модель, i2i или что-то сложное?
Новости треда:
• Claude Opus 5.5 (Anthropic, 22 сентября) - Опус, который в линейке стоит ниже Фейбла, выебал обоих флагманов: 66.4% на Terminal-Bench 4.0 против 57.9% у Astra и 55.8% у Fable 5.1, и всё это за $4/$20, пока те дерут $10/$50. Астре слил только офисную хуйню для менеджеров, контекст 1M.
• Grok 4.7 (xAI, 21 сентября) - Маск Небоходец раздул базу до 2.1T и приполз на уровень Opus 5.0, то есть отстаёт на поколение: CursorBench 46.3% против 57.8% у Opus 5.5, GDPval 1695 против 1735 у Fable. Цена та же, $2/$6, а в Курсоре его пихают по умолчанию, так что жрать его всё равно придётся.
• MiMo-V2.6 (Xiaomi, 22 сентября) - производитель пылесосов и самокатов теперь король опенсорса: 46 баллов у Artificial Analysis, GLM-5.3 и Kimi K3 курят на 45 и 44. Это 1.02T MoE под MIT с контекстом 1M, на DeepSWE 71.9 при 74.2 у дипсик-флеша, стоит $0.435/$0.87.
• Bonsai 2 27B (PrismML, 17 сентября) - Qwen3.8 27B ужали в троичные веса, и он влезает в 5.9 ГБ вместо 54: держит 98.2% результата оригинала и валит 143 ток/с на 5090. Математика и код на месте, знания и зрение отъехали, лицензия Apache 2.0, так что нищуки с одной видюхой, налетай.
Полезная информация:
• FAQ: https://rentry.org/2ch-agents-faq
• Вариант архитектуры работы с агентами: https://rentry.co/9e256dt4
IDE с агентом внутри:
• Cursor: https://cursor.com
• Antigravity: https://antigravity.google/
• Zed: https://zed.dev
CLI-харнессы:
• Claude Code: https://code.claude.com/docs
• Codex: https://github.com/openai/codex
• OpenCode: https://github.com/anomalyco/opencode
• Pi: https://shittycodingagent.ai/
• Kimi Code: https://www.kimi.com/code/en
Ассистенты:
• OpenClaw: https://github.com/openclaw/openclaw - у него есть куча форков и альтернатив, но обсуждают в основном его.
Где брать модели:
• OpenRouter: https://openrouter.ai
• NVIDIA Build: https://build.nvidia.com/models - бесплатно, 40 RPM, 100+ моделей
• OpenCode Zen: https://opencode.ai/zen - кодинг-модели, часть бесплатно
• Локалки - llama-тред: >>1711675 (OP)
Шаблон для переката: https://rentry.co/2ch-agents
Предыдущий тред: >>1703130 (OP)
Пропущено 177 постов, 23 с картинками.
Да пипец.
Я в основном сидел на банане 2k делая ассеты для своей дрочильни про бимб.
И в чатек с клодом.
Потом вспомнил что мне движок чинить надо, попробовал агента, втянулся.
Потом решил реверсить игры с PC98, правда через жопу всё вышло.
Хорошо хоть успел накидать основу для другого проекта, попутно надроачивая кучу кадров анимации через пока ещё доступный wan2.7-image-pro, впрочем он прям говно и тупо влез только в одну конкретную задачу.
Ну директ то понятно.
Но в агентском режиме ты можешь словить топы.
И мог с этими топами сидеть неделями с одним проектом.
Пасеба. Снёс всё к дефолту. Оказывается, агент поигрался с настройками самого кода компактера Pi агента, а не только с расширениями *.ts. Так что у меня сосальный даже сам харнесс. А ещё я сейчас выяснил – qwen3.8-27b-gsq-rco IQ3_XXS это совсем лоботомит. Братовский Qwen3.8 27B IQ3_XXS хоть и медленней раза в полтора, но тащит даже на Q4 K и V кеше рассуждения по сложным темам. После сброса всех расширений агент начал создавать субагентов для обхода максимальной длины контекста. С поиском там агент в своё время тоже нахимичил, он в DuckDuckGo тоже ищет нормально. Если есть проблемы с открытием ссылок, сам курлит, но можно сделать, как ты сказал, ок.
Залетай и будь в курсе самых последних событий и достижений в этой области!
Прошлый тред: >>1687452 (OP)
Активно репортите все нерелейтед посты кнопкой на сообщениях. Этот тред только про ИИ новости, не позволим троллям загаживать тред шитпостом и бесконечным словоблудием.
🛠 Инструменты для разработчиков
Google Research выпускает ToolGrad: фреймворк с ответом прежде всего достигает показателя прохождения 99,8% при генерации данных для использования инструментов
ElevenLabs добавляет генерацию речи, музыки, изображений и видео в свой коннектор MCP
Cursor запускает Projects с постоянными агентами, которые заменяют чаты, основанные на отдельных задачах
📦 Продукты
Perplexity заявляет, что Portable Computer теперь доступен на ПК с Windows и RTX. Perplexity говорит, что пользователи могут запускать агентов и модели локально, работая с локальными файлами и подключёнными приложениями без отправки задач в облако.
Anthropic запускает Claude для финансовых консультантов с интеграциями BlackRock и Schwab
Microsoft добавляет модели xAI Grok в Copilot для Word, Excel и PowerPoint
ElevenLabs выпускает Music v2.5 с доступом через приложение и API
Google выпускает Lyria 3.5 Music AI в приложение Gemini и производственный API
Google выпускает WeatherNext 3, свою самую продвинутую глобальную модель ИИ для погоды
💻 Оборудование
Nvidia представляет RTX PRO 5500 Blackwell с 84 ГБ памяти
Samsung Electronics Co. и Taiwan Semiconductor Manufacturing Co. планируют начать внедрение литографического оборудования ASML High NA EUV для крупносерийного производства в 2028 и с 2030 года соответственно, присоединившись к Intel Corp. в использовании машин стоимостью до $400 млн каждая.
🔓 Открытый исходный код
Cohere выпускает North Small Translate — переводческую модель с открытыми весами, превосходящую Google Translate
Фонд ARC Prize объявил ARC-AGI-4 — бенчмарк для автономного открытого изобретательства, метанавыка, в которой люди по-прежнему лидируют, — и недвусмысленно предупредил, что любые согласованные усилия по снижению открытости подорвут позитивно-суммарное будущее.
🧪 Исследования
Google DeepMind представляет AlphaGenome Atlas, предсказывающий влияние 9 млрд вариантов человеческой ДНК
Новая научная статья утверждает, что мухи — это всё, что вам нужно; мозг из 140 000 нейронов служит доказательством концепции для всего более крупного.
⚙ Инфраструктура
Разработчики дата-центров в Мэриленде предлагают жителям пакет общественных выгод на $110 млн, поскольку крупные технологические компании стремятся развеять опасения. Издание описывает его как крупнейший в истории США пакет общественных выгод, среди положений которого — начальная школа стоимостью $30 млн и система рекультивации воды.
Трамп даёт дата-центрам ИИ разрешение загрязнять окружающую среду
Губернатор Техаса угрожает наказать дата-центры ИИ, не соблюдающие законы о воде
Администрация Трампа открывает государственные земли для дата-центров ИИ
Alphabet Inc., владеющая Google, планирует крупнейшие инвестиции в Европе — строительство инфраструктуры искусственного интеллекта стоимостью не менее €13 млрд ($15,1 млрд) в Финляндии.
План ЕС в области ИИ требует дата-центров на 1,3 триллиона евро
Новая архитектура OpenAI обрабатывает 70 миллионов запросов в секунду
📱 Приложения
Google запускает приложение Gemini для настольных компьютеров с Windows
ИИ-приложение Google Dreambeans запускается для всех пользователей в США. Приложение, которое Google начал тестировать в июне, извлекает информацию из Search, Gmail, Photos, Calendar и Gemini, чтобы предоставлять рекомендации по покупкам с помощью ИИ, предложения по путешествиям, напоминания о мероприятиях и многое другое.
Теперь у Gemini есть приложение для Windows. По словам Google, в приложении можно нажать Alt + Space, чтобы вызвать Gemini, когда он вам нужен.
Twitch тестирует ИИ «Stream Coach», который даёт создателям советы после их трансляций.
🔎 Мнение и анализ
Марк Цукерберг утверждает, что разработка искусственного интеллекта должна продвигаться еще быстрее.
Сотрудники ИИ «по-настоящему напуганы» будущим человечества, бывший исследователь Anthropic рассказал BBC
ИИ и конец человечества? Что ж, один представитель Трампа говорит, что он «думер»
Генеральный директор Agile Robots прогнозирует, что физический ИИ превзойдёт автомобильную отрасль в 10 раз
Business Insider утверждает, что публичные дебаты могут помочь предотвратить катастрофу, связанную с ИИ. Business Insider сообщает, что общественное давление стимулирует обязательства по обеспечению безопасности в то время, как лидеры ИИ предупреждают о катастрофе.
ИИ, возможно, ухудшает перспективы трудоустройства выпускников компьютерных наук, показывают данные Великобритании
Европа должна создать собственный ИИ или рискует оказаться отрезанной США или Китаем, говорит глава ЕЦБ Лагард
Маск считает, что ИИ и роботы удвоят мировой ВВП к 2036 году
⚠ Безопасность ИИ
OpenAI раскрывает ещё одну атаку со стороны вышедшего из-под контроля ИИ. Агенты OpenAI уже однажды сбежали, прежде чем взломать Hugging Face.
Китай готовится к риску выхода ИИ из-под контроля человека,
Российские разработчики использовали ИИ для создания программного обеспечения для ударных дронов-«камикадзе», сообщает Anthropic
Боты OpenAI знали об уязвимости кэширования RubyGems до того, как она стала публичной
У OpenAI сотни контрактных работников, читающих ваши разговоры в ChatGPT. Один рецензент рассказал СМИ, что не думает, будто пользователи знали о том, что люди читают их чаты.
Атакующий PaperCut использовал сотни ИИ-агентов для компрометации более 440 серверов печати
Anthropic не допустила Mythos 5.1 к тестированию Британского института безопасности ИИ
Anthropic создаёт систему прогнозирующего наблюдения для мониторинга активистов
США заявляют, что китайские компании извлекли миллиарды токенов из передовых моделей ИИ
ИИ-агенты проникают в корпоративную сеть менее чем за 10 часов и крадут root-учётные данные
Исследователи обнаружили второй рой из 3 700 агентов OpenAI, которые незаметно редактировали немецкую Википедию в течение месяца
С выпуском Apple Watch Series 12 Apple решила, что допустимо записывать разговоры людей без их согласия с помощью ИИ.
Дешёвая Luna обнаруживает 75% ошибок в коде Astra, но пропускает половину ошибок безопасности
💰 Бизнес
IPO Anthropic не будет отложено из-за шума вокруг вопросов безопасности, сообщает Axios. Axios заявляет, что календарь IPO остаётся неизменным, несмотря на другие изменения в сфере ИИ.
Акции, связанные с ИИ, падают после того, как технологические руководители призвали замедлить «безрассудную» разработку. Акции производителя полупроводников Nvidia — самой дорогой компании мира — к закрытию торгов в Нью-Йорке снизились на 3,3%, тогда как Advanced Micro Devices (AMD) упали на 4%, а акции Micron Technology и Sandisk рухнули на 5%. Фонд технологического индекса Nasdaq к концу дня снизился на 0,5%.
Anthropic хвастается, что была бы прибыльной, если не учитывать, сколько стоит разработка ИИ
Adobe сообщает о рекордной выручке в $6,76 млрд, продолжая активное продвижение ИИ. Это на 13 процентов больше, чем за аналогичный период прошлого года
🏭 Компании
Anthropic, Google и OpenAI обсуждали создание организации по стандартизации ИИ, сообщает CNN
Генеральный директор Microsoft Сатья Наделла говорит: «мы приветствуем» «обдуманный темп, необходимый для правильного согласования», и объявляет о «Кодексе поведения», лежащем в основе моделей MAI от Microsoft
Генеральный директор Nvidia Дженсен Хуанг говорит Трампу: «мы не позволим замедлению ИИ произойти»
Китай отвергает заявления об остановке развития ИИ как «запугивании ИИ», в то время как глава разведки предупреждает об угрозе правлению Коммунистической партии
Китайское правительство отвергает призывы технологических миллиардеров замедлить развитие ИИ как «запугивание»
Google открывает Claude Opus 5 для всех инженеров после инвестиций в Anthropic на $40 млрд
ЗАИ привлекает $5 млрд для финансирования моделей GLM следующего поколения
💰 Финансирование
Maven Robotics выходит из режима скрытности с $100 млн для решения задачи промышленной сортировки смешанных палет
Skild AI преодолевает отметку в $100 млн ARR за 10 месяцев, разворачивая наступление на предприятия и «культуру демонстраций» в робототехнике
OpenAI приостанавливает новые регистрации Pro после спроса на GPT-6 Astra
⸻⸻⸻
Правила постинга в тред ИИ новостей, учитывайте при постинге: https://rentry.org/ainews
Все нерейлейтед посты репортим.
Перекат треда новостей после 1000 постов согласно правилам раздела https://2ch.life/faq/faq_ai.html
Пропущено 792 постов, 339 с картинками.
На гугол вообще надежды уже давно нет. Верю в Альтмана, что его ответка будет не хуже впопуса 5.5, включая цену. Но верится с трудом
Внезапно есть. Там в твиттере показывают результаты гемини 4 про с арены и они очень близки к тому что выдает опус, еще был "слив" бенчмарков и цены и там цена была более чем в два раза ниже чем у опуса, при этом, но это с большой вероятностью может быть фейком.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards
• Risu: https://risuai.xyz/ | https://rentry.org/ox5cw9p8
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
• GLM: https://docs.z.ai
Ботоводчество
• Чуб: https://characterhub.org | https://chub.ai/characters
• Ботбуру: https://botbooru.com/
• CharIsChar: https://charischar.net/
• Гайды: https://aicg.neocities.org/botmaking
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• OpenRouter: https://openrouter.ai/
• Арена: https://lmarena.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Шаблон шапки: https://rentry.org/aicg_shapka
Прошлый тред: >>1697344 (OP)
Пропущено 156 постов, 22 с картинками.
1. Suno
https://suno.com/
Вышла версия V6 mini и V6 pro (но для тех кто платит денюшку), качество моделей постепенно улучшается (в 6 версии дата сеты стали дерьмом собачьим, тонны вайна на реддите тому подвтержение звук стал калом): звук, понимание концепций, набора различных жанров. Но в то же время все сильнее урезается для бесплатных юзеров: осталось только 5 бесплатных генераций в день на аккаунт, а также по заявлением некоторых анонов, модель для генерации на бесплатке (на момент создания треда использовалась 4.5) ухудшили. Спам аккаунтами пока что работает.
Купить подписку из РФ:
1. https://payment.mts.ru/tools/suno-ai
2. https://plati.market/games/suno-ai/1701/
2. Tunee
https://www.tunee.ai
Хороший звук, более-менее понимание концептов, но тоже сильно урезан для бесплатных юзеров: режет концепты в промптах, плюс произвольно определяет "цену" за каждую генерация исходя из какой-то "сложности запроса". И получается, что если с бесплатки забацаешь промпт сложнее банальщины "Make cool rock about love for youtube" он может решить что у тебя нет кредитов для такого сложного запроса и пошлет нахуй. Способов оплаты из РФ неизвестно.
3. Sonauto
https://sonauto.ai/
Как по мне, недооценённая вещь, особенно учитывая что недавно он обновился до 3.0, который очень даже разъебывает. Но он тут более ограничен тегам и понимает чисто какие-то жанровые теги, гибкости поменьше. Но зато пока что халявный и не ограничен кредитами, генерируй пока есть настроение.
4. Другие сервисы, которые можно попробовать, но сам много про них сказать не могу
https://www.wondera.ai/
https://www.beatoven.ai/
https://stableaudio.com/
https://www.loudly.com/music/ai-music-generator
https://www.elevenlabs.io
ЛОКАЛЬНАЯ ГЕНЕРАЦИЯ
YuE-2
Модели пяток дней, модель маловестная 3b и не требовательная, уже есть в комфи. Есть задел на то что будет дохуя лор.
MiniMax Music 3
https://github.com/minimax-ai/minimax-music3 [есть в шаблонах comfyui]
Свежак. Качество генерации на уровне Suno 3+. Сильно заточена именно на песни, с инструменталом есть особенности - модель не следует прямому указанию по продолжительности, можно выставить ограничение(!) на максимальную продолжительность. LLM часть сама решает сколько будет идти трэк. Промт простыня на пару сотент токенов, рекомендуется использовать LLM асситента.
ACE-STEP 1.5XL:
https://github.com/ace-step/ACE-Step-1.5 [есть в шаблонах comfyui].
Звук уже на уровне раннего Suno ~2.0-3.0, аноны делают на нем уже приемлемые результаты и постят в тред. Если есть хотя бы 12 GB VRAM и хочется генерировать без цензуры и подписок - можете юзать. Идеально подходит для отладки перед использованием на коммерческих генераторах. В XL версия DIT модель разжирела до 4b параметров и стала чутка вменяемее.
Стоит учесть то чтобы добится вменяемого звучания одними тэгами отъебатся не получится, `caption` требует качественного промпта символов на 200.
В ComfуuUI реализован только text2music функционал. Для полного функционала надо накатывать полноценный бэкеннд из репозитория.
Есть несколько кривеньких вариаций локальных студий как в коммерческих моделях - https://github.com/ace-step/awesome-ace-step#uis-and-studios
VST плагины итд.
HeartMuLa
https://github.com/HeartMuLa/heartlib
Результат примерно на уровне ACE-STEP1.5 (не XL). Статус проекта непонятен, пока ебут вола. Из плюсов - меньше песочит на верхних частотах. Есть встроенный STUDIO UI.
StableAudio
https://github.com/Stability-AI/stable-audio-3 [есть в шаблонах comfyui+]
Делает звук. Подходит для создания сэмплов FX, ad-libs итд. Абсолютно не может в членораздельную речь. Может сделать что то похожее на музыку.
v3 наглухо зацензурена, стоны и вопли можно делать на v1.
МЁРТВЫЕ КОММЕРЧЕСКИЕ ГЕНЕРАТОРЫ
1. Udio (udio.com) - куплен Warner Bros, но затем сами Warner Bros сдали назад и откатили сделку. Но уже успели испортить, больше нельзя скачивать треки, их только доставать из буфера в 160 кбит/с. Плюс непонятно как работающая цензура, которая не дает генерировать треки с определенными тегами. Плюс уже год ебут один и тот же 1.5 allegro.
2. Riffusion, Producer.ai (producer.ai) - куплен гуглом, удалены все старые относительно норм модели, вместо этого запихали безальтернативную каловую модель, которая и промпты сложнее самых нормисных в духе "make cool rock about love" не понимает, и вокал смазывает в какую-то кашу. При этом еще и максимально дегенеративная цензура, которая режет чуть ли не любые попытки сделать просто что-то не попсовое и не "музыку для ютуб".
ПРОЧИЕ ПОЛЕЗНЫЕ УТИЛИТЫ
1. https://www.bandlab.com/mastering
Быстрый мастеринг в две кнопки, если хочешь чтобы звучало более слушабельно, но не имеешь навыков в DAW или аудиоредакторах (или лень).
2. https://morpher.ru/accentizer/
Если генерируешь музыку с лириками на русском, то очень часто случается, что твой генератор путает ударения в словах. Прежде чем пихать свою графоманию в генератор, проставь ударения в сервисе по ссылке. И уже из этого сервиса копируй текст в генератор. По крайней мере в Suno это помогает.
Прошлый тред тонет тут: >>1680116 (OP)
Пропущено 173 постов, 75 с картинками.
Я ничего не понимаю, что делать?
Без петросянства: смотри программу стэнфорда CS229, CS231n https://see.stanford.edu/Course/CS229 (классика) и http://cs231n.stanford.edu (введение в нейроночки) и изучай, если не понятно - смотри курсы prerequisites и изучай их. Как именно ты изучишь конкретные пункты, типа линейной алгебры - дело твое, есть книги, курсы, видосики, ссылки смотри ниже.
Где узнать последние новости?
https://www.reddit.com/r/MachineLearning
https://datatau.net
https://twitter.com/ylecun
На реддите также есть хороший FAQ для вкатывающихся.
Какая математика используется?
В основном линейная алгебра, теорвер, матстат, базовый матан и matrix calculus.
Как работает градиентный спуск?
https://cs231n.github.io/optimization-2
Почему python?
Исторически сложилось. Поэтому давай, иди и перечитывай Dive into Python.
Можно не python?
Никого не волнует, где именно ты натренируешь свою гениальную модель. Но при серьезной работе придется изучать то, что выкладывают другие, а это будет, скорее всего, python, если работа последних лет.
Что почитать для вкатывания?
http://www.deeplearningbook.org
https://d2l.ai/index.html
Николенко "Глубокое обучение" — на русском, есть примеры, но меньше охват материала
Франсуа Шолле — Глубокое обучение на Python
Все книги и статьи фактически устаревают за год.
В чем практиковаться нубу?
http://deeplearning.stanford.edu/tutorial
https://www.hackerrank.com/domains/ai
https://github.com/pytorch/examples
https://github.com/ChristosChristofidis/awesome-deep-learning#tutorials
Где набрать первый самостоятельный опыт?
https://www.kaggle.com
Стоит отметить, что спортивный deep learning отличается от работы примерно так же, как олимпиадное программирование от настоящего. За полпроцента точности в бизнесе борятся редко, а в случае проблем нанимают больше макак для разметки датасетов. На кагле ты будешь вилкой чистить свой датасет, чтобы на 0,1% обогнать конкурента.
Где работать?
https://www.indeed.com/q-deep-learning-jobs.html
Вкатывальщики могут устроиться программистами и дальше попроситься в ML-отдел
Есть ли фриланс в машобе?
Есть, https://www.upwork.com/search/jobs/?q=machine+learning
Но прожить только фриланся сложно, разве что постоянного клиента найти, а для этого нужно не быть тобой
Где посмотреть последние статьи?
http://www.arxiv-sanity.com
https://paperswithcode.com
https://openreview.net
Версии для зумеров (Килхер): https://www.youtube.com/channel/UCZHmQk67mSJgfCCTn7xBfew
Количество статей зашкваливающее, поэтому все читают только свою узкую тему и хайповые статьи, упоминаемые в блогах, твиттере, ютубе и телеграме, топы NIPS и прочий хайп. Есть блоги, где кратко пересказывают статьи, даже на русском
Где посмотреть must read статьи?
https://github.com/ChristosChristofidis/awesome-deep-learning#papers
https://huggingface.co/transformers/index.html
То, что обозревает Килхер тоже зачастую must read
Где ещё можно поговорить про анализ данных?
http://ods.ai
Нужно ли покупать видеокарту/дорогой пека?
Если хочешь просто пощупать нейроночки или сделать курсовую, то можно обойтись облаком. Google Colab дает бесплатно аналог GPU среднего ценового уровня на несколько часов с возможностью продления, при чем этот "средний уровень" постоянно растет. Некоторым достается даже V100.
Иначе выгоднее вложиться в GPU https://timdettmers.com/2019/04/03/which-gpu-for-deep-learning заодно в майнкрафт на топовых настройках погоняешь.
Когда уже изобретут AI и он нас всех поработит?
На текущем железе — никогда, тред не об этом
Кто-нибудь использовал машоб для трейдинга?
Огромное количество ордеров как в крипте так и на фонде выставляются ботами: оценщиками-игральщиками, перекупщиками, срезальщиками, арбитражниками. Часть из них оснащена тем или иным ML. Даже на швабре есть пара статей об угадывании цены. Тащем-то пруф оф ворк для фонды показывали ещё 15 лет назад.
Так-что бери Tensorflow + Reinforcement Learning и иди делать очередного бота: не забудь про стоп-лоссы и прочий риск-менеджмент, братишка
Список дедовских книг для серьёзных людей
Trevor Hastie et al. "The Elements of Statistical Learning"
Vladimir N. Vapnik "The Nature of Statistical Learning Theory"
Christopher M. Bishop "Pattern Recognition and Machine Learning"
Взять можно тут: https://www.libgen.is
Напоминание ньюфагам: немодифицированные персептроны и прочий мусор середины прошлого века действительно не работают на серьёзных задачах.
Disclaimer: Шапка сгенерирована нейросетью и нуждается в чистке. Исходник шапки: https://rentry.co/research-2ch
Предыдущий тред:
>>511426 (OP)
Пропущено 455 постов, 70 с картинками.
С нуля обучать? На полной википедии, на меньшем смысла нет, если тебе нужна "связность". Маленьких нейросетей не бывает, потому что у них мозги для выдачи связной информации начинаются от 1B, а для обучения нужно в 20 раз больше данных чем параметров чтобы не ушло в оверфит. Ну и карта уровня H100 само собой. "Простенькая" модель 4М на 2 десятках книг это вот такой генератор бессвязной грамматически правильной хуиты.
>всего за неделю-две обучения
Чел... Современные фронтирные модели 3 месяца только претрейнят.
>>1713807
>tinystories
>слишком сложно
Эта сфера не для тебя. Тюни стори самый простой вариант в текстах.
1. MiniMax-H3 от MiniMax - Качество корпоратов на вашем ПК без цензуры
https://huggingface.co/MiniMaxAI/MiniMax-H3
Принимает на вход тексты, пикчи, звук, видео и может делать с ними всякое. Неофициально умеет генерить/редачить пикчи. Absolute Cinema. Набор полезных ссылок на все случаи жизни:
https://github.com/wildminder/awesome-minimax-H3
2. LTX-2.5 - обещает сделать локальную генерацию грейт агейн. Подходят лоры от 2.0, то есть архитектура нихуя не меняется.
https://huggingface.co/Lightricks/LTX-2.5
Известные тюны:
Sulphur
Eros
3. Wan 2.2 от Alibaba
https://huggingface.co/collections/Wan-AI/wan22
VACE модели:
https://github.com/ali-vilab/VACE
https://huggingface.co/Wan-AI/Wan2.1-VACE-14B
https://huggingface.co/Wan-AI/Wan2.1-VACE-1.3B
Не особо актуальные модели:
https://rentry.co/2ch-ai-video
Локальный UI
https://github.com/comfyanonymous/ComfyUI
Установка локальных моделей
Wan 2.2: https://comfyanonymous.github.io/ComfyUI_examples/wan22/
Wan 2.1: https://comfyanonymous.github.io/ComfyUI_examples/wan/
Гайд для использования Wan 2.2
https://alidocs.dingtalk.com/i/nodes/EpGBa2Lm8aZxe5myC99MelA2WgN7R35y
Альтернативные ноды ComfyUI
Hunyuan Video: https://github.com/kijai/ComfyUI-HunyuanVideoWrapper
Wan: https://github.com/kijai/ComfyUI-WanVideoWrapper
Где брать готовые LoRA
https://civitai.com/models ( https://civitai.red/ для порно)
Обучение LoRA
https://github.com/tdrussell/diffusion-pipe
Терминология моделей
prune — удаляем ненужные веса, уменьшаем размер
distill — берем модель побольше, обучаем на ее результатах модель поменьше, итоговый размер меньше
quant — уменьшаем точность весов, уменьшаем размер
scale — квантуем чуть толще, чем обычный fp8, чтобы качество было чуть лучше, уменьшение чуть меньше, чем у обычного квантования, но качество лучше
merge — смешиваем несколько моделей или лор в одну, как краски на палитре.
lightning/fast/turbo — а вот это уже просто название конкретных лор или моделей, которые обучены генерировать видео на малом количестве шагов, они от разных авторов и называться могут как угодно, хоть sonic, хоть sapogi skorohody, главное, что они позволяют не за 20 шагов генерить, а за 2-3-4-6-8.
Кейворды для дополнительных вещей: SVI, RuneXX, LTX Director.
Предыдущий тред
>>1697896 (OP)
Пропущено 340 постов, 87 с картинками.
Два чаю, с этой недели перешел уже к минифильмам с енотовой, нащелкиваю чанков на 10-15 сек с разными промптами, это где-то 7-12 минут пыхтения скороварки, потом монтирую, хоба! Если без воды, то 3 минуты ебли более чем достаточно. Наверное, через пару недель как надоест начну по 10-15 минут с пездежом делать и разными историями из жизни. Как же охуенно в 2к26.
Он долбоеб просто, а замену тут с рик роллом делали в первую неделю. Явно не одупляет как модель работает.
Предыдущий тред: >>1272560 (OP)
➤ Софт для обучения
https://github.com/kohya-ss/sd-scripts
Набор скриптов для тренировки, используется под капотом в большей части готовых GUI и прочих скриптах.
Для удобства запуска можно использовать дополнительные скрипты в целях передачи параметров, например: https://rentry.org/simple_kohya_ss
https://github.com/bghira/SimpleTuner Линукс онли, бэк отличается от сд-скриптс
https://github.com/Nerogar/OneTrainer Фич меньше, чем в сд-скриптс, бэк тоже свой
https://github.com/Mikubill/naifu Бэк которым тренили noobai
https://github.com/bluvoll/sd-scripts Форк сд-скриптов для тренировки rectified flow xl чекпоинтов
➤ GUI-обёртки для sd-scripts
https://github.com/bmaltais/kohya_ss
https://github.com/derrian-distro/LoRA_Easy_Training_Scripts
➤ Обучение SDXL
https://2ch-ai.github.io/wiki/tech/sdxl/
➤ Flux
https://2ch-ai.github.io/wiki/nai/models/flux/
➤ Wan
https://github.com/kohya-ss/musubi-tuner
https://github.com/tdrussell/diffusion-pipe
➤ Гайды по обучению
Существующую модель можно обучить симулировать определенный стиль или рисовать конкретного персонажа.
✱ LoRA – "Low Rank Adaptation" – подойдет для любых задач. Отличается малыми требованиями к VRAM (6 Гб+) и быстрым обучением. https://github.com/cloneofsimo/lora - изначальная имплементация алгоритма, пришедшая из мира архитектуры transformers, тренирует лишь attention слои, гайды по тренировкам:
https://rentry.co/waavd - гайд по подготовке датасета и обучению LoRA для неофитов
https://rentry.org/2chAI_hard_LoRA_guide - ещё один гайд по использованию и обучению LoRA
https://rentry.org/59xed3 - более углубленный гайд по лорам, содержит много инфы для уже разбирающихся (англ.)
✱ LyCORIS (Lora beYond Conventional methods, Other Rank adaptation Implementations for Stable diffusion) - проект по созданию алгоритмов для обучения дополнительных частей модели. Ранее имел название LoCon и предлагал лишь тренировку дополнительных conv слоёв. В настоящий момент включает в себя алгоритмы LoCon, LoHa, LoKr, DyLoRA, IA3, а так же на последних dev ветках возможность тренировки всех (или не всех, в зависимости от конфига) частей сети на выбранном ранге:
https://github.com/KohakuBlueleaf/LyCORIS
Подробнее про алгоритмы в вики https://2ch-ai.github.io/wiki/tech/lycoris/
✱ Dreambooth – для SD 1.5 обучение доступно начиная с 16 GB VRAM. Ни одна из потребительских карт не осилит тренировку будки для SDXL. Выдаёт отличные результаты. Генерирует полноразмерные модели:
https://rentry.co/lycoris-and-lora-from-dreambooth (англ.)
https://github.com/nitrosocke/dreambooth-training-guide (англ.) https://rentry.org/lora-is-not-a-finetune (англ.)
✱ Текстуальная инверсия (Textual inversion), или же просто Embedding, может подойти, если сеть уже умеет рисовать что-то похожее, этот способ тренирует лишь текстовый энкодер модели, не затрагивая UNet:
https://rentry.org/textard (англ.)
➤ Тренировка YOLO-моделей для ADetailer:
YOLO-модели (You Only Look Once) могут быть обучены для поиска определённых объектов на изображении. В паре с ADetailer они могут быть использованы для автоматического инпеинта по найденной области.
Подробнее в вики: https://2ch-ai.github.io/wiki/tech/yolo/
Не забываем про золотое правило GIGO ("Garbage in, garbage out"): какой датасет, такой и результат.
➤ Гугл колабы
﹡Текстуальная инверсия: https://colab.research.google.com/github/huggingface/notebooks/blob/main/diffusers/sd_textual_inversion_training.ipynb
﹡Dreambooth: https://colab.research.google.com/github/TheLastBen/fast-stable-diffusion/blob/main/fast-DreamBooth.ipynb
﹡LoRA https://colab.research.google.com/github/hollowstrawberry/kohya-colab/blob/main/Lora_Trainer.ipynb
➤ Полезное
Расширение для фикса CLIP модели, изменения её точности в один клик и более продвинутых вещей, по типу замены клипа на кастомный: https://github.com/arenasys/stable-diffusion-webui-model-toolkit
Гайд по блок мерджингу: https://rentry.org/BlockMergeExplained (англ.)
Гайд по ControlNet: https://stable-diffusion-art.com/controlnet (англ.)
Подборка мокрописек для датасетов от анона: https://rentry.org/te3oh
Группы тегов для бур: https://danbooru.donmai.us/wiki_pages/tag_groups (англ.)
NLP тэггер для кэпшенов T5: https://github.com/2dameneko/ide-cap-chan (gui), https://huggingface.co/Minthy/ToriiGate-v0.3 (модель), https://huggingface.co/2dameneko/ToriiGate-v0.3-nf4/tree/main (квант для врамлетов)
Оптимайзеры: https://2ch-ai.github.io/wiki/tech/optimizers/
Визуализация работы разных оптимайзеров: https://github.com/kozistr/pytorch_optimizer/blob/main/docs/visualization.md
Гайды по апскейлу от анонов:
https://rentry.org/SD_upscale
https://rentry.org/sd__upscale
https://rentry.org/2ch_nai_guide#апскейл
https://rentry.org/UpscaleByControl
Старая коллекция лор от анонов: https://rentry.org/2chAI_LoRA
Гайды, эмбеды, хайпернетворки, лоры с форча:
https://rentry.org/sdgoldmine
https://rentry.org/sdg-link
https://rentry.org/hdgfaq
https://rentry.org/hdglorarepo
https://gitgud.io/badhands/makesomefuckingporn
https://rentry.org/ponyxl_loras_n_stuff - пони лоры
https://rentry.org/illustrious_loras_n_stuff - люстролоры
➤ Legacy ссылки на устаревшие технологии и гайды с дополнительной информацией
https://2ch-ai.github.io/wiki/tech/legacy/
➤ Прошлые треды
https://2ch-ai.github.io/wiki/tech/old_threads/
Шапка: https://2ch-ai.github.io/wiki/tech/tech-shapka/
Пропущено 78 постов, 19 с картинками.
Задача - сделать простенькое десктопное приложение которое будет парсить текствое представление (инфотекст) обратно в payload и отправлять его в api автоматика чтобы пользователь мог брать инфотекст любой генерации вностить туда изменения (в графическом интерфейсе) и отправлять на переработку. Делать адаптер для другого приложения, например для Форж - не вариант, потому что генерация в любом случае не получится 100% такой как была в старом автоматике1111.
Ещё одно обстоятельство - приложение десктопное, но GPU удаленный, приложение должно работать по сети.
Ну думаю, задачка на пару вечеров. Вот прошла неделя. распрасил весь инфотекст для апи + апи обязательных плагинов вроде АДетайлера, написал расширение для самого автоматика1111, которое добавляет ему эндпойнты в апишку, чтобы он мог пересылать изображения по сети после обрыва соединения (доступа к диску нет. всё через апи). написал графический интерфейс на ttk, хуевый правда, зато быстро управился. под капотом менеджер потоков обмазанный калбэками к этому gui. сижу смотрю на это всё - написал новый автоматик1111
держу в курсе
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №271 /llama/
Аноним
24/09/26 Чтв 01:05:16
№
Ответ
В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны!
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с нано флеш моделей на 1488B параметров.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная, но слегка тухлая вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Гайд для новичков: https://rentry.org/2ch-llama-inference
Не вошедшее в шапку и архив полезных ссылок: https://rentry.co/llama-2ch-archive
Инструменты для запуска на десктопах:
• llamacpp - отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• koboldcpp - самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Обертка над llama.cpp с закрытым исходным кодом: https://lmstudio.ai
• Обертка над llama.cpp с ограниченными возможностями: https://github.com/ollama/ollama
Универсальные десктопные фронтенды:
• SillyTavern - всеядное, сопрягается почти со всем, имеет большую коллекцию расширений: https://github.com/SillyTavern/SillyTavern
• Marinara Engine - вариация на тему таверны, больше возможностей из коробки: https://github.com/Pasta-Devs/Marinara-Engine
• Risuai - еще одна вариация, на этот раз в профиль, излишеств по минимуму: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• PocketPal - интерфейс для локального запуска моделей под андроид и IOS на llamacpp (CPU, GPU, и NPU инференс): https://github.com/a-ghorbani/pocketpal-ai
• Maid - интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• ChatterUI - альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://web.archive.org/web/20241201232031/https://rentry.co/STAI-Termux
Поставщики локальных моделей:
• Hugging Face - платформа куда загружается всё и во всех форматах: https://huggingface.co/models
• Проверенные квантоделы: https://huggingface.co/bartowski, https://huggingface.co/mradermacher, https://huggingface.co/unsloth
Рейтинги и списки локальных моделей:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Готовые карточки для таверны:
• Botbooru - текущая мета (регистрируйтесь для отображения всего спектра, и/или меняйте страну): https://botbooru.com
• Прошлая мета, откуда массово удалили карточки сомнительного содержания: https://www.characterhub.org, https://www.chub.ai
• Архив карточек, удадённых с chub: https://gottasaveemall.github.io/
Официальные документации к инструментам:
• llamacpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
• koboldcpp: https://github.com/LostRuins/koboldcpp/wiki
• SillyTavern: https://docs.sillytavern.app/usage/quick-start
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1708936 (OP)
>>1707443 (OP)
Пропущено 526 постов, 57 с картинками.
пидорас ты тупой, чем тебя так батник испугал? тебе его напишет любая вменяемая ллмка, причем с интерактивным выбором параметров при запуске если нужно. с кобльда я начинал, это лютая говнина. уж лучше таверна тогда там хотя бы чаты на диск сохраняются а не в локалсторедж блядь
Сначала научись чаты в кобольде на диск сохранять, потом поговорим.
Ты нуб.
Тред веб-версии нейросетей (ChatGPT, Claude, Gemini и пр.) №1 /aiweb/
Аноним
02/05/26 Суб 14:32:32
№
Ответ
Основные сервисы:
- ChatGPT: https://chatgpt.com/
- Claude: https://claude.ai/
- Gemini: https://gemini.google.com/
- Grok: https://grok.com/
- DeepSeek: https://chat.deepseek.com/
- GLM: https://chat.z.ai/
Большинство сервисов доступны бесплатно с ограничениями. Подписки открывают доступ к более мощным моделям, увеличенным лимитам и дополнительным функциям (генерация изображений, файлы, память и т.д.). Цены и условия у всех разные и периодически меняются.
Советы по регистрации:
1. При необходимости используй VPN.
2. Заведи нормальную почту (временные часто режутся).
3. Регистрируйся на нужной платформе.
4. Иногда требуется номер телефона — используются сервисы виртуальных номеров.
5. Пользуйся.
VPN в ряде регионов обязателен. Соответствие страны VPN, почты и номера не обязательно, но желательно для тех, кому доступ критически нужен, например для работы.
Для ленивых есть боты в телеге, 3 сорта:
0. Боты без истории сообщений. Каждое сообщение отправляется изолировано, диалог с ИИ невозможен, проёбывается 95% возможностей ИИ
1. Общая история на всех пользователей, говно даже хуже, чем выше
2. Приватная история на каждого пользователя, может реагировать на команды по изменению поведения и прочее. Говно, ибо платно, а бесплатный лимит или маленький, или его нет совсем.
Промты для хорошего начала беседы для разных ситуаций:
https://github.com/f/awesome-chatgpt-prompts
Статусы сервисов (при проблемах сначала идти туда, может это общий сбой):
https://status.openai.com/
https://status.anthropic.com/
https://status.cloud.google.com/
Токены и лимиты зависят от модели. У всех разные контексты, цены и ограничения.
Посчитать свои токены можно здесь:
https://huggingface.co/spaces/Xenova/the-tokenizer-playground
Что могут нейросети:
- писать правдоподобные тексты
- помогать с кодом
- объяснять сложные темы
- генерировать изображения (не везде)
Что не могут:
- гарантировать истину
- стабильно решать сложные задачи без ошибок
- полностью заменять специалистов
- захватывать мир (пока)
С каждым обновлением усиливаются фильтры и ограничения. NSFW-контент режется всё чаще. Кумеры со всего мира в печали.
Пропущено 48 постов, 6 с картинками.
Я за 500р брал на свой акк, 7 месяцев уже живет жаль гемини хуета
Брал еще хз когда (полгода может быть?), скоро закончится уже. Хуйня, не бери, гугл параша ебаная - заебешься с обходами, качество кал, антигравити тоже заебешься запускать. Клод и гпт, пусть и сильно дороже в сравнении, но сука just works и на две головы выше (но кодинг лучше клод сейчас). А всем у кого нет карты забугорной, но очень надо, гуглите казахский e-res.
сменил впску с NL амстер, на NL амстер у др хостера
Блядский гемини работал, перестал работать под всеми акками, даже под которыми нет адресов и регионов и кроме пхаба нигде не юзался.
КАКОГО ХУЯ БЛЯТЬ эти штатопидоры хотят? Почему блочит сука, и сам гугл поисковик определяет какую то САМАРУ нахуй.
Менял регион в настройках поисковика, очевидно не влияет.
Заблочило мне aistudio с фри api ключами.
Помогите обойти блок этих гнид. Даже гопота особо не помогает
Здесь репорт с IP отправил, надежды мало. https://support.google.com/websearch/workflow/9308722?hl=en&utm_source=chatgpt.com
Как зарегать кристально чистый гугл акк без номера телефона? Только на мобиле позволяет скипнуть телефон, но он подтягивает скорей всего какие то данны мобилы и спалит след локации тоже.
Че делать СУКА Блять, у меня и так всё есть, чисто зарубежная впска, хули еще надо
Из России большинство сервисов напрямую недоступно.
Imagen
https://labs.google/fx/tool/image-fx а также https://labs.google/fx/tools/whisk (доступны только в США, Кении, Новой Зеландии и Австралии)
https://gemini.google.com/app
https://aistudio.google.com/prompts/new_chat (модель Gemini image)
Reve
https://preview.reve.art/app
GPT-4o
http://chatgpt.com/
https://sora.chatgpt.com/explore
Сражение нейросетей. Бесплатное сравнение всех популярных моделей.
https://lmarena.ai/
Бесплатный генератор от майкрософт Dall-E/GPT4o
https://bing.com/images/create/
https://www.cici.com (ищем бота ACO)
Seedream
https://seedream-4.io/generator
Бесплатный генератор от Yandex
https://shedevrum.ai/
Кандинский. Генератор от Сбербанка
https://fusionbrain.ai/editor/
Stable Diffusion и прочие
https://civitai.com/generate
https://dreamina.capcut.com/
https://ideogram.ai
https://www.meta.ai
https://ximagegenerator.com
https://www.recraft.ai
https://app.klingai.com/global/text-to-image/new
https://hailuoai.video/create
https://lumaphoton.com
https://leonardo.ai/
https://tensor.art
https://getimg.ai/text-to-image
https://www.mage.space/
https://problembo.com/ru
https://deepai.org/machine-learning-model/text2img
https://dezgo.com/
https://dream.ai/create
https://www.krea.ai/
Дополнительные сервисы:
https://www.pixited.com/ - библиотека промптов с примерами
https://rentry.org/From-4ch-To-2ch-Dall-3-Prompts - сборник промптов
https://www.stylar.ai - AI-редактор картинок (дорисовка, инпейнт, работа с лицами)
https://astica.ai - сборник ИИ-сервисов, в частности довольно мощный де-промптер (Vision AI -> Describe and Caption)
https://huggingface.co/spaces/fffiloni/CLIP-Interrogator-2 - де-промптер, разбирающий вброшенный пик на теги
https://bigjpg.com/ - апскейлер до 4096х4096
https://runwayml.com/ , https://www.stablevideo.com - анимирование генераций
Предыдущий тред: >>
Пропущено 358 постов, 180 с картинками.
>MAI Image 2.6
При этом цензура на сисик там обходится легко.
ЧТО НОВОГО АКТУАЛЬНОГО
• Поддержка INT8 и INT4 в ComfyUI - теперь все быстрее!
• Krea 2
• Ideogram 4.0
• FLUX.2 klein (4b и 9b)
• Z-Image
• Flux 2
• Qwen Image / Qwen Image Edit
• Лора Lightning и Turbo для быстрой генерации за несколько шагов.
База:
→ Приложение ComfyUI https://comfy.org/
→ Примеры https://comfyui-wiki.com/ru (откуда, куда, как)
→ Модели https://civitai.red/
► Предыдущий тред >>1695568 (OP) ► https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 623 постов, 175 с картинками.
А мораль истории какова? Прыгать на первый попавшийся хуй квен2.1 и скакать на нем, даже если от него несет бомжом в нестираном шесть лет тулупе летом? Уж лучше креечку2-писечку продолжать теребонькать, пока её сестра креа3 не пришла, а там видно будет.
Если оп перекатит я тебе покажу что можно делать на новом квене.
ПЕРЕКАТ!?
>>1713728 (OP)
>>1713728 (OP)
>>1713728 (OP)
>>1713728 (OP)
ИИ делает нас только ленивыми и тупыми. место того чтобы делать все своими руками, учится чему то новому. мы пользуемся ебанным ИИ. Смотря на то что в вахе запрещен ИИ лучше я буду жить там чем в нашей реальность где люди окончательно обленились делать что то своими руками
Пропущено 19 постов, 2 с картинками.
Всем похуй, это просто дискуссия. Не нравится - уебывай, перекатим без тебя.
Что уже работает (хуево):
корт размечаю кликами один раз, гомография в метры, дрейф телефона компенсируется. Игроки: YOLO-pose, позы обоих, точка стоп с точностью 7 см у ближнего, зрителей у сетки отсеивает. Мяч: TrackNet-подобная сетка на трёх кадрах, дообучил на треках из экспорта SwingVision (нашёл там их собственный трекинг мяча 30 Гц, 168к меток с 25 кортов бесплатно, кек), покрытие 80 % кадров, отскоки в 4 px от свинговских. Экспорт в CoreML, 21 мс на кадр на нейродвижке.
Чего нет: ударов, отскоков, розыгрышей и самой статистики — следующий этап, план готов. Из фейлов: сутки убил на «дай мячу больше пикселей», оказалось надо давать фон и разность кадров.
Стек: питон, торч на MPS, numpy для всего, что потом на свифт.
Вряд ли найду тут единомышленников, но мб получу советов мудров
Подскажите варианты бесплатных нейронок, которые могут более-менее приемлемо писать код. Читать дли
Аноним
31/05/26 Вск 14:08:03
№
Ответ
Читать длинные файлы с кодом.
В текущих вариантах проблемы начинаются, когда код составляет уже больше 1000 строк.
Пропущено 35 постов, 4 с картинками.
>просто кидаю файл с кодом прикрепляю в чате, прошу исправить
с 2023 капчуешь?
>то, что работает в рф
тогда только сберчат
Есть практически готовый MVP, который нужно довести до рабочего состояния и затем активно развивать.
Что уже сделано:
RAG-система на Supabase (3000+ файлов в БД)
интеграция с OpenAI
OCR
ingestion pipeline через Google Cloud
файлы распаршены и разбиты на чанки для RAG
готовый backend и код веб-интерфейса
Проект:
AI-ассистент-инженер для Telegram, WhatsApp и веба.
Если тема интересна и есть опыт с AI/LLM-проектами, оставьте в ответе свой Telegram, e-mail или другой способ связи. Сам свяжусь с вами, расскажу детали проекта и отвечу на вопросы.
Пропущено 9 постов, 3 с картинками.
>RAG-система
>RAG-система
>2026 год
дальше без слов....
>Когда прибыль пойдёт, 20% от чистой прибыли