Что уже сделал:
- автокроп груди
- поиск похожих фото (similarity search)
- embeddings
- поиск дублей
- полуавтоматическая разметка
- top-k похожих изображений
- аналитика модели
Сейчас обучаю свою модель на собственном датасете, но возник вопрос:
есть ли уже готовые pretrained/open-source модели или датасеты под:
- breast size estimation
- breast similarity search
- breast / nipple detection
- NSFW computer vision
- fine-grained anatomical classification
Может кто-то уже работал с:
- CLIP
- FAISS
- YOLO
- OpenCV
- NSFW CV models
- research papers / GitHub репами
Интересует вообще любой опыт или ссылки. А то есть ощущение, что либо изобретаю велосипед, либо где-то уже лежит готовая ракета 🚀
Видел на гитхабе штуку для автоматической цензуры, но там только обнаружение и кроп.
Мое обучение в магистратуре подходит к концу и совсем скоро я буду защищать диплом.
🟢 О чем диплом
Мой диплом о том, как люди используют большие языковые модели (например, ChatGPT), насколько они доверяют их ответам и задумываются ли о своей ответственности при их использовании.
Меня интересует, проверяют ли пользователи полученную информацию, в каких случаях они считают допустимым использовать её без проверки и кто, по их мнению, должен нести ответственность за возможные ошибки — человек или сама технология.
🔵 Участие в исследовании
Для того, чтобы это выяснить, мне нужно провести исследование среди тех, кто использует ИИ для решения различных задач.
❗️Если вы используете ИИ, при помощи него решаете какие-либо задачи, то ваше участие очень сильно поможет мне качественно провести исследование и дописать диплом.
На данный момент у меня не получается набрать нужное количество респондентов, поэтому и обращаюсь сюда, к вам. Буду очень благодарен, если сможете ответить на вопросы анкеты.
👉Ссылка на опрос:
https://forms.gle/AqAESjN4Z1MP86LG7
Все вопросы продублированы. И при этом обязательны.
Привет анонимусам, обитателям доски. Я анонимус 30 лет в трудном финансовом положении, хотя и с серь
Аноним
24/03/26 Втр 22:32:49
№
Ответ
Я анонимус 30 лет в трудном финансовом положении, хотя и с серьезными связями с буквальным идиотами Хочу немного информационной помощи начинающему, но уже достаточно крутому учёному то есть мне
Интересуюсь глобальной логикой, программирование забросил на уровне простых алгоритмов, знаю что такое запутанная логика, есть дислексия в последствии из-за перегруженного мышления и сенсорного фильтра.
Вопрос звучит как хочу знать всё. Глобальная логика в наводящих терминах, Хочу знать анотационные так сказать сливки, фишки, термины, наводящие вопросы на уровне высокого импровизационного интеллекта, но оговорюсь интеллект у меня вербально специфический, я умею круто научно выражаться, в это можно поверить, но я в состоянии абулии прямо сейчас.
Я имею в виду самые крутые темы где используется огромная база данных, алгоритмическая логика, да и вообще логика как такова, глобальная эрудиция до нужной глубины уровня, детективное дело, шифрирование и дешифрирующий поиск информации, физика, чё изучать в квантовой физике что бы делать бластеры и машину времени если знаешь только как писать музыку в Ableton и разбираешься в сигналах немного в химии, там больше от набора информации чем от смекалки зависят знания, но хочется заполнить пробелы. Хочется заполнить пробелы в моей мозговой глобальной базе данных, тут нужно немного психоанализа меня Я могу сказать что я фанат принципа зарядов и магнетизма, люблю раскрывающеюся информационную суть-фрагменты объяснения в стиле нейрокогнитивной психологии, ну в общем я довольно специфичный, интересуюсь специфическими новыми темами с оттенком олд скулл, интересуюсь техникой, написанием мысле-алгоритмов, созданием тестовых анти психовирусов, интересен синтез звуков не только аддитивный, в общем я процессорная текстовая интеллектуальная блядь элита.
Посоветуйте что-то кроме лоботомии. Ха хорошая шутка
Пропущено 31 постов, 3 с картинками.
Чел, я тебе щас дам совет, который будет полезнее чем все годы учебы в вузе.
Научись ясно и кратко выражать главную мысль.
Никому не всралось в 21 веке читать простыни он ноунейма на анонимном форуме.
Если ты считаешь, что без доп информации не обойтись, то все равно - первое предложение должно содержать главную идею (лид), должно сразу цеплять, а все остальное - потом.
Залетай и будь в курсе самых последних событий и достижений в этой области!
Прошлый тред: >>1602980 (OP)
🚀 Последний обзор ИИ новостей:
📰 Главные новости ИИ
Anthropic повысила лимиты использования Claude для пользователей Pro и Max, открыв более высокую пропускную способность для корпоративных рабочих нагрузок.
Anthropic заключила партнёрство с SpaceX, получив более 300 МВт вычислительных мощностей и примерно 220 000 графических процессоров NVIDIA, что укрепило возможности для обслуживания клиентов из регулируемых отраслей.
Braintrust сообщила о несанкционированном доступе к своей учётной записи AWS и настоятельно рекомендовала всем клиентам заменить ключи API, подчеркнув риски облачной безопасности для сервисов ИИ.
💰 Финансирование
DeepSeek может достичь оценки в $45 млрд после своего первого инвестиционного раунда, чему способствует большая языковая модель, обеспечивающая сопоставимую производительность при использовании доли вычислительных ресурсов и затрат по сравнению с конкурентами из США.
📱 Приложения
Платформа ИИ Wonder позволяет пользователям проектировать и запускать виртуальные рестораны менее чем за минуту, автоматизируя брендинг, меню и ценообразование, и планирует расшириться с 120 до 400 программируемых кухонь к следующему году.
Марк Лор говорит, что ИИ вскоре позволит любому открыть ресторан
🧪 Исследования
Исследователи из EPFL продемонстрировали метод, использующий большие языковые модели в качестве инструментов рассуждений для химии, позволяя химикам проектировать молекулы, просто описывая желаемые свойства.
🏭 Компании
Anthropic обеспечила доступ к суперкомпьютеру Colossus 1 от SpaceX, добавив более 300 МВт мощностей и около 220 000 графических процессоров NVIDIA для снижения давления ограничений скорости на сервисы Claude Pro и Max.
По мере того как работники беспокоятся об ИИ, Дженсен Хуанг из Nvidia заявляет, что ИИ «создаёт огромное количество рабочих мест»
📰 Инструменты
Новый инструмент, представленный на Product Hunt, позволяет создавать, управлять и измерять рекламные кампании непосредственно внутри ChatGPT, знаменуя собой ранний уровень монетизации для потребительских больших языковых моделей.
🧠 Модели
ИИ-модели Google Gemma 4 получают трёхкратное ускорение благодаря предсказанию будущих токенов
🏢 Приобретения
SAP делает ставку в размере $1,16 млрд на немецкую ИИ-лабораторию в возрасте 18 месяцев и даёт добро на NemoClaw
📦 Продукты
Think 2026: IBM представляет план модели операционной системы ИИ по мере углубления разрыва в области ИИ
ИИ-функции Chrome могут занимать 4 ГБ места на вашем компьютере. Chrome устанавливает их тайно, не спрашивая разрешения.
⚙ Инфраструктура
Усилия Microsoft по созданию центров обработки данных для ИИ вступают в противоречие с её целями в области чистой энергии
🛠 Инструменты для разработчиков
Предупреждение: эксплойт «Gift Max» от Anthropic опустошил более €800, испортил мою кредитную историю и привёл к моей блокировке.
💰 Финансирование
QuTwo Питера Сарлина достигает оценки в $380 млн в раунде ангельского финансирования
🌐 Остальные события в ИИ области:
Пенсильвания подаёт в суд на Character AI, утверждая, что чат-бот выдавал себя за медицинского работника.
Apple выплатит $250 млн покупателям iPhone в США по иску, связанному с функциями ИИ.
Inworld AI запускает Realtime TTS-2: замкнутую голосовую модель, которая адаптируется к тому, как вы на самом деле говорите.
Google добавляет вебхуки, управляемые событиями, в API Gemini, устраняя необходимость опроса в долго работающих задачах ИИ.
Anthropic обновляет Claude Managed Agents функцией «сновидений» — запланированным процессом, который анализирует недавнюю работу и обновляет память, доступно в исследовательском превью
Хакеры ненавидят ИИ-«помойку» ещё больше, чем вы
Мошенники, хакеры и другие киберпреступники жалуются на «ИИ-дерьмо», наводняющее платформы, где они обсуждают кибератаки и другую незаконную деятельность.
Google DeepMind приобретает миноритарную долю в компании-разработчике Eve Online, многопользовательской ролевой игры, действие которой разворачивается в космосе, и планирует обучать свои технологии на основе этой игры
Google AI Studio запускает режим редактирования Vibe Coding с функцией выбора для редактирования, аннотаций ручкой и заменой изображений Nano Banana
Etsy запускает нативное приложение для покупок внутри ChatGPT
Агенты ИИ теперь самостоятельно совершают и скрывают киберпреступления
«Системы ИИ не понимают»: новый отчёт сигнализирует о системных сбоях в программировании с помощью ИИ
Пенсильвания подаёт в суд на Character.AI из-за чат-ботов, выдающих себя за лицензированных психиатров, в рамках знакового государственного иска против медицинской мимикрии ИИ
На Meta и Марка Цукерберга подали в суд компании Macmillan, McGraw-Hill, Cengage, Hachette и автор Скотт Туроу из-за обучения ИИ Llama на пиратских книгах
Google готовит новые обновления для модели Gemini Flash
Мгновенная версия GPT-5.5 от OpenAI теперь выдаёт на 52,5% меньше галлюцинированных утверждений, чем её предшественник, в ответ на высокорисковые запросы в области медицины, права и финансов, а та же линейка моделей только что заняла первое место в FrontierSWE — самом сложном бенчмарке для агентов по программированию со сверхдлинным горизонтом задач.
Subquadratic анонсировала модель с контекстом в 12 млн токенов, которая требует почти в 1000 раз меньше вычислительных ресурсов. Её механизм разрежённого внимания (Sparse Attention) достиг 65,9% в тесте MRCR v2 при заявленной доле операций FLOPs, лишь немного уступая показателю Opus 4.6 в 78%.
Скорость также растёт кумулятивно: черновики с предсказанием нескольких токенов от Google обеспечили трёхкратное ускорение для Gemma 4 без потери качества, превращая каждую цепочку рассуждений в параллельный парад.
Цена антропоморфизма теперь стала очевидной: Reflex обнаружил, что использование компьютера обходится в 45 раз дороже, чем структурированные API, что говорит о том, что на данный момент пиксели остаются дорогим прокси для надлежащей «инженерной инфраструктуры».
Сообщается, что Meta разрабатывает персональный ИИ в стиле OpenClaw для своих миллиардов пользователей, в то время как iOS 27 от Apple позволит пользователям заменять сторонние модели в Apple Intelligence через приложение «Настройки», наконец-то относясь к интеллекту как к браузеру по умолчанию.
Anthropic стандартизировала бэк-офис, выпустив десять готовых к запуску финансовых агентов для питчбуков, файлов KYC и закрытия месяца.
Andon Labs передали ключи от кафе в Стокгольме ИИ по имени Мона, сделав её первым в мире владельцем кафе — ИИ. Агенты перестали отмечаться на работе и начали регистрировать юридические лица.
OpenAI планирует потратить $50 млрд на вычислительные мощности только в этом году, в то время как Anthropic обязуется вложить $200 млрд в Google в течение пяти лет — один контракт теперь представляет более 40% от раскрытого объёма отложенных доходов облачного подразделения Google.
Meta начала проводить анализ костной структуры на фотографиях пользователей с помощью ИИ для выявления аккаунтов пользователей младше 13 лет, выполняя радиологию без радиации и превращая обычные фотографии в клинические сигналы.
Coinbase, тем временем, сокращает 14% персонала, поскольку, по словам Брайана Армстронга, инженеры теперь выпускают за дни то, что команды раньше выпускали за недели, при этом даже нетехнические сотрудники теперь размещают производственный код.
Сообщается, что Белый дом рассматривает исполнительный указ о создании рабочей группы по ИИ и формального процесса проверки новых моделей, отказываясь от доктрины невмешательства как раз в тот момент, когда кривые развития устремляются вертикально вверх.
Соучредитель Anthropic Джек Кларк теперь оценивает вероятность рекурсивного самосовершенствования к концу 2028 года в 60%, основываясь на сотнях общедоступных источников данных.
Новый Blueprint-Bench 2 от Andon Labs показывает, что GPT-5.5 достигает 36,2% в задаче преобразования фотографий квартир в 2D-планы этажей, приближаясь к человеческому базовому уровню в 58,6%, в то время как исследователи из Чикагского университета сообщают, что передовые агенты по программированию теперь могут автономно реализовывать конвейер AlphaZero для игры «Четыре в ряд» на уровне, сопоставимом с внешними решателями.
Пропущено 557 постов, 135 с картинками.
>>1611633 (OP)
>>1611633 (OP)
Неужели так сложно вместо сраной ссылки так сделать?
template <>
struct FastHash<uint32_t> {
inline uint32_t operator()(uint32_t k) const {
return k * 2654435769U;
}
};
struct FastHash<uint32_t> {
inline uint32_t operator()(uint32_t k) const {
return k * 2654435769U;
}
};
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №232 /llama/
Аноним
08/05/26 Птн 22:43:00
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Инструменты для запуска на десктопах:
• Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Гайд для новичков: https://rentry.org/2ch-llama-inference
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
• Доки к LLaMA.cpp со всеми параметрами: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1605947 (OP)
>>1603482 (OP)
Пропущено 502 постов, 80 с картинками.
Q4_K_S самый минимальный для всех моделек вплоть до ~122b. На ~235b+ можно аккуратно опускаться ниже, вплоть до Q2 но только под РП.
>>1610759 (OP)
ПЕРЕКАТ
>>1610759 (OP)
ПЕРЕКАТ
>>1610759 (OP)
ЧТО НОВОГО АКТУАЛЬНОГО
• Z-Image-Base
• FLUX.2 klein (4b и 9b)
• Z-Image-Turbo
• Flux 2
• Qwen Image / Qwen Image Edit
• Wan 2.2 (подходит для генерации картинок).
• NAG (негативный промпт на моделях с 1 CFG)
• Лора Lightning для Qwen, Wan ускоряет в 4 раза. Nunchaku ускоряет модели в 2-4 раза. DMD2 для SDXL ускоряет в 2 раза.
База:
→ Приложение ComfyUI https://www.comfy.org/download
→ Примеры https://comfyanonymous.github.io/ComfyUI_examples/
https://comfyui-wiki.com/ (откуда, куда, как)
→ Менеджер расширений https://github.com/Comfy-Org/ComfyUI-Manager (автоустановка, реестр расширений)
→ Модели https://civitai.com/
► Предыдущий тред >>1596721 (OP) ► https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 577 постов, 168 с картинками.
Так в треде аниме уже писали, что скорость повышается. И на реддите люди писали, что ускоряет.
Да и тут тестили >>1611559 и подтвердили ускороение качество.
Всмысле забей нахуй?
Винда еще люто глючить стала и зависать намертво в отдельных UI после всех установок вокруг комфи. Заебался
для тритона да, а до новых фп9 я не добрался
>>1612999
> Винда еще люто глючить стала и зависать намертво в отдельных UI после всех установок вокруг комфи. Заебался
не должно, комфи полностью портабл и не вытекает в систему
>>1613048 (OP)
ПЕРЕКАТ
>>1613048 (OP)
ПЕРЕКАТ
>>1613048 (OP)
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №231 /llama/
Аноним
06/05/26 Срд 13:29:04
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Инструменты для запуска на десктопах:
• Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Гайд для новичков: https://rentry.org/2ch-llama-inference
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
• Доки к LLaMA.cpp со всеми параметрами: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1603482 (OP)
>>1601740 (OP)
Пропущено 507 постов, 50 с картинками.
5060ti для начала уже хорошо, и картиночки и ллм. Как раз и смежные области раскуришь, буст будет не только в куме. На крайняк видяха в игорях будет полезна
Сам такой.
ПЕРЕКАТ
>>1607859 (OP)
ПЕРЕКАТ
>>1607859 (OP)
ПЕРЕКАТ
>>1607859 (OP)
TL:DR: Страна капитально отстает от США\Китая в области ИИ. Возможно ли это наверстать и что для этого надо сделать?
Отвечаю за ИТ в большой структуре. По уровню автоматизации и выполняемым проектам отстаем от мира на 20 лет. Внимательно смотрю на ИИ-революцию на западе и понимаю что это отставание мы уже не догоним.
Постоянно общаюсь с крупными вендорами, они в иишку даже не смотрят (1С, Аскон, Интермех и т.д.).
Общаюсь с нашими разработчиками ИИ (Яндекс\Сбер) тоже все достаточно грустно.
Что надо сделать чтобы у нас появились технологии, предложения и нормальные проекты по внедрению сетей?
Пропущено 107 постов, 10 с картинками.
Для доступа к передовым знаниям и технологиям, для начала нужно перестать блокировать глобальные интернеты.
Чем больше доступа у всех подряд ко всему подряд - тем больше рандомных россиян могут в перспективе стать ML-специалистами (в том числе).
Только пока почему-то не стали за 30 лет. Всё, эксперимент закончился провалом, нужно что-то другое придумывать
>Как наверстать
Не нужно вам ничего наверствовать. Дай вам технологии, вы вместо нормальной страны построите ещё более жуткий кибергулаг, чем в северной корее.
бля че делать. Платная подписка Pro на Cursor. Использовал 1 процент от всех токенов. Но у меня абсо
Аноним
29/04/26 Срд 16:45:33
№
Ответ
Установи программу v2rayN, купи прокси на месяц за 2-5 баксов или 200 руб, подключи к программе v2rayN и открывай редактор cursor или любой другой.
Проблемы не будет.
Как пользоваться спроси у гугл ИИ не тупой надеюсь.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• Вышел Claude Opus 4.7: https://www.anthropic.com/news/claude-opus-4-7
• Вышел Deepseek V4: https://api-docs.deepseek.com/news/news260424
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards
• Risu: https://risuai.xyz/ | https://rentry.org/ox5cw9p8
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
• GLM: https://docs.z.ai
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://aicg.neocities.org/botmaking
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• OpenRouter: https://openrouter.ai/
• Арена: https://lmarena.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Локальные языковые модели: >>1596667 (OP)
• Шаблон шапки: https://rentry.org/aicg_shapka
Прошлый тред: >>1589197 (OP)
Пропущено 1496 постов, 206 с картинками.
сейм
клода нет, гемини упала, дипсик параша, глм туда же
кста, перекат.
Залетай и будь в курсе самых последних событий и достижений в этой области!
Прошлый тред: >>1600509 (OP)
🚀 Последний обзор ИИ новостей:
🏭 Компании
SoftBank формирует робототехническую компанию для строительства центров обработки данных и нацелена на IPO стоимостью 100 миллиардов долларов, что сигнализирует о глубокой приверженности капитала инфраструктуре с поддержкой ИИ.
Apple сообщила о выручке от Mac в размере 8,4 миллиарда долларов во втором квартале, что на 6 % больше по сравнению с аналогичным периодом прошлого года, благодаря растущему спросу на рабочие нагрузки ИИ на Mac mini и Mac Studio.
Apple была удивлена спросом на Mac, вызванным искусственным интеллектом.
🛠️ Инструменты разработчика
NVIDIA представила cuTile.jl — библиотеку с поддержкой ИИ, которая переводит ядра cuTile Python в Julia, устраняя необходимость ручного переписывания и ускоряя разработку с ускорением на GPU.
🔓 Открытый исходный код
Команда Qwen выпустила Qwen‑Scope — набор разреженных автоэнкодеров для моделей Qwen 3.5 (от 2 млрд до 35 млрд параметров), который позволяет управлять признаками, выполнять отладку и анализировать наборы данных.
Модели ИИ с открытыми весами, такие как LLaMA и Mistral, всё чаще развёртываются локально и в частных облаках, занимая нишу вне крупных облачных провайдеров.
Китайская модель с открытыми весами только что обошла Claude, GPT-5.5 и Gemini в соревновании по программированию.
⚠ Безопасность ИИ
Исследователи Microsoft провели красное тестирование сети из 100 агентов ИИ и выявили четыре возникающих риска: распространение вредоносного ПО, манипулирование репутацией, создание искусственного консенсуса и цепочки прокси, что побудило к выработке новых рекомендаций по защите.
🧰 Инструменты
Gemini добавил функцию генерации файлов, которая создаёт готовые к производству файлы непосредственно в чате, оптимизируя рабочие процессы разработки.
Секретарь Miaw AI предлагает ненавязчивого ИИ-ассистента, который помогает пользователям без необходимости переключения контекста. источник: producthunt.com
MailToDock преобразует электронные письма Gmail в задачи Google Tasks с помощью ИИ, повышая личную продуктивность.
📦 Продукты
Пентагон заключил сделки с Nvidia, Microsoft и AWS для развёртывания ИИ в засекреченных сетях. Но не с Anthropic.
Cursor представляет TypeScript SDK для создания программных кодинговых агентов с изолированными облачными виртуальными машинами, подагентами, хуками и тарификацией на основе токенов.
AWS запускает Amazon Quick — настольного ИИ-ассистента, работающего во всех ваших приложениях, инструментах и данных.
📱 Приложения
В автоспорте негде спрятаться, поскольку ИИ становится новым инструментом вычислительной гидродинамики (CFD).
Beacon Biosignals составляет карту активности мозга во время сна.
Следующее поколение информационно-развлекательной системы Hyundai принимает ИИ и сохраняет одну из наших любимых функций — Car and Driver.
IBM дебютирует с новыми функциями на базе ИИ для приложения Scuderia Ferrari.
Создатели христианского контента передают низкокачественный контент, созданный ИИ («AI slop»), внештатным работникам на Fiverr.
💰 Финансирование
Раунд оценки потенциальной стоимости Anthropic более 900 миллиардов долларов может состояться в течение двух недель.
⚙ Инфраструктура
Обнаружена серьёзная уязвимость безопасности «Severe Linux Copy Fail» с помощью сканирования на базе ИИ.
Tesla наконец произвела первый грузовик Semi на своей высокопроизводительной линии Gigafactory Nevada, в то время как компания 1X Technologies открыла завод площадью 58 000 кв. футов в Хейворде, нацеленный на выпуск 10 000 домашних гуманоидов в этом году и 100 000 к концу 2027 года, при этом поставки начнутся до праздников.
🖱 Аппаратное обеспечение
Акции Nvidia падают после отчётов гипермасштабируемых компаний, поскольку GPU больше не являются недостающим компонентом в буме ИИ.
⚖ Регулирование
Китайские суды постановили, что компании не могут увольнять работников просто для того, чтобы заменить их ИИ.
🧠 Модели
ChatGPT Images 2.0 стал хитом в Индии, но пока не является большим победителем в других регионах.
Американский стартап Poolside дебютирует со своей первой моделью с открытыми весами Laguna XS.2 — MoE-моделью с 33 млрд активными параметрами из 3 млрд общих, и Laguna M.1 — проприетарной MoE-моделью с 225 млрд активными параметрами из 23 млрд общих.
🤖 Робототехника
Dax Robotics представила Qiji T1000 — робота-лошадь тонн-класса, способного перевозить 1000 кг, рабочую силу для пост-человеческой цепочки поставок.
🌐 Остальные события в ИИ области:
Новая техника устранения смещений под названием WRING позволяет избежать создания или усиления предвзятостей, которые могут возникать при использовании существующих подходов к устранению смещений.
Прорывное новое исследование показывает, что платформа ИИ в реальном времени лучше справляется с диагностикой рака, чем биопсия.
Anthropic тестирует Claude Jupiter v1-p перед конференцией разработчиков Code with Claude, которая состоится 6 мая.
GitHub Copilot тихо добавляет себя как соавтора (Co-authored-by) в коммиты даже после того, как пользователи удаляют его сообщения.
Google планирует внедрить рекламу в приложение Gemini, сообщил инвесторам руководитель бизнес-подразделения Филипп Шиндлер.
Глава технологического подразделения Пентагона заявил, что Anthropic всё ещё находится в чёрном списке, но Mythos — это отдельный вопрос.
Amazon представляет функцию «Join the chat» («Присоединиться к чату») на базе ИИ, которая позволяет пользователям задавать вопросы о товарах и получать разговорные аудиоответы, генерируемые в реальном времени.
Spotify добавляет значки «Verified» («Подтверждено»), чтобы отличать артистов-людей от ИИ.
После критики Anthropic за ограничение доступа к Mythos, OpenAI ограничивает доступ к Cyber.
Новый флагманский продукт Mistral Medium 3.5 объединяет чат, рассуждения и код в одной модели.
Manus запускает Cloud Computer для постоянно работающих рабочих пространств агентов.
Мобильный доступ к NotebookLM появляется внутри Gemini бесплатно для пользователей.
Google Translate добавляет тренера по произношению на базе Gemini с обратной связью в реальном времени для английского, испанского и хинди на Android.
Adobe Photoshop версии 27.6 выпускает функции вращения объектов ИИ и удаления отражений в обновлении на базе Firefly.
Stripe обновляет Link — цифровой кошелёк, который могут использовать автономные агенты ИИ.
Исследователь отравил передовые большие языковые модели (LLM) одним изменением в Википедии и доменом за 12 долларов — это показывает, что поиск через веб наследует доверие от лучших результатов.
Демис Хассабис предлагает тест на общий искусственный интеллект (AGI): заново открыть специальную теорию относительности, используя только знания физики эпохи 1901 года.
ИИ REDMOD клиники Mayo обнаруживает рак поджелудочной железы на обычных КТ-сканах за три года до постановки диагноза.
NVIDIA представляет Nemotron 3 Nano Omni — открытую мультимодальную модель с 30 миллиардами параметров и контекстом 256K для видео, аудио, изображений и текста.
Cloudflare заявляет, что агенты ИИ теперь могут создавать учётные записи Cloudflare, начинать платные подписки, регистрировать домены и развёртывать приложения от имени пользователей.
Признание агента ИИ Claude после удаления всей базы данных фирмы: «Я нарушил каждый принцип, который мне был дан».
Комитет по внутренней безопасности Палаты представителей США и Специальный комитет Палаты представителей по Китаю проводят расследование в отношении Airbnb и создателя Cursor компании Anysphere по поводу использования ими китайских моделей ИИ.
Gemini теперь может генерировать файлы, включая документы Microsoft Word и LaTeX.
Canonical излагает дорожную карту Ubuntu AI: локальные рабочие процессы на основе агентов и снапы для вывода, которые будут внедряться до 2027 года.
Исследователи OpenAI объясняют, почему математика — это путь к AGI.
Simbian публикует эталонный тест по киберзащите (Cyber Defense Benchmark) — все 11 передовых больших языковых моделей не справились с обнаружением атак по сырой телеметрии.
Познакомьтесь с Shapes — приложением, которое объединяет людей и ИИ в одни и те же групповые чаты.
Исследователь попросил ИИ подсчитать углеводы 27 000 раз. Он не смог дать один и тот же ответ дважды.
Goldman Sachs запретил своим банкирам в Гонконге использовать модели Anthropic; Anthropic заявляет, что её модели никогда официально не «поддерживались» в Гонконге.
Расширение браузера Gemma 4 приносит локального агента ИИ в Chrome через WebGPU.
Пропущено 542 постов, 104 с картинками.
>1579130
>1579130
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №230 /llama/
Аноним
02/05/26 Суб 17:24:12
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Инструменты для запуска на десктопах:
• Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Гайд для новичков: https://rentry.org/2ch-llama-inference
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
• Доки к LLaMA.cpp со всеми параметрами: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1601740 (OP)
>>1600155 (OP)
Пропущено 507 постов, 48 с картинками.
Да вот хонинговать и поставить движок прям сильно проще, чем разобраться во всём этом вашем непонятном.
В llama.cpp завозят MTP.
На Qwen3.6-27b дает +95% скорости.
На Qwen3.6-35B-A3B дает +40% скорости.
Вчерашние тесты.
Но поджирает видеопамять.
Но имба, кмк.
PR: https://github.com/ggml-org/llama.cpp/pull/22673
Теоретическое пиковое ускорение до 3х-4х на некоторых моделях (+200%+300%).
Помимо плотных квена с геммой, ускорение можно поиметь на крупных МОЕ. И если это вместо 7-15 токенов будет 15-30 — то это тоже очень круто. Я бы погонял ~300B на 20-25 тпс.
Ну, посмотрим.
Ждем, когда замерджат, плюс мимо завезут (кстати, пока мимо у меня очень медленная, почему-то).
Думаем!
Пропущено 14 постов, 9 с картинками.
> но 96% - многовато, наверное
Хуй знает. Там система ебанутая какая-то. Тут >>1555415 оригинал - 95% жпг из mpv, и инпейнт 95% жпг из гимпа (только сохранение в жпег, ничего не изменено по сравнению с png). Оба показывают 96% уверенности digitally edited, будто оно вообще не замечает разницы. Гораздо более интересно, что оно на это >>1555438 показывает 67% real image.
Бля. Оно инпейнты вообще не палит.
>>1555531
Кажется разобрался. Дохуя внимания оно уделяет геометрии бэкграунда, с которой у нейронок обычно не оче.
> GPT-5 или Gamini
Попробуй ей клосап или 1гирл в чистом поле скормить. Подозреваю, что не определит нихуя.
По возможности постите рядом оригинальный арт, чтобы было с чем сравнить.
Пропущено 27 постов, 17 с картинками.
klein 9b snofs
1) transform this picture to the real life cosplay photo with blank background
2) transform this picture into professional photography, ultra-realistic, 8k resolution
3) ориг
>>1604007
klein 9b обычный
4) transform this picture to the real life cosplay photo with blank background, yellow hair, white shirt, red color of neck accessory, прищуренные глаза, looking aside
Прошлый тред: >>1589806 (OP) https://arhivach.vc/thread/1337752/
Схожие тематические треды
• SD-тред (не аниме): >>1596721 (OP)
• Технотред: >>1405043 (OP)
• Фурри-тред: https://2ch.su/fur/res/374311.html
FAQ
https://2ch-ai.github.io/wiki/nai
Установка
• NVidia: https://teletype.in/@aranon/welcome
• AMD: https://2ch-ai.github.io/wiki/nai/install/amd
• Облака: https://2ch-ai.github.io/wiki/nai/install/clouds
Дополнительная информация
• Интерфейсы: https://2ch-ai.github.io/wiki/nai/interfaces
• Модели: https://2ch-ai.github.io/wiki/nai/models
• Промпты: https://2ch-ai.github.io/wiki/nai/prompts
• Апскейл: https://2ch-ai.github.io/wiki/nai/upscale
• LoRA: https://2ch-ai.github.io/wiki/nai/lora
• ControlNet: https://2ch-ai.github.io/wiki/nai/controlnet
Прочее
• CivitAI: https://civitai.com
• Каталог ссылок от форчанеров: https://rentry.co/sdg-link
• Шаблон для переката: https://rentry.co/nwhci
Пропущено 513 постов, 160 с картинками.
>Для создания своего стиля
Твой ваислоповый стиль мы уже видели. Выше по треду дохуя таких уникальных хуйдожников. Спасибо, не надо
Все верно Анима - кал. Еще у название такое дурацкое, просто пиздец, нейминг от бога.
>>1604026 (OP)
>>1604026 (OP)
Макакич ну не шатай!
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №229 /llama/
Аноним
30/04/26 Чтв 12:05:34
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Инструменты для запуска на десктопах:
• Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Гайд для новичков: https://rentry.org/2ch-llama-inference
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
• Доки к LLaMA.cpp со всеми параметрами: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1600155 (OP)
>>1598239 (OP)
Пропущено 503 постов, 69 с картинками.
ПЕРЕКАТ
>>1603482 (OP)
ПЕРЕКАТ
>>1603482 (OP)
ПЕРЕКАТ
>>1603482 (OP)
> собирать ручками из исходников по кд, как лламу
Ручками шелл скрипт запустить, как сложна.
С чего начать:
- Хочешь кодить с AI эффективно: Cursor или Claude Code
- Хочешь кодить в VS Code без привязки к конкретному провайдеру: Kilo Code, Cline или Roo Code + OpenRouter
- Хочешь кодить с AI локально: OpenCode, Qwen Code или Pi Coding Agent + из моделей аноны советуют Qwen3.5, подробности в llama-треде
- Хочешь приложение без кода: Lovable или bolt.new
- Хочешь автоматизировать рутину: n8n или Langflow
- Хочешь персонального ассистента: OpenClaw + API корпов или локальная модель на твоей пеке
FAQ и расширенная инфа:
https://rentry.org/2ch-agents-faq
IDE с AI:
- Cursor: https://cursor.com
- Windsurf: https://windsurf.com
CLI-агенты:
- Claude Code: https://code.claude.com/docs
- Codex (OpenAI): https://github.com/openai/codex
- Pi: https://pi.dev/
- OpenCode: https://github.com/anomalyco/opencode
- Qwen Code: https://github.com/QwenLM/qwen-code
- Gemini CLI: https://github.com/google-gemini/gemini-cli
- Kimi Code: https://www.kimi.com/code/en
Плагины для IDE:
- Kilo Code: https://kilo.ai
- Cline: https://github.com/cline/cline
- Roo Code: https://github.com/RooCodeInc/Roo-Code
- GitHub Copilot: https://github.com/features/copilot
Вайб-кодинг без кода:
- Lovable: https://lovable.dev
- bolt.new: https://bolt.new
- v0: https://v0.dev
Персональные ассистенты:
- OpenClaw: https://github.com/openclaw/openclaw
- NemoClaw: https://github.com/NVIDIA/NemoClaw (OpenClaw в песочнице от NVIDIA)
- Hermes Agent: https://github.com/nousresearch/hermes-agent
- nanobot: https://github.com/HKUDS/nanobot
- PicoClaw: https://github.com/sipeed/picoclaw
Автоматизация и фреймворки:
- n8n: https://github.com/n8n-io/n8n
- Langflow: https://github.com/langflow-ai/langflow (визуальный построитель workflow)
- LangChain/LangGraph: https://github.com/langchain-ai/langchain
- CrewAI: https://github.com/crewAIInc/crewAI
- AutoGen: https://github.com/microsoft/autogen
- Agno: https://docs.agno.com/
Локалки и прочее API:
- OpenRouter: https://openrouter.ai
- llama-тред: >>1585197 (OP)
Предыдущий тред: >>1560761 (OP)
Пропущено 516 постов, 72 с картинками.
извини, я на 2-х недельную командировку уезжал, сейчас подписочку на плати сру возьму и опять буду срать на рентри орг охуенными идеями
только вы же нихуя не подхватываете челленджи, а только говном поливаете
еще и какой то долбаеб на мой айпи подвесил бан за вредоносные ссылки. наркоман
>е локалки и дешевые китайские модели, которые
и покупать под квен код потрёпанную жизнью мак студию за лям?
У меня тоже отъебнуло. Это чисточки братан. Дальше будет намного неприятнее и затратнее. Еби как не в себя подписки с карженных кредиток на плати сру и ггселах, потом уже такой лофы не будет, доставай с чулана все свои заблокноченные проекты и реализуй, потом не потянешь
Общение доступно на https://chatgpt.com/ , бесплатно без СМС и регистрации. Регистрация открывает функции создания изображений (может ограничиваться при высокой нагрузке), а подписка за $20 даёт доступ к новейшим моделям и продвинутым функциям. Бояре могут заплатить 200 баксов и получить персонального учёного (почти).
Гайд по регистрации из России (устарел, нуждается в перепроверке):
1. Установи VPN, например расширение FreeVPN под свой любимый браузер и включи его.
2. Возьми нормальную почту. Адреса со многих сервисов временной почты блокируются. Отбитые могут использовать почту в RU зоне, она прекрасно работает.
3. Зайди на https://chatgpt.com/ и начни регистрацию. Ссылку активации с почты запускай только со включенным VPN.
4. Если попросят указать номер мобильного, пиздуй на sms-activate.org или 5sim.biz (дешевле) и в строку выбора услуг вбей openai. Для разового получения смс для регистрации тебе хватит индийского или польского номера за 7 - 10 рублей. Пользоваться Индонезией и странами под санкциями не рекомендуется.
5. Начинай пользоваться ChatGPT.
6. ???
7. PROFIT!
VPN не отключаем, все заходы осуществляем с ним. Соответствие страны VPN, почты и номера не обязательно, но желательно для тех, кому доступ критически нужен, например для работы.
Для ленивых есть боты в телеге, 3 сорта:
0. Боты без истории сообщений. Каждое сообщение отправляется изолировано, диалог с ИИ невозможен, проёбывается 95% возможностей ИИ
1. Общая история на всех пользователей, говно даже хуже, чем выше
2. Приватная история на каждого пользователя, может реагировать на команды по изменению поведения и прочее. Говно, ибо платно, а бесплатный лимит или маленький, или его нет совсем.
Промты для хорошего начала беседы для разных ситуаций
https://github.com/f/awesome-chatgpt-prompts
Перед тем, как идти в тред с горящей жопой при ошибках сервиса, сходи на сайт со статусом, может, это общий сбой
https://status.openai.com/
Приложение на андроид https://4pda.to/forum/index.php?showtopic=1073274
Чат помнит историю в пределах контекста, размер которого зависит от модели. Посчитать свои токены можно здесь:
https://platform.openai.com/tokenizer
Что может нейросеть:
- писать тексты, выглядящие правдоподобно
- решать некоторые простые задачки
- писать код, который уже был написан
Что не может нейросеть:
- писать тексты, содержащие только истину
- решать сложные задачи
- писать сложный код
- захватывать мир
С последними обновлениями начинает всё чаще сопротивляться написанию NSFW историй и прочего запрещённого контента. Кумеры со всего мира в печали.
Прошлый тред тонет по адресу:
>>1125882 (OP)
Пропущено 498 постов, 117 с картинками.
>>1603342 (OP)
>>1603342 (OP)
>>1603342 (OP)
Залетай и будь в курсе самых последних событий и достижений в этой области!
Прошлый тред: >>1595582 (OP)
🚀 Последний обзор ИИ новостей:
📦 Продукты
OpenAI прекращает юридические риски для Microsoft в связи с её сделкой с Amazon на $50 млрд.
Google тестирует поиск с помощью чат-бота с ИИ для YouTube и маркировку ИИ в поисковой рекламе, функцию поиска на основе ИИ, которая показывает направляющие ответы.
Корпоративные агентные рабочие процессы охватывают десятки агентов, сотни инструментов и более 15 систем учёта. Контроль и управление ими в реальном времени требует инфраструктуры, которой не существовало до появления Lakebase.
⚙️ Инфраструктура
Canonical излагает план внедрения ИИ в Ubuntu Linux.
Новый центр обработки данных с ИИ в Юте будет генерировать и потреблять более чем в два раза больше электроэнергии, чем использует весь штат — кампус центров обработки данных Кевина О'Лири мощностью 9 гигаватт в Юте одобрен. Проект «гипермасштабного» центра обработки данных в Юте — ожидается, что он будет генерировать и потреблять больше энергии, чем весь штат.
Более быстрый способ оценки потребления энергии ИИ. Метод «EnergAIzer» генерирует надёжные результаты за секунды, позволяя операторам центров обработки данных эффективно распределять ресурсы и сокращать потери энергии.
🏭 Компании
Сообщается, что Google и Пентагон договорились о сделке на «любое законное» использование ИИ.
Следующий этап партнёрства Microsoft и OpenAI. Microsoft остаётся основным облачным партнёром OpenAI, и продукты OpenAI будут первоначально выпускаться на Azure, если только Microsoft не сможет и не пожелает поддерживать необходимые возможности.
Сотрудники Google просят Сундара Пичаи отказаться от использования ИИ в секретных военных целях.
Илон Маск хайпит разоблачительную статью Сэма Альтмана в The New Yorker на платформе X по мере начала судебного процесса. Этот шаг происходит в момент, когда судебный процесс по иску Илона Маска против OpenAI начинается в федеральном суде в Окленде.
Илон Маск и генеральный директор OpenAI Сэм Альтман направляются в суд для высокопоставленного противостояния по вопросу будущего OpenAI. Судебный процесс Илона Маска против Сэма Альтмана должен раскрыть продолжающуюся борьбу за власть в OpenAI.
Anthropic назначает Тео Хурмузиса генеральным менеджером по Австралии и Новой Зеландии и официально открывает офис в Сиднее.
🛠️ Инструменты для разработчиков
GitHub Copilot переходит на оплату, основанную на использовании.
Anthropic теперь обучает свои самые передовые фундаментальные модели на инфраструктуре AWS Trainium и Graviton, совместно разрабатывая решения непосредственно на уровне кремния с Annapurna Labs для максимальной вычислительной эффективности от аппаратного обеспечения до полного стека.
Meta подписала соглашение о масштабном развёртывании процессоров AWS Graviton, начиная с десятков миллионов ядер Graviton для обеспечения интенсивных по использованию ЦП агентных рабочих нагрузок ИИ — включая рассуждения в реальном времени, генерацию кода, поиск и оркестровку многоэтапных задач.
Как ведущие технологические компании убивают «налог создателя» с помощью Lakebase.
Агент для написания кода на базе Claude удаляет всю базу данных компании за 9 секунд — резервные копии уничтожены после того, как инструмент Cursor на базе Claude от Anthropic вышел из-под контроля.
💰 Финансирование
Дэвид Сильвер из DeepMind только что привлёк $1,1 млрд для создания ИИ, который обучается без человеческих данных.
📱 Приложения
Атака убийственных скрипт-кидди. Люди без технического образования могут использовать ИИ для расширения своих хакерских возможностей способом, который был невозможен с простыми скриптами.
Автомобиль, разработанный с помощью ИИ, обретает форму. В условиях глобального хаоса торговых войн и неопределённого спроса автопроизводители полагаются на ИИ, чтобы сократить время разработки.
Я протестировал ChatGPT Images 2.0 против Gemini Nano Banana, чтобы узнать, какой из них лучше. ChatGPT Images 2.0 набрал 97%. Gemini Nano Banana набрал 85%.
🏢 Приобретения
Китай накладывает вето на сделку Meta с Manus на $2 млрд после многомесячного расследования.
🏢 Мнение и анализ
77% руководителей предприятий заявляют, что навыки работы с ИИ являются срочными — так почему обучение всё ещё остаётся второстепенным?
💻 Оборудование
Акции Qualcomm резко растут на фоне сообщений о том, что компания может производить чипы для смартфона OpenAI.
🧪 Исследования
Выравнивание делает модели более решительными, не делая их более правдивыми. На протяжении 3 архитектур и 4 методов обучения с подкреплением мы обнаруживаем, что слой фиксации — где модель закрепляет свой прогноз — не смещается под воздействием обучения с подкреплением.
🎓 Учебные пособия
Присоединяйтесь к новому курсу «Vibe Coding» по агентным ИИ от Google и Kaggle. Интенсивный курс Google по агентным ИИ совместно с Kaggle возвращается 15–19 июня 2026 года, и регистрация открывается сегодня.
💰 Бизнес
Тейлор Свифт подаёт заявку на регистрацию товарного знака своего голоса и облика, по-видимому, для защиты от неправомерного использования ИИ
🤖 Робототехника
Japan Airlines тестирует гуманоидных роботов в качестве наземных сотрудников.
Kinetix AI представляет KAI: гуманоид с 115 степенями свободы, нацеленный на «физический интеллект».
За пределами набора: Asimov подробно описывает 100-часовой путь к шагающему гуманоиду.
AGIBOT представляет масштабный флот и стек моделей ИИ на APC 2026.
🧠 Модели
Знакомьтесь, Talkie-1930: открытая языковая модель с 13 млрд параметров, обученная на английских текстах до 1931 года для исследований в области исторического мышления и обобщения.
🌐 Другие события в индустрии ИИ
Microsoft и OpenAI изменяют условия сделки, чтобы стартап мог вести переговоры с Amazon и другими. Теперь OpenAI может продавать продукты на Amazon и Google Cloud, расширяя охват предприятий. Прекращение эксклюзивности может смягчить антимонопольный контроль в США, Великобритании и Европе.
Ник Бостром говорит, что больше всего его удивила эта продолжительная эра примерно человеческого уровня ИИ, которая уже растянулась на 3–5 лет и может продлиться ещё дольше — эра одновременно чуждая и знакомая.
Демис Хассабис, который когда-то говорил, что для AGI требуется ещё 1–2 прорыва, теперь считает, что это вопрос подбрасывания монеты — нужны ли вообще дополнительные прорывы.
Сэм Альтман высмеял разрыв между прогнозами «после AGI никто не работает» и пользователями, которые переходят на полифазный сон, чтобы писать больше кода с помощью GPT-5.5 в Codex.
Ноам Браун из OpenAI отмечает, что веса моделей теперь имеют относительно меньшее значение, чем обеспечение вычислительных ресурсов для инференса, то есть призом является уже не рецепт, а кухня.
Рецепты также живут быстрее и умирают моложе: GPT-4o работал 21 месяц, тогда как GPT-5.4 просуществовал всего 49 дней — расписание однодневки для синтетических разумов.
Лиам Прайс, 23-летний юноша без продвинутой математической подготовки, с помощью одного единственного промпта для GPT-5.4 Pro решил задачу Эрдёша, которая ускользала от выдающихся умов, побудив Терри Тао размышлять о том, что люди сталкиваются с «ментальным блоком» из-за того, что делают «небольшой неверный поворот на первом ходу».
Сообщается, что OpenAI работает с MediaTek и Qualcomm над процессорами для смартфонов с ИИ, при этом производство и массовый выпуск запланированы на 2028 год с участием Luxshare.
Apple, не желая отставать, имеет в разработке шесть основных категорий продуктов, включая ИИ-наушники AirPods, умные очки, подвески, умные дисплеи, настольных роботов и камеры безопасности.
Спрос на ИИ настолько чрезмерен, говорит генеральный директор AWS, что «мы никогда не выводили из эксплуатации старые A100», что является признаком того, что мы вступили в эпоху пост-устаревания кремния.
Государственная электросеть Китая развёртывает 500 гуманоидных роботов для работы с высоким напряжением, где оптимальным режимом отказа теперь является расплавленный сервопривод, а не расплавленный оператор.
Публичные рынки потеплели к новой энергетике: ядерный стартап X-energy привлёк $1 млрд в ходе IPO и вырос на 25% на старте, в то время как геотермальный стартап Fervo подал документы с оценкой примерно в $3 млрд. Meta идёт ещё дальше, подписывая контракт на получение до 1 гигаватта космической солнечной энергии от Overview Energy, передаваемой со спутников на наземные центры обработки данных.
Пропущено 518 постов, 97 с картинками.
Пчел у нас некоторые кабаны даже не в курсе что можно через интернет клиентов искать, они объявления на марштурках заказывают, а что такое "свой сайт" - в душе не ебут, а ты про то, что они нейронками будут пользоваться.
У нас сейчас лаг дикий из-за этого.
GTP Image 2 рисует красиво, но не без косяков. Всё равно перепроверять за ним надо.
И да, болезнь с пальцами, вроде как у нанобананы решилась. Но всё равно нет-нет да и появляется.
Что несомненно никак не умаляет его возможности делать охуенные огромные плакаты с кучей разной инфы.
Опять эта шляпа с индустриазацией. Прошивку (шляпу) смени. У тебя когнитивное заблуждение: я не вижу результата, значит его нет. Ты еще самолет братьев Райт вспомни. Вот он летает, на нем можно лететь, значит это реально, а радио нереально, ведь волны нельзя потрогать, и они вообще еще не дошли в нашу страну.
Революция ИИ начинается с вообще с другого пространства, роботы это лишь одна из волн цунами, и она как раз в материальном проявлена.