>>597347 >LLM на FPGA Нереально, разве что нечто совсем игрушечное и по большей части бесполезное (TinyML всякие, да и то задолбаешься). Либо ты готов выложить миллионы рублей за Alveo/Versal.
>>597350 Так ты бенчмарки посмотри. Оно на цпу и то быстрее шевелиться будет и за меньшие деньги. Максимум электричества чуток сэкономишь, но и то не факт. Так то можно и на атмеге запускать, если памяти достаточно подключить, но толку то.
>>597351 >Так ты бенчмарки посмотри. Оно на цпу и то быстрее шевелиться будет и за меньшие деньги. Максимум электричества чуток сэкономишь, но и то не факт На стандартном 4-ядерном CPU скорость Qwen3-0.6B ориентировочно составляет порядка 2.5 – 10+ токенов/сек против 31 токен в секунду на FPGA который дешевле $50
>>597346 (OP) Уже есть такой тред: https://2ch.su/ra/res/574847.html Съеби нахуй, заебали засирать дохлый раздел одной и той же хуитой. Каждому дегенерату подавай свой личный тредик. >>597350 Автор использует б/у плату за 50$ с алипомойки, с плисиной Kintex-7 XC7K480T-2. Новая такая плисина стоит порядка $5К-8К. Это не включая разводку, пайку, софт, труд и прочее.