Энтузиаст JustVugg доказал, что если очень хочется, можно запустить 744-миллиардную нейросеть на ноутбуке с 25 ГБ RAM. Да, скорость — 0,05 токена в секунду, то есть одно слово будет генерироваться примерно 20 секунд. Зато без дистилляции, в оригинале, как бабушкин борщ. Проект Colibri уже собрал 2000 звёзд на GitHub — видимо, все хотят посмотреть, как их компьютер медленно, но верно превращается в грелку. Кажется, мы дожили до момента, когда «запустил на своём ноуте» стало синонимом «подожди до следующего вторника». На очереди — запуск GPT-5 на калькуляторе?
Запустил GLM-5.2 на ноутбуке: 0,05 токена в секунду — и это успех 🐢

Как вам новость?


