Доброчанька 03/01/2023 (Wed) 21:51 No.3414 del
Кто-нибудь уже смотрел или пробовал оптимизацию по VRAM на 2 порядка? Говорят, 175B модель в одну карту 3090 влезет. Кстати, модели в VRAM сжатые лежат? И если такой упор в видео память, можно ли нормально нейронку на встройке запустить или без CUDA смысла нет?