Новости ИИ
Qwen 3.5 9B — 60k контекста на 8GB VRAM
При выборе локальных LLM не стоит гнаться за количеством параметров. Архитектура и размер контекстного окна важнее: компактная, но эффективная модель справляется с длинными текстами лучше, чем тяжелый «гигант». Производительность и железо Тест в LM Studio на GPU с 8GB VRAM показал разные результаты. Модель gpt-oss 20B тормозила на длинных запросах