Что вышло
29 сентября 2026 года независимая площадка Artificial Analysis открыла AA-AgentPerf-Local — инструмент для проверки скорости локального запуска ИИ-агентов на ноутбуках и рабочих станциях. Код, сценарии и конфигурации опубликованы; инструмент может воспроизводить записанные цепочки запросов к серверу модели с OpenAI-совместимым интерфейсом. Это полезно компании, выбирающей оборудование для внутреннего агента: сравнение можно повторить на собственном компьютере, а не принимать решение по одному числу «токенов в секунду».
Что действительно проверили
Стартовый набор охватывает NVIDIA DGX Spark, рабочую станцию с GeForce RTX 5090, AMD Ryzen AI Halo и MacBook Pro M5 Pro. В опубликованных тестах использованы четыре семейства моделей в 4-битных версиях. Базовый сценарий — восемь записанных задач и 168 ходов модели с нарастающим контекстом примерно до 56 тысяч токенов. Конфигурация сервера, квантование и ускорение генерации влияют на результат; авторы выложили настройки для повторения.
По данным Artificial Analysis, RTX 5090 быстрее остальных устройств на моделях, которые помещаются в её память. Но это не универсальный рейтинг покупки: модель может не поместиться в 32 ГБ видеопамяти, а цена, энергопотребление и число одновременных пользователей меняют экономику. Устройства с объединённой памятью допускают иные размеры моделей, но могут медленнее отвечать в таком сценарии.
Практическая граница
AA-AgentPerf-Local измеряет задержку и пропускную способность, **не качество ответов**. По умолчанию время выполнения инструментов агента исключено; тест ориентирован на одного агента, использующего систему целиком. Он не доказывает, что модель правильно оформит заказ, найдёт пункт договора или безопасно изменит запись в CRM. Для закупки нужно отдельно проверить качество на своих русскоязычных заданиях, права доступа, реальную нагрузку и полную стоимость владения.
Следующий шаг для малого бизнеса — взять один повторяемый рабочий сценарий и запустить тест на доступном оборудовании с той моделью и длиной контекста, которые планируются в пилоте. Сравнивайте не только скорость, но и долю успешно завершённых задач; при слабом качестве быстрая модель не окупит исправления человеком.
Фото устройства DGX Spark, входившего в тестовый набор: Daniel Lu / Wikimedia Commons, [CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/). Для квадратной обложки исходный снимок размещён поверх размытого продолжения того же изображения; производная версия распространяется на тех же условиях.