Как я запутался в провайдерах ИИ и написал мониторинг для их сравнения
Блокировка доступа из России со стороны Claude заставила многих искать новых провайдеров. Я занимаюсь этим уже полтора месяца — с момента блокировки платежей со стороны GitHub. Первым моим решением было поднять сервер FreeLLMAPI. Но скоро стало понятно, что бесплатных лимитов очень мало, даже если их объединить. Немного помогло пополнение счёта OpenRouter на $10: это увеличило дневные лимиты на бесплатные модели в несколько десятков раз. Но и этого оказалось недостаточно, тем более что большинство бесплатных моделей OpenRouter мне пришлось отключить из-за маленького контекста. Следующим этапом стал поиск сторонних провайдеров и агрегаторов. OpenRouter и OpenCode я попробовал сразу, но первый оказался для меня слишком дорогим, а второй в подписке за $10 — да и за $40 тоже — даёт не такие уж большие лимиты. Особенно быстро заканчивается недельный. Поиски продолжились… И уже через неделю я обнаружил, что у меня шесть разных оплаченных провайдеров — с разными ценами и разной доступностью моделей. Причём цены отличались не просто на какой-то общий коэффициент: соотношение было разным для входящих и исходящих токенов, а кто-то вообще продавал их по одной цене. В попытках разобраться, какую модель и у какого провайдера выбирать, родилась идея мониторинга ИИ. Так появился репозиторий ai-monitor . Что потребуется Если коротко: Linux, Python 3.9+ и OpenCode v2. Зависимости Python устанавливаются из requirements.txt . Плагин opencode-session-tags — если хотите помечать сессии через интерфейс OpenCode. Поиск через Tavily. Мне хватает бесплатного лимита на 1000 запросов в месяц. При регистрации будьте внимательны: мне под видом бесплатного тарифа предлагали 1500 бесплатных запросов, но уже в рамках платного. API-ключ Artificial Analysis. Его тоже можно получить бесплатно, и бесплатных лимитов для этой задачи более чем достаточно. Список ваших провайдеров в providers.yml , созданном по примеру providers.example.yml . Для персонализации сессии OpenCode нужно помечать по типам задач — через плагин opencode-session-tags или команду session_stats.py tag . Затем отдельно собрать статистику: python3 session_stats.py collect Нужные профили из полученного runs/session-stats/summary.yml вручную перенести в profiles.yml . Можно начать и с готовых профилей, но тогда расчёты будут основаны не на ваших сессиях. После этого запустить монитор: python3 ai_monitor.py Монитор собирает цены и условия провайдеров и через OpenCode готовит рекомендации с учётом ваших задач и расхода входящих, исходящих и кешированных токенов. Самостоятельных тестов качества моделей он не проводит: рейтинг берётся из Intelligence Index Artificial Analysis, а не из собственного бенчмарка программирования. Что получается на выходе Результат — четыре Markdown-файла: рекомендации , сравнение цен, рейтинг моделей и исто Читать далее