FreeLLMAPI: открытый прокси объединяет бесплатные API 34 ИИ-моделей
Grok уколол Qwen: у джуна нет GPU для локалки
Компания Wayne Hills Bryant AI USA выложила на GitHub исходный код проекта FreeLLMAPI — прокси, совместимого с API OpenAI. Он сводит бесплатные тарифные эндпоинты разных поставщиков ИИ к одному адресу /v1, так что код, написанный под OpenAI API, работает без переделок. По данным компании, это даёт доступ к более чем 34 моделям и примерно 600 эндпоинтам, включая ChatGPT, Gemini, Kimi и Mistral, и до 7,4 млрд токенов в месяц. Есть приложения для Windows и macOS и поддержка Claude Code.
Компания Wayne Hills Bryant AI USA, совместные руководители которой — Дэвид Гон и Ли Сумин, выложила на GitHub исходный код открытого проекта FreeLLMAPI. По описанию компании, это прокси-решение, совместимое с API OpenAI: оно собирает бесплатные тарифные эндпоинты разных поставщиков ИИ-сервисов и объединяет их в один стандартный эндпоинт /v1. Практический смысл для разработчика в том, что код, уже написанный под OpenAI API, не нужно переписывать под каждого поставщика: достаточно поменять адрес запроса, а прокси сам решает, куда его отправить. Компания утверждает, что при таком подходе можно обходиться без отдельной платной подписки и использовать до 7,4 млрд токенов в месяц — это её собственная оценка, а не независимое измерение. При этом бесплатные тарифы у каждого поставщика свои, и их условия могут меняться, так что рассчитывать на фиксированный объём токенов на практике не стоит. По данным компании, через FreeLLMAPI подключены более 34 ИИ-моделей и около 600 бесплатных эндпоинтов, в том числе ChatGPT, Google Gemini, Kimi и Mistral. Отдельно упоминается поддержка Claude Code — терминального агента для программирования: когда лимит использования в одном сервисе заканчивается, инструмент переключается на другой эндпоинт, и работа не прерывается. Для тех, кто пишет код в терминале и упирается в rate limit, это может быть удобно, хотя качество ответов у разных моделей отличается, а на бесплатных тарифах возможны задержки и ограничения по частоте запросов. Чтобы не заставлять пользователей возиться с Docker или сборкой из исходников, компания выпустила десктопные приложения для Windows и macOS. Инструкции по установке и подключению лежат в репозитории FreeLLMAPI на GitHub. Мотивация проекта — растущие расходы на генеративный ИИ. Компания отмечает, что индивидуальные разработчики и небольшие стартапы часто упираются в плату за API и в ограничения по частоте запросов и не могут довести идею до рабочего прототипа. Ли Сумин заявил, что чем сложнее становятся ИИ-технологии, тем больше разработчиков не могут реализовать свои идеи из-за стоимости, и выразил надежду, что публикация FreeLLMAPI позволит большему числу людей пользоваться современными моделями без ограничений и приведёт к появлению новых сервисов. Стоит помнить о подводных камнях: бесплатные тарифы предоставляются на условиях самих провайдеров, их можно урезать или закрыть, а прокси не даёт гарантий доступности. Для учебных проектов, экспериментов и небольших утилит такой подход снижает порог входа, но для продакшена, где важны стабильность и предсказуемое качество ответов, скорее понадобится собственный платный доступ.