Я чувствую тень недовольства в ваших словах и не понимаю её причины. Неужели вам не хватило суверенных ВК, Рутуба и Макса?

Не сказал бы, что в сколько-то сложных запросах это оказывает значимое влияние. Мы пинаем Клода и на русском, и на английском. Разница если и есть, то в пределах погрешности. Правда, у нас задачи в основном разработки, так что большая часть токенов уходит именно на них, а не на общение в чате.

А зачем вам ОпенРоутер? Если работаете с нейронками сколько-то системно, подписка Антропика выгоднее, нет? А танцы с бубном ради оплаты и стабильного соединения примерно одинаковые. Мы для своего коллектива прикидывали, по всему выходило, что проще напрямую заплатить.

ReznoVV
Разница минимум в два раза, потому что в utf-8 английский кодируется одним байтом, а русский - двумя. Плюс токенизатор у английских моделей оптимизирован под английский. Плюс морфология русского сложнее. Итого в 2-3 хуже.

https://habr.com/ru/companies/selectel/articles/1068446/

Заяц
При обработке запроса и формулировке ответа, что в сколько-то сложных задачах разработки занимает 1-2% от общего расхода токенов.

ReznoVV
А как модель может действовать, не расходуя токены?

Заяц
Если ТС рассуждает об ОпенРоутере, он с высокой вероятностью заинтересован в использовании нейросетей в задачах разработки программного обеспечения того или иного рода. Все современные коммерческие LLM используют для решения таких задач технологию оркестрации ИИ-агентов, каждый из которых общается не напрямую с пользователем, а с агентом-менеджером. Соответственно, все параметры запроса от пользователя и ответа ему никак не влияют на работу "вложенных" агентов, которые и решают поставленную задачу, никак не привязываясь к языку запроса и ответа.

ReznoVV
Вот это утверждение интересное. Что ж, возможно. Я честно скажу, что не знаю, насколько они привязываются и на чем "думают", и как это зависит от языка, на котором сформулировано ТЗ.

Заяц
На русские слова расходуется больше токенов, но размер буквы, мне кажется, не может их удваивать, поскольку слова разбиваются не на отдельные байты.

ReznoVV
Нет прямой оплаты криптой, хотя Stripe это прекрасно поддерживает. Не знаю, может их там в антропике американские чeкисты по рукам за такие поползновения бьют, но это сразу резко снижает удобство пользования.

Плюс, очень ненулевой шанс, что подписку могут просто выключить, если реальная локация сквозь vpn утечет, а постоянно сидеть под киллсвитчем на всех устройствах и каждый раз редактировать правила маршрутизации — такое.

Ещё один момент, я так и не смог нормально разобраться, как они считают подписочные лимиты, и в чем конкретные, а не бумажные отличия моделей.

В опенроутере как-то понятнее и прозрачнее правила игры.

P.S. Раз уж зашёл разговор. Как вы считаете, Claude реально настолько мощнее остальных в agentic coding или это хайп?

Дoлoxов
Увы, это действительно значимая проблема. У нас для её парирования отдельные маршрутизаторы с постоянно включёнными тоннелями и специальные скрипты контроля потоков данных используются (в детали я не вникал, я всего лишь пользователь всего этого, а не администратор). Но это на коллектив из ~5-6 постоянных пользователей и парочку вычислительных серверов имеет смысл делать, для личного пользования оно может быть избыточно сложным.
Там неочевидная система, да. Есть три лимита:
- Общий на все модели, обновляется раз в неделю. На подписке Max мы всем коллективом в лучшем случае выбирали ~70% от него. Может быть, если в одиночку, но прямо на фулл-тайм грузить Клода задачами разработки, в него и можно упереться, но для нас оно не востребовано.
- Недельный на Fable, количественно равен половине от общего. Считается отдельно, т.к. именно Fable позиционируется как основной инструмент вайб-кодинга. Если заниматься им системно, особенно в токеноёмких задачах, упереться в лимит вполне реально.
- Пятичасовой. Тут разделения по типам нет, просто лимит, обновляющийся раз в пять часов. Тоже вполне может стать ограничением при постоянной работе со сложными задачами, типа работы с большими БД и т.п.
Дяденька, я не настоящий сварщик. Я не то, чтобы компетентен в этой теме. Он достаточно мощный, чтобы с приемлемым качеством решать достаточно сложные задачи разработки программных средств в интересах небольшого научного коллектива, всё что я могу сказать. Вероятно, для всех менее сложных и редких задач он тоже подходит. Сколько-то системного опыта пользования конкурентов у меня, увы, нет.

Дoлoxов
Как раз новости про Anthropic и баны:
https://habr.com/ru/companies/aurorium/news/1089498/

ReznoVV
Как будто этого поста ждали)

ReznoVV
Кстати, у ваших-то как, сервера оборону держат?

Дoлoxов
Да, вот только от SSH отключился, пока всё работает))