Pull to refresh

Comments 13

То есть если грамотно формулировать вопросы и писать ему по 20-50 сообщений в день, то будет стоить около 10-15$/мес - обычная цена месячной подписки многих сервисов. Но я пока использовал его только чтобы поиграться. Реально полезного применения для себя так и не нашел:)

Для себя я начал применять его в обучающих целях.

Например даю ему установку, чтобы он задавал вопросы по программированию уровня Middle и Senior, и если не знаю ответа, то прошу его подробнее рассказать.

Ещё общаюсь с ним на Английском языке для практики.

Это можно делать и в обычном чате, понимаю, но каждый раз настраивать, это не так уж и удобно, мне проще один раз настроить всё основательно, сделать простой сайтик и пользоваться.

gpt4 доступен только по подписке 20$/m


Заглянул сюда чтобы узнать, есть ли какой то лимит токенов, доступный без оплаты по этой подписке, и как я понимаю этого нет (есть бесплатные ознакомительные $ на токены gpt3 и ниже на бесплатном аккаунте но они сгорают через месяц после регистрации).

Но мы же но будем каждый раз переходить на сайт, вставлять наш запрос и подсчитывать, сколько же он стоит!

Поэтому будем писать код, который делает тоже самое, вызывается 1 раз и больше никогда не используется.

Вся статья гуглится одним запросом "openai token size", где первая же ссылка ведёт на хелпу не только с информацией о длине, но и других языках и особенностях.

Более того, там есть ссылка на библиотеку tiktoken, которая позволяет рассчитать близкое к реальному количество токенов не отправляя никакие запросы.

Я знал о библиотеке tiktoken, но решил не включать о ней информацию, так как не хотел перегружать статью.

Да, tiktoken подойдёт, чтобы примерно рассчитать, сколько стоит размер потенциального запроса, но это будет только приблизительный подсчёт!

Во-первых, данный расчёт не точен. Да, погрешность небольшая, но если мы пишем сервис и считаем затраты, то через месяц мы можем быть неприятно удивлены, что затраты превысили посчитанные.

Во-вторых, данный метод не даёт нам возможности посчитать, сколько будет стоить запрос целиком, так как мы платим не только за количество токенов на входные данные, но и за количество токенов, затраченных на генерацию ответа, причем по цене выше, чем запрос. Да, обычно на ответ тратится намного меньше токенов, но это будет зависеть от запроса. И быть на 100% уверенным, сколько будет затрачено токенов на запрос, невозможно. Мы можем узнать, сколько было потрачено токенов на формирование ответа по факту, получив число в ответе.

Я ожидал от статьи расчет себестоимости токенизации, относительно цены видеокарт, которые использует GPT на серверах openai, расчеты по научным изысканием и прочее и прочее, что в конечном счет покажет сколько стоит в реальности токен

Нет, эта статья не о том)

Хотя тема интересная!

Вот да. Тоже ожидал оценку себестоимости.

Для пользователя то понятно что копейки оно стоит. Для профессионального использования уже не совсем копейки и есть смысл использовать 3.5 или даже 3 в отдельных случаях, а не 4 по умолчанию.

Я правильно понимаю, что бы пользоваться API к gpt4 надо иметь подписку за 20$ и если не продлить подписку то все ключи от gpt4 превратятся в тыкву?

Могу сказать только на своём опыте.

У меня подписки Pluse нету уже 2 месяца, но подключится к апи gpt-4 могу.

Единственное, я не смог подключится к gpt-4-64k, но возможно для неё надо отдельный доступ запрашивать.

Вы просили ранний доступ? Вы являетесь блогером или исследователем, выдача доступа к gpt4 которому для openai выгодна как пиар?

Нет, я обычной пользователь

Купил изначально Plus, месяц им пользовался, потом перестал платить, сейчас его не имею

Доступ к gpt-4 есть, появился до плюса или после, не знаю

С оплатой доступа Plus (20$) появляется ли какой то оплаченный лимит на токены gpt-4? Или вместе с оплатой абонентской платы приходится платить за каждый токен api?

Sign up to leave a comment.

Articles