Comments 25
Как вы решили вопрос обсуждений, выходящих за рамки 4к токенов?
Отрезаются самые верхние сообщения. Решение не самое лучшее, но как правило не сильно теряется контекст. Ещё есть проблема, что может отрезаться единственное, но огромное сообщение. Я её вскоре решу.
На самом деле, не решена в целом задача подсчёта токенов. Алгоритм есть только в в виде кода на питон из документации OpenAI. Но он там очень огромный и не сильно понятный, на первый взгляд.
Но это нужно будет решить.
Понятно, спасибо!
На самом деле, не решена в целом задача подсчёта токенов.
как мысли вслух: может не заморачиваться, и просто ориентироваться на отбраковку запроса по коду "context_length_exceeded", правда не уверен, берут ли они за это деньги. Просто ведь всё равно это мне кажется придёться проверять, даже при самом точном расчёте токенов на клиенте.
Не знал, что на delphi можно делать мобильные приложения
вот тут рабочий способ получить api - https://habr.com/ru/articles/704600/
еще бы кто подсказал как delphi поставить было совсем хорошо
Если вопрос адресован мне и просто ошиблись веткой комментария, то отвечу.
Delphi, потому что это мой основной язык. Я работал и с C# (Winforms, wpf, avalonia) и даже немного с C++ и Qt. Но в удобстве разработки, лично для меня, они не сравнятся с Rad Studio Delphi + FMX. Но, больше, конечно, решает то, что на Делфи у меня больше опыта.
Ну и по статье видно, что приложение выглядит ничем не хуже Wpf/Avalonia или Qt. Или, даже, веб-приложений с их многообразием UI фреймворков. Вдобавок и кроссплатформенность. На все платформы у меня один и тот же проект. Одни и те же формы и представления.
На создание этого клиента, если верить GitHub у меня ушло 3 месяца. Но по факту я потратил не больше недели. А на создание первой версии, которая выглядела почти точно так же как и сейчас, я потратил всего 2-3 вечера.
В Delphi FMX множество инструментов, которые позволяют легко повторить веб интерфейс. Без пелены кода и описаний стилей. Для создания представления кнопки достаточно кинуть слой в книгу стилей и закидывать в этот слой любые компоненты и контролы, которые установлены в среде. Включая компоненты анимации или шейдеров, так же настраивая их через инспектор. А потом просто указать кнопке название этого стиля. То же работает и для любого контрола, включая списки, таблицы, переключатели, поля ввода и т.д.
Ну и сам язык не сильно уступает C# в сахаре для быстрого написания и C++ в производительности.
Асинхронность тоже не доставляет особых проблем. Выходит почти линейный код как с async/await, но с чуть другим принципом работы и вложенностью.
"Delphi, потому что это мой основной язык." Ого, такое реально бывает. Приятно видеть что Delphi не является "мёртвым" языком. Для меня тоже Delphi самый удобный. Ну правда я пока сижу на Delphi 7, но думаю при переходе с 7 на более новую версию не должно быть проблем. По рейтингу Tiobe на апрель 2023 он на 11 месте (1.23%), что не так уж и мало в общем. Хотя у некоторых есть предвзятое отношение к языку Delphi из-за того, что он многое взял из Pascal.
Поставить Delphi вообще не сложно. Вот ссылка на Community версию: https://www.embarcadero.com/ru/products/delphi/starter
Нужно, либо войти в аккаунт, либо зарегистрироваться и после этого будет скачиваться обычный онлайн установщик, а на почту придет ключ для активации программы. На один год. Через год, проделываешь все то же самое, только без установки, если та же версия CE ещё актуальна.
А для сборки клиента потребуется ещё установить два пакета. Skia и Svgimagelist. Для этого нужно в среде зайти в меню Tools -> GetIt Package Manager и найти там эти пакеты.
Прошу прощения за возможно глупый вопрос - а где найти клиент для Android?
Я занимаюсь некоторыми доработками клиента и на этой неделе планирую опубликовать сборки под все остальные платформы. Могу отписать в коммент сюда о выходе
Да у меня такой же вопрос. Я даже думал начать компилить питон под Яву, чтобы завести на телефоне. А тут такой подарок...
А где подарок?))
Под Андроид собрал версию
Спасибо вам за работу! На Android все работает прекрасно.> Работает и протестирован на Windows, Linux (Ubuntu, Garuda, Mint), iOS, MacOS и Android
Но не нашел сборки под macOS. Ждать?
Пользуюсь на маке MacGPT, но там при работе по токену очень глючный интерфейс, интересно будет попробовать ваше решение.
Да, конечно. Уже есть сборка под Мак для тестирования (прошлой версии). Всё корректно работает. Вчера было обновление, и под Мак с Линуксом будет собрано в ближайшие дни.
Не уверен, что успею разобраться с упаковкой под Мак в pkg и под Линукс в flatpak, но чистые сборки точно будут под эти платформы.
Собрал последнюю сборку под MacOS (arm64 и intel64)
Подскажи пожалуйста на какой версии Delphi собраны компоненты, а то я пробовал на 10.3 там ошибки не понятные происходят.
Последнюю сборку лучше собирать в 11.3, потому что я модифицировал штатный Мемо для добавления возможности форматирования текста. Но, если убрать директиву NEW_MEMO из настроек билда, то можно собрать и на 10.4. Ссылки на используемые пакеты я указал в Read.me. Эти пакеты, также есть в штатном менеджере пакетов GetIt.
Но, чтобы избежать багов, рекомендую установить Delphi 11.3 CE (да, она вышла месяца полтора назад). Там всё должно работать корректно.
Кроссплатформенный клиент для ChatGPT