Name: Llama 3.1 70B Hanami x1
Author: Sao10K

Question 1

Сколько стоит Llama 3.1 70B Hanami x1?

Accepted Answer

Llama 3.1 70B Hanami x1 тарифицируется по ставке $ 3.00 /1M за ввод и $ 3.00 /1M за вывод. Используйте свой API-ключ Sao10K — osFoundry передаёт цены провайдера без наценки.

Question 2

Можно ли использовать Llama 3.1 70B Hanami x1 в коммерческих целях?

Accepted Answer

Коммерческое использование разрешено с условиями. Модель доступна только в хостинговом варианте — использование регулируется условиями API провайдера. Используйте собственный ключ провайдера. Веса не распространяются; использование регулируется условиями провайдера.

Question 3

Каково контекстное окно у Llama 3.1 70B Hanami x1?

Accepted Answer

Llama 3.1 70B Hanami x1 поддерживает контекстное окно в 16K токенов.

Question 4

Можно ли запустить Llama 3.1 70B Hanami x1 локально?

Accepted Answer

Нет — Llama 3.1 70B Hanami x1 доступна только в хостинговом варианте через API Sao10K. Доступен аналог с открытыми весами для самостоятельного хостинга — см. перекрёстную ссылку выше.

Question 5

В чём Llama 3.1 70B Hanami x1 лучше всего?

Accepted Answer

Llama 3.1 70B Hanami x1 хорошо подходит для чат и маршрутизация с низкой задержкой, маршрутизация и сортировка запросов, классификация текста.

Question 6

Как использовать Llama 3.1 70B Hanami x1 в osFoundry?

Accepted Answer

Вставьте свой API-ключ Sao10K в диалог ключей (или разверните открытые веса для моделей с возможностью самостоятельного хостинга), назначьте Llama 3.1 70B Hanami x1 на роль Maestro во вкладке Pipeline, а затем используйте её в чате, в Room App через invokeAI или в собственных приложениях.