madness-erebus-i1-GGUF
mradermacher이(가) 개발한 madness-erebus-i1-GGUF은(는) 채팅 모델입니다. madness-erebus-i1-GGUF is an open-weights chat model.
by mradermacher
적합한 용도
- 저지연 채팅 및 라우팅
- 요청 라우팅 및 분류
- 텍스트 분류
osFoundry에서 madness-erebus-i1-GGUF을(를) 활용하는 방법
자체 키로 연결 (BYOK)
키 대화상자를 열어 mradermacher API 키를 붙여넣으십시오. osFoundry가 madness-erebus-i1-GGUF을(를) 자동으로 인식하며, Pipeline 탭에서 Maestro 역할(라우터, 직접, 오케스트레이터, 폴백)에 할당하면 모든 채팅에서 즉시 사용할 수 있습니다. 사용자의 키와 사용자의 제공업체 계정 — 토큰 마크업이 없습니다.
전용 엔드포인트 배포
madness-erebus-i1-GGUF은(는) 오픈 가중치 모델입니다 — 무료로 로컬에서 실행하거나, 워크스페이스에 전용 GPU 엔드포인트를 배포하여 속도 제한 없이 예약된 용량을 확보할 수 있습니다.
Room App에서 사용하기
Room App은 매니페스트에서 AI 기능을 선언하고 invokeAI로 호출합니다:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
자체 앱에서 호출하기
모델이 워크스페이스에 연결되면 API로 호스팅하여 osFoundry 외부의 자체 서비스, 스크립트, CI에서 접근할 수 있습니다.
madness-erebus-i1-GGUF과(와) 유사 모델 비교
라이선스
미지정 — 라이선스 조건이 명시되지 않았습니다 — 상업적 사용 전에 상위 모델 카드를 확인하십시오.
상위 문서를 확인하십시오.
madness-erebus-i1-GGUF에 대해 자주 묻는 질문
madness-erebus-i1-GGUF은(는) 무료로 사용할 수 있습니까?
madness-erebus-i1-GGUF은(는) 사용자의 하드웨어에서 로컬로 무료 실행이 가능합니다. osFoundry를 통한 호스팅 액세스는 사용량 기반으로 과금됩니다 (입력 Free (local), 출력 Free (local)). 로컬과 호스팅을 언제든 전환할 수 있습니다.
madness-erebus-i1-GGUF을(를) 상업적으로 사용할 수 있습니까?
조건부로 상업적 사용이 허용됩니다. 라이선스 조건이 명시되지 않았습니다 — 상업적 사용 전에 상위 모델 카드를 확인하십시오. 상위 문서를 확인하십시오.
madness-erebus-i1-GGUF을(를) 로컬에서 실행할 수 있습니까?
예. madness-erebus-i1-GGUF은(는) 오픈 가중치 모델로 워크스테이션 GPU에서 로컬 실행이 가능합니다. osFoundry의 로컬 런타임이 모델 로딩, 양자화, 라우팅을 처리합니다.
madness-erebus-i1-GGUF이(가) 가장 잘하는 것은 무엇입니까?
madness-erebus-i1-GGUF은(는) 저지연 채팅 및 라우팅, 요청 라우팅 및 분류, 텍스트 분류에 적합합니다.
osFoundry에서 madness-erebus-i1-GGUF을(를) 어떻게 사용합니까?
키 대화상자에 mradermacher API 키를 붙여넣고(또는 자체 호스팅 가능한 모델의 경우 오픈 가중치를 배포), Pipeline 탭에서 madness-erebus-i1-GGUF을(를) Maestro 역할에 할당한 뒤 채팅, invokeAI를 통한 Room App, 또는 자체 앱에서 사용하십시오.
mradermacher에서 게시함, 2025년 2월 12일에. 출처: https://huggingface.co/mradermacher/madness-erebus-i1-GGUF