API v primerjavi z lokalno uvedbo | OpenAI Whisper

Lokalna uvedba

Strošek na minuto

0 USD (po naložbi v strojno opremo)

Zahtevnost nastavitve

Namestitev Pythona, modela in gonilnikov grafične kartice

Zasebnost podatkov

Zvok nikoli ne zapusti vaše infrastrukture

Možnosti modela

Vsi odprtokodni modeli (od tiny do large-v3-turbo)

Pretakanje

Zahteva lastno izvedbo

Razpoznava govorcev

Zahteva orodja tretjih oseb (pyannote ipd.)

Dodatno učenje

Popolnoma podprto (licenca MIT)

Prilagajanje obsegu

Prilagajanje obsegu in porazdeljevanje obremenitve upravljate sami

OpenAIjev API

Strošek na minuto

0,003 do 0,006 USD na minuto

Zahtevnost nastavitve

Pridobitev ključa API in pošiljanje zahtev HTTP

Zasebnost podatkov

Zvok se pošlje na strežnike OpenAI

Možnosti modela

whisper-1, gpt-4o-mini-transcribe, gpt-4o-transcribe

Pretakanje

Vgrajeno pri modelih gpt-4o-transcribe

Razpoznava govorcev

Vgrajeno pri gpt-4o-transcribe-diarize

Dodatno učenje

Ni na voljo

Prilagajanje obsegu

Samodejno, poskrbi OpenAI

Ocenjeni mesečni stroški glede na obseg (API pri 0,006 USD/min)

Točka preloma

Če na mesec obdelate manj kot 200 ur zvoka, je API verjetno cenejši kot najem primerka z grafično kartico. Nad 500 urami na mesec lokalna uvedba prihrani precej denarja. Če imate lastno grafično strojno opremo, točka preloma nastopi še prej, saj je mejni strošek lokalnega sklepanja le elektrika.

Modeli gpt-4o-transcribe niso odprtokodni

Medtem ko so prvotni modeli Whisper (od tiny do large-v3-turbo) povsem odprtokodni pod licenco MIT, sta novejša modela gpt-4o-transcribe in gpt-4o-mini-transcribe lastniška in na voljo le prek API. Ta novejša modela ponujata boljšo natančnost in zmožnosti, kot sta pretakanje in razpoznava govorcev, a vas vežeta na OpenAIjev API.