ഓട്ടോമാറ്റിക് ക്യാപ്ഷനുകൾ എത്ര കൃത്യമാണ്?
Captions Cut-ന്റെ നിർമ്മാതാവ് എഴുതിയത്. ഉറവിടങ്ങൾക്ക് കീഴിൽ ലിസ്റ്റ് ചെയ്ത പേജുകളിൽ നിന്ന് പരിശോധിച്ച വിവരങ്ങൾ.
ചുരുക്കത്തിൽ
ഒരു പ്രധാന ഭാഷയിലെ വ്യക്തമായ സംസാരത്തിൽ, ഇന്നത്തെ ഏറ്റവും മികച്ച സ്പീച്ച് റെക്കഗ്നിഷൻ 100-ൽ ഏകദേശം 95 മുതൽ 98 വരെ വാക്കുകൾ ശരിയാക്കുന്നു (വേഡ് എറർ റേറ്റ് 2 മുതൽ 5% വരെ). 45 സെക്കൻഡ് ക്ലിപ്പിൽ അപ്പോഴും ചില തെറ്റുകൾ ബാക്കിയാകും, സാധാരണയായി പേരുകളിലും സ്ലാങ്ങിലും സംഖ്യകളിലും. പശ്ചാത്തല ശബ്ദം, അകലെയുള്ള മൈക്രോഫോൺ, ഒന്നിച്ച് സംസാരിക്കുന്നവർ, ശക്തമായ ഉച്ചാരണരീതികൾ, വിഭവങ്ങൾ കുറഞ്ഞ ഭാഷകൾ എന്നിവയിൽ കൃത്യത കുത്തനെ കുറയും, അതിനാൽ പോസ്റ്റ് ചെയ്യുന്നതിന് മുമ്പ് ഓരോ ക്യാപ്ഷനും വായിക്കുക.
വേഡ് എറർ റേറ്റ്, ലളിതമായി
സിസ്റ്റം തെറ്റിക്കുന്ന (മാറിപ്പോയ, വിട്ടുപോയ, അധികമായ) വാക്കുകളെ ഓരോ നൂറ് സംസാര വാക്കുകൾക്കും കണക്കാക്കുന്നതാണ് വേഡ് എറർ റേറ്റ് (WER). 5% WER എന്നാൽ ഏകദേശം ഇരുപത് വാക്കിൽ ഒരു തെറ്റ്. ഒരു ചെറിയ ക്ലിപ്പിൽ 100 മുതൽ 150 വരെ വാക്കുകൾ ഉണ്ടാകും, അതിനാൽ മികച്ച സിസ്റ്റത്തിൽ പോലും സാധാരണ എന്തെങ്കിലും തിരുത്താൻ ബാക്കിയുണ്ടാകും.
സിസ്റ്റങ്ങൾ നേടുന്ന സ്കോർ
| ബെഞ്ച്മാർക്ക് | ഫലം | ആര് അളന്നു |
|---|---|---|
| Artificial Analysis, ~8 മണിക്കൂർ യഥാർത്ഥ ഇംഗ്ലീഷ് ഓഡിയോ | ElevenLabs Scribe v2: 2.2% WER, പരീക്ഷിച്ച മോഡലുകളിൽ ഏകദേശം നാലാമത് | സ്വതന്ത്ര ബെഞ്ച്മാർക്ക് |
| AssemblyAI-യുടെ സ്വന്തം ഡാറ്റാസെറ്റുകൾ | അതിന്റെ Universal-3.5 Pro 4.35%; GPT-4o Transcribe 5.34%; Scribe v2 5.87%; Deepgram Nova-3 6.66% | AssemblyAI (ഒരു വെണ്ടർ) |
| LibriSpeech test-clean (വായിച്ച ഓഡിയോബുക്കുകൾ) | Whisper large-v2: 2.7% WER | OpenAI-യുടെ Whisper പേപ്പർ |
| ElevenLabs-ന്റെ സ്വന്തം ഭാഷാ ടിയറുകൾ | ഇംഗ്ലീഷ്, ഫ്രഞ്ച്, ജർമ്മൻ, സ്പാനിഷ്, ജാപ്പനീസ് എന്നിവയ്ക്ക് 5% അല്ലെങ്കിൽ കുറവ്; ഉറുദു, യൊറൂബ, സുലു എന്നിവയ്ക്ക് 20 മുതൽ 50% വരെ | ElevenLabs (ഒരു വെണ്ടർ) |
എന്താണ് പരാജയപ്പെടുത്തുന്നത്
- ശബ്ദവും ദൂരവും. CHiME-6 വെല്ലുവിളിയിൽ, മുറിയുടെ മറുവശത്തുനിന്ന് സംസാരിക്കുന്ന ആളുകളുടെ റെക്കോർഡിംഗുകൾക്ക് ബേസ്ലൈൻ സിസ്റ്റത്തിന് ഏകദേശം 51% WER ആയിരുന്നു.
- ആര് സംസാരിക്കുന്നു. അഞ്ച് വാണിജ്യ സിസ്റ്റങ്ങൾക്ക് ശരാശരി WER കറുത്ത വർഗ്ഗക്കാരായ സംസാരിക്കുന്നവർക്ക് 35% ഉം വെളുത്തവർക്ക് 19% ഉം ആണെന്ന് 2020-ലെ PNAS പഠനം കണ്ടെത്തി.
- ഒന്നിച്ചുള്ള സംസാരവും കലർന്ന ഭാഷകളും. ഒന്നിച്ച് സംസാരിക്കുന്നവർ, കലർന്ന ഭാഷകൾ, നീണ്ട നിശ്ശബ്ദത എന്നിവ സ്വന്തം ക്യാപ്ഷനുകൾ പരാജയപ്പെടുന്നതിന്റെ കാരണങ്ങളായി YouTube പട്ടികപ്പെടുത്തുന്നു.
- കെട്ടിച്ചമയ്ക്കലുകൾ. മോഡലുകൾ ചിലപ്പോൾ ഓഡിയോയുമായി ബന്ധമില്ലാത്ത ടെക്സ്റ്റ് ഔട്ട്പുട്ട് ചെയ്യാമെന്ന് Whisper പേപ്പർ പറയുന്നു.
കൂടുതൽ വൃത്തിയുള്ള ക്യാപ്ഷനുകൾ നേടാൻ
- മൈക്രോഫോണിന് അടുത്ത്, സംഗീതത്തിൽ നിന്നും ട്രാഫിക്കിൽ നിന്നും അകലെ റെക്കോർഡ് ചെയ്യുക.
- ചെറിയതോ കലർന്ന ഭാഷകളുള്ളതോ ആയ ക്ലിപ്പുകളിൽ സ്വയം കണ്ടെത്തുന്നതിന് പകരം സംസാര ഭാഷ തിരഞ്ഞെടുക്കുക.
- എക്സ്പോർട്ട് ചെയ്യുന്നതിന് മുമ്പ് ട്രാൻസ്ക്രിപ്റ്റ് വായിക്കുക. Captions Cut-ൽ ഓരോ വാക്കും എഡിറ്റ് ചെയ്യാം: ടെക്സ്റ്റോ അതിന്റെ ടൈമിംഗോ തിരുത്താൻ അതിൽ ടാപ്പ് ചെയ്യുക.
ഞങ്ങൾ എങ്ങനെ പരിശോധിച്ചു
വെണ്ടർമാർ അവർ തിരഞ്ഞെടുക്കുന്ന ബെഞ്ച്മാർക്കുകളിൽ സ്വയം ഒന്നാമതെത്തിക്കുന്നു, അതിനാൽ അവരുടെ സംഖ്യകൾ അവരുടേതെന്ന് ലേബൽ ചെയ്തിരിക്കുന്നു, വെണ്ടർമാർ തമ്മിൽ താരതമ്യം ചെയ്തിട്ടില്ല. സ്വതന്ത്ര കണക്ക് Artificial Analysis-ന്റേതാണ്. 2026 ഒക്ടോബർ 22-ന് വായിച്ചത്.
ചോദ്യങ്ങൾ
പരിശോധിക്കാതെ പോസ്റ്റ് ചെയ്യാൻ മാത്രം ഓട്ടോമാറ്റിക് ക്യാപ്ഷനുകൾ കൃത്യമാണോ?
അപൂർവ്വമായി മാത്രം. 2 മുതൽ 5% വരെ WER ഉണ്ടെങ്കിലും ഒരു ചെറിയ ക്ലിപ്പിൽ സാധാരണ ഒന്നോ രണ്ടോ തെറ്റുണ്ടാകും, പലപ്പോഴും ഒരു പേരിൽ. ആദ്യം വായിച്ചുനോക്കുക.
ഏത് ഭാഷകളാണ് ഏറ്റവും നന്നായി ട്രാൻസ്ക്രൈബ് ചെയ്യുന്നത്?
ധാരാളം ട്രെയിനിംഗ് ഡാറ്റയുള്ള, വ്യാപകമായി സംസാരിക്കുന്ന ഭാഷകൾ (ഇംഗ്ലീഷ്, സ്പാനിഷ്, ഫ്രഞ്ച്, ജർമ്മൻ, ജാപ്പനീസ്, മറ്റുള്ളവ) ഏറ്റവും നന്നായി സ്കോർ ചെയ്യുന്നു. Captions Cut 53 ഭാഷകൾ ട്രാൻസ്ക്രൈബ് ചെയ്യുന്നു; വിഭവങ്ങൾ കുറഞ്ഞവയ്ക്ക് കൂടുതൽ തിരുത്തൽ വേണം.
ഉറവിടങ്ങൾ
- Artificial Analysis: ElevenLabs Scribe v2
- AssemblyAI: ബെഞ്ച്മാർക്കുകൾ
- Radford et al. (2022), Whisper
- ElevenLabs: സ്പീച്ച് ടു ടെക്സ്റ്റ്
- Watanabe et al. (2020), CHiME-6
- Koenecke et al. (2020), PNAS
- YouTube: ഓട്ടോമാറ്റിക് ക്യാപ്ഷനുകൾ
ഓരോ പേജും വായിച്ചതാണ്.
ബ്രൗസറിൽ ഒരു വീഡിയോയ്ക്ക് ക്യാപ്ഷൻ ചേർക്കുക iPhone ആപ്പ് നേടുക