خودکار کیپشنز کتنے درست ہوتے ہیں؟
Captions Cut بنانے والے شخص کی طرف سے۔ حقائق کو ذرائع کے تحت درج صفحات سے چیک کیے گئے۔
مختصر جواب
کسی بڑی زبان میں صاف بول چال پر آج کی بہترین اسپیچ ریکگنیشن 100 میں سے تقریباً 95 سے 98 الفاظ درست کرتی ہے (ورڈ ایرر ریٹ 2 سے 5%)۔ پھر بھی 45 سیکنڈ کے کلپ میں چند غلطیاں رہ جاتی ہیں، عموماً ناموں، عام بول چال کے الفاظ اور اعداد میں۔ پس منظر کے شور، دور مائیکروفون، ایک ساتھ بولتے لوگوں، گہرے لہجوں اور کم وسائل والی زبانوں میں درستگی تیزی سے گرتی ہے، اس لیے پوسٹ کرنے سے پہلے ہر کیپشن پڑھ لیں۔
ورڈ ایرر ریٹ، سادہ الفاظ میں
ورڈ ایرر ریٹ (WER) ہر سو بولے گئے الفاظ میں سے وہ الفاظ گنتا ہے جو سسٹم غلط کرتا ہے (بدل دیے، چھوڑ دیے یا اضافی شامل کیے)۔ 5% WER کا مطلب ہے تقریباً ہر بیس الفاظ پر ایک غلطی۔ ایک مختصر کلپ میں 100 سے 150 الفاظ ہوتے ہیں، اس لیے بہترین سسٹم بھی عموماً کچھ ٹھیک کرنے کو چھوڑ دیتا ہے۔
سسٹمز کتنا اسکور کرتے ہیں
| بینچ مارک | نتیجہ | ناپنے والا |
|---|---|---|
| Artificial Analysis، تقریباً 8 گھنٹے کا حقیقی انگریزی آڈیو | ElevenLabs Scribe v2: 2.2% WER، ٹیسٹ کیے گئے ماڈلز میں تقریباً چوتھے نمبر پر | آزاد بینچ مارک |
| AssemblyAI کے اپنے ڈیٹا سیٹس | اس کا Universal-3.5 Pro 4.35%؛ GPT-4o Transcribe 5.34%؛ Scribe v2 5.87%؛ Deepgram Nova-3 6.66% | AssemblyAI (ایک فروش) |
| LibriSpeech test-clean (پڑھی گئی آڈیو بکس) | Whisper large-v2: 2.7% WER | OpenAI کا Whisper پیپر |
| ElevenLabs کے اپنے زبان کے درجے | انگریزی، فرانسیسی، جرمن، ہسپانوی اور جاپانی کے لیے 5% یا اس سے کم؛ اردو، یوروبا اور زولو کے لیے 20 سے 50% | ElevenLabs (ایک فروش) |
ناکامی کی وجوہات
- شور اور فاصلہ۔ CHiME-6 چیلنج میں کمرے کے آر پار بات کرتے لوگوں کی ریکارڈنگز پر بنیادی سسٹم کا WER تقریباً 51% رہا۔
- بولنے والا کون ہے۔ PNAS میں 2020 کی ایک تحقیق میں پایا گیا کہ پانچ تجارتی سسٹمز کا اوسط WER سیاہ فام بولنے والوں کے لیے 35% اور سفید فام بولنے والوں کے لیے 19% تھا۔
- ایک ساتھ بولنا اور ملی جلی زبانیں۔ YouTube اپنے کیپشنز کی ناکامی کی وجوہات میں ایک ساتھ بولتے لوگ، ملی جلی زبانیں اور لمبی خاموشی گنواتا ہے۔
- من گھڑت متن۔ Whisper کا پیپر بتاتا ہے کہ ماڈلز کبھی کبھار ایسا متن بنا دیتے ہیں جس کا آڈیو سے کوئی تعلق نہیں ہوتا۔
زیادہ صاف کیپشنز کیسے پائیں
- مائیکروفون کے قریب ریکارڈ کریں، موسیقی اور ٹریفک سے دور۔
- مختصر یا ملی جلی زبانوں والے کلپس پر خودکار شناخت کے بجائے بولی جانے والی زبان خود چنیں۔
- ایکسپورٹ سے پہلے ٹرانسکرپٹ پڑھیں۔ Captions Cut میں ہر لفظ قابلِ ترمیم ہے: متن یا اس کی ٹائمنگ ٹھیک کرنے کے لیے اس پر ٹیپ کریں۔
ہم نے کیسے چیک کیا
فروشندگان اپنے چنے ہوئے بینچ مارکس پر خود کو پہلے نمبر پر رکھتے ہیں، اس لیے ان کے اعداد ان کے اپنے کے طور پر لکھے گئے ہیں اور فروشندگان کے درمیان ان کا موازنہ نہیں کیا گیا۔ آزاد عدد Artificial Analysis کا ہے۔ 22 اکتوبر 2026 کو پڑھا گیا۔
سوالات
کیا خودکار کیپشنز اتنے درست ہیں کہ بغیر چیک کیے پوسٹ کیے جا سکیں؟
شاذ و نادر۔ 2 سے 5% WER پر بھی مختصر کلپ میں عموماً ایک دو غلطیاں ہوتی ہیں، اکثر کسی نام میں۔ پہلے انہیں پڑھ لیں۔
کن زبانوں کی ٹرانسکرپشن سب سے بہتر ہوتی ہے؟
وسیع پیمانے پر بولی جانے والی زبانیں جن کا ٹریننگ ڈیٹا بہت ہو (انگریزی، ہسپانوی، فرانسیسی، جرمن، جاپانی اور دیگر) سب سے بہتر اسکور کرتی ہیں۔ Captions Cut 53 زبانیں ٹرانسکرائب کرتی ہے؛ کم وسائل والی زبانوں میں زیادہ درستگی کرنی پڑتی ہے۔
ذرائع
- Artificial Analysis: ElevenLabs Scribe v2
- AssemblyAI: بینچ مارکس
- Radford et al. (2022)، Whisper
- ElevenLabs: اسپیچ ٹو ٹیکسٹ
- Watanabe et al. (2020)، CHiME-6
- Koenecke et al. (2020)، PNAS
- YouTube: خودکار کیپشنز
ہر صفحہ کو پڑھا گیا۔