স্বয়ংক্রিয় ক্যাপশন কতটা নির্ভুল?
Captions Cut-এর নির্মাতার লেখা। তথ্য -এ উৎস অংশে তালিকাভুক্ত পেজ থেকে যাচাই করা।
সংক্ষিপ্ত উত্তর
একটি প্রধান ভাষায় স্পষ্ট কথায় আজকের সেরা স্পিচ রিকগনিশন প্রতি 100 শব্দে প্রায় 95 থেকে 98টি ঠিক ধরে (ওয়ার্ড এরর রেট 2 থেকে 5%)। তবুও 45 সেকেন্ডের ক্লিপে কয়েকটি ভুল থেকে যায়, সাধারণত নাম, অপভাষা ও সংখ্যায়। ব্যাকগ্রাউন্ড নয়েজ, দূরের মাইক্রোফোন, একসাথে কথা বলা মানুষ, জোরালো উচ্চারণ এবং কম সম্পদের ভাষায় নির্ভুলতা অনেক কমে যায়, তাই পোস্টের আগে প্রতিটি ক্যাপশন পড়ুন।
ওয়ার্ড এরর রেট, সহজ কথায়
ওয়ার্ড এরর রেট (WER) প্রতি একশ উচ্চারিত শব্দে সিস্টেম কয়টি শব্দ ভুল করে (বদলে ফেলে, বাদ দেয় বা যোগ করে) তা গোনে। 5% WER মানে প্রায় প্রতি বিশ শব্দে একটি ভুল। ছোট ক্লিপে 100 থেকে 150 শব্দ থাকে, তাই চমৎকার সিস্টেমেও সাধারণত কিছু ঠিক করার থেকে যায়।
সিস্টেমগুলো কত স্কোর করে
| বেঞ্চমার্ক | ফলাফল | কে মেপেছে |
|---|---|---|
| Artificial Analysis, প্রায় 8 ঘণ্টার বাস্তব ইংরেজি অডিও | ElevenLabs Scribe v2: 2.2% WER, পরীক্ষা করা মডেলগুলোর মধ্যে প্রায় চতুর্থ | স্বাধীন বেঞ্চমার্ক |
| AssemblyAI-র নিজস্ব ডেটাসেট | এর Universal-3.5 Pro 4.35%; GPT-4o Transcribe 5.34%; Scribe v2 5.87%; Deepgram Nova-3 6.66% | AssemblyAI (একটি ভেন্ডর) |
| LibriSpeech test-clean (পড়ে শোনানো অডিওবুক) | Whisper large-v2: 2.7% WER | OpenAI-এর Whisper পেপার |
| ElevenLabs-এর নিজস্ব ভাষা স্তর | ইংরেজি, ফরাসি, জার্মান, স্প্যানিশ ও জাপানিতে 5% বা কম; উর্দু, ইওরুবা ও জুলুতে 20 থেকে 50% | ElevenLabs (একটি ভেন্ডর) |
কীসে ব্যর্থ হয়
- গোলমাল ও দূরত্ব। CHiME-6 চ্যালেঞ্জে ঘরের এক প্রান্ত থেকে কথা বলা মানুষের রেকর্ডিংয়ে বেসলাইন সিস্টেম প্রায় 51% WER পেয়েছে।
- কে কথা বলছেন। PNAS-এ 2020 সালের একটি গবেষণায় পাঁচটি বাণিজ্যিক সিস্টেমের গড় WER কৃষ্ণাঙ্গ বক্তাদের জন্য 35% এবং শ্বেতাঙ্গ বক্তাদের জন্য 19% পাওয়া গেছে।
- ওভারল্যাপ ও মিশ্র ভাষা। YouTube নিজের ক্যাপশন ব্যর্থ হওয়ার কারণ হিসেবে একসাথে কথা বলা মানুষ, মিশ্র ভাষা ও লম্বা নীরবতা তালিকাভুক্ত করেছে।
- বানানো লেখা। Whisper পেপারে বলা আছে, মডেল কখনও কখনও অডিওর সাথে সম্পর্কহীন টেক্সট দিতে পারে।
আরও পরিষ্কার ক্যাপশন পেতে
- মাইক্রোফোনের কাছ থেকে রেকর্ড করুন, মিউজিক ও ট্রাফিক থেকে দূরে।
- ছোট বা মিশ্র ভাষার ক্লিপে অটো-ডিটেক্টের বদলে কথ্য ভাষা নিজে বেছে নিন।
- এক্সপোর্টের আগে ট্রান্সক্রিপ্ট পড়ুন। Captions Cut-এ প্রতিটি শব্দ এডিট করা যায়: লেখা বা তার টাইমিং ঠিক করতে ট্যাপ করুন।
আমরা কীভাবে যাচাই করেছি
ভেন্ডরেরা নিজেদের বেছে নেওয়া বেঞ্চমার্কে নিজেদের সেরা দেখায়, তাই তাদের সংখ্যা তাদের নিজেদের বলে চিহ্নিত এবং ভেন্ডরদের মধ্যে তুলনা করা হয়নি। স্বাধীন সংখ্যাটি Artificial Analysis-এর। 22 অক্টোবর 2026-এ পড়া।
প্রশ্নোত্তর
স্বয়ংক্রিয় ক্যাপশন কি না দেখেই পোস্ট করার মতো নির্ভুল?
কদাচিৎ। 2 থেকে 5% WER-এও একটি ছোট ক্লিপে সাধারণত একটি-দুটি ভুল থাকে, প্রায়ই কোনো নামে। আগে পড়ে নিন।
কোন ভাষাগুলো সবচেয়ে ভালো ট্রান্সক্রাইব হয়?
প্রচুর ট্রেনিং ডেটা আছে এমন বহুল ব্যবহৃত ভাষা (ইংরেজি, স্প্যানিশ, ফরাসি, জার্মান, জাপানি ও আরও) সবচেয়ে ভালো স্কোর করে। Captions Cut 53টি ভাষা ট্রান্সক্রাইব করে; কম সম্পদের ভাষায় বেশি ঠিক করতে হয়।
উৎস
- Artificial Analysis: ElevenLabs Scribe v2
- AssemblyAI: বেঞ্চমার্ক
- Radford et al. (2022), Whisper
- ElevenLabs: স্পিচ টু টেক্সট
- Watanabe et al. (2020), CHiME-6
- Koenecke et al. (2020), PNAS
- YouTube: স্বয়ংক্রিয় ক্যাপশন
প্রতিটি পেজ -এ পড়া।