ノイズ抑制は本当にSTTの役に立つのか?私たちは測定しました
Krispは46%のWER削減を謳っています。私たちは10の音声強調エンジンを18条件で生の対照と比較しました。プールした単語誤り率で何もしない場合に勝ったものはひとつもありません——ただし18の個別条件のうち11では、少なくともひとつのエンジンがrawに勝ちました。そして挿入は減るどころか増えました。
2026年8月14日更新:本記事の元の版は、この分野が十分に測定されていないと論じ、私たちが構築中のハーネスを説明するものでした。その後ハーネスは2回実行されました。中ほどに置かれていた説明用の例は実際の数字に置き換えられ、その数字はいまや13条件ではなく18条件にわたって再生成されています。絶対値は動きましたが、順位は動かず、本記事のすべての数字は公開済みのbenchmark.jsonから引用しています。
2つのベンダーが、音声強調(speech enhancement)をSTTの誤り率をおよそ半分に削減する手段として売り込んでいます。一方、ある大手STTプロバイダーは顧客にそれをオフにするよう勧めています。音声エージェントを出荷しているなら、どちらかの陣営があなたの精度かお金を奪っているはずです。そして私たちが最初にこれを書いた時点では、それに決着をつける証拠を公開した者は誰もいませんでした。
そこで私たちはハーネスを構築し、実行しました。私たちのデータでの短い答えはこうです。テストした音声強調エンジンのうち、プールした単語誤り率(WER)で生音声(raw)に勝ったものはひとつもなく、加えられた誤りの大半は認識器が言われてもいない単語を発明するものであり、そしてベンダーの主張がきれいに成立する条件の帯域も確かに存在します——18条件中11で、rawに勝つエンジンがありました。 この3つはいずれも見出し以上の扱いに値し、3つ目こそが、この記事が引用されるときに落とされるものです。
すべてが真ではあり得ない主張たち
| 出典 | 公表された主張 | 私たちの読みでは何を測定しているか |
|---|---|---|
| Krisp | 自社のノイズキャンセルによるおよそ46%のWER削減 | ベンダー自身による評価。条件、コーパス、STTエンジンは独立に再現できない |
| ai-coustics | およそ43%のWER削減 | 同じ形の主張で、モデルファミリーとコーパスは別物 |
| Chondhekar et al., arXiv:2512.17562 | 「テストした40構成すべてで、元のノイズ入り音声のほうが強調済み音声より低いsemWERを達成する」、劣化は絶対値で1.1%–46.6% | 独立した学術研究——ただしスコープに注意:MetricGAN+のみ、非ストリーミングの2021年の研究モデル、対象は医療音声、採点は意味的WER。プロダクションのリアルタイム強調器ではない |
| AssemblyAI | 上記の研究を引用し、別途、Krispのノイズキャンセルが音声区間検出(VAD)の誤トリガーを約3.5x削減する一方、その出力をSTTに与えるとWERがほぼ倍になったと報告 | STTベンダーが、自社モデルの前段の前処理としての音声強調を評価したもの |
| Deepgram | 音声強調はSTT精度を損なうという立場を公表 | 表明された立場。付随するデータを私たちは見つけていない |
これらの行を注意深く読むと、対立は見かけより小さいことが分かります。誰ひとり、同じコーパス、同じ音響条件、同じ強調設定、同じ認識器で実行していません。共有された対照が存在しないのです。表のどの数字も、それ自身の実験の内側では擁護可能であり、実験をまたいだ比較には役に立ちません。
それはスキャンダルではありません。ベンチマークを持つ前の分野とは、そういう姿をしているものです。
符号を反転させる5つの隠れ変数
これらはどれも、それ単独で40%の改善を40%の退行に変えるのに十分です。
1. 強調の目的関数はSTTの目的関数ではない。 抑制モデルは信号レベルまたは知覚的なターゲット——SI-SDR、PESQ、STOI——に対して訓練されます。これらは、クリーンな参照に近く、人間の耳に心地よい波形に報酬を与えます。音響モデルが音素を弁別するのに使う特定の手がかりを保存することに報酬を与えるものは、ひとつもありません。モデルは、「six」と「fix」を分けるまさにその摩擦音エネルギーを塗りつぶしながら、PESQを半ポイント改善できます。損失関数は、そんなことを一度も問われていないのです。
2. 認識器は隠れ変数である。 現代のSTTモデルは膨大な量の実環境音声——その多くはノイズ入り——で訓練されています。ノイズはモデルにとって分布内です。ニューラル抑制器のアーティファクト——スペクトルの穴、ミュージカルノイズ、過渡音の塗りつぶし、単語と単語の間の不自然に静かなノイズフロア——は分布内ではありません。乱雑な実音声で訓練された認識器は、クリーンアップの結果よりも元のノイズに対してのほうが頑健であり得ます。
3. 条件は隠れ変数である。 すでにクリーンな音声では、強調は情報を取り除くことしかできず、望みうる最良の結果は同点です。強調の存在意義は低SNRに、つまりノイズが本当に音素手がかりを破壊している場所にあります。クリーンな録音に偏ったベンチマークは強調は有害だと結論し、0 dBのカフェの喧騒に偏ったベンチマークは不可欠だと結論します。どちらも「WERを測定している」のです。
4. 二重処理。 音声があなたのエージェントに届くまでに、それはしばしばハンドセットのノイズ抑制、コーデック、プラットフォームレベルのキャンセラーを通過しています。その上にもうひとつ抑制器を重ねるのは、1回の強調パスではなく、誰も特性評価したことのないカスケードです。これはテレフォニー経路でとりわけ顕著で、音声AIが実際に壊れるのは8 kHzの世界で扱っています。
5. 集計。 コーパス全体のWERは、その中の最も難しいファイルに支配されます。条件間で平均された単一のスカラーは、ある条件での大きな勝ちと別の条件での同じだけ大きな負けを隠したまま、平坦であり得ます。
集計WERはメカニズムを隠す
WERは(S + D + I) / N——置換と削除と挿入の和を参照トークン数で割ったもの——です。3つの異なる失敗メカニズムを運ぶひとつの数字であり、音声エージェントにとって、それらのメカニズムの悪さは同等ではありません。
過剰に攻撃的な抑制には特徴的な署名があります。置換よりも削除に傾き、最初に削除されるのは短く強勢のない機能語——「a」「the」「of」「to」「not」——です。エネルギーが低く持続時間が短いうえ、音声存在確率を軸に作られたゲーティングの判断が、それらをノイズとして扱うからです。
未処理のノイズは別の署名を持ちます。音素がマスクされた場所での置換と、背景の話し声や過渡ノイズが単語としてデコードされる挿入です。アテンションベースのモデルは、喧騒から流暢なテキストを幻覚することに特に積極的です。
つまり2つのシステムが同一のWERを記録しながら、まったく異なる問題を抱えていることがあり得ます。誤りが背景の雑談の挿入であるパイプラインは、煩わしくともたいてい生き残れます。下流のLLMが支離滅裂な断片を捨てるからです。誤りが機能語の削除であるパイプラインは危険です。「I do not want to renew」から「not」を落とせば、流暢で自信に満ちた、意味の反転した文ができあがり、LLMはそれに基づいて行動します。これこそ私たちがすべてのセルで挿入・削除・置換を別々に記録する理由であり、WERのみの主張——誰のものであれ、私たち自身のものを含めて——が行動の根拠として十分な情報ではない理由です。
私たちが測定したもの
出どころを先に述べます。これらの数字の価値は、その手法の価値と正確に等しいからです。単一の認識器、faster-whisper base.en(CTranslate2 int8 CPU、グリーディ)、Silero VAD、話者10人/180クリップ/約1406秒の音声、条件あたり約190参照語・合計3420語、18の音響条件、12バックエンド、Apple M1 Max、onnxruntime 1.28.0をintra-opスレッド1本に固定。18条件すべてをプールした結果は以下のとおりです。
| バックエンド | WER | 挿入 | 削除 | RTF | レイテンシ |
|---|---|---|---|---|---|
| Raw(処理なし) | 14.77% | 101 | 60 | — | 0 ms |
| ai-coustics Quail L | 15.56% | 126 | 57 | 0.124 | 30 ms |
| ai-coustics Quail VF 2.2 L | 18.10% | 161 | 75 | 0.076 | 30 ms |
| GTCRN (MIT) | 20.26% | 210 | 40 | 0.050 | 16 ms |
| FastEnhancer-L (MIT) | 20.44% | 159 | 107 | 0.376 | 25.8 ms |
| FastEnhancer-M (MIT) | 22.40% | 217 | 83 | 0.110 | 22 ms |
| FastEnhancer-T (MIT) | 22.46% | 145 | 109 | 0.013 | 16 ms |
| DeepFilterNet3 | 35.18% | 380 | 197 | 0.133 | 100 ms |
プールしたWERでrawに勝った強調器はありません。 どのエンジンの最良結果も、ai-coustics Quail Lの15.6%対rawの14.8%——それでも0.8ポイント悪く、このサンプルサイズでは同点です。それ以外はすべて5ポイント以上悪く、そちらは同点ではありません。
挿入は減るのではなく、増えました。 rawは101件でした。GTCRNは210件、DeepFilterNet3は380件を生みました。これは立ち止まって考える価値があります。マーケティングの主張の正反対だからです。挿入とは潰れた単語のことではありません。誰も言っていない単語を認識器が出力することです。業界の物語は、強調が幻覚テキストの原因となるノイズを取り除く、というものです。私たちのデータでは、強調が幻覚テキストを生み出しました——未処理の対照に対して、GTCRNでおよそ2倍、DFN3では4倍近くです。私たちの読みはこうです。抑制器の残滓——ミュージカルノイズと、唐突にゲートされた無音——のほうが、取り除かれたノイズよりも「音声としてデコード可能」なのです。
とりわけGTCRNの行に注目してください。挿入210件に対して削除はわずか40件、rawは101件と60件です。このモデルはあなたの機能語を削除していません。単語を足しているのです。これらは正反対の失敗モードであり、単一のWERの数字は、あなたがどちらを買ったのかを覆い隠します。
ベンダーの主張が実際に成立する場所
プールした数字で止まってしまえば、私たちはベンダーを非難しているまさにそのことを自分でやることになります。18条件中11で、少なくともひとつのエンジンがrawに勝ちました。 その差は現実的で大きく、予測どおりの場所に着地します。認識器が自力で十分に対処できていた場所ではなく、ノイズや競合する声が本当に音素手がかりを破壊している場所です。
最も明瞭なのは話者分離(speaker isolation)です。ai-coustics Quail VFはVoice Focusモデルで、その仕事は主要話者を分離して他の声を退けることです。5 dBの競合話者条件では挿入を19件から10件に、WERを26.3%から20.5%に削減しました。5 dBの喧騒条件ではWERを24.7%から20.5%に削減し、挿入は10件から7件に減りました。これらは私たちの行列の中でどの強調器が記録したものより強い結果であり、狭く、よく狙いを定めた用途を正当化します。あなたの失敗モードが部屋の中の第二の人間の声なら、Voice Focusモデルは正しい道具であり、私たちのデータはそう言っています。
低SNRの広帯域ノイズも同じ形を示します。0 dBでは10エンジン中8つがrawに勝ち、最良は4.7ポイント差でした。一般的なパターン、そしてこの記事から持ち帰るべき一文はこうです。強調は音声が本当に悪い場所で割に合い、そうでない場所ではコストになります。
勝者のいない7条件はその鏡像であり、同じくらい読み取りやすいものです。残響のある2条件ではすべてのエンジンが事態を悪化させ、テレフォニーのキャリア5条件では、5つのうち4つで、エンジンが達成できた最良は何もしない場合との正確な同点でした。
そのどれひとつとして正当化しないのが、一般的な主張です。Quail VFは18条件をプールすると18.1%に着地し、何もしない場合より3ポイント以上悪くなります。クリーンな音声、残響音声、狭帯域音声の上でも動作し、そこでは情報を取り除くことしかできないからです。設計上の条件では5〜6ポイント勝ち、残りで負けるモデルは、前処理のデフォルトではありません。それはルーティングの判断であり、それこそが分割パイプラインの議論の全体です。
ただし書き、全文
これらは上のすべての数字に添えられるべきものです。
- 単一の認識器。 faster-whisper base.en。別の認識器なら別の絶対値になります。ハーネスはDeepgramとAssemblyAIをサポートしているので、順位は別のエンジンで再確認可能であり、誰かにそれをやってほしいと私たちは思っています。
- 条件あたり約190参照語、プールで3420語。大きな効果を分離するには十分ですが、WERの1〜2ポイントを解像するには足りません。1語は条件あたり約0.5ポイント、プールでは0.03に相当します。raw対Quail Lの差は同点として扱ってください。その下にある5〜20ポイントの差は同点ではありません。
- DeepFilterNet3はブロックオンラインのアダプタ経由で測定しています。 公開されているONNXエクスポートはどれも再帰状態テンソルを持たず、公開済みの重みではフレーム単位のストリーミングが不可能だからです。同モデルの35.2%は品質の下限でありコストの上限であって、モデルの公正な読みではありません。この一文を添えずにこの数字を引用しないでください。
- ai-cousticsの行はプロプライエタリなベースラインで、ライセンス供与されたSDK経由で実行しています。参照点であって、私たちの出荷コードパスでは決してありません。
- ライセンス。 ESC-50のノイズはCC-BY-NC-3.0なので、該当条件は評価専用です。LibriSpeechはCC-BY-4.0で、喧騒条件と競合話者条件はLibriSpeechのみから構築されているため、NC制約はかかりません。
- onnxruntimeはintra-opスレッド1本に固定。 RTF列は1コア上の1ストリームであり、マシン全体へのファンアウトではありません。
まだ分かっていないこと
- STTベンダーのいずれかが強調済み音声で訓練しているかどうか。 認識器が訓練中に抑制器のアーティファクトを見ていれば、それに対する感度はまったく別物になります。そして、それらの訓練セットの中身は私たちの誰にも見えません。
- 公表されたベンダーの主張で、強調モデルがどう設定されていたか。 攻撃性はたいてい調整可能で、同じモデルでも2つの設定でゼロの反対側に着地し得ます。
- このうちどれだけがストリーミングSTTに転移するか。 私たちの強調はブロックごとに駆動され、状態はブロック間で引き継がれますが、認識器は完全な発話で採点されています。部分結果の安定性と確定までのレイテンシは別の測定です。
- これが英語の外で、またはより大きなコーパスで成立するかどうか。 必ずしも成立しません。マニフェストとハーネスは公開されているので、これは議論するのではなく誰かが答えられる問いです。
この結果をどうするか
2つのことが帰結します。そのどちらも「強調は無用だ」ではありません。
ひとつはアーキテクチャ上のものです。同じ実行でVADも測定しており、そこでは絵が反転します。強調はVADのF1をほとんど動かさない一方で、誤ったバージイン(barge-in)を引き起こすまさにその条件で、誤警報率を大幅に削減します。これは、強調済み音声をターン検出器に、生音声を認識器に送る、実測に裏づけられた現実の理由であり、私たちのSDKがデフォルトでそうしている理由です——数字と論拠は分割パイプラインにあります。
もうひとつは、私たちの製品が向かった先です。狭帯域条件では、意味のある改善を生んだ強調器はひとつもなく、いくつかは大きく劣化しました——FastEnhancer-Tは6.8ポイント、DeepFilterNet3は9.5ポイント——そして通話量はそこにあります。それがClearlineであり、私たちが売っているものです。正直のための注記を2つ添えます。私たちのテレフォニー条件はクリーンな音声に対するG.711の往復であり、エコー、パケット損失、ハンドセットの音響は含まれていません。また、ネイティブに8 kHzのエンジンはまだひとつもベンチマークされておらず、それには私たちのものも含まれます。つまりこれは既存の分野についての否定的な結果であって、私たちについての肯定的な結果ではありません。ベンチマークは製品ではありません——ベンチマークには買い手もリテンションもありません。それは、何を作るべきかを私たちが知る方法であり、私たちが嘘をついていないかをあなたが確かめる方法です。
私たちが負けるセルを含むすべてのセルは/benchmarkにあります。ハーネス、データセットのマニフェスト、設定はgithub.com/anechoにあり、手法は私たちが出荷したもの:音声強調のオープンベンチマークで説明しています。条件、エンジン、認識器の追加を望むなら、issueを開いてください。