Hilft Rauschunterdrückung Speech-to-Text wirklich? Wir haben es gemessen.
Krisp bewirbt eine WER-Reduktion von 46%. Wir haben zehn Engines zur Sprachverbesserung über achtzehn Bedingungen gegen eine rohe Kontrolle laufen lassen. Keine schlug das Nichtstun bei der gepoolten Wortfehlerrate — wobei in 11 der 18 Einzelbedingungen mindestens eine Engine das rohe Signal schlug — und die Einfügungen stiegen, statt zu sinken.
Aktualisiert am 14. August 2026. Die ursprüngliche Version dieses Beitrags argumentierte, das Feld sei untervermessen, und beschrieb den Harness, den wir gerade bauten. Der Harness ist inzwischen zweimal gelaufen: Das illustrative Beispiel, das früher in der Mitte stand, wurde durch echte Zahlen ersetzt, und diese Zahlen sind jetzt über achtzehn statt dreizehn Bedingungen neu generiert worden. Die Absolutwerte haben sich bewegt, die Reihenfolge nicht, und jede Zahl hier ist aus der veröffentlichten benchmark.json zitiert.
Zwei Anbieter vermarkten Sprachverbesserung (speech enhancement) als Mittel, die Fehlerraten von Speech-to-Text ungefähr zu halbieren. Ein großer STT-Anbieter rät seinen Kunden, sie abzuschalten. Wenn Sie einen Voice Agent ausliefern, kostet Sie eines dieser beiden Lager Genauigkeit oder Geld — und als wir dies zum ersten Mal schrieben, hatte niemand die Evidenz veröffentlicht, die die Frage entscheidet.
Also haben wir den Harness gebaut und ihn laufen lassen. Die kurze Antwort, auf unseren Daten: Keine getestete Engine zur Sprachverbesserung schlug rohes Audio bei der gepoolten Wortfehlerrate (WER), die hinzugekommenen Fehler bestanden überwiegend darin, dass der Recognizer Wörter erfand, die nie gesagt wurden, und es gibt ein substanzielles Band von Bedingungen, in denen die Anbieter-Behauptung sauber trägt — in 11 unserer 18 schlug eine Engine das rohe Signal. Alle drei Punkte verdienen mehr als eine Schlagzeile, und der dritte ist der, der unter den Tisch fällt, wenn dieser Beitrag zitiert wird.
Die Behauptungen, die nicht alle wahr sein können
| Quelle | Behauptung, wie veröffentlicht | Was sie unserer Lesart nach misst |
|---|---|---|
| Krisp | rund 46% WER-Reduktion durch seine Rauschunterdrückung | anbietereigene Evaluation; Bedingungen, Korpus und STT-Engine nicht unabhängig reproduzierbar |
| ai-coustics | rund 43% WER-Reduktion | dieselbe Form von Behauptung, andere Modellfamilie und anderer Korpus |
| Chondhekar et al., arXiv:2512.17562 | "Original noisy audio achieves lower semWER than enhanced audio in all 40 tested configurations", mit Verschlechterungen von 1.1%–46.6% absolut | unabhängige akademische Arbeit — aber man beachte den Geltungsbereich: nur MetricGAN+, ein nicht-streamendes Forschungsmodell von 2021, auf medizinischer Sprache, bewertet in semantischer WER. Kein produktiver Echtzeit-Enhancer. |
| AssemblyAI | zitierte die obige Studie und berichtete separat, Krisps Rauschunterdrückung senke Fehlauslösungen der Sprachaktivitätserkennung (VAD) um ~3.5x, verdopple aber ungefähr die WER, wenn ihre Ausgabe an STT gefüttert wird | ein STT-Anbieter, der Sprachverbesserung als Vorverarbeitungsschritt vor seinen eigenen Modellen bewertet |
| Deepgram | veröffentlichte die Position, Sprachverbesserung schade der STT-Genauigkeit | eine erklärte Position; begleitende Daten haben wir nicht gefunden |
Liest man diese Zeilen genau, ist der Widerspruch kleiner, als er aussieht. Niemand fährt denselben Korpus, dieselben akustischen Bedingungen, dieselbe Enhancement-Konfiguration oder denselben Recognizer. Es gibt keine gemeinsame Kontrolle. Jede Zahl in dieser Tabelle ist innerhalb ihres eigenen Experiments verteidigbar und für Vergleiche darüber hinaus nutzlos.
Das ist kein Skandal. So sieht ein Feld aus, bevor es einen Benchmark hat.
Fünf versteckte Variablen, die das Vorzeichen kippen
Jede davon reicht für sich allein, um aus einer Verbesserung um 40% eine Verschlechterung um 40% zu machen.
1. Das Enhancement-Ziel ist nicht das STT-Ziel. Unterdrückungsmodelle werden gegen Signal- oder Wahrnehmungsziele trainiert: SI-SDR, PESQ, STOI. Die belohnen eine Wellenform, die nah an einer sauberen Referenz liegt und für ein menschliches Ohr angenehm ist. Keines davon belohnt den Erhalt genau jener Hinweise, mit denen ein akustisches Modell Phoneme unterscheidet. Ein Modell kann PESQ um einen halben Punkt verbessern und dabei exakt die Frikativ-Energie verschmieren, die „six“ von „fix“ trennt. Die Verlustfunktion wurde danach nie gefragt.
2. Der Recognizer ist eine versteckte Variable. Moderne STT-Modelle sind auf enormen Mengen realen Audios trainiert, vieles davon verrauscht. Rauschen liegt für sie innerhalb der Verteilung. Die Artefakte eines neuronalen Unterdrückers — spektrale Löcher, Musical Noise, verschmierte Transienten, ein unnatürlich stiller Rauschteppich zwischen den Wörtern — tun es nicht. Ein Recognizer, der auf unordentlichem realem Audio trainiert wurde, kann gegenüber dem ursprünglichen Rauschen robuster sein als gegenüber der Aufräumaktion.
3. Die Bedingung ist eine versteckte Variable. Auf ohnehin sauberem Audio kann Enhancement nur Information entfernen; das bestmögliche Ergebnis ist ein Unentschieden. Das Argument für Enhancement lebt bei niedrigem SNR, wo Rauschen phonetische Hinweise tatsächlich zerstört. Ein Benchmark mit Schlagseite zu sauberen Aufnahmen wird folgern, Enhancement sei schädlich; einer mit Schlagseite zu Café-Stimmengewirr bei 0 dB wird folgern, es sei unverzichtbar. Beide „messen WER“.
4. Doppelte Verarbeitung. Bis das Audio Ihren Agenten erreicht, ist es oft schon durch einen Rauschunterdrücker im Endgerät, einen Codec und einen Canceller auf Plattformebene gelaufen. Ein weiterer Unterdrücker obendrauf ist nicht ein Enhancement-Durchlauf, sondern eine Kaskade, die niemand charakterisiert hat. Das gilt besonders auf Telefonie-Pfaden, behandelt in 8 kHz ist die Stelle, an der Voice AI wirklich bricht.
5. Aggregation. Die WER über einen Korpus wird von seinen härtesten Dateien dominiert. Ein einzelner, über Bedingungen gemittelter Skalar kann flach sein und dabei einen großen Gewinn in einer Bedingung und einen ebenso großen Verlust in einer anderen verbergen.
Die aggregierte WER verbirgt den Mechanismus
WER ist (S + D + I) / N — Substitutionen plus Auslassungen plus Einfügungen, über die Referenz-Token. Es ist eine Zahl, die drei verschiedene Fehlermechanismen trägt, und für einen Voice Agent sind diese Mechanismen nicht gleich schlimm.
Überaggressive Unterdrückung hat eine charakteristische Signatur. Sie neigt dazu, zu löschen statt zu ersetzen, und was sie zuerst löscht, sind kurze unbetonte Funktionswörter — „a“, „the“, „of“, „to“, „not“ —, weil sie wenig Energie und kurze Dauer tragen und weil Gating-Entscheidungen, die um eine Sprachpräsenz-Wahrscheinlichkeit herum gebaut sind, sie als Rauschen behandeln.
Unbehandeltes Rauschen hat eine andere Signatur: Substitutionen, wo ein Phonem maskiert wird, und Einfügungen, wo Hintergrundsprache oder transientes Rauschen als Wörter decodiert wird. Attention-basierte Modelle sind besonders bereit, aus Stimmengewirr flüssigen Text zu halluzinieren.
Zwei Systeme können also identische WER ausweisen und in völlig verschiedenen Schwierigkeiten stecken. Eine Pipeline, deren Fehler Einfügungen von Hintergrundgeplauder sind, ist lästig, aber oft überlebbar, weil ein nachgelagertes LLM das inkohärente Fragment verwirft. Eine Pipeline, deren Fehler Auslassungen von Funktionswörtern sind, ist gefährlich, weil das Weglassen von „not“ in „I do not want to renew“ einen flüssigen, selbstbewussten, invertierten Satz erzeugt, auf den das LLM handeln wird. Darum erfassen wir Einfügungen, Auslassungen und Substitutionen in jeder Zelle getrennt, und darum ist eine reine WER-Behauptung — von irgendwem, uns eingeschlossen — nicht genug Information, um danach zu handeln.
Was wir gemessen haben
Zuerst die Provenienz, denn diese Zahlen sind exakt so viel wert wie die Methode. Ein einzelner Recognizer, faster-whisper base.en (CTranslate2 int8 CPU, greedy), Silero VAD, 10 Sprecher / 180 Clips / rund 1406 Sekunden Audio, etwa 190 Referenzwörter pro Bedingung und 3420 insgesamt, 18 akustische Bedingungen, 12 Backends, Apple M1 Max, onnxruntime 1.28.0 festgenagelt auf einen Intra-Op-Thread. Gepoolt über alle 18 Bedingungen:
| Backend | WER | Einfügungen | Auslassungen | RTF | Latenz |
|---|---|---|---|---|---|
| Roh (keine Verarbeitung) | 14.77% | 101 | 60 | — | 0 ms |
| ai-coustics Quail L | 15.56% | 126 | 57 | 0.124 | 30 ms |
| ai-coustics Quail VF 2.2 L | 18.10% | 161 | 75 | 0.076 | 30 ms |
| GTCRN (MIT) | 20.26% | 210 | 40 | 0.050 | 16 ms |
| FastEnhancer-L (MIT) | 20.44% | 159 | 107 | 0.376 | 25.8 ms |
| FastEnhancer-M (MIT) | 22.40% | 217 | 83 | 0.110 | 22 ms |
| FastEnhancer-T (MIT) | 22.46% | 145 | 109 | 0.013 | 16 ms |
| DeepFilterNet3 | 35.18% | 380 | 197 | 0.133 | 100 ms |
Kein Enhancer schlug roh bei der gepoolten WER. Das beste Ergebnis irgendeiner Engine war ai-coustics Quail L mit 15.6% gegen 14.8% für roh — immer noch schlechter, um acht Zehntelpunkte, was bei dieser Stichprobengröße ein Unentschieden ist. Alles andere war um fünf Punkte oder mehr schlechter, und das sind keine Unentschieden.
Die Einfügungen stiegen, statt zu sinken. Roh produzierte 101. GTCRN produzierte 210. DeepFilterNet3 produzierte 380. Dabei lohnt es sich zu verweilen, denn es ist das exakte Gegenteil der Marketing-Behauptung. Eine Einfügung ist kein verstümmeltes Wort; sie ist der Recognizer, der ein Wort ausgibt, das niemand gesagt hat. Die Branchenerzählung lautet, Enhancement entferne das Rauschen, das halluzinierten Text verursacht. Auf unseren Daten hat Enhancement halluzinierten Text produziert — ungefähr doppelt so viel davon bei GTCRN, knapp viermal so viel bei DFN3, gegenüber einer unverarbeiteten Kontrolle. Unsere Lesart: Der Rückstand des Unterdrückers, das Musical Noise und die abrupt gegateten Stillen, ist eher als Sprache decodierbar als das Rauschen, das er entfernt hat.
Beachten Sie insbesondere die GTCRN-Zeile: 210 Einfügungen, aber nur 40 Auslassungen, gegen 101 und 60 bei roh. Es löscht nicht Ihre Funktionswörter. Es fügt Wörter hinzu. Das sind entgegengesetzte Fehlermodi, und eine einzelne WER-Zahl verschweigt, welchen davon Sie sich eingekauft haben.
Wo die Anbieter-Behauptung trägt
Wir täten genau das, was wir den Anbietern vorwerfen, wenn wir bei der gepoolten Zahl stehen blieben. In 11 unserer 18 Bedingungen schlug mindestens eine Engine das rohe Signal. Die Abstände sind real und erheblich, und sie landen dort, wo man es vorhersagen würde: wo Rauschen oder eine konkurrierende Stimme phonetische Hinweise tatsächlich zerstört, nicht dort, wo der Recognizer allein gut zurechtkam.
Am klarsten ist die Sprecherisolation (speaker isolation). ai-coustics Quail VF ist ein Voice-Focus-Modell — seine Aufgabe ist es, den Primärsprecher zu isolieren und andere Stimmen abzuweisen. Bei konkurrierendem Sprecher mit 5 dB senkte es die Einfügungen von 19 auf 10 und die WER von 26.3% auf 20.5%. Bei Stimmengewirr mit 5 dB senkte es die WER von 24.7% auf 20.5%, mit Einfügungen runter von 10 auf 7. Das sind die stärksten Ergebnisse, die irgendein Enhancer in unserer Matrix erzielt hat, und sie rechtfertigen einen engen, gut gezielten Einsatz. Wenn Ihr Fehlermodus eine zweite menschliche Stimme im Raum ist, ist ein Voice-Focus-Modell das richtige Werkzeug, und unsere Daten sagen das.
Breitbandrauschen bei niedrigem SNR zeigt dieselbe Gestalt: Bei 0 dB schlugen acht der zehn Engines das rohe Signal, die beste um 4.7 Punkte. Das allgemeine Muster, und der eine Satz, den Sie aus diesem Beitrag mitnehmen sollten: Enhancement zahlt sich aus, wo das Audio wirklich schlecht ist, und kostet Sie, wo es das nicht ist.
Die sieben Bedingungen ohne Gewinner sind das Spiegelbild und ebenso gut lesbar: die beiden halligen, in denen jede Engine die Lage verschlechterte, und die fünf Telefonie-Carrier-Bedingungen, in denen in vier von fünf das Beste, was eine Engine erreicht, ein exaktes Unentschieden mit dem Nichtstun ist.
Was all das nicht rechtfertigt, ist die allgemeine Behauptung. Quail VF landet gepoolt über achtzehn Bedingungen bei 18.1%, mehr als drei Punkte schlechter als Nichtstun, weil es eben auch auf sauberem, halligem und schmalbandigem Audio läuft, wo es nur Information entfernen kann. Ein Modell, das seine Design-Bedingungen um fünf oder sechs Punkte gewinnt und den Rest verliert, ist kein Vorverarbeitungs-Default. Es ist eine Routing-Entscheidung — und das ist das gesamte Argument von Die geteilte Pipeline.
Vorbehalte, vollständig
Diese gehören an jede Zahl oben angeheftet.
- Ein einzelner Recognizer. faster-whisper base.en. Ein anderer Recognizer liefert andere Absolutwerte. Der Harness unterstützt Deepgram und AssemblyAI, die Reihenfolge lässt sich also auf einer anderen Engine nachprüfen, und wir hätten gern, dass das jemand tut.
- Etwa 190 Referenzwörter pro Bedingung, 3420 gepoolt. Genug, um große Effekte zu trennen, nicht genug, um ein oder zwei WER-Punkte aufzulösen: Ein Wort ist pro Bedingung rund 0.5 Punkte wert, gepoolt 0.03. Behandeln Sie den Abstand zwischen roh und Quail L als Unentschieden; die Abstände von fünf bis zwanzig Punkten darunter sind keine.
- DeepFilterNet3 wird durch einen Block-Online-Adapter gemessen, weil kein öffentlicher ONNX-Export rekurrente Zustandstensoren mitführt, was Streaming pro Frame mit den veröffentlichten Gewichten unmöglich macht. Seine 35.2% sind eine Untergrenze der Qualität und eine Obergrenze der Kosten, keine faire Lesart des Modells. Zitieren Sie diese Zahl nicht ohne diesen Satz.
- Die ai-coustics-Zeilen sind eine proprietäre Baseline, gefahren über das lizenzierte SDK. Ein Referenzpunkt, nie ein produktiver Codepfad für uns.
- Lizenzierung. Das ESC-50-Rauschen ist CC-BY-NC-3.0, diese Bedingungen sind also nur für Evaluation. LibriSpeech ist CC-BY-4.0, und die Bedingungen mit Stimmengewirr und konkurrierendem Sprecher sind allein aus LibriSpeech gebaut, tragen also keine NC-Einschränkung.
- onnxruntime festgenagelt auf einen Intra-Op-Thread. Die RTF-Spalte ist ein Stream auf einem Kern, kein Fan-out über die ganze Maschine.
Was wir noch nicht wissen
- Ob irgendein STT-Anbieter auf enhanced Audio trainiert. Hat ein Recognizer Unterdrücker-Artefakte im Training gesehen, ist seine Empfindlichkeit dafür eine völlig andere, und niemand von uns kann in diese Trainingsdaten hineinsehen.
- Wie die Enhancement-Modelle in den veröffentlichten Anbieter-Behauptungen konfiguriert waren. Die Aggressivität ist üblicherweise einstellbar, und dasselbe Modell kann mit zwei Einstellungen auf entgegengesetzten Seiten der Null landen.
- Wie viel davon auf Streaming-STT übertragbar ist. Unser Enhancement läuft Block für Block mit über die Blöcke getragenem Zustand, aber der Recognizer wird auf vollständigen Äußerungen bewertet. Partial-Stabilität und Latenz bis zum finalen Ergebnis sind eine eigene Messung.
- Ob das außerhalb des Englischen gilt, oder auf einem größeren Korpus. Nicht notwendigerweise. Manifest und Harness sind öffentlich, damit das eine Frage ist, die jemand beantworten kann, statt über sie zu debattieren.
Was wir mit dem Ergebnis machen
Zwei Dinge folgen daraus, und keines davon ist „Enhancement ist nutzlos“.
Das erste ist architektonisch. Derselbe Lauf hat die VAD gemessen, und dort kehrt sich das Bild um: Enhancement bewegt den VAD-F1 kaum, senkt aber die Fehlalarmrate deutlich — genau in den Bedingungen, die unechte Barge-ins verursachen. Das ist ein realer, gemessener Grund, enhanced Audio an Ihren Turn-Detektor zu schicken und rohes Audio an Ihren Recognizer, und genau das tut unser SDK per Default — die Zahlen und die Begründung stehen in Die geteilte Pipeline.
Das zweite ist die Richtung, die unser Produkt genommen hat. Auf den Schmalbandbedingungen brachte kein Enhancer eine nennenswerte Verbesserung, und mehrere degradierten schwer — FastEnhancer-T um 6.8 Punkte und DeepFilterNet3 um 9.5 —, und genau dort liegt das Anrufvolumen. Das ist Clearline, und das ist das, was wir verkaufen. Zwei Ehrlichkeitsnotizen dazu: Unsere Telefonie-Bedingungen sind ein G.711-Round-Trip über saubere Sprache, ohne Echo, Paketverlust oder Endgeräteakustik, und keine nativ bei 8 kHz laufende Engine wurde bislang gebenchmarkt, unsere eingeschlossen. Dies ist also ein negatives Ergebnis über das bestehende Feld, kein positives Ergebnis über uns. Der Benchmark ist nicht das Produkt — ein Benchmark hat keinen Käufer und keine Retention. Er ist, wie wir wissen, was zu bauen ist, und wie Sie prüfen, ob wir lügen.
Jede Zelle, einschließlich derer, die wir verlieren, steht unter /benchmark. Harness, Dataset-Manifest und Configs liegen unter github.com/anecho, und die Methode ist beschrieben in Was wir ausgeliefert haben: ein offener Benchmark für Sprachverbesserung. Wenn Sie eine Bedingung, eine Engine oder einen Recognizer ergänzt haben wollen, öffnen Sie ein Issue.