Dither beim Export auf 16 Bit: Verzerrung, Rauschmodulation und Noise Shaping gemessen

FL Studio rechnet im Mixer mit 32-Bit-Gleitkommazahlen. Beim Export in eine 16-Bit-Datei muss jeder Abtastwert auf eine von 65.536 Stufen fallen. Eine Stufe, das LSB, entspricht 1/32.768 des Vollausschlags oder −90,3 dBFS. Je leiser das Signal, desto größer ist der Rundungsfehler im Verhältnis dazu: Bei einem Sinus mit −60 dBFS lag er 38 dB unter dem Ton, bei −96 dBFS darüber. Das Handbuch von FL Studio beschreibt Dither als Mittel, die Vorhersagbarkeit dieser Rundungsfehler aufzubrechen, und wendet es nur beim Export in 16-Bit-WAV und MP3 an.

Die Messung wandelt Testsignale mit ffmpeg von 32 Bit Gleitkomma auf 16 Bit: ohne Dither, mit rechteckig verteiltem Dither (RPDF), mit dreieckig verteiltem Dither (TPDF), mit hochpassgefiltertem TPDF und mit drei Verfahren mit Noise Shaping. Die Theorie dazu hat Robert A. Wannamaker 1997 in seiner Dissertation zusammengefasst: Ohne Dither kann die Rundung hörbare Verzerrung und Rauschmodulation erzeugen; RPDF-Dither macht den mittleren Fehler vom Signal unabhängig, TPDF-Dither zusätzlich seine Leistung. Pegel und Spitzen des Masters behandeln die Messungen True Peak nach dem Encoding und Clipper oder Limiter vor dem Export; diese Messung betrifft den letzten Schritt, die Wortbreite.

So wurde gemessen

• Umwandlung: ffmpeg 7.1.5 mit dem Filter aresample und den Optionen osf=s16 und dither_method, Eingang ein 32-Bit-Gleitkomma-WAV mit 44,1 kHz, Ausgang 16-Bit-PCM, danach zurückgelesen. Der Standardwert von dither_method ist 0, also kein Dither.
• Routinen: ffmpeg lief mit der Option -cpuflags 0 und damit ohne die für den Prozessor optimierten Routinen. Auf dem ARM-Rechner der Messung verschoben diese Routinen RPDF und TPDF um ein halbes LSB, mehr dazu unter Einordnung und Grenzen.
• Treppe aus Gleichwerten: 41 konstante Eingangswerte von 0 bis 2 LSB in Schritten von 0,05 LSB, je eine Sekunde lang. Für jede Stufe wurden über die mittleren 0,8 Sekunden der mittlere Fehler (Ausgabe minus Eingang) und die Streuung der Ausgabe als Standardabweichung berechnet. Hängt der mittlere Fehler vom Eingang ab, verzerrt die Umwandlung; hängt die Streuung davon ab, schwankt das Rauschen mit dem Signal.
• Sinus: 1 kHz mit einem Spitzenpegel von −60 und −96 dBFS, zehn Sekunden lang, ausgewertet im Spektrum der mittleren acht Sekunden: der Grundton gegen seinen Sollwert, alle übrigen Anteile zwischen 20 Hz und 20 kHz und die Oberwellen 2 bis 19 gegen das Rauschen in ihrer Umgebung. Zum Vergleich lief dieselbe Auswertung an Frequenzen genau zwischen den Oberwellen.
• Stille: zehn Sekunden digitale Null. Das Rauschen ist als Effektivwert bezogen auf den Vollausschlag angegeben, gesamt und in fünf Frequenzbändern.
• Zweimal gedithert: Die geditherte Stille wurde verlustfrei als 32 Bit Gleitkomma gespeichert und mit demselben Verfahren ein zweites Mal auf 16 Bit gebracht.

Ohne Dither: Der Fehler hängt vom Signal ab

Ohne Dither rundet die Umwandlung jeden Wert auf die nächste Stufe. Der mittlere Fehler folgte dem Eingang deshalb wie ein Sägezahn zwischen −0,5 und +0,5 LSB, und die Streuung blieb bei null. Derselbe Eingang ergab immer dieselbe Ausgabe; der Fehler ist eine feste Funktion des Signals, und digitale Stille blieb digitale Null.

Am Sinus zeigt sich, was das für leise Stellen bedeutet. Bei −60 dBFS lagen alle übrigen Anteile zusammen 38,3 dB unter dem Grundton. Weil sich das Muster aus Ton und Rundung regelmäßig wiederholt, bildeten sie einzelne Linien statt gleichmäßigen Rauschens; die stärkste lag bei 17,5 kHz, 51,7 dB unter dem Grundton. Bei −96 dBFS reicht der Sinus nur knapp über eine halbe Stufe, und von ihm blieben kurze Pulse übrig: Der Grundton verlor 3,7 dB, die dritte Oberwelle bei 3 kHz lag nur 0,9 dB unter ihm, die fünfte 2,7 dB, und die übrigen Anteile hatten zusammen 2,9 dB mehr Leistung als der Grundton.

RPDF und TPDF: Verzerrung beseitigt, gleichmäßiges Rauschen nur mit TPDF

Mit RPDF-Dither lag der mittlere Fehler bei jedem Eingangswert höchstens 0,004 LSB neben null: Die Verzerrung war verschwunden. Die Streuung aber folgte dem Eingang, von null bei ganzzahligen Werten bis 0,5 LSB genau zwischen zwei Stufen. Das Rauschen schwankt damit mit dem Signal, und digitale Stille blieb ganz ohne Rauschen. Das entspricht der Theorie: Rechteckig verteilter Dither macht nur den Mittelwert des Fehlers vom Signal unabhängig, nicht seine Leistung.

Mit TPDF-Dither lag die Streuung bei jedem Eingangswert zwischen 0,49 und 0,50 LSB. Nach Wannamaker erhöht dreieckig verteilter Dither die Fehlerleistung von allen Dither-Arten, die im Signal verbleiben und Verzerrung wie Rauschmodulation beseitigen, am wenigsten: auf ein Viertel des Quadrats einer Stufe, als Effektivwert 0,5 LSB oder −96,3 dBFS. In der Stille wurden 0,50 LSB und −96,4 dBFS gemessen, gleichmäßig über alle Frequenzen verteilt. Die hochpassgefilterte Variante rauschte insgesamt fast gleich stark, unter 4 kHz aber 5,3 dB leiser.

Am Sinus hob sich bei keinem Dither-Verfahren eine Oberwelle aus dem Rauschen ab: An den Oberwellen lag der Pegel höchstens 4,6 dB über dem Rauschen der Umgebung, an Kontrollfrequenzen zwischen den Oberwellen bis zu 4,2 dB. Der Grundton wich um höchstens 0,05 dB vom Sollwert ab, auch bei −96 dBFS. Dort hatte das Rauschen zwischen 20 Hz und 20 kHz zwar mehr Leistung als der Ton, es verteilt sich aber über alle Frequenzen, während der Ton auf einer einzigen liegt.

Noise Shaping: weniger Rauschen unter 4 kHz, mehr Rauschen insgesamt

Noise Shaping führt den Rundungsfehler über ein Filter in die Umwandlung zurück und formt so sein Spektrum. Wannamaker nennt als Ziel, den größten Teil der Fehlerleistung in hohe Frequenzbänder zu legen, in denen das Gehör verhältnismäßig unempfindlich ist. Gegenüber TPDF senkten die drei Verfahren von ffmpeg das Rauschen unter 4 kHz um 16,8 dB (Lipshitz), 16,0 dB (F-weighted) und 9,8 dB (Shibata). Dafür stieg das Gesamtrauschen um 12,3, 18,5 und 24,3 dB, fast vollständig über 16 kHz: Mit Shibata lag es zwischen 16 und 20 kHz bei −73,8 dBFS, 29,9 dB über TPDF. Der mittlere Fehler blieb vom Eingang unabhängig, die Streuung lag zwischen 2,01 und 2,08 LSB (Lipshitz), 4,11 und 4,29 LSB (F-weighted) sowie 7,95 und 8,31 LSB (Shibata).

Auch FL Studio verwendet laut Handbuch ein geformtes Dither, das den größten Teil des Rauschens über 10 kHz verschiebt. Welches Filter dahintersteht, nennt das Handbuch nicht; die Werte von ffmpeg zeigen, in welcher Größenordnung sich solche Verfahren unterscheiden können.

Zweimal gedithert: Jeder Durchgang addiert Rauschen

Laut Handbuch von FL Studio gehört Dither nur einmal auf eine 16-Bit-Datei, und zwar beim letzten Rendern, falls überhaupt. Die Messung zeigt, was ein zweiter Durchgang kostet: Wurde die geditherte Stille erneut gedithert, stieg das Rauschen mit TPDF, Lipshitz und Shibata um jeweils 3,0 dB, auf −93,4, −81,1 und −69,1 dBFS. Das gilt für eine unabhängige zweite Rauschfolge. ffmpeg beginnt seine Rauschfolge bei jedem Lauf gleich; lagen beide Folgen deckungsgleich übereinander, stieg das Rauschen um 6,0 dB (TPDF), 5,7 dB (Lipshitz) und 5,2 dB (Shibata).

Was daraus für den Export folgt

• Bei einem Export mit 24 Bit oder 32 Bit Gleitkomma, wie im Mastering-Tutorial für FL Studio, wendet FL Studio keinen Dither an. Eine 24-Bit-Stufe ist 256-mal kleiner als eine 16-Bit-Stufe; TPDF-Rauschen läge dort rechnerisch bei −144,5 dBFS.
• Für eine 16-Bit-Datei beseitigt TPDF-Dither Verzerrung und Rauschmodulation mit dem geringsten zusätzlichen Rauschen, gemessen −96,4 dBFS. Ohne Dither lag bei −96 dBFS die dritte Oberwelle nur 0,9 dB unter dem Grundton; mit RPDF schwankte das Rauschen mit dem Signal zwischen null und 0,5 LSB.
• Noise Shaping tauscht weniger Rauschen unter 4 kHz gegen mehr Rauschen insgesamt. In der Messung kostete das 12 bis 24 dB, fast vollständig über 16 kHz.
• Dither gehört nur einmal in die Kette: Jeder weitere Durchgang erhöhte das Rauschen um 3 dB, mit deckungsgleicher Rauschfolge um bis zu 6 dB.
• Bei Umwandlungen auf 16 Bit wendet ffmpeg ohne Angabe keinen Dither an; aresample=osf=s16:dither_method=triangular schaltet TPDF ein.

Einordnung und Grenzen

Gemessen wurde die Umwandlung in ffmpeg, nicht der Export von FL Studio; dessen geformtes Dither kann andere Werte liefern. Die Testsignale waren Gleichwerte, Sinustöne und Stille, ein Hörtest war nicht Teil der Messung. Wie hörbar Verzerrung bei −96 dBFS oder ein Gesamtrauschen von −72 dBFS sind, hängt von Material, Abhörlautstärke und Wiedergabekette ab. Mit den optimierten Routinen von ffmpeg lieferten RPDF und TPDF auf dem ARM-Rechner der Messung (aarch64) einen mittleren Fehler von −0,50 LSB statt null, also einen Gleichanteil von −96,3 dBFS, und mit RPDF rauschte digitale Stille mit 0,50 LSB. Mit -cpuflags 0 verschwand der Versatz; die Verfahren mit Noise Shaping lieferten in beiden Fällen dieselben Werte.