Standardformel zur Kompensation der Gruppengeschwindigkeit von elektromagnetischen Wellen korrigiert

Während die Vakuumlichtgeschwindigkeit c eine Naturkonstante darstellt, muss bei jeder optischen Distanzmessung in Luft die Ausbreitungsgeschwindigkeit des Lichts c_Luft genau betrachtet werden. Bei Vorliegen einer monochromatischen Lichtwelle ergibt sich diese aus dem Quotienten aus c und der Luftbrechzahl n, die von der Frequenz des Lichts, aber auch von Temperatur, Luftdruck, relativer Luftfeuchte und Kohlendioxidgehalt abhängt (z.B. [1,2]). Viele Messverfahren nutzen jedoch elektromagnetische Wellenpakete, die sich mit der sogenannten Gruppengeschwindigkeit ausbreiten:

,

mit n_g der Gruppenbrechzahl. Dies gilt insbesondere für Verfahren, die in der hochgenauen Vermessung mittels Tachymetern zum Einsatz kommen. Philip E. Ciddor und Reginald J. Hill veröffentlichten 1999 einen Algorithmus, der eine analytische Lösung der Bestimmungsgleichung   liefert [3], wobei σ der Wellenzahl entspricht (σ = 1/ λ,  λ: Wellenlänge im Vakuum). Dieser Algorithmus wird seit 1999 offiziell von der International Association of Geodesy (IAG) für die Anwendung bei geodätischen Messungen empfohlen.

Im Rahmen von theoretischen Arbeiten für das derzeit laufende europäische EMPIR Forschungsprojekt „Large-scale dimensional measurements for geodesy“ (18SIB01, GeoMetre) wurde nun aufgedeckt, dass sich in dem veröffentlichten Algorithmus [3] ein subtiler, aber relevanter Vorzeichenfehler befindet, der zu Abweichungen in der Größenordnung einiger 10 ^-6 (Bild 1) führt. Leider entspricht dies genau der Größenordnung, die man als Abweichung der Gruppenbrechzahl von der Phasenbrechzahl erwartet. Das falsche Ergebnis hält also auch einer etwas kritischeren Betrachtung scheinbar stand, was den Fehler sehr schwer entdeckbar machte. Die korrigierte Version des Algorithmus und eine Umsetzung in Python wurden von der PTB Open Access veröffentlicht [4,5] und stehen damit nun zur Verifikation existierender Implementierungen des Algorithmus und als Grundlage für genaue Längenmessungen in Luft zur Verfügung.

Bild 1: Differenz zwischen der fehlerbehafteten [3] und der numerisch ermittelten korrekten Gruppenbrechzahl für eine gegebene Temperatur t von 20 °C, einem Umgebungsluftdruck p von 1013,25 hPa, einer relativen Feuchte e von 50 % relativer Feuchte und einem Kohlendioxidgehalt xC von 450 ppm. Gestrichelte Linien markieren Vakuumwellenlängen typischer Lichtquellen, die in der Längenmesstechnik zum Einsatz kommen. (reproduziert aus [4] unter dem OSA Open Access Publishing Agreement).

Das EMPIR-Projekt wird von den teilnehmenden Staaten und dem Horizon 2020 Forschungs- und Innovationsprogramm der europäischen Union kofinanziert.

Literatur

[1] P. E. Ciddor 1996 “Refractive index of air: new equations for the visible and near infrared” Appl. Opt. 35, 1566–1573 dx.doi.org/10.1364/AO.35.001566

[2] G. Bönsch, E. Potulski 1998 "Measurement of the refractive index of air and comparison with modified Edlén's formulae", Metrologia 35, 133 - 139

[3] P. E. Ciddor and R. J. Hill 1999 “Refractive index of air. 2. Group index” Appl. Opt. 38 1663–1667 dx.doi.org/10.1364/AO.38.001663

[4] F. Pollinger 2020 "Refractive index of air. 2. Group index: comment" Appl. Opt. 59, 9771-9772 doi.org/10.1364/AO.400796

[5] F. Pollinger 2020 “CiddorPy: python functions for phase and group refractive index in air” figshare doi.org/10.6084/m9.figshare.12515320