Zitat von
BHGP
So,
jetzt bin ich es doch noch mal mit einem Update. Habe mich am Wochenende dazu hinreißen lassen, eine Nvidia RTX 2060 zu kaufen. Meine ersten Versuche verliefen auch erfolgreich. Nun würde ich gerne die Einstellungen "optimieren".
Kann mir da jemand Starthilfe geben (cudnn-fp16 habe ich schon mal eingestellt) ?
Von Andreas Strangmüller eine fette Meßreihe mit der RTX 2060:
Default Settings, backend=cudnn-fp16
Zeit Knoten Gesamt Knoten pro Sekunde
Höchste Knotenzahl: 00:18 404.929 22.276
Nach einer Minute: 01:01 1.224.396 19.995
---------------------------------------------------------------
Default Settings, backend=cudnn-fp16, NNCacheSize=2000000
Zeit Knoten Gesamt Knoten pro Sekunde
Höchste Knotenzahl: 01:01 1.503.121 24.499
Nach einer Minute: 01:01 1.503.121 24.499
---------------------------------------------------------------
Default Settings, backend=cudnn-fp16, NNCacheSize=2000000, MiniBatchSize=512
Zeit Knoten Gesamt Knoten pro Sekunde
Höchste Knotenzahl: 01:02 1.596.595 25.446
Nach einer Minute: 01:02 1.596.595 25.446
---------------------------------------------------------------
Default Settings, backend=cudnn-fp16, NNCacheSize=2000000, MiniBatchSize=1024
Zeit Knoten Gesamt Knoten pro Sekunde
Höchste Knotenzahl: 01:03 1.624.881 25.413
Nach einer Minute: 01:03 1.624.881 25.413
---------------------------------------------------------------
Default Settings, backend=cudnn-fp16, NNCacheSize=2000000, MiniBatchSize=512, MaxCollisionsEvents=512
Zeit Knoten Gesamt Knoten pro Sekunde
Höchste Knotenzahl: 01:00 1.560.655 25.669
Nach einer Minute: 01:00 1.560.655 25.669
---------------------------------------------------------------
Default Settings, backend=cudnn-fp16, NNCacheSize=2000000, MiniBatchSize=512, MaxCollisionsEvents=512, Threads=4
Zeit Knoten Gesamt Knoten pro Sekunde
Höchste Knotenzahl: 01:02 1.563.849 25.115
Nach einer Minute: 01:02 1.563.849 25.115
---------------------------------------------------------------
Default Settings, backend=cudnn-fp16, NNCacheSize=2000000, MiniBatchSize=512, MaxPrefetch=256, MaxCollisionsEvents=512
Zeit Knoten Gesamt Knoten pro Sekunde
Höchste Knotenzahl: 01:02 1.583.994 25.497
Nach einer Minute: 01:02 1.583.994 25.497
---------------------------------------------------------------
Default Settings, backend=cudnn-fp16, NNCacheSize=2000000, MiniBatchSize=512, MaxPrefetch=512, MaxCollisionsEvents=512
Zeit Knoten Gesamt Knoten pro Sekunde
Höchste Knotenzahl: 01:01 1.513.198 24.625
Nach einer Minute: 01:01 1.513.198 24.625
---------------------------------------------------------------
Hier die vermeintlich besten Einstellungen mit 10 Minuten:
Default Settings, backend=cudnn-fp16, NNCacheSize=2000000, MiniBatchSize=512, MaxCollisionsEvents=512
Zeit Knoten Gesamt Knoten pro Sekunde
Höchste Knotenzahl: 02:21 3.842.955 27.127
Nach zehn Minuten: 10:36 14.997.015 23.545
---------------------------------------------------------------
Default Settings, backend=cudnn-fp16, NNCacheSize=20000000, MiniBatchSize=512, MaxCollisionsEvents=512
Zeit Knoten Gesamt Knoten pro Sekunde
Höchste Knotenzahl: 10:01 16.980.960 28.219
Nach zehn Minuten: 10:01 16.980.960 28.219
--------------------------------------------------------------
Default Settings, backend=cudnn-fp16, NNCacheSize=20000000, MiniBatchSize=512, MaxCollisionsEvents=512, Threads=4
Zeit Knoten Gesamt Knoten pro Sekunde
Höchste Knotenzahl: 10:03 17.459.570 28.927
Nach zehn Minuten: 10:03 17.459.570 28.927
--------------------------------------------------------------
Und zum Schluss noch eine Analyse von über einer Stunde mit dem Maximalwert der NNCacheSize:
Default Settings, backend=cudnn-fp16, NNCacheSize=999999999, MiniBatchSize=512, MaxCollisionsEvents=512, Threads=4
Zeit Knoten Gesamt Knoten pro Sekunde
Höchste Knotenzahl: 32:50 60.231.582 30.559
Nach einer Stunde: 1:08:52 124.111.072 30.033
Bei dieser langen Bedenkzeit/Analyse wird die Schallmauer von 30.000 Knoten pro Sekunde durchbrochen!
Ich habe mich nochmals mit den Einstellungen beschäftigt. Folgende Optionen erzielen nun fast 32.000 Knoten/Rollouts und sind auch nach einer bzw. zehn Minuten am besten.
Default Settings, backend=cudnn-fp16, NNCacheSize=20000000, MiniBatchSize=1024, MaxCollisionsEvents=1024, Threads=4
Zeit Knoten Gesamt Knoten pro Sekunde
Höchste Knotenzahl: 26:58 51.530.869 31.844
Nach einer Minute: 01:02 1.640.545 26.109
Nach zehn Minuten: 10:12 18.748.776 30.593