Man kann jetzt für moderne IntelCPUs eine MKL-Version (MKL=Math Kernel Library) der CPU-Leela herunterladen:
lczero_v0.9_avx2_mkl.zip is the Intel MKL release. Use this is you do not have a GPU and have a modern Intel processor (Haswell or later -- it will just crash if it's not new enough). You must download the dlls from Intel: https://software.intel.com/en-us/mkl

Hab das ausprobiert (und mir natürlich die intel-dlls heruntergeladen) und diese CPU-Version läuft wirklich deutlich schneller als die normale CPU-Version. Auf meiner CPU (i7-6700HQ 2.6GHz Notebook (Skylake CPU)) sind die Knotenzahlen in der Grundstellung ca. 60-65% höher dank der MKL. Nicht schlecht. Aber immer noch deutlich langsamer als die GPU-Version, die auf meiner Nvidia Gforce GTX 950M Grafikkarte läuft.
Aber wer keine oder eine ganz schlechte Grafikkarte hat, der ist mit der MKL-Leela sicher besser bedient, als mit der extrem langsamen normalen CPU-Version. Vielleicht auch für Ranglistentests interessant. Aber mit AMD-CPUs läuft das Teil natürlich nicht.

Anmerkung: Wer sich das ganze MKL-Zeugs von Intel heruntergeladen hat, findet die .dll-Dateien hier: C:\Program Files (x86)\IntelSWTools\compilers_and_libraries_2018.2. 185\windows\redist\intel64_win\mkl
Dort einfach alle .dll-Files herauskopieren in den eigenen Leela-MKL-Ordner.

Stefan

Hallo Stefan,

Da gibt es vieles zum downloaden bei Intel. Wo stecken die richtige dll's die ich brauche?

Download Intel® Performance Libraries Now
Download One, All Five, or Anywhere In-Between.

Gruss,
Henri

Na, eine der Downloads heißt Intel Math Kernel Library. Dieser halt. MKL eben

Aus den letzten 3.000.000 Partien hat Leela nix gelernt

Kann man das so sagen ?

Zur Elo Zahl

Das kann man so sagen, ist aber auch nicht unerwartet, dass es eine Phase der Stagnation gibt.

__________________
Mein Profil beim ICCF (International Correspondence Chess Federation)
https://www.iccf.com/player?id=89948&tab=3

Hallo Hartmut

Es heisst ja

"v0.10 fixes critical bug! Download latest client here. We are actively investigating the strength fluctuations, a few good leads have been found, and fixes are underway."

Wir brauchen einfach Geduld. Es konnte ja nicht in diesem Tempo weitergehen.

Gruss
Kurt

Der Laie fragt sich, warum das bei Google in 4 Stunden ja scheinbar ohne solche Eingriffe funktioniert hat. Google zumindest vermittelt den Eindruck, dass das binnen 4 Stunden kontinuierlich ohne Eingriff des Menschen funktionierte.

Wir haben bei Alpha Zero nur gerade 10 Partien gesehen. Vielleicht - oder gar wahrscheinlicher - hätte man unter den restlichen 90 Partien auch Schwächen entdeckt, die uns in Erstaunen gesetzt hätten wie klar verpatzte Gewinnstellungen oder durch Stockfish nicht ausgenutzte Gewinnstellungen. Wir sind also schlicht nicht in der Lage, das Können von Alpha Zero richtig einzuschätzen. Betrachten wir nur die 10 besten je von LCZero gespielten Partien, dann sind wir ja auch bass erstaunt ob der gezeigten Leistung.
Gruss
Kurt

Zudem darf man nicht vergessen, dass bei den 4 Stunden von Alpha Zero ja eine enorme Rechenleistung der Spezialprozessoren dahintersteckte. Selbst mit der Hilfe der Internetcommunity sind die 4 Stunden von AlphaZero hier auf mehrere Monate verteilt. Um genau zu sein, was AlphaZero in einer Minute gemacht hat, dauert hier trotz aller Unterstützung der Internet-Community im Schnitt einen ganzen Tag.

Vielleicht schwenke ich mal um und gebe ein wenig Mathematiknachhilfe. Sprich wir schauen uns das ganze mal rein rechnerisch an.

Alpha Zero hat in 4 Stunden 44 Millionen Partien gespielt, also 11 Millionen pro Stunde. Das entspricht etwa 183333 Partien pro Minute oder 3056 Partien pro Sekunde!!!

LeelaZero hatte ihren höchsten Elo Punkt bei Network ID 253 nach 11.500.787 Partien.

Nach dem gewaltigen Abfall der ELO hatte sie ihren tiefsten Stand bei ID 276 nach 12.412.740 Partien. Danach wieder ein gewaltiger Anstieg.

Ich weiss jetzt nicht, ob es wirklich ein Bug im Programm ist. Aber wenn ich das mal genau betrachte umfasst dieser Elo-Absturz einen Partienanzahl von 911.953 Partien.

Bei der Geschwindigkeit mit der AlphaZero die Partien gespielt hat wäre das der gewaltige Zeitraum von 298 Sekunden, also nicht mal 5 Minuten. Und ob es bei den 4 Stunden Training über einen Zeitraum von 5 Minuten mal einen Absturz der Elo gegeben hat wissen wir nicht. Es wäre aber durchaus denkbar. Der Unterschied ist nur: Die AlphaZero-Entwickler wären erstmal rausgegangen, hätten sich nen Kaffee geholt und eine geraucht und nach 15-20 Minuten mal wieder nachgeschaut, bevor sie über einen Bug auch nur nachgedacht hätten. Zum Vergleich, das entspräche bei Leela dem Zeitraum von 2-3 Wochen.

Wir sehen diesen Absturz doch nur weil diese 5 Minuten sich bei uns über 5 Tage ziehen (Network 253 erstellt am 6. Mai 2018 07:21:22, Network 276 erstellt am 11. Mai 2018 06:09:27) und weder Lust haben 3 Wochen lang Kaffeerausch auszuhalten oder 3 Wocen Kette zu rauchen.

Bei AlphaZero wäre die Dauer dieses Absturzes noch nicht mal der Zeitraum, den die Betreuer der Anlage brauchten um in der Kantine eine Tasse Kaffee zu trinken und sie hätten daher den Ansturz allenfalls zwischen 2 solchen Kantinengängen in einem Logfile registriert, während wir hier über Tage hinweg wie die erschrockenen Hühner dasitzen und Bugs suchen die wir hier zwar vermuten, die aber vielleicht gar nicht existieren. Wie gesagt, wir merken es nur, weil 1 AlphaZero-Minute einem Leela-Tag entspricht. Wir haben dann aber wieder Momente, wo der Elo-Graph wieder fast genauso stark ansteigt, wie er vorher abgestiegen ist.

Wir hatten einmal einen gewaltigen Anstieg zwischen ID 226 und 227, danach waren die Änderungen eher in geringerem Umfang und beständig nach oben (wenngleich es immer mal kleine Abstürze gab, z.B. zwischen 234 und 236). Nun haben wir eben mal den umgekehrten Fall und auch einen sehr "nervösen" Graphen zwischen ID 274 und 278, aber auch das sind Fluktuationen, die bei AlphaZero nur wenige Sekunden ausgemacht hätten, vergleichbar mit der kurzzeitigen Erhöhung der Herzfrequenz wenn jemand hinter der Tür vorspringt und "Buuuuh" schreit. Aber genauso wie der Herzschlag sich wieder beruhigen wird, wird das auch der Elo-Graph von Leela tun und auch irgendwann wieder nach oben wandern. Und sollte es wirklich ein Bug sein, wird man ihn finden und ggf. 10 AlphaZero-Minuten (also vielleicht 10 Tage) länger fürs Training brauchen. Davon geht die Neuronale Welt mit Sicherheit nicht unter.

Es ist schon komisch. Als Leela den gewaltigen Sprung nach oben zwischen ID 226 und 227 gemacht hat, hat auch keiner nach einem Bug gerufen. Nun geht es halt mal ein paar AlphaZero-Minuten lang nach unten und alle sind nahe am Herzinfarkt... Ganz echt... wenn man das mal relativ zu den wenigen Minuten betrachtet, die dieser Zeitraum von wenigen Tagen bei AlphaZero umfasst, könnt ich mich wegen der Aufregung vor lauter Lachen fast nass machen...

__________________
Mein Profil beim ICCF (International Correspondence Chess Federation)
https://www.iccf.com/player?id=89948&tab=3

Guten Morgen Hartmut

Du hättest Psychiater werden sollen

Gruss
Kurt