Schachcomputer.info Community

Schachcomputer.info Community (https://www.schachcomputer.info/forum/index.php)
-   Die ganze Welt der Schachcomputer / World of chess computers (https://www.schachcomputer.info/forum/forumdisplay.php?f=2)
-   -   Tipp: Selbstlernende KI: Neue Engine spielt auf Profi-Niveau (Der LC0 Thread) (https://www.schachcomputer.info/forum/showthread.php?t=5030)

applechess 11.05.2018 14:08

AW: Selbstlernende KI: Neue Engine spielt auf Profi-Niveau
 
Zitieren:

Zitat von Hartmut (Beitrag 73434)
Das kann man so sagen, ist aber auch nicht unerwartet, dass es eine Phase der Stagnation gibt.

Hallo Hartmut

Es heisst ja

"v0.10 fixes critical bug! Download latest client here. We are actively investigating the strength fluctuations, a few good leads have been found, and fixes are underway."

Wir brauchen einfach Geduld. Es konnte ja nicht in diesem Tempo weitergehen.

Gruss
Kurt

StPohl 11.05.2018 15:17

AW: Selbstlernende KI: Neue Engine spielt auf Profi-Niveau
 
Zitieren:

Zitat von Hartmut (Beitrag 73434)
Das kann man so sagen, ist aber auch nicht unerwartet, dass es eine Phase der Stagnation gibt.

Wäre ja schön, wenn es eine Phase der Stagnation wäre. Momentan ist die Eloleistung eher im freien Fall...
Das Gute ist, das mir das die Gelegenheit gibt, jetzt mal die Cuda-Version von Leela zu testen, die nun endlich auch (halbwegs) in der FritzGUI läuft. Ich nehme dafür dann dasselbe Network, daß ich gerade momentan mit der v0.8 der normalen GPU-Leela teste. Dann habe ich einen prima Referenzwert. Die Knotenzahlen der Cuda-Leela sind in der Grundstellung immerhin 4x höher, als mit der normalen GPU-Version von Leela. Das ist eine Menge!


Stefan

GS 11.05.2018 15:30

AW: Selbstlernende KI: Neue Engine spielt auf Profi-Niveau
 
Zitieren:

Zitat von Hartmut (Beitrag 73412)
[...snip...]
Das einzige was man bei Euren Tests schade finden kann ist die Tatsache dass die Eröffnungsbücher vorgegeben sind. (auch wenn es sich vielleicht nur um Bücher handelt in denen nur die ersten 2-3 Züge vorgegeben sind). Leela ist ja ein lernendes System, lernt also quasi inkl. Eröffnungsbehandlung von der Pike auf. Sinn der Übung ist es ja, dass sie ohne menschlichen Einfluß lernt (weswegen ja auch keine Eröffnungsbücher für das Training verwendet werden). Dem kann man natürlich in solchen Tests nicht gerecht werden, da sich sonst bei der Menge der Partien (Es waren soweit ich das gesehen habe, immer 50 Pro Wettkampf) Wiederholungen kaum vermeiden lassen. Insofern wird die "wahre" Stärke immer ein Näherungswert bleiben, da sie vielleicht auch mal in Eröffnungen gezwungen wird, die sie normal niemals spielen würde.
[...snip...]

Hallo Hartmut,

das stimmt zu Teil sicherlich. Allerdings werden die
Vorgaben immer mit Weiß und mit Schwarz gespielt,
es sind dann auch welche dabei, welche der jeweilige
Gegner von LCZero "niemals" spielen würde.
Das gleicht sich aus.
Nach 2 oder 3 Zügen ist i.d.R. ohnehin nicht viel
passiert, es sind keine "dummen" Eröffnungsvorgaben
dabei resp. keine, welche einer Seite grossen oder gar
entscheidenden Vorteil geben würden.
Die Gegnerschaft ist anfangs immer "ausgesucht", wir
wissen ja nicht unbedingt genau wie stark ein Kandidat
ist und müssen uns manchmal herantasten. Mit der Zeit
jedoch kommen immer mehr Matches dazu.

h.a.n.d.

rollinghills 11.05.2018 16:46

AW: Selbstlernende KI: Neue Engine spielt auf Profi-Niveau
 
Zitieren:

Zitat von applechess (Beitrag 73435)
Hallo Hartmut

Es heisst ja

"v0.10 fixes critical bug! Download latest client here. We are actively investigating the strength fluctuations, a few good leads have been found, and fixes are underway."

Wir brauchen einfach Geduld. Es konnte ja nicht in diesem Tempo weitergehen.

Gruss
Kurt

Der Laie fragt sich, warum das bei Google in 4 Stunden ja scheinbar ohne solche Eingriffe funktioniert hat. Google zumindest vermittelt den Eindruck, dass das binnen 4 Stunden kontinuierlich ohne Eingriff des Menschen funktionierte.

applechess 11.05.2018 17:57

AW: Selbstlernende KI: Neue Engine spielt auf Profi-Niveau
 
Zitieren:

Zitat von rollinghills (Beitrag 73440)
Der Laie fragt sich, warum das bei Google in 4 Stunden ja scheinbar ohne solche Eingriffe funktioniert hat. Google zumindest vermittelt den Eindruck, dass das binnen 4 Stunden kontinuierlich ohne Eingriff des Menschen funktionierte.

Wir haben bei Alpha Zero nur gerade 10 Partien gesehen. Vielleicht - oder gar wahrscheinlicher - hätte man unter den restlichen 90 Partien auch Schwächen entdeckt, die uns in Erstaunen gesetzt hätten wie klar verpatzte Gewinnstellungen oder durch Stockfish nicht ausgenutzte Gewinnstellungen. Wir sind also schlicht nicht in der Lage, das Können von Alpha Zero richtig einzuschätzen. Betrachten wir nur die 10 besten je von LCZero gespielten Partien, dann sind wir ja auch bass erstaunt ob der gezeigten Leistung.
Gruss
Kurt

Hartmut 11.05.2018 23:49

AW: Selbstlernende KI: Neue Engine spielt auf Profi-Niveau
 
Zitieren:

Zitat von applechess (Beitrag 73442)
Wir haben bei Alpha Zero nur gerade 10 Partien gesehen. Vielleicht - oder gar wahrscheinlicher - hätte man unter den restlichen 90 Partien auch Schwächen entdeckt, die uns in Erstaunen gesetzt hätten wie klar verpatzte Gewinnstellungen oder durch Stockfish nicht ausgenutzte Gewinnstellungen. Wir sind also schlicht nicht in der Lage, das Können von Alpha Zero richtig einzuschätzen. Betrachten wir nur die 10 besten je von LCZero gespielten Partien, dann sind wir ja auch bass erstaunt ob der gezeigten Leistung.
Gruss
Kurt

Zudem darf man nicht vergessen, dass bei den 4 Stunden von Alpha Zero ja eine enorme Rechenleistung der Spezialprozessoren dahintersteckte. Selbst mit der Hilfe der Internetcommunity sind die 4 Stunden von AlphaZero hier auf mehrere Monate verteilt. Um genau zu sein, was AlphaZero in einer Minute gemacht hat, dauert hier trotz aller Unterstützung der Internet-Community im Schnitt einen ganzen Tag.

Vielleicht schwenke ich mal um und gebe ein wenig Mathematiknachhilfe. Sprich wir schauen uns das ganze mal rein rechnerisch an.

Alpha Zero hat in 4 Stunden 44 Millionen Partien gespielt, also 11 Millionen pro Stunde. Das entspricht etwa 183333 Partien pro Minute oder 3056 Partien pro Sekunde!!!

LeelaZero hatte ihren höchsten Elo Punkt bei Network ID 253 nach 11.500.787 Partien.

Nach dem gewaltigen Abfall der ELO hatte sie ihren tiefsten Stand bei ID 276 nach 12.412.740 Partien. Danach wieder ein gewaltiger Anstieg.

Ich weiss jetzt nicht, ob es wirklich ein Bug im Programm ist. Aber wenn ich das mal genau betrachte umfasst dieser Elo-Absturz einen Partienanzahl von 911.953 Partien.

Bei der Geschwindigkeit mit der AlphaZero die Partien gespielt hat wäre das der gewaltige Zeitraum von 298 Sekunden, also nicht mal 5 Minuten. Und ob es bei den 4 Stunden Training über einen Zeitraum von 5 Minuten mal einen Absturz der Elo gegeben hat wissen wir nicht. Es wäre aber durchaus denkbar. Der Unterschied ist nur: Die AlphaZero-Entwickler wären erstmal rausgegangen, hätten sich nen Kaffee geholt und eine geraucht und nach 15-20 Minuten mal wieder nachgeschaut, bevor sie über einen Bug auch nur nachgedacht hätten. Zum Vergleich, das entspräche bei Leela dem Zeitraum von 2-3 Wochen.

Wir sehen diesen Absturz doch nur weil diese 5 Minuten sich bei uns über 5 Tage ziehen (Network 253 erstellt am 6. Mai 2018 07:21:22, Network 276 erstellt am 11. Mai 2018 06:09:27) und weder Lust haben 3 Wochen lang Kaffeerausch auszuhalten oder 3 Wocen Kette zu rauchen.

Bei AlphaZero wäre die Dauer dieses Absturzes noch nicht mal der Zeitraum, den die Betreuer der Anlage brauchten um in der Kantine eine Tasse Kaffee zu trinken und sie hätten daher den Ansturz allenfalls zwischen 2 solchen Kantinengängen in einem Logfile registriert, während wir hier über Tage hinweg wie die erschrockenen Hühner dasitzen und Bugs suchen die wir hier zwar vermuten, die aber vielleicht gar nicht existieren. Wie gesagt, wir merken es nur, weil 1 AlphaZero-Minute einem Leela-Tag entspricht. Wir haben dann aber wieder Momente, wo der Elo-Graph wieder fast genauso stark ansteigt, wie er vorher abgestiegen ist.

Wir hatten einmal einen gewaltigen Anstieg zwischen ID 226 und 227, danach waren die Änderungen eher in geringerem Umfang und beständig nach oben (wenngleich es immer mal kleine Abstürze gab, z.B. zwischen 234 und 236). Nun haben wir eben mal den umgekehrten Fall und auch einen sehr "nervösen" Graphen zwischen ID 274 und 278, aber auch das sind Fluktuationen, die bei AlphaZero nur wenige Sekunden ausgemacht hätten, vergleichbar mit der kurzzeitigen Erhöhung der Herzfrequenz wenn jemand hinter der Tür vorspringt und "Buuuuh" schreit. Aber genauso wie der Herzschlag sich wieder beruhigen wird, wird das auch der Elo-Graph von Leela tun und auch irgendwann wieder nach oben wandern. Und sollte es wirklich ein Bug sein, wird man ihn finden und ggf. 10 AlphaZero-Minuten (also vielleicht 10 Tage) länger fürs Training brauchen. Davon geht die Neuronale Welt mit Sicherheit nicht unter.

Es ist schon komisch. Als Leela den gewaltigen Sprung nach oben zwischen ID 226 und 227 gemacht hat, hat auch keiner nach einem Bug gerufen. Nun geht es halt mal ein paar AlphaZero-Minuten lang nach unten und alle sind nahe am Herzinfarkt... Ganz echt... wenn man das mal relativ zu den wenigen Minuten betrachtet, die dieser Zeitraum von wenigen Tagen bei AlphaZero umfasst, könnt ich mich wegen der Aufregung vor lauter Lachen fast nass machen...

applechess 12.05.2018 07:51

AW: Selbstlernende KI: Neue Engine spielt auf Profi-Niveau
 
Zitieren:

Zitat von Hartmut (Beitrag 73456)
Zudem darf man nicht vergessen, dass bei den 4 Stunden von Alpha Zero ja eine enorme Rechenleistung der Spezialprozessoren dahintersteckte. Selbst mit der Hilfe der Internetcommunity sind die 4 Stunden von AlphaZero hier auf mehrere Monate verteilt. Um genau zu sein, was AlphaZero in einer Minute gemacht hat, dauert hier trotz aller Unterstützung der Internet-Community im Schnitt einen ganzen Tag.

Vielleicht schwenke ich mal um und gebe ein wenig Mathematiknachhilfe. Sprich wir schauen uns das ganze mal rein rechnerisch an.

Guten Morgen Hartmut

Du hättest Psychiater werden sollen :) :)

Gruss
Kurt

rollinghills 12.05.2018 12:32

AW: Selbstlernende KI: Neue Engine spielt auf Profi-Niveau
 
Zitieren:

Zitat von Hartmut (Beitrag 73456)
Es ist schon komisch. Als Leela den gewaltigen Sprung nach oben zwischen ID 226 und 227 gemacht hat, hat auch keiner nach einem Bug gerufen. Nun geht es halt mal ein paar AlphaZero-Minuten lang nach unten und alle sind nahe am Herzinfarkt... Ganz echt... wenn man das mal relativ zu den wenigen Minuten betrachtet, die dieser Zeitraum von wenigen Tagen bei AlphaZero umfasst, könnt ich mich wegen der Aufregung vor lauter Lachen fast nass machen...

So ist es bei mir definitiv nicht. Ich stehe der künstlichen "Intelligenz" einfach sehr kritisch gegenüber und finde es einfach belustigend, dass man mit Fug und Recht behaupten kann: Leela hätte binnen >3.000.000 Partien nix dazugelernt. 3 Mio Partien. Das ist fast die Hälfte der Chessbase Megabase, also die Hälfte der aufgezeichneten Partien mit einigermaßen großer Qualität unserer Schachgeschichte...
Das beudetet auf der anderen Seite aber nicht, dass das Projekt nicht faszinierend wäre. Es ist sehr faszinierend. U.a. auch deswegen, weil wir Menschen den Rechner den Dogmatismus einprogramiert haben und nun feiern, dass ein Rechner, wenn er selbst lernt "menschlicher" spielt.

applechess 12.05.2018 12:39

AW: Selbstlernende KI: Neue Engine spielt auf Profi-Niveau
 
Zitieren:

Zitat von rollinghills (Beitrag 73467)
[...]Das ist fast die Hälfte der Chessbase Megabase, also die Hälfte der aufgezeichneten Partien mit einigermaßen großer Qualität unserer Schachgeschichte...
[...]

Nachdem seit einiger Zeit in der ChessBase MegaBase auch Hundert Tausende von Blitz- und Rapidpartien enthalten sind, hat sich die Qualität dieser Datenbank massgeblich verschlechtert.
Gruss
Kurt

rollinghills 12.05.2018 12:48

AW: Selbstlernende KI: Neue Engine spielt auf Profi-Niveau
 
Zitieren:

Zitat von applechess (Beitrag 73469)
Nachdem seit einiger Zeit in der ChessBase MegaBase auch Hundert Tausende von Blitz- und Rapidpartien enthalten sind, hat sich die Qualität dieser Datenbank massgeblich verschlechtert.
Gruss
Kurt

Ja, leider. Ich verstehe das auch nicht. Selbst einige Mitarbeiter von Chessbase stehen dem kritisch gegenüber. Man will demnächst zumindest die Möglichkeit bieten, diese Partien grundsätzlich rauszufiltern.


Alle Zeitangaben in WEZ +1. Es ist jetzt 23:23 Uhr.

Powered by vBulletin (Deutsch)
Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
©Schachcomputer.info