Ein Schaufenster in das Treiben der Wissenschaft

Warum nicht mal Data Science auf die Publikationen der Wissenschaft anwenden, dachten sich wohl drei französische Wissenschaftler, und zeigen mit ihrem Paper “La revanche des neurones”, wie sich polemisch geführte Diskussionen in der Wissenschaft auf die gesamte Wissenschaftsgemeinde und auf Beschaffung von Forschungsgeldern auswirken - am Beispiel des Aufkommens und Verschwindens von Neuronalen Netzen.

Und dabei ging es ja eigentlich auch nur um das olle XOR-Problem. Und niemand hat ja auch etwas gegen symbolische KI, die auch heute immer noch ihre Kraft entfalten darf. Nichtsdestotrotz gelangte die KI in eine Sackgasse, die erst Ende der 80er Jahren so langsam wieder verlassen wurde.

Sehr schön finde ich auch die in der Studie enthaltene Analyse eines Text-Korpus, die zeigt, welche Wissenschaftler welche andere zitiert haben - wodurch die zwei historischen Cluster der Symbolisten und der Konnektionisten wieder sichtbar werden. Mehr kann man direkt auf der neurorevenge-Seite in Erfahrung bringen.

Ein wenig traurig ist das Muster ja schon: so wie einst das Verfahren von Bayes wegpolemisiert wurde und heute im Zeitalter der Computer zum defacto-Standard gehört, so wiederholte sich dies mit dem KI-Winter ein ums weitere Mal in der jüngeren wissenschaftlichen Vergangenheit. Ob die Wissenschaft aus diesem Muster etwas lernen wird?

Die Haupterkenntnisse wurden ins Englische übersetzt, das Paper selbst ist in Französisch geschrieben. Et voilà! Merci pour cette belle publication!

Elektronengehirne

Kaum waren in den 40er Jahren des letzten Jahrhunderts die ersten elektronischen Rechner zusammengelötet, ist auch das Wort “Elektronengehirn” entstanden. Nach anfänglicher Euphorie der Kybernetiker gab es lange Zeit eine Stagnation in der Entwicklung der künstlich intelligenten Systeme.

Die letzten 10 Jahre haben jedoch gezeigt, dass auch für unwahrscheinlich gehaltene Dinge plötzlich möglich sind. Die rasante Entwicklung hat auch jemanden wie mich, der sich schon lange mit KI beschäftigt, in vielerlei Hinsicht überrascht.

Wird es Deinen Beruf bald noch geben?

Wenn heute jemand behauptet, dass in Zukunft viel der menschlichen Arbeit wegfallen wird, ist kaum jemand anderer Meinung. Das World Economic Forum prognostiziert, dass bereits in 7 Jahren die Hälfte der Arbeit von Maschinen übernommen wird (derzeit wird bereits ein Drittel der Arbeit maschinell verrichtet).

Kniffliger wird es, wenn die Frage gestellt wird, wie es denn um den eigenen Beruf bestellt ist. Viele sagen dann: “das lässt sich doch nicht von einer Maschine erledigen”. Wenn ich dann zurückfrage, warum das so ist, höre ich meistens: “hier geht es um den Bauch, um kreative Prozesse, um etwas, das schlicht nicht zu formalisieren ist”. Das mag vielleicht stimmen: schlimmer wäre es jedoch, würde uns schlicht die Phantasie dazu fehlen, dass auch vermeintlich anspruchsvolle Arbeit durch einen Automaten ersetzt werden könnte. Eitelkeit wird niemanden davor bewahren, dass sich auf der Welt ständig wiederholende und selbstähnliche Aufgaben - bspw. auch in der Softwareentwicklung - von Software steuern lassen.

Der australische KI-Forscher Tony Walsh sagte jüngst in einem Interview mit netzpolitik.org:

Jedes Mal, wenn wir dachten, wir seien etwas Besonderes, lagen wir falsch: Die Sonne drehte sich nicht um die Erde. Wir stammten doch vom Affen ab. Wir sind vergleichsweise schlau, aber zu glauben, das sei schon das Maximum, wäre selbstbezogen und wahrscheinlich falsch.

In seinem Buch It’s Alive - Wie künstliche Intelligenz unser Leben verändern wird gibt Prof. Walsh ferner den Mahner, dass die technologische Entwicklung auch in eine gesellschaftliche Entwicklung eingebettet sein sollte.

Ein Paket Lernkarten für Maschinelles Lernen

Schön, wenn Enthusiasten auch etwas zu teilen haben: und mal ganz ehrlich, man kann eigentlich nie genug über das Thema Maschinelles Lernen in Erfahrung bringen. So hat Chris Albon eine ganze Reihe von Lernkarten gepinselt, die man in mehreren Hunderten zu einem Preis von $12 in verschiedenen DRM-freien Formaten erwerben kann - von der mobiltauglichen Auflösung bis zum druckreifen PDF (wobei Chris aber auch gleich einen Tipp gibt, wie man quasi gratis via Twitter an die Grafiken kommen kann).

Ihr findet seine Lernkarten unter machinelearningflashcards.com.

Auf dem neuland Fachtag 2017 hatte ich das wunderbare Vergnügen, vor vielen klugen Köpfen einen Vortrag zum Thema Künstliche Intelligenz zu halten. Rahmenthema des Fachtages waren die “Datenschätze im E-Commerce”, und ich hoffe, dass den ZuhörerInnen der Vortrag genauso viel Spaß bereitet hat wie mir bei der Vorbereitung und Durchführung.

http://www.youtube.com/watch?v=ozFvnmnFeK8

Im Grunde sind vier der großen fünf Ideen des maschinellen Lernens enthalten:

• Nächste Nachbarn
• Lernen durch Verstärken
• Konnektionismus
• Evolutionäre Algorithmen

Eine ganz große Methode habe ich ausgelassen:

• Lernen mit Bayes

Was einfach daran liegt, dass ich bis heute keine einfache, intuitive Erklärung für das Bayes’sche Lernen aus Daten gefunden habe - natürlich kann man über Wirkung und Ursache oder über die inverse Wahrscheinlichkeit sprechen, man kann Anekdoten erzählen über den Glaubenskrieg der alten Statistiker, aber wie die Mechanik des Lernens mit Bayes nun funktioniert, dafür habe ich bisher nur abstrakte oder geometrische Analogien gefunden.

Bandit-Algorithmen sind quasi das “Hello World” des Reinforcement Learnings, und zeigen sich in der Praxis als äußerst nützliche Helferlein bei der Echtzeit-Optimierung von Webseiten, bspw. im E-Commerce oder bei Content Aggregatoren.

Wer gerade nur Bahnhof versteht, kann sich eine kleine Einführung in das Thema durchlesen, wer schon über den Einsatz der Technologie nachdenkt, kann sich hier Anregungen einholen.

Vom Lehrbuch mit einfachen Banditen unter idealen Bedingungen hin zu produktionsstabilen Algorithmen mit verzögertem und schwankendem Reward-Level ist aber mitunter ein weiterer Weg, als sonst in der Blogospähre suggeriert wurde (und wird).

Daher zeigen ein Kollege und meinereiner heute auf der data2day in Heidelberg, wie sich Bandit-Algorithmen noch besser auf realistische Szenarien mit schwankenden Nutzerfeedbacks trimmen lassen. Hierzu gibt es auch ein interaktives Jupyter Notebook, unser Banditenlabor.

Das Banditenlabor lädt zum Experimentieren ein, und nichts ist besser als die Durchdringung der Technik durch ein kleines selbstimplementiertes Stückchen Code. Wer möchte, kann also gleich loslegen und das Banditen-Interface implementieren und eigene Versuche starten! Pull-Requests sind auch gerne gesehen ;-).