Erklärbare KI mit Python: die brillante Verbindung zwischen einem Buch und pädagogischer Innovation

Um die automatische und anpassungsfähige Plattform von Cyber Guru zu realisieren, war es notwendig, ein Produkt zu entwickeln, das von einem maschinellen Lernmodell gesteuert wird. Dies war möglich dank des Fachwissens in Kybernetik, künstlicher Intelligenz und maschinellem Lernen von Leonida Gianfagnaeiner auf Elementarteilchen spezialisierten theoretischen Physikerin und heutigen Leiterin der Forschungs- und Entwicklungsabteilung von Cyber Guru, Autorin des Buches Erklärbare KI mit Phyton.

In Ihrem Buch sprechen Sie auch viel über erklärbare künstliche Intelligenz, Explainable AI. Können Sie erklären, was das ist?

Es handelt sich um einen Forschungsbereich innerhalb des maschinellen Lernens, der versucht, die vielen Fragen zu beantworten, die wir uns alle über dieses Werkzeug und seine Funktionsweise stellen, einschließlich der Fragen, die mit der Verantwortung zusammenhängen. Künstliche Intelligenz spielt mittlerweile in vielen Bereichen unseres Lebens eine wichtige Rolle, darunter in besonders sensiblen und strategischen Bereichen wie Gesundheit, Wirtschaft, Bildung, Recht und vielen anderen. Es kann also sein, dass es eine Maschine ist, die eine Tumordiagnose stellt, indem sie einen CT-Scan liest, oder die entscheidet, ob eine Person eine Hypothek für den Kauf eines Hauses bekommen kann oder nicht. Kurzum, es werden zunehmend Maschinen sein, die Antworten auf grundlegende Fragen im Leben von uns Bürgern geben. Die erklärbare KI möchte genau erklären, auf der Grundlage welcher Elemente und Kriterien die Maschine Fragen sammelt und Antworten gibt. Genauer gesagt, warum sie „entschieden“ hat, dass ich keinen Anspruch auf eine Hypothek habe und stattdessen mein Cousin eine positive Antwort erhält.

Beinhaltet dies auch Fragen der Haftung und des Rechts?

Ja, das ist auch der Punkt. Wer ist verantwortlich, wenn die Maschine eine falsche Ableitung vornimmt? Da juristische Antworten und das Recht nicht mit der Geschwindigkeit der Entwicklung von Technologie und künstlicher Intelligenz mithalten können, bewegen wir uns zunehmend auf ein gemischtes System zu, in dem die Verantwortung bei dem Menschen bleibt, der die Maschine benutzt. Die Rolle der erklärbaren KI wird immer wichtiger, um zu verstehen, wie Computer ihre Antworten konstruieren.

In dem Buch wird auch viel über maschinelles Lernen gesprochen. Was ist der Unterschied zu künstlicher Intelligenz?

Wir müssen zunächst einen kurzen Überblick über die Geschichte der künstlichen Intelligenz geben. Die Geburt der KI lässt sich symbolisch bis in die 1950er Jahre mit der Arbeit von Turing (Computing Machinery and Intelligence) und seiner berühmten Frage „Können Maschinen denken?“ zurückverfolgen . Tatsächlich erlebte sie viele schwierige Perioden, die so genannten‚KI-Winter‚, in denen es schien, dass die Entwicklung in eine Sackgasse geraten war. Bis es um die 2000er Jahre zu einer Renaissance kam, als eine Periode der verstärkten Entwicklung dieses Tools begann, vor allem aufgrund des starken Wachstums der Datenverfügbarkeit und der Rechenleistung. Diese beiden Elemente ermöglichten die Anwendung der alten Modelle in einem völlig neuen Kontext mit erstaunlichen Erfolgen Maschinelles Lernen ist ein Teilbereich der KI und beschäftigt sich mit der Entwicklung von Systemen, die auf der Grundlage der von ihnen verwendeten Daten lernen oder ihre Leistung verbessern. Es ist ein anderer Ansatz als das algorithmische Lernen, bei dem das Modell lernt, wie es Aufgaben selbstständig lösen kann (ohne genaue, von außen programmierte Regeln).

Ein Beispiel?

Wenn ich einer Maschine beibringen muss, wie man Katzen erkennt, kann ich einen von zwei Wegen einschlagen: die Merkmale der Katze auf algorithmische Weise beschreiben, indem Sie die Maschine bitten, zu prüfen, ob die Elemente der Katze in dem eingereichten Bild vorhanden sind. Aber das ist ein schwieriger Weg, denn Katzen können sehr unterschiedlich sein und bei der ersten Schwierigkeit kann die Maschine stecken bleiben. Die andere Möglichkeit besteht darin, der Maschine viele Bilder von Katzen zur Verfügung zu stellen und die Maschine selbst ein Muster reproduzieren zu lassen, das es ihr ermöglicht, eine Katze zu erkennen. Maschinelles Lernen stützt sich also auf viele Daten, indem es das Modell eines neuronalen Netzwerks (oder verschiedene Modelle von ML) aufbaut und nach der richtigen Antwort zwischen Eingabe und Ausgabe sucht. Bis der Prozess validiert ist. Wenn man mit der Genauigkeit der Antworten zufrieden ist, kann man damit beginnen, Daten an die Maschine zu übermitteln, die noch nie zuvor übermittelt wurden, indem man sich auf das Netz und die unendliche Menge an Daten, die man darin findet, verlässt. Es ist derselbe Mechanismus, auf dem der Betrieb von Chat GPT, über den heute so viel gesprochen wird, beruht.

Haben wir also einen Punkt erreicht, an dem Maschinen als intelligent definiert werden können?

Das Thema ist vielschichtiger und wurde schon immer diskutiert. Man muss sich zunächst fragen, was mit Intelligenz gemeint ist. Ein Computer verarbeitet Daten und führt Programme aus, aber er „versteht“ nicht, was er tut. . Certo, a uno sguardo superficiale le sue risposte possono sembrare simili a quelle umane. Ma rimangono due mondi distinti e lontani. La complessità dell’umano non appartiene ai computer. Es handelt sich um eine sehr wichtige Frage, die bereits in den 1980er Jahren von John Roger Searle, einem Berkeley-Professor, der für seine Beiträge zur Sprachphilosophie und zur Philosophie des Geistes bekannt ist, aufgeworfen wurde. Er schlug das berühmte chinesische Zimmerexperiment vor, um zu zeigen, dass der menschliche Geist nicht in einer Maschine replizierbar ist.

Worum geht es hier eigentlich?

Stellen Sie sich vor, dass sich in einem Raum ein Auto und ein Mann befinden, der nur Englisch spricht. Beide erhalten einen chinesischen Text, den sie übersetzen sollen. Offensichtlich hat der Computer keinerlei Probleme, seine Aufgabe zu erfüllen. Der Mann erhält ein Buch mit einer Reihe von Regeln in englischer Sprache, in denen erklärt wird, wie man chinesische Symbole seiner Sprache zuordnet. Der Mann findet also die Lösung und beginnt mit der Produktion von Antwortausgaben, wobei er die Anweisungen buchstabengetreu befolgt.Die Antworten, die der Mann produziert, sind formal korrekt, denn er hat die Anweisungen, die ihm zusammen mit den Ideogrammen gegeben wurden, buchstabengetreu ausgeführt, was mit einer Computersoftware verglichen werden kann. Trotzdem verstand sie nichts von seinen Antworten und lernte natürlich auch nicht Chinesisch, obwohl es auf den ersten Blick vielleicht anders aussah. Hierverhält sich eine Maschine wie der Protagonist in diesem Experiment: Sie führt das in der Programmiersprache (ihrer Muttersprache) geschriebene Programm aus, manipuliert aber im Wesentlichen Symbole, deren Bedeutung sie nicht kennt. Ihre Operation ist rein syntaktisch. Aber die Komplexität des menschlichen Geistes kann nicht von einer Maschine nachgeahmt werden. Dieser muss nämlich nicht ‚verstehen‘, sondern nur Daten korrekt verarbeiten und manipulieren. Um auf das Beispiel der Katzen zurückzukommen, genügt es zu sagen, dass ein Kind nicht Tausende von Katzenbildern verarbeiten muss, sondern dass es nur zwei oder drei davon sehen muss, damit sich in seinem Kopf eine Vorstellung von der Katze bildet, die es ihm ermöglicht, dieses Tier immer wieder zu erkennen.

Wenn Sie mehr über erklärbare KI mit Python erfahren möchten…