KI im Überblick: Welches Verfahren passt zu welcher Aufgabe?

Überwachtes LernenWie lernt ein System aus Beispielen?

Die Qualitätsprüfung möchte, dass eine Kamera Kratzer auf Filtergehäusen erkennt. Dafür braucht sie Beispiele: Bilder, bei denen ein Mensch schon gesagt hat, ob ein Kratzer zu sehen ist oder nicht. Aus diesen Beispielen mit Etikett lernt das Verfahren eine Regel, die gute und schlechte Teile trennt. Das heißt überwachtes Lernen, weil die richtige Antwort beim Lernen bekannt ist.

So lesen Sie das Bild: Jeder Punkt ist ein Teil, beschrieben durch zwei Merkmale, die Länge einer Auffälligkeit und ihren Kontrast. Grüne Kreise sind gute Teile, rote Quadrate Teile mit Kratzer, so wie Menschen sie bewertet haben. Die blaue Linie ist die Grenze, die das Verfahren Schritt für Schritt lernt. Danach kommen fünf neue Teile ohne Etikett hinzu; ihr Ring zeigt, wie sie eingeordnet werden. Eines liegt fast auf der Grenze und geht an einen Menschen.

Echte Systeme arbeiten mit Tausenden Merkmalen, die sie selbst aus den Bildern gewinnen, und mit gekrümmten statt geraden Grenzen. Das Prinzip bleibt: Sie lernen, was die Beispiele zeigen, auch deren Fehler. Wenn die Prüfer sich bei Grenzmustern nicht einig waren, lernt die Kamera diese Uneinigkeit mit.

Unüberwachtes LernenWas tun, wenn niemand die Antwort vorgibt?

Das Qualitätsmanagement hat 66 Reklamationen aus einem Quartal, als Freitext. Niemand hat sie vorher sortiert. Ein unüberwachtes Verfahren sucht von selbst nach Gruppen, die sich ähneln. Eines der einfachsten heißt k-Means: Es setzt eine gewählte Zahl von Mittelpunkten, ordnet jede Reklamation dem nächsten zu, verschiebt die Mittelpunkte in die Mitte ihrer Gruppe und wiederholt das, bis sich nichts mehr ändert.

So lesen Sie das Bild: Jeder Punkt ist eine Reklamation, so angeordnet, dass ähnliche Texte nahe beieinander liegen. Zuerst sind alle grau. Die Kreuze sind die drei Mittelpunkte; sie starten an ungünstigen Stellen und wandern Runde für Runde, während sich die Punkte nach dem nächsten Mittelpunkt einfärben. Am Ende stehen über den Gruppen Namen. Die hat nicht das Verfahren vergeben, sondern ein Mensch, der in die Gruppen hineingeschaut hat.

Das Ergebnis ist ein Vorschlag, keine Wahrheit. Die Zahl der Gruppen wählt man selbst, und was eine Gruppe bedeutet, muss jemand mit Fachwissen beurteilen. Wertvoll ist das Verfahren trotzdem: Es zeigt Muster, die beim Lesen einzelner Reklamationen untergehen, etwa dass eine kleine Gruppe immer dieselbe Verpackungsart betrifft.

Bestärkendes LernenWie lernt ein System durch Ausprobieren?

Die Technik möchte eine Einstellung finden, bei der eine Anlage am besten läuft, ohne die Wirkung jeder Einstellung vorher zu kennen. Bestärkendes Lernen probiert aus, bekommt nach jedem Versuch eine Rückmeldung, eine Belohnung, und wählt mit der Zeit öfter, was sich bewährt hat. Am Anfang probiert es viel Neues, später nutzt es vor allem das Bekannte.

So lesen Sie das Bild: Jede Säule ist eine Einstellung; ihre Höhe zeigt, was der Regler bisher über sie gelernt hat. Die gerade gewählte Einstellung ist dunkel umrandet. Die gestrichelte Kurve ist die tatsächliche Wirkung, die der Regler nicht kennt. Rechts beziehungsweise unten steigt die mittlere Belohnung, weil er immer öfter nahe der besten Einstellung bleibt. Alle Werte sind erfunden.

In der Fertigung ist das heikel, denn jeder schlechte Versuch kostet echte Teile. Deshalb lernen solche Verfahren meist in einer Simulation oder nur innerhalb enger, geprüfter Grenzen. Oft ist eine geplante Versuchsplanung der schnellere und sicherere Weg zu einer guten Einstellung.

SprachmodelleWas kann ein Sprachmodell, und was nicht?

Der Vertrieb möchte Antworten auf Reklamationen schneller entwerfen. Dafür sind Sprachmodelle gebaut. Sie beruhen auf einer Architektur namens Transformer, die bei jedem Wort auf den ganzen bisherigen Text achtet, und sie sind darauf trainiert, Wort für Wort vorherzusagen, was als Nächstes plausibel folgt. Aus diesem einfachen Prinzip entstehen erstaunlich gute Texte.

So lesen Sie das Bild: Der Satz baut sich Wort für Wort auf. An drei Stellen zeigt das Bild darunter die wahrscheinlichsten Kandidaten für das nächste Wort, mit erfundenen Wahrscheinlichkeiten. Die Bögen zeigen, auf welche früheren Wörter das Modell dabei besonders achtet, etwa auf „Reklamation“, wenn es die Charge nennt. Das letzte Wort ist braunrot hinterlegt: Es klingt plausibel, steht aber in keiner Quelle.

Genau darin liegt die Schwäche. Ein Sprachmodell schreibt, was plausibel klingt, nicht, was stimmt. Ohne Quelle kann es Fakten erfinden, die sich lesen wie Fakten. Für Entwürfe, Zusammenfassungen und Übersetzungen ist es ein starkes Werkzeug, wenn ein Mensch prüft, bevor etwas das Haus verlässt. Für Aussagen über Ursachen, Fristen oder Vorschriften braucht es eine Fundstelle.

RAG: erst suchen, dann antwortenWie bekommt ein Sprachmodell eine Fundstelle?

Regulatory Affairs braucht Antworten mit Beleg. Dafür gibt es ein Vorgehen mit dem englischen Kürzel RAG, Retrieval-Augmented Generation: Zuerst sucht ein System in den eigenen Dokumenten die passenden Stellen, dann formuliert ein Sprachmodell die Antwort nur auf dieser Grundlage und nennt die Quellen. Am Ende prüft ein Mensch, ob Antwort und Fundstelle zusammenpassen.

So lesen Sie das Bild: Von links nach rechts beziehungsweise von oben nach unten: die Frage; die Suche in den eigenen Dokumenten, bei der jede Fundstelle einen Balken für ihre Passung bekommt; die formulierte Antwort mit Quellenangabe in eckigen Klammern; die Prüfung durch einen Menschen. Die Klammer unter den ersten beiden Schritten zeigt, was die Demos dieser Seite tun. Der dritte Schritt ist gestrichelt, weil er ein Sprachmodell braucht.

Die beiden Wissenssysteme im Werkzeugkasten zeigen genau die ersten beiden Schritte, und zwar bewusst ohne Sprachmodell. Firmenwissen fragen sucht im Handbuch einer erfundenen Firma, Die MDR durchsuchen im Wortlaut der Medizinprodukteverordnung. Beide zeigen die Fundstelle und sagen ehrlich, wenn sie keine finden. Sie formulieren nichts selbst und können deshalb nichts erfinden. Für Vorschriften ist das kein Mangel, sondern oft die sicherere Wahl.

Im WerkzeugkastenFirmenwissen fragen und Die MDR durchsuchen – Suche mit Fundstelle zum Ausprobieren, als Demo gekennzeichnet.

AgentenWas ist ein Agent, und wo endet seine Zuständigkeit?

Ein Agent ist ein Sprachmodell, das nicht nur antwortet, sondern Schritte plant und dafür Werkzeuge aufruft: Daten abfragen, rechnen, Dateien schreiben. Der Einkauf könnte so eine Lieferantenbewertung vorbereiten lassen: Liefertermine holen, Reklamationen zählen, Kennzahlen bilden, einen Entwurf schreiben.

So lesen Sie das Bild: In der Mitte der Agent, um ihn herum vier Werkzeuge. Nacheinander läuft ein Signal zu jedem Werkzeug, und rechts beziehungsweise unten wächst das Protokoll der erledigten Schritte. Am Ende hält der Ablauf an: Die Bewertung an den Lieferanten zu senden, braucht die Freigabe eines Menschen im Einkauf.

Agenten sparen Zeit bei Abläufen mit vielen kleinen, klaren Schritten. Sie brauchen aber Grenzen: Welche Daten darf er lesen, welche ändern? Welche Schritte darf er allein ausführen, welche brauchen eine Freigabe? Und wird jeder Schritt protokolliert, so dass man später nachvollziehen kann, was passiert ist? Wo Entscheidungen Folgen für Kunden, Lieferanten oder Patienten haben, sollte ein Mensch entscheiden.

KI-Systeme bewertenFünf Fragen an jedes System

Ob Kamera, Reklamationsauswertung oder Agent: Bevor ein KI-System eingesetzt wird, sollte es fünf Fragen bestehen. Die erste ist die tückischste, und der Bereich Daten, Kapitel 7, rechnet sie an einem Beispiel durch: Eine Kamera mit 98 Prozent Treffsicherheit liefert bei seltenen Fehlern 49 Alarme, von denen nur 9 echt sind.

So lesen Sie das Bild: Jede Zeile ist eine Prüffrage. Sie erscheint, wird beantwortet und bekommt einen Punkt: grün mit Häkchen, wenn die Antwort überzeugt, braunrot mit Ausrufezeichen, wenn nicht. Bei der ersten Frage fällt das Angebot durch, mit dem Rechenbeispiel aus dem Bereich Daten. Die übrigen Antworten sind schematisch als erfüllt angenommen.

Die zweite Frage führt zurück zum Messsystem: Auch menschliches Urteil streut, und eine KI lernt diese Streuung mit. Die dritte betrifft die Übertragbarkeit: Ein System, das an fremden Bildern geprüft wurde, kann an den eigenen versagen. Die vierte regelt, wer nachprüft. Und die fünfte ist in der Medizintechnik besonders wichtig: Software, die Qualitätsentscheidungen trifft oder unterstützt, muss für ihren Zweck geprüft sein. Was das im Einzelfall heißt, entscheiden Qualitätsmanagement und Regulatory Affairs; hinzu kommen Datenschutz und die Pflichten aus der europäischen KI-Verordnung.

Sondern mit der Frage, welche Aufgabe gelöst werden soll, und welche Daten dafür da sind. Wie man die Daten vorher in Ordnung bringt, zeigt der Beitrag Digitalisierung in Stufen.