Vom Algorithmus zum Entscheidungsprozess
In Block 2 habt ihr gelernt, wie ein Programm mit if/else und verknüpften Bedingungen entscheidet, was als Nächstes passiert. Genau dieses Prinzip steckt — meist in viel komplexerer Form — auch in realen Systemen, die Entscheidungen mit Auswirkungen auf Menschen treffen.
abstand < 5 hier eine Entscheidungsregel des Systems, nicht mehr nur eine Bedingung im Programmcode.wenn abstand < 5:
bremse()
sonst:
fahre_weiter()
Woher kommen die Regeln?
Nicht jede Regel entsteht auf die gleiche Art. Man unterscheidet grob zwei Wege:
Regelbasiert
Ein Mensch schreibt die Regel direkt auf — z. B. wenn abstand < 5, dann bremsen. Genau wie eure Bedingungen aus Block 2.
Vorteil: gut erklärbar.
Grenze: Sonderfälle müssen vorher bedacht werden.
Datenbasiert / gelernt
Das System lernt Muster selbst aus tausenden Beispieldaten — z. B. bei der Gesichtserkennung. Man nennt das maschinelles Lernen.
Vorteil: auch sehr komplexe Muster erkennbar.
Grenze: schwerer erklärbar, hängt stark von den Trainingsdaten ab.
Der Schwellenwert
Viele maschinelle Entscheidungen entstehen nicht dadurch, dass ein System „sicher weiß", was richtig ist. Oft berechnet es nur einen Wert — und vergleicht diesen Wert mit einer Grenze.
Beispiel: Kredit-Score
Ein System berechnet für jede Person einen Score zwischen 0 und 100. Ab 70 Punkten wird der Kredit bewilligt, darunter abgelehnt.
wenn score >= 70:
kredit_bewilligen()
sonst:
kredit_ablehnen()
Die eigentliche Entscheidung steckt also nicht nur im Score, sondern auch im Schwellenwert 70.
Was passiert, wenn man die Grenze verschiebt?
Wird der Schwellenwert auf 80 erhöht, bekommen weniger Menschen einen Kredit. Das System wirkt vorsichtiger — lehnt aber vielleicht auch geeignete Personen ab.
Wird der Schwellenwert auf 60 gesenkt, bekommen mehr Menschen einen Kredit. Das System wirkt großzügiger — bewilligt aber vielleicht auch riskantere Fälle.
Vier Fallbeispiele
Klickt eine Karte an, um zu sehen, wonach das System entscheidet — und wo es dabei schiefgehen kann.
Autonomes Fahren
Grenze: Situationen, die in den Trainings- und Testdaten nicht vorkamen (z. B. ungewöhnliche Wetterlagen, seltene Verkehrssituationen), kann das System schlechter einschätzen als ein erfahrener Mensch.
Gesichtserkennung
Grenze: Die Trefferquote hängt stark davon ab, mit welchen Gesichtern das System trainiert wurde. Ist eine Gruppe in den Trainingsdaten unterrepräsentiert, steigt für sie die Fehlerquote — das System selbst "merkt" das nicht.
Wahlcomputer
Grenze: Genau weil die Zählung nur im Code passiert, ist ohne zusätzliche Kontrolle schwer nachprüfbar, ob der Code auch wirklich fehlerfrei und unverändert ausgeführt wurde. Je wichtiger eine Entscheidung, desto wichtiger wird darum die Nachprüfbarkeit: Sind die Daten bekannt (Transparenz)? Lässt sich das Ergebnis erklären (Erklärbarkeit)? Kann jemand widersprechen (Einspruch)? Beim Wahlcomputer übernimmt das oft ein Papierbeleg.
Kreditwürdigkeitsprüfung
Grenze: Merkmale wie der Wohnort können indirekt mit sozialer oder ethnischer Herkunft zusammenhängen. Das System "sieht" das nicht als Problem — es rechnet einfach die Muster nach, die es in den Daten gefunden hat.
Zwei Arten von Fehlentscheidungen
Wenn ein maschinelles Entscheidungssystem falsch liegt, ist nicht jeder Fehler gleich. Besonders wichtig sind zwei Fehlerarten.
Falscher Treffer
Problem: Eine unschuldige Person kann verdächtigt oder kontrolliert werden.
Übersehener Treffer
Problem: Das System reagiert zu spät oder gar nicht.
Warum ist das wichtig?
Je nachdem, wo man den Schwellenwert setzt, verändert man das Verhältnis dieser Fehlerarten. Ein sehr empfindliches System erkennt mehr echte Fälle, produziert aber auch mehr falsche Alarme. Ein sehr strenges System vermeidet falsche Alarme, übersieht aber vielleicht echte Fälle.
Wo Regeln kippen
Über maschinelle Entscheidungssysteme kursieren einige Aussagen, die auf den ersten Blick logisch wirken. Klickt jede Karte an und prüft, ob sie stimmt.
Eigene Regel entwerfen
Formuliert eine eigene Alltagsregel als Wenn-Dann-Kette — z. B. für die Essensausgabe in der Mensa, eine Notenvergabe oder die Ausleihe in der Bibliothek. Beschreibt anschließend, wo diese Regel für jemanden unfair werden könnte.