KI & Bias

Thomas Camminady

Data Scientist @ Wahoo Fitness

Bevor es los geht…

https://github.com/thomascamminady/scienceforfuture2023/

Ganz kurz zu mir

Studium

Ganz kurz zu mir

Promotion

Ganz kurz zu mir

Job

Wahoo Fitness

Quiz

Ist das KI?

Ziele

Inhaltlich

Nach diesem Workshop habt ihr ein Verständnis dafür,

was KI, Algorithmen und Daten verbindet;
dass Zahlen nicht zwingend objektiv sein müssen;
was schief geht, wenn man sich keine Gedanken über Algorithmen macht;
dass KI nicht nur ein MINT Thema ist.

Ziele

Nicht inhaltlich

Ich hoffe,

dass ihr alle Spaß an diesem Workshop und der Thematik habt;
dass ich euer Interesse für die Thematik KI wecken / erhöhen kann.

FYI

Ich mache das hier zum ersten Mal, wenn etwas unklar ist oder ihr Fragen habt, ihr seid vermutlich nicht alleine. Fragt :)

Algorithmen

Randall Munroe, xkcd.com/1838, (CC BY-NC 2.5)

Klassische Algorithmen

Sortieralgorithmus

import random


def algorithmus(zahlen):
    while not ist_sortiert(zahlen):
        random.shuffle(zahlen)
    return zahlen


def ist_sortiert(zahlen):
    for i in range(len(zahlen) - 1):
        if zahlen[i] > zahlen[i + 1]:
            return False
    return True


algorithmus([5, 3, 2, 1, 4])

[1, 2, 3, 4, 5]

Und was ist dann KI?

Excalidraw

Was ist KI für euch?

Und was ist dann KI?

Heute beschränken wir uns auf diese Definition:

KI = Datenbasierter Algorithmus

Datenbasierte Algorithmen

Datenbasierte Algorithmen — Ein Beispiel

Klassifizierung von Pinguinen

Situation: Wissenschaftler_innen möchten den Pinguinbestand überwachen.

Problem

Nur geschultes Personal ist dazu in der Lage.

Klassifizierung von Pinguinen

Ausweg: Muster nutzen und erkennen

Illustrationen: Allison Horst

Daten: Gorman KB, Williams TD, Fraser WR

Klassifizierung von Pinguinen

Idee

Wir entwickeln einen Klassifizierungsalgorithmus der uns bei gegebener Schnabellänge und -tiefe sagen kann, um welchen Pinguin es sich handelt.

Vorteil: Messung ist auch für ungeschultes Personal möglich.

Training

Ausgangssituation

Training

Das Leben einfacher machen…

Training

Aufteilung in Training- und Testdaten

Training

Unsere KI: Support Vector Machine (Stützvektormaschine)

Training

Oberhalb = Adelie. Unterhalb = Gentoo.

Training

def gerade(x):
    m = (22 - 13) / (60 - 30)
    return m * (x - 30) + 13


def algorithmus(laenge, tiefe):
    if laenge > gerade(tiefe):  # Oberhalb
        return "Adelie"
    else:
        return "Gentoo"  # Unterhalb

Der Trainingsprozess liefert einen Algorithmus zur Klassifizierung von Pinguinen.

Anwendung des Algorithmus

Nur 1 Pinguin ist falsch klassifiziert.

Zusammenfassung

Klassische Algorithmen

Datenbasierte Algorithmen

Excalidraw

Könnt ihr die Pinguine klassifizieren?

Datenbasierte Algorithmen

Excalidraw

Was für weitere Beispiele fallen euch noch ein?

Bias

Definition

Bias ≈ Voreingenommenheit / Verzerrung.
“Bias” bezeichnet eine Neigung oder Vorliebe in eine bestimmte Richtung, oft aufgrund von Vorurteilen.
Es kann sich auf Vorurteile in Daten, Entscheidungen oder Wahrnehmungen beziehen.
Nicht immer absichtlich oder bewusst.
Kann zu falschen oder ungerechten Ergebnissen führen.

Bias im Kontext von KI

Vorhersage von Verbrechen

ProPublica untersuchte die COMPAS-Software, ein Instrument zur Vorhersage des Rückfallrisikos von Straftätern in den USA.
Die Analyse ergab, dass die Software Schwarze Personen ungerechtfertigt als wahrscheinlicher zukünftige Straftäter einstufte, im Vergleich zu weißen Personen mit ähnlichen Vorstrafen.

Bias im Kontext von KI

Amazons Bewerbungsalgorithmus

Mehr Männer bei Amazon.
Lebensläufe wurden auf Wörter überprüft, die häufig zu Einstellungen geführt haben.
Manche Wörter werden häufiger von Männern benutzt.
Verstärkender Kreislauf der Männer befürwortet.

Bias im Kontext von KI

Diskussion

Was für weitere Beispiele fallen euch noch ein?

Bias am Beispiel der Herzfrequenzerkennung

Herzfrequenz

Herzfrequenz ist eine wichtige Metrik in der Medizin und im Sport.
Es existieren verschiedene Arten die Herzfrequenz zu messen.

Optische Herzfrequenzerkennung

Messung der Lichtintensität

Distanz zwischen Peaks liefert Puls

Illustrationen: Csilla Timar-Fulep / Zemax

Die Realität ist etwas komplizierter…

Wir filtern das Signal

Unser Algorithmus

def algorithmus(lichtintensität, filterstärke):
    # Zuerst filtern wir das Signal
    lichtintensität = filter(lichtintensität, filterstärke)

    # Dann bestimmen wir die Abstände zwischen den Peaks
    abstände = finde_abstände_zwischen_peaks(lichtintensität)

    # Der Puls ist 60 / Abstand in Sekunden
    return 60 / abstände

Wie bestimmen wir die Filterstärke? Training!

Trainingsprozess

Mit unseren Testdaten können wir für jede Filterstärke einen mittleren Fehler bestimmen.
Finde die Filterstärke, die den mittleren Fehler (über mehrere Läufe) minimiert.

Trainingsprozess

Fehlerverteilung mit optimalen Parametern
Algorithmus ist genauer bei niedrigem Puls und gleichzeitig ungenauer bei hohem Puls

Trainingsprozess

Frauen haben tendenziell einen höheren Puls, waren im Training aber unterrepräsentiert.
Algorithmus ist also weniger genau bei Frauen.

Bias

Trainingsdatensatz war nicht ausbalanciert bzgl. der Geschlechter.
Training optimiert daher mit einem Bias für Männer.
Bis zu 30% höherer Fehler.

Problematisch bei Anwendungen in der Medizin

Insbesondere bei medizinischen Anwendungen kann ein Bias zu großen Problemen führen.

Nicht immer offensichtlich

Problem scheint hier offensichtlich, ist aber oft schwierig zu erkennen.

Bias am Beispiel der Gesichtserkennung

Von 2D zu 3D zu 784D

Illustrationen: Allison Horst

Daten: Gorman KB, Williams TD, Fraser WR

Von 2D zu 3D zu 784D

Hinzufügen von Gewicht resultiert in 3D Klassifizierungsproblem.
Statt Geraden, nun Ebenen.

Von 2D zu 3D zu 784D

MNIST Ziffernerkennung

Bilder mit 28*28=784 Pixeln.
Jeder Pixel ist eine Dimension.
Hyperebenen in Hyperräumen.
Vorteil: Kein Aufwand, jeder Pixel wird als Dimension interpretiert.

Von 2D zu 3D zu 784D

Gender Shades

Diskussion

Was glaubt ihr, welche Probleme können sich hier ergeben?

Diskussion

What could go wrong?

Speech2Face

What could go wrong?

Prison Term Prediction

Was glaubt ihr?

Excalidraw

Wo haben Algorithmen Bias?

Beispiele für Algorithmen mit konkreten Problemen / Bias?
Wie äußert sich Bias in eurem Beispiel?
Welche Konsequenzen hat das Ganze für betroffenene Personen?
Was ist der mathematische Grund für Bias?
Was könnte man anders machen?

KI & Bias

Bevor es los geht…

Ganz kurz zu mir

Ganz kurz zu mir

Ganz kurz zu mir

Wahoo Fitness

Wahoo Fitness

Quiz

Ziele

Ziele

Algorithmen

Klassische Algorithmen

Klassische Algorithmen

Klassische Algorithmen

Klassische Algorithmen

Sortieralgorithmus

Und was ist dann KI?

Und was ist dann KI?

Datenbasierte Algorithmen

Datenbasierte Algorithmen

Datenbasierte Algorithmen

Datenbasierte Algorithmen — Ein Beispiel

Klassifizierung von Pinguinen

Klassifizierung von Pinguinen

Training

Training

Training

Training

Training

Training

Anwendung des Algorithmus

Anwendung des Algorithmus

Anwendung des Algorithmus

Zusammenfassung

Datenbasierte Algorithmen

Datenbasierte Algorithmen

Bias

Definition

Bias im Kontext von KI

Bias im Kontext von KI

Bias im Kontext von KI

Bias am Beispiel der Herzfrequenzerkennung

Herzfrequenz

Optische Herzfrequenzerkennung

Die Realität ist etwas komplizierter…

Wir filtern das Signal

Unser Algorithmus

Trainingsprozess

Trainingsprozess

Trainingsprozess

Bias

Bias am Beispiel der Gesichtserkennung

Von 2D zu 3D zu 784D

Von 2D zu 3D zu 784D

Von 2D zu 3D zu 784D

Von 2D zu 3D zu 784D

Gender Shades

Gender Shades

Diskussion

What could go wrong?

What could go wrong?

Was glaubt ihr?

Q&A

Zeit für Fragen und Antworten

Backup

Gender Shades