Folge 12 - Künstliche Intelligenz

Shownotes

KI im Bankkundenservice: Sebastian erklärt, dass KI bereits im Kundenservice und Digital Banking eingesetzt wird. Kunden, die bei der Bank anrufen, werden von Sprachbots unterstützt, die deutlich menschlicher wirken als noch vor wenigen Jahren. Eine Studie zu ChatGPT 4.5 zeigte, dass 73 % der Nutzer glaubten, mit einem Menschen zu sprechen. Der Chatbot der Bank, "Rob", basiert ebenfalls auf generativer KI und bietet kontextbezogene und intuitive Antworten, was das Kundenerlebnis verbessert.

Transparenz und EU AI Act: In Europa, und damit auch in Deutschland, ist man Vorreiter bei der Regulierung von KI. Der EU AI Act verpflichtet dazu, transparent zu machen, wenn Kunden mit einer KI interagieren. Dies ist entscheidend, damit der Kunde weiß, ob er mit einem Menschen oder einer Maschine spricht.

Herausforderungen und Risiken von KI:

• Halluzinationen und Falschinformationen: Generative KI kann dazu neigen, überzeugende, aber falsche Informationen zu generieren, da sie auf Wahrscheinlichkeiten basiert und oft das "sagen" möchte, was der Nutzer hören will.
• Bias und Diskriminierung: KI-Modelle lernen aus ihren Trainingsdaten. Wenn diese Daten Voreingenommenheiten enthalten, kann die KI diese übernehmen und zu diskriminierenden Ergebnissen führen. Dies ist besonders kritisch bei Kreditentscheidungen, wo eine KI keine Entscheidungen auf Basis persönlicher Merkmale wie Alter, Geburtsort oder Migrationshintergrund treffen darf.
• Datenschutz: Kundendaten, die der Bank anvertraut werden, dürfen nicht zum Training allgemeiner KI-Modelle verwendet werden. Die Daten bleiben im geschützten Umfeld der Bank, um Datenschutz und Vertrauen zu gewährleisten.

Menschliche Kontrolle und Zusammenarbeit:

• "Human in the Loop": Die Ergebnisse von KI-Modellen werden auch weiterhin von menschlichen Fachexperten bewertet und bestätigt. Dies ist ein entscheidender Schritt, um die Qualität und Richtigkeit der KI-Outputs sicherzustellen.
• Feedback-Mechanismen: Kunden können den Chatbots direktes Feedback geben (z.B. "war das Ergebnis gut oder nicht so gut"), was zur kontinuierlichen Verbesserung der Modelle beiträgt.
• Entwicklung von Fähigkeiten: KI wird nicht den Menschen ersetzen, sondern repetitive Aufgaben übernehmen, für die heute oft wenig Zeit bleibt. Sie soll vielmehr als Werkzeug dienen, um die menschlichen Fähigkeiten zu erweitern und die Zusammenarbeit zwischen Mensch und KI ("Work with") zu fördern.

Wichtiger Appell zur Nutzung im beruflichen Kontext: Thorsten betont dringend, dass KI-Tools im beruflichen Umfeld nur in abgestimmter Form und nach Freigabe durch den Arbeitgeber genutzt werden sollten. Es dürfen keine vertraulichen oder arbeitsbezogenen Informationen einfach in öffentlich zugängliche KI-Systeme (wie z.B. ChatGPT) eingegeben werden. Dies hat rechtliche und datenschutzrelevante Konsequenzen. Bevor man KI für die Arbeit einsetzt, muss der Arbeitgeber sicherstellen, dass das genutzte Tool offiziell freigegeben ist und die rechtlichen Rahmenbedingungen (Datenschutz, Informationssicherheit) erfüllt sind.