Intelligenz, Mehrdeutigkeit, Verantwortung

Intelligence: "the ability to understand and learn well, and to form judgments and opinions based on reason." Cambridge Dictionary

Als ich 2006 begann, mit SAP-Software zu arbeiten, lernte ich ein Modul kennen, das Business Intelligence hieß. Am Anfang faszinierte mich der Begriff. Später war ich enttäuscht. Besonders viel "Intelligenz" schien darin nicht zu stecken.

Für mich war BI vor allem ein großer Datensammler. Die eigentliche Intelligenz kam weiterhin von Menschen: von Beratern, die Extraktionslogik programmierten, von Anwendern, die Berichte interpretierten, und von Managern, die aus Tabellen und Präsentationen Entscheidungen machten.

In den Jahren danach entwickelte sich der Begriff "Intelligenz" in der IT weiter. Forecasting, Predictive Analytics, Bayes-Modelle, Demand Planning, Absatzprognosen. Gerade im Retail setzten wir immer ausgefeiltere Werkzeuge ein, um aus der Vergangenheit die Zukunft abzuschätzen.

Jeder Entscheider weiß aber: Daten sind mehrdeutig.

Eigentlich ist fast alles Relevante im Geschäftsleben und im Leben überhaupt mehrdeutig.

Ja, der Strom ist entweder an oder aus. Die Internetverbindung funktioniert oder sie funktioniert nicht. Schon bei etwas so Einfachem wie einem "leeren Kühlschrank" beginnt aber die Mehrdeutigkeit. Vielleicht ist er nicht leer. Ob darin noch etwas Essbares ist, ist eine andere Frage. Die Farbe des Joghurts zeigt sich erst, wenn man ihn öffnet.

Was ist also intelligent an KI?

Technisch geht es bei Large Language Models um Vorhersage. Sie sagen Wörter, Strukturen und wahrscheinliche Antworten voraus. Nach dieser Definition könnte man sagen: nicht intelligent.

In der Praxis tun sie aber etwas, das bis vor Kurzem nur Menschen konnten.

Mit begrenztem Kontext leiten sie wahrscheinliche Bedeutung ab. Sie interpretieren Absicht. Sie arbeiten mit unvollständiger Information. Sie geben eine Antwort, ohne uns zuerst durch Konfidenzintervalle, Freiheitsgrade und jede denkbare Alternative zu führen. Manchmal, wenn die Mehrdeutigkeit zu groß ist, fragen sie auf fast menschliche Weise nach.

KI arbeitet mit der Mehrdeutigkeit menschlicher Sprache: mit unseren unvollständigen Sätzen, unserem fehlenden Kontext, unseren Tippfehlern, unseren unausgesprochenen Annahmen und unserer geheimnisvollen Neigung, genau die Information auszulassen, die die Frage einfach gemacht hätte, weil wir sie für selbstverständlich halten.

Sie arbeitet auch mit der Mehrdeutigkeit der Artefakte, die wir ihr geben.

Natürlich kann sie zu zweifelhaften Schlüssen kommen. Sie kommt aber zu Schlüssen. Und diese Schlüsse können hinterfragt werden.

Leider kann ein LLM durch selektiven Kontext manipuliert werden, oder auch unabsichtlich durch ausgelassenen Kontext. Das ist aber nicht einzigartig für KI. Menschen können auf dieselbe Weise manipuliert werden. Gibt man Menschen lange genug selektive Information, behandeln viele sie irgendwann als Realität.

Die Frage ist daher nicht, ob KI fehlbar ist.

Die Frage ist: Wer soll Entscheidungen treffen dürfen, wenn der Kontext unvollständig, mehrdeutig, voreingenommen oder sogar manipuliert ist, und wenn viel auf dem Spiel steht?

Für menschliche Entscheidungen haben Unternehmen und Gesellschaften Kontrollmechanismen entwickelt. Ein Mitarbeiter fragt einen Manager. Ein Manager diskutiert mit einem Vorstand. Menschen und Unternehmen sind an Verträge, Gesetze, Regeln, Audits und Gerichte gebunden. Wenn ein menschlicher Entscheider einen schweren Fehler macht, gibt es Konsequenzen: Verlust der Position, Verlust von Vertrauen, finanziellen Schaden, rechtliche Folgen.

Eine KI interessiert sich nicht für Konsequenzen.

Sie kann aktualisiert werden. Sie kann abgeschaltet werden. Aber sie interessiert sich nicht wirklich dafür.

Das ist in Business Software zentral.

Nehmen wir ein einfaches Retail-Beispiel: Ein Kunde möchte einen Artikel ohne Kassenbon zurückgeben.

Eine strikte Regel könnte lauten: immer akzeptieren. Eine andere strikte Regel könnte lauten: nie akzeptieren. Beide wären schlecht.

Wenn ein Kunde den Laden verlässt, den Bon wegwirft, zwei Minuten später zurückkommt und sagt: "Ich habe die falsche Größe genommen", werden die meisten Verkäufer die Rückgabe akzeptieren. Das ist vernünftig. Es schützt die Kundenbeziehung.

Wenn aber jemand dreimal im Monat versucht, Ware ohne Bon zurückzugeben, und diese Ware im Laden verschwunden ist, ändert sich die Situation.

Die Regel reicht nicht. Der Kontext zählt. Würden wir die Entscheidung einer KI anvertrauen?

Genau diese Art von Mehrdeutigkeit kann KI eigentlich gut verarbeiten. Es ist aber auch genau die Art von Entscheidung, bei der wir vorsichtig sein sollten, Autorität ohne Aufsicht zu übertragen. Eine KI braucht Leitplanken für ihre Entscheidungen. Wenn die Leitplanken jedoch so genau definiert sind, dass wir der KI die Entscheidung anvertrauen können, brauchen wir dann möglicherweise gar keine KI mehr? Reicht uns dann ein deterministisches System?

Bei acceletail ist das eine unserer Grundüberzeugungen:

KI ist stark im Umgang mit Mehrdeutigkeit. Sie verändert bereits heute, wie Menschen arbeiten: in Prozessautomatisierung, IT-Projekten, Support, Monitoring, Wartung, Custom Code, Stammdaten und Prozessausnahmen.

Die Kunst beim produktiven Einsatz von KI wird darin liegen, sie dort einzusetzen, wo Mehrdeutigkeit nicht sinnvoll vermieden werden kann, und menschliche Governance entsprechend der Tragweite der Entscheidung anzuwenden.

In vielen Fällen wird die kluge Entscheidung sein, KI zu nutzen, um den Prozess zu klären, und anschließend einen deterministischen, testbaren Prozess zu implementieren.

In vielen anderen Fällen wird es darum gehen, KI zur Klärung von Kontext, zum Sichtbarmachen von Mustern, zur Formulierung von Hypothesen und zur Unterstützung von Experten einzusetzen, damit diese schneller bessere Entscheidungen treffen.

In den folgenden Kapiteln betrachten wir verschiedene Situationen im IT-Lebenszyklus und in Geschäftsprozessen und fragen, wo und wie KI in Zukunft sinnvoll eingesetzt werden kann: in IT-Projekten, IT-Wartung und Support sowie in Retail-Prozessen.

Alle Texte dieser Serie wurden von uns persönlich auf englisch geschrieben. KI wurde als redaktioneller Assistent genutzt: zur Verbesserung von Stil, Struktur und, hoffentlich, Lesbarkeit. Übersetzungen sind KI-generiert und persönlich korrigiert. Bilder sind KI-generiert. ---