LLMs und ihr langer Weg zu Akzeptanz und Einsatz
Im letzten Beitrag haben wir uns sehr vereinfacht die historische Entwicklung von Werkzeugen und Automatisierung, bis hin zu maschinellem Lernen und generativer KI (genAI) angesehen. Wir hielten fest, dass die Nutzung von menschlicher Sprache der logische nächste Schritt in einer Entwicklung ist, den wir Menschen gehen müssen, sofern wir an weiterem Fortschritt und steigender Automatisierung interessiert sind. Auch werden Probleme immer komplexer und sind mittlerweile oft mit bestehender Technologie nicht mehr lösbar. Daher wollen wir uns aktuelle Herausforderungen anhand eines nachvollziehbaren Beispiels ansehen. Wir versuchen außerdem zu verstehen, weshalb Investitionen in Künstliche Intelligenz (KI) bzw. wenigstens in genAI, nur zögerlich zur Anwendung kommen. Denn große Technologiekonzerne investieren bereits Milliarden in Künstliche Intelligenz, sei es in den Aufbau von Datenzentren, der Überarbeitung interner Prozesse oder in das Entwickeln von neuen Produkten…
Warum fühlt sich Technologie manchmal als Hindernis an?
Die zunehmenden technischen Möglichkeiten mit ihren immer weiterwachsenden Ansprüchen, empfinden möglicherweise viele Menschen als zu komplex und verspüren deshalb das Verlangen nach einer Simplifizierung. Fühlt man sich über einen längeren Zeitraum überfordert, kann es dazu führen, sich abgehängt und irgendwann sogar ausgegrenzt zu fühlen. Das führt zu Frustration, Resignation und möglicherweise auch zu einer Abwehrhaltung von technischen, sozialen oder sogar auch politischen Strukturen. Doch warum integrieren dann Menschen und Unternehmen genAI und Large Language Modelle (LLM) so zögerlich in ihren Alltag, wo sie doch helfen sollen, Probleme zu lösen?
Im echten Leben sieht eine Verkettung solcher Umstände möglicherweise folgendermaßen aus: Als Kunde hat man ein Problem mit einem Produkt. Intuitiv lässt sich das Problem erst einmal nicht lösen, da selbst das Ausprobieren aller erfassten Möglichkeiten zu keiner Lösung geführt hat. Ist mittlerweile schon eine gewisse Frustration vorhanden, werden die subjektiv als aufwendig empfundenen Lösungsansätzen, wie das Studieren der Betriebsanleitung, das Lesen der FAQs oder das Recherchieren von Lösungsansätzen auf sekundären Websites oft übersprungen und der direkte Kontakt mit dem Händler bzw. Hersteller gesucht. Doch auch wenn man sich die Zeit und Mühe gemacht haben sollte, selbst noch weiter nach einer Lösung zu suchen und schlussendlich keine finden kann, läuft es normalerweise auf eine sprachliche Kontaktaufnahme hinaus, egal ob schriftlich oder – da es meist als einfacher und zielführender und schneller erscheint – gesprochen per Telefon.
Wie wurde ein solches Problem üblicherweise von Unternehmen gelöst?
Gute Supportmitarbeiter kosten Firmen sehr viel Geld, wodurch entweder die Gewinnmarge kleiner wird und/oder aber die Preise steigen, um solche (und andere) Mehrkosten auszugleichen. Da aus unternehmerischer Sicht Margen nicht fallen oder sogar im besten Fall steigen sollen, wurden Produkte simplifiziert (damit erst kein oder wenig Support anfällt) oder aber Kosten für Support wurden durch Formulare, Ticketsysteme, Chatbots, vorformulierte Antworten aus Bausteinen und/oder Outsourcing in Niedriglohnländer gesenkt. Sich durch Formulare zu klicken, sich lange mit einem Wenn -> Dann Chatbot zu unterhalten, um einen Lösungsansatz zu bekommen oder eine Baustein-Antwort per E-Mail zu erhalten, die den Kern des Problems verfehlt, erhöht jedoch oft eher den Frust von Kunden.
Aber was nun?
Durch LLMs wurde nun aber eine Technologie entwickelt, welche die Möglichkeit bietet – durch eine von Menschen präferierte Methode – Antworten auf Fragestellungen oder Problemlösungen zu bekommen: Durch Kommunikation per natürlicher Sprache!
Daher muss man sich schon fragen, warum Unternehmen – zumindest im ersten Schritt – ihren schriftlichen Support nicht schon länger mithilfe von LLMs entlasten. Es gibt LLM Modelle die Open Source sind, zudem ist eine Vektordatenbank die Zugriff auf alle technischen und fachlichen Informationen sowie die Historie zu vergangenen Supportfällen enthält, ebenfalls mit geringen Mitteln erstellt. Die Übersetzung, Zusammenfassung oder Beantwortung von Kundenanfragen kann durch ein LLM vorbereitet werden, sodass der Supportmitarbeiter im nächsten Schritt, lediglich die Arbeit des LLM überwachen muss, sie bewertet, möglicherweise korrigiert und anschließend freigibt.
Wo stehen wir aktuell und wieso treten viele Firmen auf der Stelle?
Der aktuelle Stand von LLM bzw. genAI Modellen ist leicht zu verstehen: Eine neue, sehr mächtige Technologie ist verfügbar und das Wettrennen der Iterationen ist in vollem Gange. Verschiedene große Technologiekonzerne wetteifern um das beste Modell und integrieren zeitgleich die schon entwickelten Modelle mit deren Fähigkeiten bereits in ihr Ökosystem. Das im letzten Beitrag angesprochene Orchestration Layer, welches zum nächsten Durchbruch fehlt, wird jeweils sukzessive entwickelt und freigegeben. Microsoft beispielsweise, integriert genAI in seine Office 365 Landschaft und greift gleichzeitig durch die Integration von LLM in Bing, den von Google dominierten Markt für Suchmaschinen an.
Viele Firmen sind jedoch zögerlich genAI und LLMs wirklich zu integrieren und bewährte Prozesse neu zu denken. Sie schieben Bedenken über die tatsächlichen Fähigkeiten der Technologie, einen Mangel an qualifizierten Mitarbeitern oder rechtliche Bedenken vor. Doch oft geht es auch darum, die Verantwortung für eine mögliche Fehlinvestition nicht tragen zu müssen. Das Thema wird lange beobachtet und erst erprobte Anwendungsfälle werden verzögert oder per Akquisition übernommen. Doch ein risikoaverses Vorgehen funktioniert nur, solange Margen, Marktanteile und Zukunftsfähigkeit nicht unter Druck geraten. Somit ist der Apell an Unternehmen: Wartet nicht bis ihr abgehängt wurdet und seid mutiger bei IT-Projekten und wartet nicht, bis externe Lösungen entwickelt werden, denn diese passen oft nicht genau zu den eigenen Bedürfnissen und Prozesse müssen anschließend aufwendig um die externe Lösung herum gebaut werden.
Denn…
Konkrete Anwendungsmöglichkeiten für LLMs, die über sichtbare Usecases hinausgehen, gibt es viele. Besonders geeignet sind – wie weiter oben erwähnt – im ersten Schritt (Teil)Automatisierungen von textuellen Arbeiten. Beispielsweise kann das Ticketaufkommen stark durch neu gedachte Chatbots verringert oder die Bausteinlösung bei Antworten durch vollständig formulierte Antwortvorschläge ersetzt werden. Durch solche kleinen Schritte steigen die Akzeptanz und Vertrautheit mit der Technologie, Mitarbeiter werden entlastet und können sich wieder Arbeiten widmen, die wertschöpfender sind!
