[über]
[lösungen]
[log]
Nichts Passendes dabei? Stellen Sie ein, welche Inhalte Sie auf aleri.de sehen möchten:
Weihnachten: Kickstart für eine KI-Story-App
„Weihnachtsgeschichten gibt es viele. Aber diese garantiert noch nicht! Sie ist ein Unikat – von Ihnen“. Mit diesen Worten stellt sich die App Benutzer:innen vor. Sie ist das Ergebnis eines spannenden Aleri-Experiments, bei dem es um mehr geht als um einzigartige Weihnachtsgeschichten.
Wie einfach lässt sich eine KI-App entwickeln?
Die Funktionsweise der Geschichten-App ist einfach: Die künstliche Intelligenz gibt den Anfang der Geschichte vor, die Nutzer:innen ergänzen nach eigener weihnachtlicher Fantasie. Daraufhin spinnt die KI die Story weiter und so entsteht im Dialog eine Geschichte, die es so noch nirgends zu lesen gibt. In Zeiten von ChatGPT ist das Können nicht überraschend, doch der Weg zur eigenständigen KI App ist dann doch anspruchsvoller als das Öffnen der OpenAI-Website. Wie anspruchsvoll?
Wir spulen zurück zum Herbst 2023. Unsere KI-Experten Dirk Heche, Technology Lead für Data Centric Solutions & AI, und Melanie Bott, Technology Lead Product Experience, diskutieren über ihre laufenden Projekte. Und plötzlich steht die Frage im Raum: Wie viel Budget, Zeit und Ressourcen benötigen wir minimal, um eine funktionale KI App zu entwickeln?
Und weil sich Weihnachten am Horizont abzeichnet, beschließen sie, die Antwort im Selbstversuch zu finden. Der Plan: eine KI App für Kunden zu entwickeln, in der diese im Dialog mit künstlicher Intelligenz eine individuelle Weihnachtsstory schreiben können.
Mit dem richtigen Team losgehen
Das Projektteam war schnell zusammengestellt: Dirk Heche entwickelte das gesamte Backend rund um den KI-Kern und kümmerte sich um die eigentliche Anbindung an die künstliche Intelligenz – das Herzstück der Anwendung. Martin Radile übernahm die Verantwortung für die IT-Infrastruktur und sorgte dafür, dass die eingesetzten Tools und Technologien auch tatsächlich so zusammenliefen, dass alles funktionierte.
Damian Cyrus setzte mit seiner Arbeit auf dem Backend auf und übernahm die Entwicklung des späteren Frontends. Hierbei arbeitete er Hand in Hand mit Melanie Bott, die mit ihrem Team die Vorgaben für das Design des Frontend und eine moderne User Experience beisteuerte.
Technische Bausteine und rechtliche Absicherung
Nach der Programmierung des Tools in Python wurde mit JavaScript ein rudimentäres Frontend gebaut. Über die OpenAI-Schnittstelle verknüpfte das Team die Microsoft Azure Cloud mit dem Sprachmodell ChatGPT. Alles funktionierte – erstaunlich – problemlos.
Jetzt musste das Sprachmodell mit den richtigen Prompts ausgestattet werden, damit es auf die Benutzer:innen inhaltlich immer in einem weihnachtlichen Kontext antworten würde. Dafür wurden dem Modell bestimmte Weihnachtsbegriffe mitgegeben, zum Beispiel Schnee, Tannenzweige, Kerzenschein, und nicht zu verwendende Begriffe definiert wie Strand, Sonne, Meer etc. Der Proof of Concept gelang: Selbst wenn User:innen völlig weihnachtsferne Begriffe eingaben, fand die KI immer einen Weg, die Geschichte in den beabsichtigten Kontext zurückzuführen.
Neben der technischen Umsetzung waren noch datenschutzrechtliche Fragen zu klären. Schließlich sollte die App frei im Internet verfügbar sein. Da Nutzer:innen ihre erstellten Geschichte außerdem aus der App heraus per E-Mail versenden können sollten, musste der Versand gegen Spam abgesichert werden. Auch hier: keine größeren Probleme. Dennoch zog sich das Projekt über mehrere Wochen, nicht nur wegen winterlicher Krankheitswellen.
Glückliche Kunden, Learnings und Zukunftspläne
Am Ende konnte das Team die Weihnachtsstory App rechtzeitig veröffentlichen – und erhielt viele positiven Rückmeldungen und interessierte Nachfragen von Kunden.
Genauso wichtig waren für uns die Learnings aus dem Projekt für die weitere Arbeit mit KI. Ein Beispiel: Der Einsatz der KI selbst verursachte zwar relativ geringe Kosten, aber bei der Verwendung der App durch die User:innen und dem damit verbundenen Datenbankzugriff war der Ressourcenverbrauch außergewöhnlich hoch. Die entstandenen Kosten waren in diesem überschaubaren Projekt zwar zu vernachlässigen, aber für die Enterprise-Lösungen unserer Kunden haben wir jetzt Strategien entwickelt, um Kostenexplosionen bei ihnen zu vermeiden.
Ist die Geschichte der Weihnachts-App damit auserzählt? Nein, nach Abschluss des Projekts war sich unser Team einig, dass das KI-Experiment in die nächste Runde gehen soll. Demnächst wird die Story App daher nicht nur Weihnachtsgeschichten erzählen, sondern ihre Künste in diversen Kontexten einbringen. Mehr wird allerdings noch nicht verraten...