Erfahrungen mit Lucy

Eine Assistentin für drei Jahre

Als der KI-Hype Ende 2022 losging, hielt es viele Entwicklerinnen nicht mehr auf den Sitzen: Es musste rumgespielt werden.

Microsoft hatte schon seit ein paar Jahren diverse „intelligente“ Dienste im Angebot: Sprache-zu-Text, Text-zu-Sprache, Textübersetzung, Inhaltsanalyse und einiges mehr. Jetzt musste eine Sprachassistentin her, die all das nutzt und mit einem Sprachmodell verbindet. Zum Testen und um Erfahrungen zu sammeln.
Sie sollte IKS Assist heißen (inoffiziell: Lucy).
Der Technologie-Stack:
•    C#
•    .NET MAUI
•    MVVM
•    OpenAI / Azure OpenAI
•    Microsoft Cognitive Services

Damit war eine einfache App, die unter Windows, iOS und Android läuft, schnell hergestellt.

Um mit Lucy zu chatten, wählt man Sprache und Stil aus, plappert ins Mikrofon, und eine freundliche, professionelle Stimme antwortet. Wow. Microsofts Copilot und den Chatbot von Open AI gab es noch nicht und es war leicht, Familie und Freunde mit den Fähigkeiten zu beeindrucken. Für sie war es ja die App, die das alles konnte – nicht etwa die dahinter liegenden Services. Durch etwas Prompt-Engineering direkt in der App ließ sich sogar der Charakter der Sprecherin beeinflussen.

Mittlerweile ist das trivial geworden. Microsoft hat seine Entwickler-Stacks deutlich weiterentwickelt und zuletzt um den MCP-Standard (Model Context Protocol) erweitert. Auch da juckt es den Entwickelnden in den Fingern. Mal einen MCP-Server erstellen. Mal ein Tool programmieren. Das sind jeweils ein paar Zeilen Code. Und die Fähigkeiten des Bots werden schier grenzenlos:
•    Internet-Suche
•    Taschenrechner
•    Bestimmung der aktuellen Zeit
•    Aufs Dateisystem zugreifen
•    Auf E-Mails zugreifen
•    Windows bedienen und automatisieren
•    Zugriff auf externe Dienste
•    (hier Ihre Wunschfunktion eintragen)

Am Ende des Experiments konnte die App mehr als ich mir je zum Geburtstag und Weihnachten zusammen gewünscht hätte.

Inzwischen ist wieder ein Jahr vergangen und ich bin ein bisschen auf den Boden der Tatsachen zurückgekommen. Mir war ja schon klar, dass meine App ein Prototyp ist. Mit der Zeit musste sich aber erst mal herausstellen, welche zum Teil komplett neuartigen Herausforderungen hinter der nächsten Ecke lauern: Halluzinationen. Performanz. Erklärbarkeit. Privatsphäre. Lizensierung. Kosten. Usw. usw.

Seit ein paar Wochen läuft Lucy nicht mehr und ich hatte noch keine Zeit nachzusehen, was ihr fehlt. Das alles dreht sich dermaßen schnell, dass Dinge einfach kaputt gehen. Aber klar ist: Es war lange nicht so spannend in der IT-Branche.

Jetzt teilen: