Ein RAG-Tag im Leben eines KI-Consultants: Erste Schätzung der LLM-Kosten

Es war einer dieser Tage, an denen alles gleichzeitig passiert – Oscar Joplin, der KI-Consultant, hatte gerade einen intensiven Vormittag in seiner Ausbildung bei AI-Trainingsinstitut hinter sich und war nun auf dem Weg zu einem Meeting mit einem Geschäftsführer (GF) einer kleinen, aber erfolgreichen Vinyl-Label-Firma, die es geschafft hatte, das Vinyl-Geschäft wiederzubeleben. Das Gespräch drehte sich um RAG-Systeme, LLMs und wie diese Technologien auch der Musikbranche helfen könnten, Prozesse zu optimieren und den Kundenservice zu verbessern.
Oscar erklärte mit wachsender Begeisterung die Vorteile des RAG-Ansatzes, als der Geschäftsführer ihn plötzlich unterbrach: „Klingt alles gut. Aber eine Frage: Was kostet das Ganze pro Monat?“
Oscar – immer noch in der Rolle des Lernenden, auch wenn er bald als zertifizierter KI-Consultant unterwegs war – überlegte kurz und fragte zurück: „Wie viele Personen stellen denn täglich Fragen auf Ihrer Webseite und bein Support?“ Der Geschäftsführer schaute ihn etwas überrascht an, aber die Frage war direkt und präzise.
Oscar griff geschickt zu seinem Handy und begann, die Antwort auf dem LLM-Kalkulator einzugeben, den er vor kurzem entwickelt hatte. Nach nur wenigen Minuten hatte er eine erste Schätzung – basierend auf den Annahmen, die der Ansprechpartner ihm gegeben hatte. „Schätzungsweise 375 € netto pro Monat,“ sagte er und präsentierte die Zahl.
Der Geschäftsführer, beeindruckt von der Geschwindigkeit und Genauigkeit der Antwort, sagte schließlich: „Das ging ja schnell! Sie sind mir fast zu schnell... Wir machen keinen Werkvertrag, aber ich buche Sie für einen halben Tag pro Woche, damit wir gemeinsam mein Unternehmen KI-fit machen. Deal?“
In diesem Moment wusste Oscar, dass er den richtigen Schritt gemacht hatte: Mit dem Kalkulator konnte er in wenigen Minuten eine verlässliche Schätzung liefern, die Vertrauen aufbaute und den Weg für eine langfristige Zusammenarbeit ebnete. 🚀

Fazit: Weniger labern, mehr Fragen stellen und den sichtbaren Nutzen liefern. Tools sind oft der perfekte Einstieg, um das Potenzial von KI greifbar zu machen und den Appetit auf mehr zu wecken.
Teste den Kalkulator von Oscar Joplin hier! Link zur App

Hilfe Oscar sein Kalkulator zu verbessern!
Ihn fehlt noch vieles Know how. Hast du Verbesserungsvorschläge? Bug gefunden? … Bitte formuliert sie direkt als Prompt (was soll im Kalkulator anders sein, berechnen, darstellen, abfragen…), damit Oscar es ohne Aufwand in sein System einspeisen kann. Ich freue mich auf euren Feedback!