Die eigene Sprach-KI: Mit offenen Sprachmodellen experimentieren
Eine eigene Sprach-KI erschaffen: Wir zeigen, wie man ein geeignetes Sprachmodell findet, wie man es an seine Bedürfnisse anpasst und wo man es hostet.
(Bild: whiteMocca / shutterstock.com)
Das Kochrezept für eine Sprach-KI-Anwendung klingt eigentlich ganz einfach: Man baue eine hübsche Bedienoberfläche oder nehme eine bestehende Anwendung; dort gebe man dem Nutzer die Möglichkeit, Texte an eine KI zu senden; diese Texte verpacke man mit geschickt gewählten Anweisungen, den Prompts, und schicke sie über eine Programmierschnittstelle an OpenAI oder einen anderen KI-Anbieter; die Antworten gebe man auf der Oberfläche aus – fertig!
Rund um den Boom der großen Sprachmodelle sind tausende Dienste entstanden, deren Kern aus API-Aufrufen an OpenAI besteht. Das ist prinzipiell auch völlig in Ordnung. Weil Sprachmodelle so vielseitig sind, eignen sie sich als Motor für die unterschiedlichsten Anwendungen.
Allerdings hat diese Form der KI-Nutzung auch Nachteile. So fließen Benutzereingaben zum Sprachmodellbetreiber. Ebenso das Unternehmenswissen, wenn man beispielsweise firmeninternes Know-how durch den Prompt in die Antworten integrieren lassen möchte. Außerdem kostet jeder API-Aufruf Geld. Für viele Zwecke lohnt es sich daher, über die Entwicklung einer eigenen KI-Anwendung nachzudenken, bei der man nicht nur die Benutzerschnittstelle, sondern auch das zugrundeliegende Sprachmodell kontrolliert. Wir skizzieren, wie Sie eine KI-Anwendung unter eigener Ägide bauen und was Sie dabei beachten müssen. Dazu stellen wir die Plattform Hugging Face vor. Sie ist die erste Adresse, wenn Sie ein geeignetes Modell suchen.
Immer mehr Wissen. Das digitale Abo für IT und Technik.
So installieren Sie das KI-Framework PyTorch ohne Stress
Künstliche Intelligenz: Die Mathematik hinter neuronalen Netzen
Informatiker im Öffentlichen Dienst: Aufgaben, Gehälter und Verbeamtung
PyTorch: Eigene Bildgenerierungs-KI mit Python bauen
Ausprobiert: Fritzbox als NAS-Ersatz verwenden
Photovoltaik: Anlagen dimensionieren, Wirtschaftlichkeit berechnen
Immer mehr Wissen. Das digitale Abo für IT und Technik.
So installieren Sie das KI-Framework PyTorch ohne Stress
Künstliche Intelligenz: Die Mathematik hinter neuronalen Netzen
Informatiker im Öffentlichen Dienst: Aufgaben, Gehälter und Verbeamtung
PyTorch: Eigene Bildgenerierungs-KI mit Python bauen
Ausprobiert: Fritzbox als NAS-Ersatz verwenden