Gestern hat Open AI zwei neue Open Source Modelle veröffentlicht (https://openai.com/index/introducing-gpt-oss/). Mit sehr spannenden Spezifikationen insbesondere für den Einsatz in Unternehmen.
Auch wenn diese Modelle nicht auf dem Stand des aktuellen Chat GPT sind, so lassen sie sich insbesondere für sicherheitskritische Daten unternehmensintern selbst betreiben. Sie können quasi ein „kleines Chat GPT“ auf ihrem eigenen Server, mit ihren eigenen Daten, ganz ohne Internet-Anbindung betreiben.
Open AI verfolgt hierbei die Strategie, dass es besser ist, wenn Kunden alles von einem einzigen Anbieter bekommen anstatt für interne, sichere Zwecke auf Modelle der Konkurrenz zu setzen. Man positionier sich somit in allen Bereichen:
• kostenlose Online-Variante (Achtung: Datenschutz-Problematik)
• Bezahl-Variante (23 EUR), besserer Datenschutz, besseres Modell
• Pro-Variante (229 EUR), Ph.D. Level Assistant
• Open Source Variante zu Selbstinstallation
Das soll jetzt keine Werbung für Open AI sein (Gott bewahre), aber es zeigt, welche Wege die großen KI-Unternehmen gehen, um Kundenbindung aber auch End-To-End-Lösungen zu erreichen.
Möchte man sich dem Thema wirklich ernsthaft (und im Unternehmenskontext) nähern, muss man allerdings auch die entsprechende Hardware bereitstellen. Hier wird eine A100 von NVIDIA empfohlen, da kommt man schnell mal auf locker über 35k. Allerdings hat man anschließend auch sein „eigenes kleines Chat GPT“ im Keller stehen…
Unabhängig davon gibt’s natürlich mittlerweile tonnenweise Sprachmodelle von verschiedensten Anbietern. Am gängigsten dürfte das Llama Modell von Meta sein, das ebenfalls in vielen Anwendungfällen in Unternehmen zum Einsatz kommt.
Ich bin jedenfalls gespannt, wie sich der Einsatz dieser Modelle entwickelt und werd’s selbst mal ausprobieren.