Privat-KI

Level 1: Chatbot für mich

Das erste Gespräch mit einer PDF-Datei vergisst man nicht. Und das geht so: Man füttert eine Sammlung von Dokumenten an ein Softwaretool, das mit einer Vektordatenbank und einem Large-Language-Model arbeitet. Also an ein KI-System.

Danach muss man das Dokument nicht mehr selbst durchforsten, sondern fragt es einfach. Das PDF lernt sozusagen sprechen.

Mein erstes Gespräch dieser Art lief über ein Tool namens Paper QA, das Dokument war eine Sammlung von Wikipedia-Einträgen über die Fernsehserie „Succession“, meine Frage war: Was ist die Catchphrase der Figur Logan Roy? Die Antwort des PDFs: Fuck off! Richtig! (ChatGPT gibt diese Antwort selten, wahrscheinlich aus Angst vor dem Wort Fuck).

Was, wenn das nur der Anfang ist? Wenn ein solcher Chatbot Hunderttausende Seiten von Text durchforsten und auf alle je von mir verfassten E-Mails, Google-Docs und Tabellen zugreifen könnte?

Genau daran arbeiten gerade Softwarefirmen auf der ganzen Welt. KI-Sprachmodelle sollen lernen, nicht nur in ihren Trainingsdaten und dem Internet zu suchen, sondern auch in privaten, geschützten Datenbanken.

Die Technik wäre also nicht komplett neu. Man nähme ein Basismodell wie OpenAIs GPT-4, Googles Lamda oder Metas Llama und stellte diesem eine Schnittstelle zur eigenen Datenbank zur Verfügung (was deutlich komplizierter ist, als es klingt, auch weil die Daten geschützt werden wollen). Heraus käme ein Chatbot, der sich nicht nur mit der Serie „Succession“ auskennt, sondern auch alle von mir geschriebenen E-Mails und Textnachrichten zusammenfassen könnte.

Level 2: eine Firmen-KI

Die meisten Softwarefirmen arbeiten aber nicht an Produkten für Privatpersonen, sondern für Unternehmen. OpenAI etwa stellte Anfang des Jahres ein Pilotprojekt mit der Investmentbank Morgan Stanley vor. Die Firma, so OpenAI in einer Pressemitteilung, habe Hunderttausende Seiten mit Informationen gespeichert. Diese für neue Vermögensverwaltungsstrategien zu sichten sei mühsam und zeitintensiv. Ein an Morgen Stanley angepasstes GPT-4 soll das erleichtern.

Mit ChatGPT Enterprise bietet OpenAI so ein Tool seit Ende August im Software-as-a-Service-Modell auch für andere Firmen an. Google versucht dasselbe mit Duet AI und Microsoft mit Copilot.

In Deutschland hat Bosch für ein internes KI-System mit dem Heidelberger Start-up Aleph Alpha zusammengearbeitet. „BoschGPT“ soll auf die hauseigene Datenbank zugreifen können, Software-Entwickler bei der Dokumentation unterstützen und Produktionsdaten verfügbar machen. Ende des Jahres soll es für alle Beschäftigten freigeschaltet werden.

Dass das so lange dauert, liegt (wie bei vielen KI-Projekten) nicht zuletzt am Datenschutz. Bei einer Anwendung für Firmen dürfen keine Daten abfließen, sie müssen im Unternehmen bleiben. Bei einem Verstoß gegen die Datenschutzgrundverordnung drohen Strafen bis zu vier Prozent des Jahresumsatzes. Und es geht natürlich um Geschäftsgeheimnisse.

Ob sich der Aufwand für die KI-Anbieter lohnt? Microsofts Copilot und Googles Duet AI sollen zu Beginn 30 Dollar pro Kunde und Monat kosten. Die großen Tech-Unternehmen subventionieren diese Anwendungen gerade noch enorm. Wie teuer deren Betrieb in ein paar Jahren sein wird, ist unklar. Was dennoch wahrscheinlich ist: Es wird in immer mehr Organisationen eigene Chatbots geben. Und was macht man dann damit?

Neuen Mitarbeiterinnen und Mitarbeitern könnte so ein Tool zum Beispiel helfen, sich zurechtzufinden. Wenn alle über „Thomas“ reden, welcher von den 30 ist gemeint? Selbst wenn die KI nicht immer alles weiß, könnte sie Kontext liefern, um selbst auf die Antwort zu kommen.

„Hallo Chatbot, bitte gib mir eine Zusammenfassung, wie sich unsere Beschäftigtenzahlen über die vergangenen 20 Jahre entwickelt haben, aufgeschlüsselt nach unseren verschiedenen Standorten, und vergleiche die Entwicklung mit der Arbeitsplatzentwicklung für diese Standorte allgemein, gib mir das Ganze als Punktdiagramm aus und füge eine Erklärung in unserer Corporate Language dazu.“ Dank der Firmen-KI kann ein Angestellter die Anweisung seiner Chefin viel schneller umsetzen.

Wirklich gut wird so ein Tool aber erst, wenn die KI nicht nur Daten ausliest, sondern auch selbst welche hinzufügt. Schon jetzt können wir Meetings aufzeichnen und von einem KI-Sprachmodell zusammenfassen lassen. Das könnte die Daten dann automatisch erfassen und ablegen.

Das heißt: Statt Barbara zu schreiben, ob sie sich noch erinnert, wem Dinesh kürzlich im Jour Fixe die Zuständigkeit für das Weihnachtswichteln übertragen hat, fragt man einfach die KI. Das sind nur die offensichtlichsten Beispiele.