Aktuell testen wir intern verschiedene Ansätze und prüfen, wie die Technologie für unsere Kundschaft einen Mehrwert bringen kann. Woran wir arbeiten, was wir gerade testen und in welche Richtung es weitergeht, erfahren Sie im Interview.
Drei Fragen an Christoph Bühler, Lead Innovation bei CMI
Was hat CMI im Bereich der KI bereits ausprobiert?
«Zu CMI kam ich bereits mit einem Rucksack an KI-Erfahrung. Daher sah ich das Potential der Technologie für uns sehr schnell. Die KI-Technologie in Kombination mit Informationen in unserer Lösung zu nutzen und zu verarbeiten, öffnet viele Möglichkeiten. Langfristig haben wir viele Ideen für den Einsatz der Technologie, damit unsere Kund:innen im Alltag noch zeitsparender in CMI arbeiten können. Zum Beispiel:
- ein Protokoll, das sich von selbst schreibt, gleichzeitig alle Hintergrundinformationen in CMI zusammensucht und auch gleich – auf Basis der Diskussion – einen Vorschlag für den Beschluss erstellt.
- eine Suche, die alle Informationen (aus Dokumenten, Beschlüssen etc.) sehr einfach zugänglich und in verdaubarem Format bereitstellt.»
Anwendungsfall 1: ChatGPT-Integration in Teams
Bild: Suchanfrage in der ChatGPT-Integration in unserem Teams-Kanal.
«Konkret begonnen haben wir jedoch im Kleinen, mit einfachen Anwendungen. Wir suchten Antworten zu folgenden Fragen:
- Wie funktioniert der Umgang mit der Technologie an sich?
- Wie kann ein ChatGPT-Modell sicher in einem Unternehmen eingesetzt werden, ohne dass Daten an fremde Firmen abfliessen und dort fürs Training solcher Modelle genutzt werden?
Dafür haben wir ein privates Modell direkt in unser Teams integriert und damit interagiert. So ist die KI (englisch AI) in unserem Firmenalltag sicher nutzbar, jedoch ohne Einbezug von weitergreifenden Informationen aus unserem Unternehmen.»
Anwendungsfall 2: KI-unterstützte Suche in CMI
Bild: Die KI-unterstützte Suche in CMI zeigt das zusammengefasste Ergebnis an und verlinkt gleich zu den Quellen.
«Hier testeten wir den für uns relevanten Vorteil, die künstliche Intelligenz mit Firmenwissen zu verbinden. Zudem wollten wir, dass die durch KI generierten Antworten über einen Link zur Quelle gleich verifiziert werden können.
Nehmen wir das Beispiel Support / Help: Anwender:innen stellen Fragen rund um die CMI-Lösung. Zum Beispiel: ‹Wie funktionieren die Berechtigungen innerhalb von CMI?› Die KI durchsucht nun alle relevanten Artikel in der gesamten Lösungsplattform. Die Resultate fasst sie in einem übersichtlichen Päckchen zusammen. Gleichzeitig stehen direkte Links zur Quelle (für die Validierung der Antworten) zur Verfügung.»
Welche Erfahrungen hat CMI dabei gemacht? Wo siehst du die Chancen und Risiken der Technologie?
«Die grosse Herausforderung von Modellen der künstlichen Intelligenz ist, sie mit sinnvollem Inhalt zu verbinden. Denn ohne Verbindung zu den Inhalten, können die Modelle «halluzinieren». D. h. sie präsentieren Inhalte, die falsch sein können und für Nutzer ist nicht ersichtlich aus welcher Quelle die Information stammt.
Nehmen wir ein Beispiel: Wenn Gemeinden fusionieren und die neue Gemeinde anschliessend anders heisst, sind in der KI auch alte Trainingsdaten vorhanden. Diese sind nicht einfach auswechsel- und nur schwer kontrollierbar. Aktuelle und alte Daten vermischen sich schlicht und einfach. So kommt es vor, dass Modelle Antworten geben, die nicht den heutigen Fakten entsprechen. Es geht sogar soweit, dass eine künstliche Intelligenz Fakten erfindet und auf Quellen verweist, die gar nicht existieren.
Am Schluss ist KI einfach eine Maschine, die versucht das nächste logische Wort vorauszusagen. Wenn im Kontext eine Information gut tönt, dann gibt das Modell diese wieder, auch wenn sie vielleicht nicht stimmt.
Darum ist es wichtig, ein KI-Modell eng mit wahren Inhalten zu verknüpfen (die in CMI vorhanden sind) und immer gleich die Quelle der Resultate mitzuliefern. So können Nutzer:innen auf simple Art deren Korrektheit überprüfen.
Eine zweite Herausforderung ist die sichere Verwendung von KI-Modellen. Antworten aus Gratisversionen werden z. B. zum Training weiterer Modelle genutzt. Um Datenkonformität und Sicherheit zu gewährleisten, suchen wir nach Varianten, die den Datenschutz einhalten und die Garantie, dass unsere Daten die CMI Lösungsplattform nicht verlassen. Da gibt es Ansätze, wie z. B. ein privater Cloud Service in Azure oder auch ein Open-Source-Modell in der Cloud.
Die grosse Chance von KI sehen wir darin, dass Anwendende Informationen schneller und einfacher finden und damit noch effizienter mit CMI arbeiten können. Zusätzlich werden Informationen für den täglichen Gebrauch in verdaubaren Mengen zusammengefasst aufbereitet.
Weitere Use Cases, wie das automatische Protokollieren und Zusammenfassen von Sitzungen sowie Vorschläge für die Beschlussfassung, könnten Lösungen wie CMI Protokoll und CMI Sitzungen zusätzlich aufwerten.»
Ausblick: Welche Ansätze verfolgt CMI in Sachen KI?
«Vorerst konzentrieren wir uns auf die Suche sowie die kondensierte Aufbereitung der Suchresultate. Anschliessend prüfen wir, wie die Resultate – zwecks Verifizierung – direkt und einfach mit den Quellen verbunden werden können. Dabei gilt es die Versionierung und das Berechtigungskonzept innerhalb von CMI zu berücksichtigen. Gemeinsam mit Partnern sind wir auf dem Weg. Wir sind zudem offen dafür, eine Entwicklungskollaboration mit einer externen Firma einzugehen, um KI in CMI auf optimale Weise einzubauen und für unsere Kundinnen und Kunden nutzbringend bereitzustellen.»
Christoph, herzlichen Dank für das Interview.
PS: Sie kennen Christoph Bühler nicht? Entdecken Sie sein KI-generiertes Portrait im Header des Blogbeitrags 😉.
Wo sehen Sie das grösste Potenzial einer AI innerhalb der CMI-Lösungsplattform? Danke für Ihren Input als Kommentar.