Im Dialog mit Ihren Dokumenten – KI macht es möglich

Generative KI (GenAI) wird nach und nach in Business-Anwendungen integriert. Der deutsche ECM-Hersteller Amagno gehört zu den ersten, die GenAI-Funktionalität im Dokumentenmanagement eingeführt haben.

„Stellen Sie sich eine Arbeitswelt vor, in der ein digitales Tool Mitarbeitende von der Suche nach Inhalten und Informationen aus dem Unternehmen befreit und ihnen Zeit schenkt, ihre Talente für echte Produktivität einzusetzen“, sagt Jens Büscher, Gründer und CEO von Amagno, dem Hersteller des gleichnamigen Enterprise Content Management-Systems. Diese Vision will er nun mit dem neuen Amagno CECM (Conversational ECM) realisieren.  

Amagno.AI ist ein „digitaler Kollege“, der dalle Dokumente des Unternehmens bis ins letzte Detail kennt.

Die Schlüsselkomponente dazu ist die KI-Erweiterung Amagno.AI, die seit letzen Monat Amagno-Kunden zur Verfügung steht. Es handelt sich dabei um eine Implementation der generativen KI von Microsoft (auf Basis von ChatGPT) aus der Azure Cloud. Diese ermöglicht es Mitarbeitenden, sich per Chat mit Unternehmensdokumenten zu unterhalten und diese zu ihrem Inhalt zu befragen, statt nach Dokumenten mit bestimmten Inhalten zu suchen.

Kontext statt Suchergebnisse

Amagno.AI bietet folgende drei KI-gestützte Funktionen:
→ Der Amagno.AI Chat ermöglicht die Unterhaltung mit Dokumenten des CECM.
→ Der Amagno.AI Autopilot automatisiert die strukturierte Erkennung von Dokumenten und deren Daten.
→ Das Amagno.AI Automate erlaubt es, eigene Prompts zu hinterlegen, um Unternehmensdaten individuell mit internen oder externen Informationen anzureichern. 

Die KI ermöglicht Mitarbeitenden, sich mit den Dokumenten ihres Unternehmens in natürlicher Sprache zu unterhalten. Statt Suchergebnisse in Form einzelner Dateien liefert das Amagno CECM Antworten und Kontext auf konkrete Fragen. Die Unterhaltung läuft ähnlich wie ein Chat mit einem Kollegen – nur dass dieser „Kollege“ alle Dokumente des Unternehmens bis ins letzte Detail kennt, Zugriff auf breites Wissen hat und zudem genau weiß, welche Zugriffsrechte die Fragen stellende Person hat.

Über den Chat lässt sich beispielsweise schnell herausfinden,
→ inwiefern sich neue Vertragsversionen von älteren unterscheiden,
→ ob alle Artikel einer Bestellung geliefert wurden,
→ welche Schritte bei einem technischen Notfall einzuleiten sind,
→ wie sich ein Kundenvorgang chronologisch zusammenfassen lässt
→ oder wie Mitarbeitende verfahren sollen, wenn sie krankgeschrieben sind. 

Kundendaten werden zusätzlich verschlüsselt

„Während klassische ECM den Fokus auf die strukturierte Verwaltung und Speicherung von Unternehmensinhalten legen, erweitert das Amagno Conversational ECM dieses Konzept durch die Integration von generativer KI und natürlicher Sprache“, sagt Jens Büscher. „Diese Integration gestaltet den Zugriff auf und die Verwaltung von Inhalten deutlich benutzerfreundlicher und effizienter.“ 

Der Unterschied zu traditionellen ECM-Systemen besteht darin, dass bei Amagno CECM der klassische Suchvorgang durch Ordnerstrukturen und Metadatenfilter ebenso entfällt wie die Auswertung von Ergebnislisten bei der Volltextsuche. Dank der natürlichsprachlichen Schnittstelle reicht es aus, eine Frage einzugeben, um Antworten zu erhalten, weil Amagno CECM den Kontext vieler Dokumente auch ohne Klassifizierung versteht. Dadurch kann es kontextbezogen und dokumentenübergreifend Informationen liefern, Inhalte proaktiv zusammenfassen, vergleichen oder übersetzen sowie komplexe Abfragen beantworten – und das gleich in mehreren Sprachen.

Amagno CECM läuft in der Amagno Business Cloud, die in der Azure-Cloud von Microsoft in Deutschland gehostet wird. Die Unternehmensdaten der Amagno-Kunden werden durch eine zusätzliche Verschlüsselung geschützt und von den Daten anderer Kunden abgegrenzt (siehe auch Interview mit Jens Büscher unten). Außerdem werden Kundendaten nicht zum Training weiterer Sprachmodelle verwendet. Für eine hohe Treffsicherheit der Antworten sorgen neuere KI-Verfahren wie Retrieval Augmented Generation (RAG).

„Intelligente Algorithmen und Multishot-Prompting“

Interview mit dem Amagno-CEO Jens Büscher

Business User: Wie stellt Amagno.AI sicher, dass die Angaben der Antworten richtig sind? Microsofts KI halluziniert manchmal gerne.

Jens Büscher: Je moderner die Sprachmodelle sind (z.B. GPT-4o oder GPT-o1), desto besser sind die Ergebnisse. Daher setzen wir auf neue Sprachmodelle. Zudem nutzen wir ein Retrieval Augmented Generation (RAG) Design, um die relevantesten Daten universell und nach einer Rechteprüfung auszuwählen und sie in komprimierter Form an das KI-Modell zu übergeben. Hinzu kommen weitere intelligente Algorithmen und Techniken wie Multishot-Prompting. Das alles erhöht die Treffgenauigkeit zusätzlich.

BU: Die Microsoft Azure Cloud mag zwar die besten Vorkehrungen hinsichtlich Datensicherheit haben und in Europa gehostet sein, aber sie gehört einem US-Unternehmen und letzteres unterliegt US-Gesetzen, die US-Regierungsbehörden im Bedarfsfall Zugriff auf Rechenzentren überall gewähren. Microsoft versichert zwar, dass sie solche Anfragen gerichtlich abzuwehren versuchen, aber soviel ich weiß ist das keine Garantie für DSGVO-Compliance. Wie geht Amagno mit diesem Thema um?

Jens Büscher: Die enormen Investitionen in die Sicherheit und die rechtlichen Bemühungen waren für uns ausschlaggebend für die Entscheidung zugunsten von Microsoft. Die theoretische Möglichkeit des Zugriffs durch die US-Regierung besteht durch den Cloud Act in der Tat, genau wie bei anderen Anbietern wie Meta, Google oder Amazon. Daher legen wir zusätzlich einen Sicherheits-Layer mit eigener Verschlüsselung um die Daten herum und trennen die Daten auf verschiedenen Ebenen. Dass die Microsoft Azure Cloud sehr vertrauenswürdig ist, unterstreichen zudem sehr viele renommierte Referenzprojekte von Banken oder aus der Medizinbranche, die mit sensiblen Daten in der Microsoft Azure Cloud laufen.

BU: Sind die KI-Funktionen auch in der On-Premise-Version verfügbar?

Jens Büscher: Die Amagno Cloud und die Amagno On Premise Plattform haben einen identischen Kern. In der Cloud setzen wir ergänzend für die Skalierung unserer Services zum Beispiel auf Kubernetes, um den enormen Datenstrom effektiv zu verarbeiten. Amagno.AI benötigt eine sehr aufwändige Infrastruktur und erfordert zusätzliche Administration, was erhebliche Kosten verursacht. In der Amagno Cloud können wir diese Kosten auf alle Kunden verteilen, das macht Amagno.AI für die Cloud attraktiver. Für On-Premise-Kunden, die die Infrastruktur, Kosten und Aufwände sowie das Personal bereitstellen können, ist eine Inbetriebnahme von Amagno.AI denkbar. Das prüfen wir derzeit mit Großkunden, die sich dafür interessieren.

BU: Wie ist das Pricing für die KI-Version bzw. nach welchem Modus wird abgerechnet (z.B. pro Abfrage oder pauschal)?

Jens Büscher: Wir starten zuerst mit einer Technology Preview der Amagno.AI und verarbeiten das eintreffende Feedback. Da wir derzeit verschiedene ergänzende Technologien für weitere Funktionen der Amagno.AI evaluieren, steht das Pricing noch nicht fest. Wir sind dafür bekannt, dass wir ein einfaches und klares Preiskonzept ohne Module anbieten. Daher streben wir auch hier eine einfache Lösung an. Da KI-Modelle typischerweise auf Token-Basis abgerechnet werden, liegt es nahe, dass wir auf dieser Basis abrechnen werden. Darüber informieren wir die Interessierten der Technology Preview in den nächsten Wochen.