In einem bemerkenswerten Schritt hat NEC Laboratories Europe, das Forschungs- und Entwicklungszentrum der NEC Corporation, seine generativen KI-Dienste erweitert. Insbesondere wird eine neue Technologie, der LLM Explainer, eingeführt, die Halluzinationen in den Ergebnissen von großen Sprachmodellen (Large Language Models, LLMs) erkennen und erklären soll. Diese Entwicklung ist besonders bedeutsam, da LLMs heutzutage häufig in Unternehmen zur Verbesserung wissensbasierter Aktivitäten eingesetzt werden, jedoch oft falsche oder irreführende Informationen generieren, die als Halluzinationen bekannt sind.
Dr. Carolin Lawrence, Managerin und leitende Wissenschaftlerin bei NEC Laboratories Europe, erläuterte, dass Organisationen, die auf LLMs angewiesen sind, momentan manuell die Korrektheit der Ausgaben überprüfen müssen. Dies sei sowohl zeitaufwändig als auch kostspielig. Der LLM Explainer hingegen ermöglicht es den Anwendern, die von LLMs generierten Inhalte effizienter zu validieren, indem er die Informationen mit relevanter Quelldokumentation vergleicht. Dies könnte die Arbeitsweise vieler Unternehmen drastisch verbessern.
Die Funktionsweise von LLM Explainer
Der LLM Explainer verwendet moderne Techniken der Verarbeitung natürlicher Sprache. Er analysiert sowohl die einzelnen Wörter als auch die Bedeutungen von Sätzen, um herauszufinden, ob bestimmte Informationen fehlen oder ob es Widersprüche gibt. Für jeden ausgegebenen Satz können die Anwender hilfreiche Verweise auf die Originaldokumentation angezeigt bekommen, was die Überprüfung der Richtigkeit der Fakten erheblich erleichtert.
Durch diese Funktionalität, die in einem benutzerfreundlichen Format bereitgestellt wird, können Unternehmen gezielt Informationen anpassen, um ihren spezifischen Anforderungen gerecht zu werden. Dr. Lawrence hebt hervor, dass dies wertvolle Zeit spart und es den Nutzern ermöglicht, Anpassungen schnell vorzunehmen, ohne umfangreiche Nachforschungen anstellen zu müssen.
NEC hat außerdem vielversprechende Pläne, die Funktionalitäten des LLM Explainers weiter auszubauen. Zukünftige Fähigkeiten sollen die Entdeckung halluzinierter Entitäten und die Identifizierung von Widersprüchen umfassen, was dazu beitragen wird, Diskrepanzen in den generierten Ergebnissen noch schneller zu erkennen und zu beheben.
Die Integration von LLM Explainer in NECs generative KI-API-Dienste wird für Ende Oktober erwartet. Eine lokale Version, die „on-premise“ verfügbar ist, wird ebenfalls eingeführt, was weitere Flexibilität für Unternehmen in Japan bieten sollte.
NEC ist bekannt für ihre Expertise in der Kombination von IT- und Netzwerktechnologien und verfolgt das Ziel, die gesellschaftlichen Werte wie Sicherheit und Effizienz zu fördern, um eine nachhaltigere Welt zu schaffen. Neben den KI-Innovationen arbeitet NEC Laboratories Europe auch an Projekten in den Bereichen Blockchain-Sicherheit, 5G- und 6G-Netzen sowie IoT-Plattformen, um innovative Lösungen für digitale Gesundheit, sichere Städte und öffentliche Dienstleistungen anzubieten.
