Künstliche Intelligenz (KI) hat in den letzten Jahren enorme Fortschritte gemacht und kann mittlerweile komplexe Aufgaben übernehmen. Dennoch bleibt es oft unklar, wie genau diese Systeme zu ihren Entscheidungen kommen, was vor allem in sicherheitsrelevanten Bereichen wie der Medizin oder der Justiz problematisch ist. In Kaiserslautern wurde daher ein neues Zentrum zur Erforschung und Entwicklung transparenter KI-Anwendungen ins Leben gerufen.
Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) arbeitet gemeinsam mit der Deutschen Akademie der Technikwissenschaften an diesem Innovationszentrum. Ziel ist es, KI transparenter zu gestalten und verlässliche Qualitätsstandards zu entwickeln. Andreas Dengel, der geschäftsführende Direktor am DFKI, betont die Bedeutung, dass die Ergebnisse von KI-Systemen nachvollziehbar und erklärbar sein müssen, besonders wenn sie als Zweitmeinung in der Medizin eingesetzt werden sollen.
Forschungsschwerpunkte: Landwirtschaft und Medizin
Ein aktuelles Projekt im DFKI konzentriert sich auf die Nutzung von KI für satellitengestützte Erntevorhersagen. Hierzu werden Wetterdaten und Informationen über den Zustand des Bodens sowie Phasen des Pflanzenwachstums analysiert. Diese präzisen Vorhersagen sollen Landwirten helfen, die Bewässerung und Düngung effektiv zu planen und somit Erträge zu steigern und Krisen besser zu bewältigen.
„Mit solch erweiterten Prognosen können Landwirte proaktive Maßnahmen ergreifen, um ihre Ernteerträge zu sichern“, erklärt Dengel. Dennoch erfordert diese intelligente Unterstützung, dass die zugrundeliegenden Entscheidungsprozesse der KI transparent sind, damit Landwirte nachvollziehen können, warum eine bestimmte Vorhersage getroffen wurde.
Darüber hinaus spielt KI auch in der medizinischen Diagnostik eine zunehmend entscheidende Rolle. Beispielsweise wird am Uniklinikum in Mainz mit Hilfe von KI die Erkennung von Tumoren aus Gewebeproben verbessert. Das Verfahren ermöglicht es, zwischen gesundem und krankhaft verändertem Gewebe zu unterscheiden, was für die Behandlung entscheidend sein kann. Dennoch bleibt eine vollständige Nachvollziehbarkeit der Entscheidungen der KIs eine große Herausforderung.
Digitale Spurensuche in der Kriminaltechnik
Ein weiteres wichtiges Einsatzgebiet für KI ist die Justiz. Bei Ermittlungen gelangen oft verwischte oder beschädigte Daten auf Festplatten zum Einsatz, die schwer auszulesen sind. Das DFKI kooperiert mit dem Landeskriminalamt und dem Bundeskriminalamt, um KI so zu entwickeln, dass sie verlorene Daten rekonstruieren kann. Innerhalb eines Jahres könnte die Polizei in Deutschland somit dazu in der Lage sein, Bilddateien von beschädigten Datenträgern wiederherzustellen, was für die Beweisführung in Gerichtsverfahren von enormer Bedeutung sein könnte. Allerdings muss der Entscheidungsprozess der KI jederzeit nachvollziehbar sein.
Um das Vertrauen in KI-Anwendungen zu stärken, arbeiten die Forscher in Kaiserslautern zudem an Prüfkriterien, die vergleichbar mit einem TÜV-Siegel für diese Technologien sein sollen. Diese Kriterien sollen sicherstellen, dass KI-Systeme nicht nur leistungsfähig, sondern auch vertrauenswürdig und nachvollziehbar sind. Wie www.swr.de berichtet, wird dieses neue Innovationszentrum von der Bundesregierung mit einem Gesamtbudget von 32 Millionen Euro unterstützt und stellt somit einen bedeutenden Schritt in Richtung einer verantwortungsvollen Entwicklung von KI-gestützten Anwendungen dar.
