Zum Hauptinhalt springen

Newsartikel

Künstliche Intelligenz auf dem Prüfstand

  •   25.03.2021
  •   Digital Services
  •   Erstellt von Julia Guthan, TÜV AUSTRIA; JKU

Gemeinsam mit dem Institut für Machine Learning der Johannes Kepler Universität (JKU) Linz entwickelt TÜV AUSTRIA ein Zertifikat für künstliche Intelligenz.

Künstliche Intelligenz gehört zu den am schnellsten wachsenden Themenfeldern. Machine Learning ist die treibende Kraft dieser Technologierevolution. Ob Bilderkennung, Empfehlungssysteme, Chatbots, Diagnostik oder Prognosen – mit großen Datenmengen trainierte Machine Learning Modelle finden sich bereits heute in einer Vielzahl von Anwendungen des Alltags wieder und verleihen diesen „Intelligenz“.

Kann ich dir vertrauen? 
Doch gerade dieser Anschein von Intelligenz verunsichert und wirft Fragen auf: Ist diese künstliche Intelligenz vertrauenswürdig und sicher? Erfüllt die KI die von ihr erwartete Funktion? Sind die im Training verwendeten Daten korrekt? Wird mit der großen Menge an sensiblen Daten sorgsam umgegangen? TÜV AUSTRIA arbeitet gemeinsam mit dem Institut für Machine Learning der Johannes Kepler Universität an entsprechenden Zertifizierungsmethoden, um Hersteller bei der Entwicklung sicherer, verlässlicher und qualitativ hochwertiger Machine Learning Modelle zu unterstützen und Nutzern ein Qualitätssiegel für vertrauenswürdige KI-Systeme zu bieten.

Institutsvorstand Prof. Sepp Hochreiter sieht KI richtungsweisend für die Zukunft: „Machine Learning ist die derzeit wichtigste Grundlagentechnologie und wird langfristig unser technisches Umfeld und unser ganzes Leben massiv beeinflussen. Umso wichtiger ist es, mit der Zertifizierung von Machine Learning Anwendungen das Vertrauen der Konsumenten in diese Technologie zu stärken. Daher arbeiten wir gerne daran mit, die notwendigen Qualitätskriterien maßgeblich mitzugestalten.“ Prof. Hochreiter gilt weltweit als Pionier der modernen Künstlichen Intelligenz und rief vor zwei Jahren Österreichs erstes KI Studium an der JKU Linz ins Leben. Er ist Vorstandsmitglied von ELLIS, dem Exzellenznetzwerk der besten europäischen Wissenschaftler im Bereich des Machine Learnings und dessen Anwendungen. Hochreiter leitet das LIT AI Lab und die ELLIS Unit Linz.

Prüfung auf Herz und Nieren
Die erste Erfolgsstufe wurde erreicht: Sogenannte Supervised Learning Anwendungen im niedrigen bis mittelhohen Risikobereich werden heute schon zertifiziert. „Wir führen bereits erste Zertifizierungsprojekte durch, wobei sich die Anwendungen vor allem im industriellen Umfeld aber auch im Consumer Bereich wiederfinden. In den nächsten Phasen der Entwicklungskooperation werden die jetzigen Ansätze erweitert, um auch sicherheitskritischere Anwendungen basierend auf einem breiteren Spektrum von Machine Learning Methoden zertifizieren zu können“, sagt Dr. Stefan Haas, CEO der TÜV AUSTRIA Group und ergänzt: „Besonders freut es uns, für dieses herausfordernde Unterfangen das Machine Learning Institut der JKU als hochkompetenten und international anerkannten Partner an unserer Seite zu wissen.“
    
Im Rahmen der Zertifizierung werden die Machine Learning Modelle und deren Entwicklungsprozess in mehreren Dimensionen im Detail überprüft. Dabei wird nicht nur die eigentliche Funktion und Verlässlichkeit der trainierten Modelle untersucht, sondern auch die Sicherheit der Software und ob diese den Anforderungen ihres Einsatzgebiets entsprechend angemessen entwickelt wurde. Hinzu kommt eine Prüfung, ob mit persönlichen Daten vertraulich umgegangen wird und mögliche ethische Fragestellungen ausreichend berücksichtigt werden.

Trusted Artificial Intelligence

TÜV AUSTRIA / JKU White Paper: Trusted Artificial Intelligence: Towards Certification of Machine Learning Applications

 

Rückfragen

TÜV AUSTRIA Group | Thomas Doms | TÜV AUSTRIA-Platz 1, 2345 Brunn am Gebirge
Email: digitalservicestuvat | T: +43 664 604546313

JKU, Institute for Machine Learning | Dr. Bernhard Nessler | E: Nesslerml.jkuat | T: +43 664 3336009

Jetzt Neu: Das neue White Paper "Trusted Artificial Intelligence. Towards Certification of Machine Learning Applications" ist eine Co-Produktion der TÜV AUSTRIA Group und der Johannes Kepler Universität Linz / Insitute for Machine Learning

Kann ich dir vertrauen? Künstliche Intelligenz auf dem Prüfstand.

  •   | Drucken
to top