Artificial Intelligence Assessment

  • Hintergrund zum Thema:

    Beim Einsatz von Künstlicher Intelligenz (KI), gibt es neben großen Chancen und Potentialen für die Gesellschaft auch erkennbare Risiken. Beim Einsatz von KI zur automatisierten Auswahl von Bewerbungen oder zur medizinischen Diagnoseerstellung ist beispielsweise bereits Diskriminierung aufgetreten. Infolgedessen bestehen zahlreiche Initiativen, die sich um einheitliche Standards für den Einsatz von künstlicher Intelligenz bemühen, um diesen Risiken entgegenzutreten. Künstliche Intelligenz überprüfbar zu machen und entsprechende Kriterien zu diesem Zweck zu definieren ist jedoch bislang ein herausfordernder Prozess. Im Ergebnis gibt es zum aktuellen Zeitpunkt noch keine einheitlichen Standards. Es ist daher erforderlich die Herausforderungen bei der Bewertung von KI-Lösungen zu identifizieren und besser zu verstehen.

     

    Mögliche Zielsetzung für die Abschlussarbeit (Beispiele):

    • Darstellung von Herausforderungen bei der Bewertung von KI-Lösungen (entweder allgemein auf die Eigenschaften von KI bezogen oder detailliert auf einen Teilaspekt, wie z.B. Erklärbarkeit, Fairness etc.) (z.B. Literatur Review)
    • Validierung von Herausforderungen in der Praxis (z.B. Experten Interviews)
    • Themenbezug zu aktuellen Initiativen (z.B. Zertifizierung, Gütesiegel, Code of Conducts, Code of Ethics, Ethics Guidelines etc.)
    • Eigener Vorschlag für die Abschlussarbeit im Themenfeld von AI Assessment


    Literatur zum Einstieg:

    • F. T. Jaigirdar, C. Rudolph, G. Oliver, D. Watts and C. Bain, "What Information is Required for Ex-plainable AI? : A Provenance-based Research Agenda and Future Challenges," 2020 IEEE 6th International Conference on Collaboration and Internet Computing (CIC), 2020, pp. 177-183, doi: 10.1109/CIC50333.2020.00030
    • P. Cihon, M. J. Kleinaltenkamp, J. Schuett and S. D. Baum, "AI Certification: Advancing Ethical Practice by Reducing Information Asymmetries," in IEEE Transactions on Technology and Society, vol. 2, no. 4, pp. 200-209, Dec. 2021, doi: 10.1109/TTS.2021.3077595
    • German Standardization Roadmap on Artificial Intelligence. DIN Deutsches Institut für Normung e.V.; DKE German Commission forElectrical, Electronic & Information Technologies of DIN and VDE. https://www.din.de/re-source/blob/772610/e96c34dd6b12900ea75b460538805349/normungsroadmap-en-data.pdf - https://www.iais.fraunhofer.de/de/forschung/kuenstliche-intelligenz/ki-zertifizierung.html