Die Sommerspiele sind beendet. Neben zahlreichen schönen Erinnerungen bleiben wie bereits in den Vorjahren auch ein paar neue Szenarien, wobei wegen der anstehenden Version 1.4 alles einen etwas vorläufigen Charakter hat, weil damit zu rechnen ist, daß Szenarien an die neue Version angepaßt werden.
Neben den Touring-Tests war diesmal das Interesse an den Virus- und Pandemie-Spielszenarien besonders groß. Szenarien mit halbwegs aktuellem Bezug haben ja oft einen temporär besonders großen Zuspruch.
Aus dem Spaß- und Satirebereich neu ist nunmehr ein Szenario zur sogenannten Künstlichen Dummheit, auch kurz KI, AI oder KD genannt, dabei geht es darum, einem lernfähigen System auf die Schliche zu kommen, welches im Lernprozeß die falschen oder unerwünschte Schlüsse aus den Vorlagen gezogen hat.
In dem Bereich sind ja aus realen Anwendungen von lernfähigen Systemen Beispiele bekannt, bei denen das System hervorragend Rassismus, Sexismus, allgemein Diskriminierungen vielerlei Art aufgedeckt hat, damit allerdings für den eigentlichen Zweck komplett unbrauchbar wurde.
Dies knüpft an jene Szenarien an, über welche bereits im letzten Monat kurz berichtet wurde.
Künstliche Dummheit verspricht das Thema der nächsten Jahre zu werden - je mehr Konzerne es mit lernfähigen Systemen probieren, desto prominenter wird das Thema werden, desto übler die Folgeschäden sowie Dramen, welche aus Künstlicher Dummheit resultieren, denn es gibt ja auch psychologische Studien, die belegen, daß Menschen den Urteilen von Maschinen vertrauen, egal, aufgrund welcher Algorithmen diese Entscheidungen treffen.
Das satirische Szenario setzt sich damit kritisch auseinander, weist eindringlich darauf hin, welche Fallstricke sich ergeben, wenn auf etwas bei der Automatisierung vertraut wird, dessen Bewertungskriterien unverstanden bleiben.
Was taugen solche Systeme, wenn ihre Entscheidungen nicht nachvollziehbar sind?
Wir kommen wir ihren Fehlschlüssen oder unerwünschten, diskriminierenden Schlußfolgerungen auf die Schliche?
Was tun, um Folgeschäden aufzuhalten oder rückgängig zu machen?
Wer haftet für automatisierte Prozesse?
Strafrechtlich? Finanziell? Bei Schäden gegenüber der Allgemeinheit, gegenüber der Umwelt?