Prof. Dr. Heidi Schelhowe
Beiträge in merz
- Heidi Schelhowe: Medienpädagogik und Informatik
Heidi Schelhowe: Medienpädagogik und Informatik
_____________________________________________________________________
Interdisziplinärer Diskurs
Medien vor 60 Jahren – Medien heute. Da ist vieles gleich geblieben und doch irgendwie alles ganz anders. Wir sind vernetzt, online und mobil, Medien sind immer und überall – und aus keinem Lebensbereich und keiner (humanwissenschaftlichen) Disziplin wegzudenken. merz, seit 60 Jahren Forum der Medienpädagogik, nimmt ihren Geburtstag zum Anlass, um dies im interdisziplinären Horizont zu erörtern. Wir fragten Kolleginnen und Kollegen verschiedenster Disziplinen: Was macht den Mehrwert medienpädagogischer Forschung und Praxis in der zunehmend mediatisierten Gesellschaft aus?
______________________________________________________________________
Kaum ein Bereich der Gesellschaft bleibt heute von der Informatik unberührt. Informatik ist eine Wissenschaft und Praxis, die sich in allen Poren der Gesellschaft einnistet und zahlreiche Gebiete verändert. Diese Veränderungen haben mit zunehmender Rationalisierung, Formalisierung und Standardisierung zu tun, aber – wenn es gut läuft – auch mit kreativen und interaktiven Formen des Umgangs von Menschen mit regulierten und von Maschinen ausgeführten Prozessen.Der Computer hat als elektronische und programmierbare Rechenmaschine in den 1940er-Jahren begonnen und inzwischen als Medium in viele Bereiche des Alltags Einzug genommen. Er erscheint in Form von Smartphones, Tablets, intelligenten Chips in Alltagsgeräten oder als Instrument, das Bewegungen misst und bewertet. Dies ist nicht nur der Schrumpfung der Hardware in eine Mikrogröße zu verdanken, sondern auch der Tatsache, dass die Bedienung so einfach geworden ist, dass das Rechnen unauffällig im Hintergrund stattfindet.Will die Informatik den Menschen in ihrem Umgang mit Maschinen Handlungsfreiheit und Kreativität ermöglichen, ist sie auf Wissen und Kenntnisse des Anwendungsbereichs angewiesen. Dies gilt nicht zuletzt für Gebiete, in denen es um persönliche Entwicklung geht.Viel zu oft sind informatische Produkte im Bildungskontext gekennzeichnet von behavioristischen und instruktionistischen Vorstellungen des Lernens, die mit Bildung nicht viel zu tun haben und Menschen als zu füllende Gehirne statt in ihrer ganzen Fülle wahrnehmen.Medienpädagogische Forschung und Praxis liefern Grundlagen dafür, dass wir in der Informatik Hardware und Software entwickeln können, die sich auf nachweislich wirksame pädagogische Theorie und Praxis stützt. Medienpädagogik ist ein notwendiger und wichtiger Partner bei der Entwicklung von computergestützten Lernumgebungen. Sie liefert für die Implementierungen die Kenntnisse und Erfahrungen, auf die Informatik sich stützen muss, um nicht regulierend oder das Denken ersetzend, sondern unterstützend im Lernprozess wirksam werden zu können.Lange Zeit hat auch die Informatik-Didaktik sich in ihrem Mainstream gegen zu viel Nähe zur Medienpädagogik gesträubt. Der Computer als Rechenmaschine war das Paradigma, das es – so der Glaube – gegen eine ‚Verwässerung‘ durch den ‚weichen‘ Bereich der Medien zu verteidigen galt. Heute vollzieht sich eine Annäherung. Nicht nur in der Schweiz mit dem Lehrplan 21, sondern auch in Deutschland wird seit einigen Jahren eine brüderliche bzw. schwesterliche Verbindung von informatischer Bildung und Medienbildung begrüßt. Ein historisch längst fälliger und begrüßenswerter Schritt!Ich gratuliere merz zum sechzigsten Geburtstag und danke für die zahlreichen Untersuchungen, Studien und Berichte, die ich wie viele andere, die sich mit Softwareentwicklung im Bildungskontext befassen, als ausgesprochen hilfreich und notwendig empfinde. Ich freue mich auf viele weitere Beiträge in den kommenden Jahren!
Dr. Heidi Schelhowe ist Professorin für Digitale Medien in der Bildung an der Universität Bremen und Leiterin der Arbeitsgruppe dimeb. Ihre Schwerpunkte sind unter anderem Software- und Hardwareentwicklung für Bildungskontexte, Interaktionsdesign, Medienbildung sowie Digitale Medien in der Hochschullehre.
Beitrag aus Heft »2016/02: 60 Jahre merz – 60 Jahre Medienpädagogik«
Autor: Heidi Schelhowe
Beitrag als PDF - Heidi Schelhowe: Vom Digitalen Medium und vom Eigen-Sinn der Dinge
Heidi Schelhowe: Vom Digitalen Medium und vom Eigen-Sinn der Dinge
Informatik kann der Medienpädagogik die Chance bieten, in Bildungsprozessen die Dinge mit ihrem Eigen-Sinn in den Blick zu nehmen. Über das Erforschen Digitaler Medien als programmierte und interaktive Medien wird begreifbar, wie sich Persönlichkeitsentwicklung in der Digitalen Kultur verändert, wie die Beziehung zu anderen und zur Welt neu gestaltet wird. Die Digitalen Medien mit ihren begreifbaren Interfaces bieten die Möglichkeit, das Be-Greifen als Learning-by-Design zu organisieren.
Anmerkungen
1 idw-online.de/de/news615217
2 www.gi-hill.de/Memorandum_Schulinformatik.pdf
3 www.golem.de/news/umfrage-mehrheit-der-deutschen-fuer-pflichtfach-informatik-1803-133387.html www.gi.de/ fileadmin/redaktion/Download/memorandum _schulinfor-matik040921.pdf
4 In den Äußerungen ihrer Gliederungen, insbesondere des Fachbereichs Ausbildung/Informatikdidaktik wird allerdings weit stärker der Bezug zur Allgemeinbildung hergestellt.
5 GI-Empfehlung 2000: Informatische Bildung und Medienerziehung. In: Informatik Spektrum, Band 23, Heft 2.
6 mit einigen frühen Ausnahmen, z. B. Werner Sesink.
7 dsgvo-gesetz.de
8 GI-Dagstuhl-Seminar (2015): „Erklärung zur Informati¬schen Bildung in der Schule“. Informatik-Spektrum Bd. 38 Heft 3 Juni, 244–245.
9 Strategie der Kultusministerkonferenz „Bildung in der digitalen Welt“ 2016 www.kmk.org/fileadmin/Dateien/pdf/ PresseUndAktuelles/2016/Bildung_digitale_Welt_Webversi¬on.pdfLiteratur
Baacke, Dieter (1999). Medienkompetenz als zentrales Ope¬rationsfeld von Projekten. In: Baacke, Dieter/Kornblum, Su¬sanne/Lauffer, Jürgen/Mikos, Lothar/Thiele, Günther A. (Hrsg), Handbuch Medien: Medienkompetenz, Modelle und Projek¬te. Bonn: Bundeszentrale für politische Bildung, S. 31–35.
Bos, Wilfried et al. (2014). ICILS 2013. Computer- und informationsbezogene Kompetenzen von Schülerinnen und Schülern der 8. Jahrgangsstufe im internationalen Vergleich. Münster: Waxmann.
Carstensen, Tanja/Schachtner, Christina/Schelhowe, Heidi/ Beer, Raphael (Hrsg.) (2013). Digitale Subjekte. Praktiken der Subjektivierung im Medienumbruch der Gegenwart, Biele¬feld: transcript.
Dittert, Nadine/Wajda, Kamila/Schelhowe, Heidi (2016). Kreative Zugänge zur Informatik. Praxis und Evaluation von Technologie-Workshops für junge Menschen. elib. suub.uni-bremen.de/edocs/00105551-1.pdf
Dörpinghaus, Andreas/Nießeler, Andreas (Hrsg) (2012). Dinge in der Welt der Bildung. Bildung in der Welt der Dinge. Würz¬burg: Königshausen&Neumann.
Herzig, Bardo/Schelhowe, Heidi/Robben, Bernard/Klar, Til¬man-Mathies/Aßmann, Sandra (2017). Design von Interakti¬onsräumen für reflexive Erfahrung – Wie werden im Digitalen Medium implementierte Modelle erfahr- und verstehbar. In: Springer Jahrbuch Medienpädagogik 14/2017. S.135–156.
Meyer-Drawe, Käte (2012). Empfänglichsein für die Welt. Ein Beitrag zur Bildungstheorie. In: Dörpinghaus, An¬dreas; Nießeler, Andreas (Hrsg), Dinge in der Welt der Bildung. Bildung in der Welt der Dinge. Würzburg: Königshausen&Neumann, S.13–28.
Murray, Janet H. (2003). “Inventing the Medium”. In: Wardrip-Fruin; Montfort, Nick: The New Media Reader. Cambridge, Mass.; London: The MIT Press, S. 3–12.
Papert, Seymour (1980). Mindstorms. Children, Computers and Powerful Ideas. New York: Basic books.
Robben, Bernd/Schelhowe Heidi (Hrsg) (2012). „Be-Greifbare Interaktion. Der allgegenwärtige Computer: Touchscreens, Wearables und Ubiquitous Computing. transcript.
Schelhowe, Heidi (1997). Auf dem Weg zu einer Theorie der Interaktion? Eine Entgegnung zu Peter Rechenbergs „Quo vadis Informatik“? In: LOGIN 5, S.27–33.
Schelhowe, Heidi (2011). Interaktionsdesign: Wie werden Digitale Medien zu Bildungsmedien? Neue Fragestellungen der Medienpädagogik. In: Zeitschrift für Pädagogik. Heft 3, Mai/Juni, S.350–362.
Turkle, Sherry (1984). The second self: computers and the human spirit. New York, Simon and Schuster.
Prof. Dr. Heidi Schelhowe ist Professorin für Digi¬tale Medien in der Bildung am Fachbereich Infor-matik und Mathematik der Universität Bremen. Zu ihren Forschungsschwerpunkten gehören unter anderem Software- und Hardwareentwicklung für Bildungskontexte, Gestaltung von Lernumgebungen und Medienbildung.
- Sandra Ostermann / Hendrik Bunke / Heidi Schelhowe: Offene und interdisziplinäre Lernkultur mit Digitalen Medien
Sandra Ostermann / Hendrik Bunke / Heidi Schelhowe: Offene und interdisziplinäre Lernkultur mit Digitalen Medien
In dem vorliegenden Beitrag werden Ergebnisse aus dem ersten Jahr (2003/04) des Lehr- und Forschungsprojekts ZIM@School (ZIM heißt „Zentrum für Interaktion mit Digitalen Medien“) vorgestellt, das von der Cornelsen-Stiftung „Lehren und Lernen“ gefördert und in der Arbeitsgruppe „Digitale Medien in der Bildung“ (DiMeB) an der Universität Bremen in Kooperation mit Bremer Schulen durchgeführt wird.
Neben Ausgangssituation und Beschreibung des Projekts werden die zentralen Aspekte der wissenschaftlichen Begleitforschung auf der Grundlage von teilnehmenden Beobachtungen und qualitativ erhobenen Daten genannt.
(merz 2005-2, S.28-33)
- Heidi Schelhowe (2007). Technologie, Imagination und Lernen. Grundlagen für Bildungsprozesse mit Digitalen Medien
Heidi Schelhowe (2007). Technologie, Imagination und Lernen. Grundlagen für Bildungsprozesse mit Digitalen Medien
In der herkömmlichen Bildungsdiskussion werden digitale Medien vor allem als Hilfsmittel für Lehren und Lernen verstanden. Digitale Medien kommen dabei insbesondere als Möglichkeit einer multimedialen und interaktiven Inhaltsvermittlung sowie als Werkzeuge für eigene Präsentationen in den Blick. Die Medienpädagogik macht darüber hinaus darauf aufmerksam, dass Computer als Vermittlungs- und Gestaltungsinstrumente mit ihren Inhalten und Formen auch selbst zum Gegenstand der Reflexion werden müssen. In der Umsetzung ist diese Reflexion jedoch häufig auf Fragen der Virtualität konzentriert. Insgesamt kommen digitale Medien so vorwiegend als Erweiterung bisheriger medialer Möglichkeiten im instrumentellen Sinne sowie als neuer Reflexionsgegenstand – in eher additiver Form zu bisherigen Medien – in den Blick.Heidi Schelhowe propagiert demgegenüber – angesichts der Bedeutung digitaler Medien für die Wissensgesellschaft – ein grundsätzliches Umdenken in Bildungsfragen.
Sie geht davon aus, dass bisherigen Versuchen einer Integration von Digitalen Medien in Bildung und Medienpädagogik häufig ein unzureichendes Verständnis der Digitalen Medien zugrunde liegt. Gegenüber einer zu kurz greifenden Auffassung vom Computer als einer multimedialen Vermittlungshilfe, einem ‚bloßen’ Werkzeug, einem Mittel zur Erzeugung virtueller ,Räume‘ oder einer ,autonomen‘ Maschine, die es von Seiten des Menschen ,nur‘ zu bedienen und zu beherrschen gelte, betont sie den evokativen und interaktiven Charakter des Handelns mit Digitalen Medien: Computer stiften Evokationen, die Imaginationen hervorrufen, mit denen die Welt nicht nur interpretiert, sondern auch verändert wird, und ermöglichen Interaktionen, die „neue Bedingungen für die Subjekt- und Gemeinschaftsbildung schaffen, mit denen Kommunikationsverhältnisse neu gestaltet, Kulturen und Praxen verändert werden“ (S. 171 f.).
Vor dem Hintergrund dieser Sicht auf Digitale Medien fragt Heidi Schelhowe in sechs Kapiteln danach, welche Bedeutung den Digitalen Medien für Jugendliche in ihrer Lebenswelt zukommt, wie sich die Entwicklung von der Rechenmaschine zum Digitalen Medium vollzogen hat und welche Merkmale das Digitale Medium kennzeichnen, wie sich der (Zu-)Stand von Bildung in der Wissensgesellschaft und die Rolle des Computers darstellen, wie in Interaktion mit Digitalen Medien neue Lernkulturen gestaltet werden können, wie sich in solchen Interaktionen Bildung ereignen kann und welche Konsequenzen sich aus den Überlegungen für die Entwicklung von Bildungssoftware ergeben. In einem abschließenden siebten Kapitel werden die Überlegungen resümiert, wobei es unter anderem um die Bildungsherausforderungen geht, die sich aus der Digitalisierung von Lebens- und Arbeitswelt sowie aus der Verwischung der Grenzen zwischen Arbeiten, Spielen und Lernen ergeben.
Des Weiteren werden die Frage nach dem Stellenwert von Bildungsinstitutionen in der Wissensgesellschaft und die Frage eines Zusammenwirkens von Pädagogik und Informatik, von Human- und Technikwissenschaften aufgegriffen.Mit dem Buch gelingt es Heidi Schelhowe, vielfältige Bezüge zwischen informatischen Grundlagen und pädagogischen Überlegungen aufzuzeigen und in kompetenter Weise zu bearbeiten. Ein besonderes Verdienst liegt auch darin, dass theorieorientierte Passagen mit praxisorientierten Projektdarstellungen verbunden werden. Dabei haben die verallgemeinernden Überlegungen häufig einen thesenartigen Charakter, sodass eine weitere Diskussion – auch gemäß der Intention der Verfasserin – an manchen Stellen wünschenswert erscheint. Gerade die vielen Anregungen, über Bildung und Medien mit neuen Perspektiven nachzudenken, macht das Buch zu einer besonders lesenswerten Lektüre für alle, die an Medienpädagogik und Bildungsfragen interessiert sind.
- Friedrich Krotz/Heidi Schelhowe: Editorial: Ethik und KI
Friedrich Krotz/Heidi Schelhowe: Editorial: Ethik und KI
Vor 80 Jahren, als die ersten funktionierenden Computer gebaut wurden, kam eine neue Art der Maschine auf die Welt: Sie konnte in gewisser Weise mit Symbolen und Zeichen operieren und beherrschte formale Logik und Mathematik. Es gab nur wenige davon, sie waren riesengroß und der Zugang war Wissenschaftler*innen vorbehalten. Die gesellschaftliche Bedeutung lag – wie Konrad Zuse es formulierte – darin, „dem Ingenieur stures Wiederholen von Rechengängen abzunehmen“ (Zuse 1993, S. 33) und den zuvor menschlichen ‚Computer‘ durch eine Maschine zu ersetzen. Die damalige Rede von ‚Elektronengehirn’ und ‚Denkmaschine’ lag nahe. Gleichzeitig aber regten diese Begriffe die Fantasie vieler Menschen an. Auch in Literatur, Kino und Fernsehen wurden immer neue Geschichten erzählt, die an den Potenzialen dieser Maschinen anknüpften – unabhängig davon, ob das realistisch war oder nicht.
Heute haben sich diese Maschinen als Laptops, Tablets, Smartphones, stationäre Kleincomputer und große Server, die im Hintergrund arbeiten, in riesiger Zahl über die Welt verbreitet. Sie haben sich in nahezu allen Lebens- und Arbeitsbereichen eingenistet, können im Prinzip von allen genutzt werden und sind in vielfacher Weise vernetzt. Parallel dazu entstand seit 1956 eine neue Wissenschaftsdisziplin, oft auch als Teildisziplin der Informatik verstanden, unter dem Titel ‚Künstliche Intelligenz‘ (KI). Sie arbeitet an computerbasierten Systemen, die Leistungen erbringen sollen, die bisher nur von Menschen erwartet worden sind: Schach spielen, Autos steuern, Gespräche führen, Muster und Gesichter erkennen, Spezialist*innen bei der Arbeit behilflich sein. Dialogsysteme wie Alexa, Siri, Cortanaund andere sind heute in vielen Haushalten in Gebrauch; immer mehr Bereiche menschlichen Alltags, auch von Ökonomie, Arbeit, Politik, Bildung, Wissenschaft und Forschung, werden von Computern und zunehmend auch von dieser sogenannten Künstlichen Intelligenz geprägt und durchdrungen. Ein Ende dieser Entwicklungen ist nicht abzusehen. Im Hinblick auf den Einsatz dieser KI werden viele Bereiche auch in neuer Weise organisiert: zum Beispiel die Arbeit in Fabriken und Verwaltung, die Diagnosen und Operationen in der Medizin, das Einkaufen, das Lernen und Vieles mehr.
Einigermaßen unklar ist allerdings, wohin diese Reise die Menschheit führt. Die Transformationen beinhalten wie jeder Wandel einerseits Vorteile und Chancen für das Zusammenleben der Menschen, zum Beispiel, wenn gefährliche oder unangenehme Arbeiten von Computern übernommen werden können oder neue Formen von Kommunikation und Information entstehen, an denen Roboter beteiligt sind. Sie beinhalten aber auch Risiken und Gefahren: Wie werden zukünftig Einkommen und Status verteilt, wenn immer mehr Jobs von KI übernommen werden? Wie wird garantiert, dass Kommunikation und Information nicht zu Manipulation und Beeinflussung werden? Wie kann verhindert werden, dass die Grundlagen der Demokratie durch datenbasierte Kontrolle und überlegene Technologien bedroht werden, die allein den ökonomischen Interessen großer IT-Konzerne folgen? Wo und von wem sollen die Entwicklungen kontrolliert und verantwortet werden?
Ein konkretes Beispiel für Vorzüge, aber auch Probleme ist die auf KI gestützte Entwicklung selbstfahrender Autos, die auf uns zukommt. Solche Automobile können dazu beitragen, dass verstopfte Städte, die sich immer deutlicher abzeichnende Umweltkatastrophe und die aus dem Ruder laufenden Bedingungen räumlicher Mobilität in neue und menschengerechtere Bahnen gelenkt werden, dass es weniger Unfälle gibt und dass die im Auto verbrachte Zeit sinnvoller genutzt werden kann. Dafür sind hervorragende und sichere KI-Programme unerlässlich, die mit menschlichen Kompetenzen vergleich-bare Fähigkeiten haben. Sie müssen mit ihren Sensoren und der Auswertung der darüber erlangten Daten menschliche Wahrnehmung ersetzen und unter den jeweiligen Bedingungen Gas geben, bremsen oder ausweichen – bei Menschen würde man sagen, entsprechende Entscheidungen treffen.
Mit den Algorithmen und der Technik alleine ist es aber nicht getan. Wer wird diese kommende Mobilität gesamtgesellschaftlich organisieren und betreiben – werden es Unternehmen wie VW und UBER sein, die den zukünftigen Verkehr organisieren, zwei Unternehmen, die nicht dafür bekannt sind, dass sie Recht und Gesetz einhalten, wenn es um ihre Gewinne geht? Oder wird die zukünf-tige Mobilität als öffentliche Daseinsfürsorge unter parlamentarischer Kontrolle organisiert – das ist bei einigen öffentlichen Infrastrukturen im (Nah-)Verkehr in einigen Ländern Europas teilweise noch der Fall, häufig wurden und werden solche Infrastrukturen aber wie bei der Wasserversorgung oder im Gesundheitsbereich im Zuge des Neoliberalismus mehr und mehr privatisiert.
Nicht klar ist auch, wie solche Autos mit den typischen, bisher meist nur von der Philosophie diskutierten Dilemmata umgehen: Der Wagen fährt auf einer Bergstraße, vor ihm erscheint plötzlich ein Kind, rechts geht es in den Abgrund – was geschieht, wenn das selbstfahrende Auto nicht mehr bremsen kann? Menschen entscheiden in solchen Situationen individuell und müssen für ihre Entscheidungen moralisch wie strafrechtlich geradestehen. Aber ist es denkbar, dass ein von einer Software gesteuertes Auto entscheidet, dass der Wagen sich und seine Passagiere in den Abgrund steuert, um das Kind zu retten? Oder verliert zukünftig immer das Kind?
Es gibt inzwischen zahlreiche Studien, die zeigen, dass manches auch schief gehen kann, wenn es Maschinen sind, die ‚entscheiden’ (vgl. hierzu allgemein Rath/Karmasin/Krotz 2019 und insbesondere Saurwein 2019): So hat Microsoft den Gesprächsroboter Tay entwickelt und eingesetzt, der sich nach ein paar Stunden des Dialogs mit Menschen zu antisemitischen Aussagen verstieg und Hitler positiv würdigte. In China wird die KI-basierte Gesichtserkennung von der Polizei in Fällen nicht-systemkonformen Verhaltens eingesetzt. Jedem Menschen dort wird auf Basis der über ihn gesammelten Daten ein Punktwert zugeordnet, der letztlich dessen gesellschaftlichen Wert ausdrücken soll und wonach entsprechend belohnt oder bestraft wird. In den USA wurde von der Justiz ein KI-Programm eingesetzt, das prognostizieren sollte, ob ein Strafgefangener, wenn er begnadigt würde, wohl rückfällig wird, also besser nicht zu begnadigen ist: Dieser Algorithmus wurde mit vorliegenden Daten trainiert. Im Endeffekt wurden die Aussichten für schwarze Häftlinge in der Regel wesentlich schlechter prognostiziert als für weiße. Algorithmen, die bei der Auswahl von Bewerber*innen für einen Job helfen sollten, bewerteten Frauen in der Regel schlechter, weil sie bisher seltener in Führungspositionen aufsteigen.KI wird derzeit vor allem von den großen Digitalunternehmen wie Facebook, Google, Apple, Amazon, Microsoft und Uber, aber auch von den Militärs vorangetrieben, mehr und mehr auch von chinesischen Unternehmen, die die Entwicklungsrichtungen bestimmen und entsprechende Instrumente und Methoden einsetzen. Heute werden so die Rahmenbedingungen für zukünftige Entscheidungen festgelegt.
Es sind Staat und Politik, die zunächst gefordert sind, diese Prozesse zu kontrollieren und zu regulieren, Rahmenbedingungen zu setzen und zu klären, welchen ethischen Kriterien Algorithmen zu folgen haben. Gleichzeitig ist es die Aufgabe von uns allen, diese Entwicklungen im Auge zu behalten. Schon heute sind wir alle durch die Daten, die wir in den unterschiedlichsten Kontexten an Soziale Netzwerke oder andere Datensammelsoftware preisgeben, an der Entwicklung moderner KI beteiligt. Ohne unser heutiges unbewusstes Zutun könnten die Algorithmen nicht ‚lernen’, sie entwickeln sich durch das Sammeln und Analysieren der von uns eingegebenen Daten und durch unsere Rückmeldungen. Moderne KI speist sich daraus und nur noch zu einem Teil aus intelligenten Algorithmen, die sich Entwickler*innen ausdenken. Oft ist bei den heutigen KI-Systemen nicht vollständig zu klären, wie sie zu ihren Ergebnissen kommen. Sie nutzen Formen ‚Maschinellen Lernens’, sodass die Muster, die aus der Interaktion mit Umwelt und Nutzer*innen abgeleitet sind, selbst für die Entwickler*innen nicht mehr nachvollziehbar sind. Wollen wir solche Entscheidungen? Brauchen wir nicht prinzipiell Kontrolle und Transparenz darüber, wie die Maschinen zu ihren ‚Entscheidungen’ kommen, um sie hinterfragen zu können? Müssen wir nicht auch die Konzerne und ihre Logik der Ökonomie im Auge behalten, die hinter der Entwicklung und Anwendung von KI stehen?
Es bedarf politischer und ethisch begründeter Entscheidungen, was KI darf und was nicht, wo sie eingesetzt wird und welche Bedingungen sie erfüllen muss. Diese wiederum dürfen nicht nur Staat und Wirtschaft untereinander aushandeln, vielmehr muss in einer gelebten Demokratie eine kontinuierliche öffentliche Diskussion darüber geführt werden, wie sie in Deutschland vom Ethikrat, in Europa von der Europäischen Kommission und dem Europäischen Parlament, weltweit auch von UNO und UNESCO begonnen wurde, aber bisher kaum eine breite Öffentlichkeit erreicht hat. Das Entstehen einer kritischen Öffentlichkeit, die sich mit diesen Fragen auseinandersetzt, ist entscheidend. Dazu müssen Bürger*innen zunächst über diese technologischen und ökonomischen Entwicklungen informiert werden, damit sie in der Lage sind, an den Entscheidungen mitzuwirken.
Eine Voraussetzung dafür, dass wir selbst in die Prozesse eingreifen, einen Rahmen setzen und sie mitgestalten können ist, dass wir uns unserer eigenen Beteiligung an der Schaffung der Digitalen Kultur durch unsere Interaktion bewusst werden, dass wir lernen zu verstehen, was da wann, wie und an welchen Orten passiert. Dies gilt insbesondere auch für die zukünftigen Generationen. Kinder und Jugendliche werden in durch die Technologie sehr veränderten sozialen und kulturellen Umgebungen aufwachsen, die von ihnen verstanden und durchschaut werden müssen. Sie müssen (weit mehr noch als die derzeitigen Erwachsenen) diese Entwicklungen verstehen, gestalten, kontrollieren und sie souverän verwenden können.
Damit ist das Schwerpunktthema des vorliegenden merz-Heftes angesprochen. Es geht um KI, um einen ethischen Rahmen für KI und darum, wie Lernen über KI stattfinden kann: Was kann KI, was soll KI, was darf KI, wohin soll die Reise mit KI gehen? Diese Themen müssen in die Medienpädagogik Einzug halten, weil sie von fundamentaler Bedeutung für unsere mediale Kultur und unseren Umgang mit den Medien sind.
Das Heft setzt sich mit diesen Themen eher grundlegend auseinander und versucht zu verdeutlichen, was hinter dem oft schon fast mystisch verwendeten Begriff der KI tatsächlich stattfindet und wie Medienpädagogik bzw. wie eine Pädagogik unter Bedingungen einer KI-Umwelt damit umgehen kann. Dabei soll es nicht darum gehen, Kinder und Jugendliche für ein Schritthalten mit den technologischen Entwicklungen fit zu machen. Ein amerikanisches Unternehmen, das einen Online-Kurs zu KI für Kids im Netz für 15 bis 240 Dollar – je nach Service – anbietet, wirbt für das Angebot: „Artificial intelligence and machine learning are going to become a huge part of our future. And kids need to be prepared for it. To make them AI-ready for the future, we’ve designed an online AI course for kids of the 21st-century“. Es wird versprochen, dass Kids durch den Kurs „fall in love with artificial intelligence“1. Darum geht es den Autor*innen dieses Heftes nicht. Sie wollen demgegenüber – auch spielerisch – Kenntnisse und Kompetenzen vermitteln, die junge Menschen befähigen, selbst zu urteilen und Verantwortung für die Zukunft zu übernehmen, statt sich an die von den Konzernen entwickelte KI anzupassen.
In einem ersten Aufsatz beschäftigen sich Serge Autexier und Heidi Schelhowe aus der Innensicht der Informatik in einer nachdenklichen Weise mit der Entstehung und der bisherigen Geschichte der KI. Sie erklären, was es mit der heutigen KI und ihrem rasanten Aufstieg unter dem Begriff des ‚Maschinellen Lernens’ auf sich hat und problematisieren die schlichte Datensammelwut und die automatisierte Erkennung von Mustern durch KI statt einer grundlegenden Entwicklung und Durchdringung der Algorithmen, durch die wissenschaftlicher Fortschritt und Transparenz erst möglich würden. Gleichzeitig weisen sie darauf hin, welche Vorstellungen vom ‚Lernen’ die KI von Anfang an prägen. Ein vom Konstruktivismus geprägter Ansatz von Lernen, so die beiden Autor*innen, würde auch eine andere Art der Anwendung und des Umgangs mit KI in Bildungskontexten bedeuten, anders als der Glaube, dass man mit der KI einem individualisierten Lernen gerecht werden könne.
Der dann folgende Text von Friedrich Krotz hinterfragt KI auf grundsätzliche Weise mit dem Ziel, einerseits die Diskussion zu versachlichen, andererseits um herauszuarbeiten, dass manche Entwicklungen in eine falsche Richtung gehen. KI ist in der hier eingenommenen Perspektive wesentlich damit beschäftigt, komplexe Hardware/Software-Systeme zur Bewältigung komplexer Aufgaben zu schaffen. Für solche Leistungen von Maschinen müssen aber noch eine angemessene Sprache und eine kontrollierte gesellschaftliche Einbettung gefunden werden – eine Vermenschlichung von Maschinen ist dafür nicht angebracht: Maschinen denken und entscheiden nicht, sie gehen auf eine maschinentypische Art mit Daten um. Als Problem benennt Friedrich Krotz, dass es derzeit vor allem die großen Digitalfirmen sind, die festlegen, wo und wie KI verwendet wird und wohin die derzeitige Entwicklung geht. Stattdessen wäre es notwendig, Systeme zu entwickeln, die für die Menschen, für Demokratie und Menschenrechte hilfreich sind.
Der dritte Aufsatz von Gudrun Marci-Boehnke und Matthias Rath beschäftigt sich schließlich mit KI und Ethik. Er geht von der Prämisse aus, dass die Leistungsfähigkeit von KI für das Wohl der Menschen nutzbar gemacht werden muss und dass dies auch die Erziehungsarbeit betrifft. Vor diesem Hintergrund werden Chancen, Probleme und Risiken der KI aus ethischer und pädagogischer Perspektive dargestellt und diskutiert. Als Schlüsselbegriff für die zukünftigen Diskussionen wird der Begriff der algorithmic literacy entwickelt, der an den bisher die Medienpädagogik prägenden Kompetenzkonzepten ansetzt.
Zwei weitere Beiträge gehen dann auf konkrete Projekte mit Kindern und Jugendlichen ein. Der erste Beitrag von Simone Opel, Lina Nordemann, Carsten Schulte und Claudia Tenberge entstand im Rahmen des ‚Wissenschaftsjahrs KI’ und befasst sich mit dem Simulationsspiel Mensch, Maschine!, mit dem Kinder und Jugendliche die Funktionsweisen von KI kennenlernen und konkret erfahren können, was Maschinen können und was nicht. Dazu wurden Materialien für Schüler*innen sowie für Lehrende entwickelt und bereitgestellt, die unterschiedliche Zugänge ermöglichen. Darüber hinaus werden Evaluationsergebnisse aufbereitet. Das Material ist konzipiert für den Schulunterricht, lässt sich aber aufgrund seiner Vielfalt sicherlich auch in der außerschulischen Jugendarbeit verwenden. Über webdaysmoocKI, ein Projekt der Fachstelle für Internationale Jugendarbeit der Bundesrepublik Deutschland e. V. (IJAB), berichten Janina Carmesin, Hannah Bunke-Emden und Kristin Narr. Es handelt sich um einen Online-Kurs zu KI für Jugendliche ab 14 Jahren. Die Materialien stehen dauerhaft zur Verfügung. Besonders interessant ist, dass der Kurs partizipativ zusammen mit Jugendlichen entwickelt wurde. Die Jugendlichen setzen sich mit KI in ihrem Alltag auseinander, stellen sich ethischen Fragen und bekommen einen Einblick in Entwicklungen der KI-Technologie weltweit.
Schließlich wird in einigen Auszügen auf weitere Materialien verwiesen. Dies sind einmal Auszüge aus dem Grundlagenpapier, das von der Ethik-Kommission, eingesetzt von der Bundesregierung, erarbeitet wurde. Es ermöglicht einen systematischen und kritisch reflektierenden Einstieg in die Thematik. Zum anderen sind es Ausschnitte aus einer von der UN veranstalteten Wissenschaftler*innenkonferenz von 2019, auf der ein Papier mit dem Titel 'Bejing Consensus on Artificial Intelligence and Education' erarbeitet wurde. Es macht die internationale Aufmerksamkeit für das Thema KI deutlich. Schließlich wird noch auf weitere Projekte und weiterführende Literatur verwiesen.Wenn die Autor*innen in den Beiträgen dieses Heftes sich in einem einig sind, dann ist es die Forderung nach einer fundamentalen Kompetenz, KI und deren ethische Implikationen begreifen zu lernen, was technologisches Wissen, Wissen um Daten und Algorithmen und die Fundamente der heutigen KI, aber auch grundlegende ethische Fragen umfasst, wie auch politischen und ökonomischen Durchblick erfordert. Klar ist, dass dieses Thema wohl nicht zum letzten Mal in der merz verhandelt werden wird.
Literatur
Rath, Matthias/Krotz, Friedrich/Karmasin, Matthias (Hrsg.) (2019). Maschinenethik. Normative Grenzen autonomer Systeme. Wiesbaden: Springer VS.
Saurwein, Florian (2019). Automatisierung, Algorithmen, Accountability. Eine Governance Perspektive. In: Rath, Matthias/Krotz, Friedrich/Karmasin, Matthias (Hrsg.), Maschinenethik. Normative Grenzen autonomer Systeme. Wiesbaden: Springer VS, S. 35–56.
Zuse, Konrad (1993). Der Computer – Mein Lebenswerk. Berlin: Springer.
Anmerkung
- Serge Autexier/Heidi Schelhowe: Interaktion und Künstliche Intelligenz
Serge Autexier/Heidi Schelhowe: Interaktion und Künstliche Intelligenz
Der Erfolg von Computern in Lebens- und Arbeitswelt beruht auf einer engen Verbindung von menschlichem und maschinellem Handeln. Die heutige Künstliche Intelligenz (KI) fußt auf diesem Paradigma. Nicht nur symbolische, abstrakt-logische Verfahren, sondern ebenso Interaktion sind wesentliche Methoden. Auch aus der Innensicht der Informatik werden Grenzen der KI deutlich. In Bildungskontexten muss die eigene Beteiligung sichtbar gemacht werden, um Einmischungs- und Gestaltungskompetenz auszubilden.
Literatur:
Bockermann, Iris/Schelhowe, Heidi (2020). Be-Greifbare Interaktion – Potenzial für Diversität im Umgang mit Digitalen Medien. In: Doff, Sabine/Pfingsthorn, Joanna (Hrsg.), Media Meets Diversity@School. Wie kann Lernen und Lehren in der digitalen Welt unter den Vorzeichen von Diversität gelingen? Trier: WVT Wissenschaftlicher Verlag Trier, S. 257–274.
Freire, Paulo (1993). Pedagogy of the Oppressed. London: Penguin Books.
Goodfellow, Ian/Bengio, Yoshua/Courville, Aaron (2016). Deep Learning. MIT Press.
Haefner, Klaus (1982). Die neue Bildungskrise: Herausforderung der Informationstechnik an Bildung und Ausbildung. Basel/Boston/Stuttgart: Birkhäuser.
Licklider, Joseph (1960). Man-Computer-Symbiosis. In: IRE Transactions on Human Factors in Electronics, 1, S. 4–11.
McCarthy, John/Minsky, Marvin/Rochester, Nathaniel/Shannon, Claude (1955). A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html [Zugriff: 01.08.2020]
Minsky, Marvin/Lee, Juliane (1988). The Society of Mind. New York: Simon & Schuster.
Mitchell, Tom (1997). Machine Learning. New York: McGraw Hill.
Papert, Seymour (1980). Mindstorms: Children, Computers, and Powerful Ideas. New York: Basic Books.
Robben, Bernd/Schelhowe, Heidi (Hrsg.) (2012). Be-Greifbare Interaktion. Der allgegenwärtige Computer: Touchscreens, Wearables und Ubiquitous Computing. Bielefeld: transcript.
Turing, Alan M. (1987). Intelligence Service. Berlin: Brinkmann und Bose.
Xu, Keyulu/Li, Jingling/Zhang, Mozhi/Du, Simon S./Kawarabayashi, Kenichi/Jegelka, Stefanie (2020). What Can Neural Networks Reason About? International Conference on Learning Representations (ICLR). https://iclr.cc/virtual_2020/poster_rJxbJeHFPS.html [Zugriff: 01.08.2020]
Zuse, Konrad (1993). Der Computer – Mein Lebenswerk. Berlin: Springer.
- BEIJING CONSENSUS ON ARTIFICIAL INTELLIGENCE AND EDUCATION
BEIJING CONSENSUS ON ARTIFICIAL INTELLIGENCE AND EDUCATION
Die folgenden Auszüge zu KI und Ethik stammen aus einem UNESCO-Dokument, das im Rahmen einer internationalen Konferenz in Peking 2019 entstand. Sie sollen auf die weltweite Bedeutung der Debatte um KI und Ethik aufmerksam machen.
BEIJING CONSENSUS ON ARTIFICIAL INTELLIGENCE AND EDUCATION
Preamble
1. We, the participants of the International Conference on Artificial Intelligence (AI) and Education, including 50 government ministers and vice ministers, as well as around 500 international representatives from more than 100 Member States, United Nations agencies, academic institutions, civil society and the private sector, met in Beijing, People’s Republic of China, from 16 to 18 May 2019. [...]
2. We reaffirmed the commitment made in the 2030 Agenda for Sustainable Development, particularly Sustainable Development Goal (SDG) 4 and its targets, and discussed the challenges faced by education and training systems in achieving SDG 4. [...]
6. We also recognize the distinctive features of human intelligence. Recalling the principles set forth in the Universal Declaration of Human Rights, we reaffirm UNESCO’s humanistic approach to the use of AI with a view towards protecting human rights and preparing all people with the appropriate values and skills needed for effective human-machine collaboration in life, learning and work, and for sustainable development.
7. We also affirm that the development of AI should be human-controlled and centred on people; that the deployment of AI should be in the service of people to enhance human capacities; [...] and that the impact of AI on people and society should be monitored and evaluated throughout the value chains. [...]
AI to Empower Teaching and Teachers
12. Be mindful that while AI provides opportunities to support teachers in their educational and pedagogical responsibilities, human interaction and collaboration between teachers and learners must remain at the core of education. Be aware that teachers cannot be displaced by machines, and ensure that their rights and working conditions are protected. [...]
Ensuring ethical, transparent and auditable use of education data and algorithms
28. Be cognizant that AI applications can impose different kinds of bias that are inherent in the data the technology is trained on and uses as input [...]. Be cognizant of the dilemmas of balancing between open access to data and data privacy protection. Be mindful of the legal issues and ethical risks related to data ownership, data privacy and data availability for public goods. [...]
29. Test and adopt emerging AI technologies and tools for ensuring teachers‘ and learners’ data privacy protection and data security. Support robust and long-term study of deeper issues of ethics in AI, ensuring AI is used for good and preventing its harmful applications. Develop comprehensive data protection laws and regulatory frameworks to guarantee the ethical, non-discriminatory, equitable, transparent and auditable use and reuse of learners’ data.
30. Adjust existing regulatory frameworks or adopt new ones to ensure responsible development and use of AI tools for education and learning. Facilitate research on issues related to AI ethics, data privacy and security, and on concerns about AI’s negative impact on human rights and gender equality.
https://unesdoc.unesco.org/ark:/48223/pf0000368303 [Zugriff: 21.09.2020]
- Hinweis auf weitere Praxisprojekte
Hinweis auf weitere Praxisprojekte
Neben den beiden Praxisprojekten in diesem Heft gibt es inzwischen eine Vielzahl an interessanten Initiativen, die KI und Ethik in Schulklassen und in der Jugendarbeit thematisieren. Wir möchten insbesondere auf die folgenden Projekte hinweisen:
PhiloLab
Der Kurs PhiloLab: KI am Ars Electronica Center in Linz, Österreich, richtet sich an junge Menschen ab der 7. Schulstufe und wird folgendermaßen beworben: Philosophieren, ein Deuten von dem, was in der Welt vor sich geht, ein Reflektieren der Geschehnisse und das Bilden einer Meinung – das ist in einer Zeit, in der sich durch sich rasant entwickelnde Technologien neue ethische Fragestellungen ergeben, besonders wichtig. Doch wie kann ich diesen gegenstandslosen Prozess greifbar und erlernbar machen? Im Unterrichtsformat können oft bedeutungsvolle Grundfragen nicht diskutiert werden. Im PhiloLab wird Nachdenken zum behandelbaren Prozess. In einer Kombination aus verschiedenen Programmpunkten und einer abschließenden Diskussion werden die Schüler*innen angeregt, über das technologische Phänomen Künstliche Intelligenz zu reflektieren, ihre Gedanken auszudrücken und zu argumentieren.
https://ars.electronica.art/center/de/philolab-kuenstliche-intelligenz/
Cognimates
Cognimates ist eine öffentliche und kostenlos zugängliche Bildungsplattform, in der Sieben- bis 14-Jährige Spiele oder Robots programmieren und KI-Trainings-Modelle entwickeln können. Heranwachsende nutzen in ihren Kinderzimmern inzwischen intelligente Spielzeuge und kommunizierende Agenten. Stefania Druga, Wissenschaftlerin am MIT MediaLab, entwickelte Cognimates mit dem Ziel, ihnen durch aktives Konstruieren Kenntnisse zu vermitteln, damit sie KI-Systeme begreifen, demystifizieren, sich als Gestaltende erleben und sich eine Haltung zu KI erarbeiten können, statt sich nur als Konsumierende zu verstehen. „The main goal of the Cognimates platform is to extend coding to AI education and literacy.“
Ein Beitrag von Stefania Druga zu ihrer Motivation und zur Entstehungsgeschichte von Cognimates: www.media.mit.edu/posts/kids-teach-ai-a-little-humanity-with-cognimates/
- Auszüge aus der Kurzfassung des Gutachtens der Datenethikkommission der Bundesregierung von 2019 als Anregung für die Jugendarbeit zu KI und Ethik
Auszüge aus der Kurzfassung des Gutachtens der Datenethikkommission der Bundesregierung von 2019 als Anregung für die Jugendarbeit zu KI und Ethik
Leitgedanken
Die Digitalisierung verändert unsere Gesellschaft tiefgreifend. Neuartige datenbasierte Technologien können für das Leben des Einzelnen und das gesellschaftliche Zusammenleben Nutzen stiften, die Produktivität der Wirtschaft steigern, zu mehr Nachhaltigkeit und zu grundlegenden Fortschritten in der Wissenschaft beitragen. Gleichzeitig zeigen sich jedoch auch Risiken der Digitalisierung für grundlegende Rechte und Freiheiten. Es stellen sich damit zahlreiche ethische und rechtliche Fragen, in deren Mittelpunkt die gewünschte Rolle und die Gestaltung der neuen Technologien stehen. Wenn der digitale Wandel dem Wohl der gesamten Gesellschaft dienen soll, müssen sich Gesellschaft und Politik mit der Gestaltung datenbasierter Technologien einschließlich der Künstlichen Intelligenz (KI) befassen. [...]
Die DEK hat sich für ihr Gutachten an den folgenden Leitgedanken orientiert:
Menschenzentrierte und werteorientierte Gestaltung von Technologie | Förderung digitaler Kompetenzen und kritischer Reflexion in der digitalen Welt | Stärkung des Schutzes von persönlicher Freiheit, Selbstbestimmung und Integrität | Förderung verantwortungsvoller und gemeinwohlverträglicher Datennutzungen | Risikoadaptierte Regulierung und wirksame Kontrolle algorithmischer Systeme | Wahrung und Förderung von Demokratie und gesellschaftlichem Zusammenhalt | Ausrichtung digitaler Strategien an Zielen der Nachhaltigkeit | Stärkung der digitalen Souveränität Deutschlands und Europas [...]
Im Folgenden führt dann die Kommission die ethischen Aspekte, die sie für die Datenhaltung wie auch für die Algorithmik im Hinblick auf KI sieht, detailliert aus. Dies ist in der Vollversion nachzulesen unter: https://datenethikkommission.de/wp-content/uploads/191128_DEK_Gutachten_bf_b.pdf Bedauerlich ist, dass die Kommission den Bildungsanliegen kein explizites Kapitel widmet.
https://datenethikkommission.de/wp-content/uploads/191023_DEK_Gutachten_Kurzfassung_dt_bf.pdf [Zugriff: 01.08.2020]