Ein spannender Vortrag von Mary Ellen Bates bei „Steilvorlagen“

Michael Klems von infobroker.de hat mich zu Steilvorlagen eingeladen – einem Treffen der Information Professionals, das seit einigen Jahren auf der Buchmesse stattfindet. Sehr spannend. Und besonders gespannt war ich auf Mary Ellen Bates, deren Blog ich abonniert habe. Sie ist schon sehr lange im Geschäft und hat echt Ahnung.

Allen Widrigkeiten beim Einlass zur Buchmesse zum Trotz kam ich gerade rechtzeitig, um die Anmoderation zu diesem Vortrag mitzubekommen und dann war ich auch schon drin.

Hier kommen jetzt ein paar Gedanken zu Einzelheiten aus ihrem Vortrag. Michael Klems stellt am 5. November 2019 die Vorträge des Tages als Video online – da können Sie dann selber schauen. Ich verlinke die Videos dann hier im Beitrag.

„Indispensable Information Professionals – Building Value in an Artificial Intelligence World“ – so war der Vortrag von Mary Ellen Bates für die Steilvorlagen angekündigt. Viele der anwesenden Information Professsionals sind in Firmen angestellt und sorgen dort für Beschaffung, Handhabbarkeit und Verfügbarkeit von Informationen – interne wie externe. Doch die Notwendigkeit solcher Dienste steht öfter mal in Frage, hab ich gehört. Künstliche Intelligenz ist jetzt wieder so ein Punkt, wo manche denken, die Abteilung der Information Professionals könnte langsam überflüssig werden. Doch Mary Ellen Bates  ist da anderer Meinung .

Mary Ellen Bates zu Kindern und künstlicher Intelligenz

Wir kennen ja die ganzen Generationen – X, Y, Z usw. Mary Ellen Bates stellt die Generation Alpha vor – die mit Smartphones und künstlicher Intelligenz aufwächst. Deren Spielgeräte auf dieser Basis mit ihnen kommunizieren. Und da gibt sie erst einmal allen Eltern einen guten Rat: Lehrt die Kinder, dass diese Spielgeräte keine Freunde sind. Sie sind nicht „er“ oder „sie“, sie sind „es“. Wenn ich daran denke, wie sehr z. B. Kuscheltiere Persönlichkeiten sind, stell ich mir das schwer vor. Aber sie hat Recht! Spielgeräte mit solchen Features spionieren die Kinder aus.

Die andere Seite dieser Generation – ein Argument für die #InformatikalsPflichtfach: Schon Vierjährige können kleine Roboter programmieren. Wenn ein Kind einem solchen Roboter „Schnick Schnack Schnuck/Schere Stein Papier/ Rock Scissors Paper“ beigebracht hat und dann verliert, kann es erkennen: „Ich hab dem Gerät erst gezeigt, was es tun soll, also bin ich schlauer als der Roboter.“ Dieses Argument und meine Erfahrung mit dem Programmieren einer Drohne in Form von so kleinen „Puzzlestücken“ lässt mich in meiner Überzeugung etwas wanken, dass „Informatik für alle“ für viele eine Überforderung darstellen könnte. Wieder was dazugelernt 😉

Künstliche Intelligenz und ihre Grenzen

Doch künstliche Intelligenz fällt nicht vom Himmel. Damit sie funktioniert, muss sie programmiert werden. Dazu gehören Unmengen an Daten. Zum Beispiel Bilddaten. Für Gesichtserkennung ganz wichtig. Und Sie kennen sicher die Berichte, dass die Gesichtserkennung dann bei farbigen Mitarbeiterinnen versagt – weil die meisten Bilddatenbanken vor allem weiße Männer, dann weiße Frauen, an dritter Stelle schwarze Männer abbilden. Das nennt man „Bias“ – eine ungewollte Beeinflussung. Einfach, weil man gewohnten Pfaden folgt, weil die Menschen an den entscheidenden Stellen gewissen Bevölkerungsgruppen angehören und deshalb andere nicht im Blick haben.  

Deshalb fordert Mary Ellen Bates unbeeinflusste historische und aktuelle Informationen, um künstliche Intelligenz zu schulen. Ebenfalls unbeeinflusst sollte der Algorithmus sein, der die Informationen dann zu Lernschritten zusammenfasst. Nicht so einfach …

Die Nutzung künstlicher Intelligenz zu Gesichts- und Spracherkennung, zu maschineller Übersetzung und selbst fahrenden Autos beruht auf dieser Form des maschinellen Lernens. Doch es gibt Bereiche, des Deep Learnings, wo eine künstliche Intelligenz anfängt, aus einer sehr großen Anzahl von Informationen, z. B. Bilddaten, selbst Muster und damit Erkenntnisse zu gewinnen. Ohne weitere Informationen wie Bezeichnungen von Bildgegenständen – „Katze“, „Frau“, „Auto“ – sortieren diese Programme die Bilder nach nicht vorgegebenen, selbst generierten Kriterien. Für die Informatikerinnen ist nicht nachvollziehbar, wie das abläuft. Ganz schön unheimlich, oder? Das unterstützt den Mythos von der künstlichen Intelligenz, die irgendwann die Herrschaft an sich reißt.

Aber es bleibt dabei: Künstliche Intelligenz kann nicht selber Neues denken. Und obwohl es Anstrengungen gibt, sie Empathie zu lehren – Mary Ellen Bates berichtet, dass die Stimme des Navigationssystems von Google inzwischen sehr freundlich den Satz „Sie haben Ihr Ziel erreicht“ ausspricht, mit einer positiven, leicht triumphalen Stimmlage -, ist sie nicht wirklich empathiefähig wie ein Mensch.

Mary Ellen Bates zu Wikiepdia und Social Media

Mary Ellen Bates sagte noch etwas, was mich nachdenklich machte:

Sie meint, dass das Vertrauen in Google ungerechtfertigt sei, ebenso wie das Misstrauen gegenüber Wikipedia. Wikipdia mache es möglich, die Entstehung eines Beitrags zu verfolgen. Dort herrscht Transparenz – wenn man mal die Artikelebene verlässt und „Diskussion“ oder „Versionsgeschichte“ mit einbezieht. Die Algorithmen hingegen, die das Ranking einer Ergebnisseite bei Google beeinflussen, sind völlig undurchsichtig.

Ein anderer Aspekt war ihre Einschätzung von Social Media. Sie erinnerte daran, dass das früher „Web 2.0“ hieß – doch in ihren Augen sind Social Media das Gegenteil des WWW als Informationsquelle. Das WWW hat als Ziel, Informationen auffindbar zu machen. Im Idealfalle sind diese Informationen sorgfältig zusammengetragen und werden verständlich vermittelt. Social Media seien das Gegenteil. Hier werden auf einer Plattform, die nur die Infrastruktur bereitstellt, Informationen unterschiedlichster Qualität verbreitet, ohne Redaktion und ohne, dass die Plattformbetreiber in der Verantwortung stehen.   

(Ergänzung am 21.10.2019) Dassselbe hat sie auf ihrem LinkedIn-Profil so ausgedrückt (sie ist einverstanden, dass ich das hier zitiere):

What I find interesting is how the term Web 2.0 completely missed the impact of this new form of electronic content. We saw it as the new iteration of the World Wide Web, but we had it all wrong.

Rather than another or a better web, Web 2.0/social media is the antithesis of the web. The content on the web is usually carefully written, relatively static, and controlled by the owner of the site. Social media platforms are just that – an infrastructure that hosts user-generated and –shared content for which the owner of the site is not responsible. It’s seen as a flow of content of varying quality passing by (that’s why they call it a tweet stream) rather than a resource to go to for existing information from a trusted source. An unanticipated consequence is that most of the toxic areas online are on social media.

Mary Ellen Bates bei LinkedIn

Es war ein lebendiger, interessanter Vortrag bei den Steilvorlagen – ich kann nur empfehlen, sich das Video vollständig anzuschauen, wenn es ab 5. November online ist.

Ergänzung vom 20.1.2020: Es hat ein bisschen gedauert – das Video ist schon länger online. Aber: Sie können es sich jetzt hier anschauen:

Dank an Michael Klems von infobroker.de, der mir den Link zum Einbetten fix und fertig zugesandt hat. Er erklärt das Vorgehen dazu auch auf seinem Videokanal.