Der Silizium-Mensch

Design an der Schnittstelle zur künstlichen Intelligenz

Humanoide Roboter ahmen die Bewegungsabläufe von Menschen nach und werden immer intelligenter. Fehlt ihnen eigentlich nur noch eines: Empathie. Oder? Das Münchener Unternehmen TAWNY, eine Ausgründung der HYVE Innovation Company, arbeitet daran, Dinge mit emotionaler Intelligenz auszustatten. Und das so erfolgreich, dass man bereits eine ganze Reihe von Preisen abgeräumt hat, darunter 2018 die Auszeichnung als »Most Visionary AI Startup«. Doch was braucht es, um die Vision einer »lebendigen« Schnittstelle zwischen Mensch und Maschine zu verwirklichen? Was kann Design zum Entwicklungsprozess beitragen und wie weit reicht die Verantwortung?

Im »Haus der Innovationen« in der Münchner Schellingstraße, in dem sich HYVE über fünf Stockwerke erstreckt, lassen Produktfotografien keinen Zweifel daran, dass sich Technik und Design hier gegenseitig befruchten: vom futuristischen Elektrogleiter über Küchenmaschinen mit intelligenten Funktionen bis hin zum taktilen Handschuh für Virtual-Reality-Anwendungen oder ein Longboard aus einem neuartigen, superleichten Materialmix. »Ich vergleiche Innovation gerne mit Zehnkampf«, sagt Dr. Michael Bartl, einer von drei Vorständen bei HYVE und Geschäftsführer von TAWNY. »Innovation ist kein Spezialistentum, sondern etwas Ganzheitliches, bei dem Sie viele Disziplinen beherrschen müssen wie Forschung, Industriedesign und Beratung …«.

Jeglicher Technik-Hype scheint dem promovierten Wirtschaftswissenschaftler und international anerkannten Innovationsspezialisten fremd zu sein. Dennoch setzt er die menschliche Psyche durchaus in einen kritischen Bezug zum materiellen Abbild. Empathie, Kreativität, freundschaftliche Gefühle – rein humane Eigenschaften? Bartl glaubt nicht daran. Viel eher geht er davon aus, dass sich das Zusammenleben zwischen Mensch und Roboter bis in spätestens 30 Jahren dramatisch verändern werde. Je mehr wir uns jedoch auf die Weiterentwicklung Künstlicher Intelligenz einlassen, desto dringlicher werde die Definition dessen, was unser Menschsein ausmacht. Bei allen globalen Krisenherden, aber auch in unserem Alltag – was sei da an zwischenmenschlicher Empathie zu spüren? Dagegen hat der sogenannte Tamagotchi-Effekt in den späten 90er-Jahren bewiesen, dass es durchaus eine emotionale Beziehung zwischen Mensch und Maschine gäbe.

Das Tamagotchi stellt ein virtuelles Küken dar, um das man sich vom Zeitpunkt des Schlüpfens an wie um ein echtes Haustier kümmern muss.

Roboterdesigner und Designerroboter

»Oder nehmen wir das Thema Kreativität: Das ist meist eine Rekombination aus Bestehendem. Eine Eigenschaft wie Laufen oder Springen. Jeder kann es, der eine besser, der andere weniger gut. Unterm Strich glaube ich, dass eine Maschine genauso kreativ sein kann wie 80 Prozent der Menschen,« so Bartl.

Ein heiß diskutiertes Thema, bei dem er auch dem Designer und Innovationsberater Karel J. Golta widerspricht, der dem Computer die Fähigkeit zu echter Kreativität abspricht. Automatisiertes Malen oder Musizieren, meinte Golta in einem Interview mit der PAGE, sei das Ergebnis von Zufallsgeneratoren. Um wirklich kreativ zu sein, um Neues zu schaffen, brauche es ein eigenes Bewusstsein, die Fähigkeit, Dinge zu hinterfragen. Ein Punkt übrigens, warum nach seiner Meinung KI keine Gestaltungsprozesse per se übernehmen könne, sondern lediglich handwerkliche Tätigkeiten. »Die Gestaltungsgrundlagen müssen Designer nach wie vor beherrschen. Wer beurteilt denn sonst gutes Design, wenn wir es selbst nicht mehr entwickeln können?«

Firmengründer Karel J. Golta widmet sich bei INDEED intensiv der Innovationsforschung, dem Design und der Produktentwicklung.

Immerhin spricht das dafür, dass die Künstliche Intelligenz ihre (Mit-)schöpfer, nämlich die Gestalter, nicht so schnell einholt und überflüssig macht. In anderen Sparten des Arbeitsmarktes sieht das nämlich anders aus. Auch Bartl spricht das offen an: »Es werden vor allem hochqualifizierte Jobs verlorengehen, beispielsweise von Juristen oder von Medizinern im diagnostischen Bereich. Einen juristischen Vertrag aus Bausteinen basierend auf unendlich vielen Fällen zu erstellen, das wird eine künstliche Intelligenz besser können als ein Anwalt. Der kann wahrscheinlich weiterhin besser vor Gericht verhandeln oder ein Plädoyer halten. Eine künstliche Intelligenz kann aber wiederum besser Knochenmarksaufnahmen analysieren als ein Arzt, und zwar wesentlich schneller.«


Kohlenstoff vs. Silizium

Alles eine Frage des Algorithmus? »Was eine künstliche Intelligenz natürlich nicht kann, ist, wenn es etwa in Richtung Kindergärtner*innen oder Pfleger*innen geht,« schränkt Bartl ein. Aber ist nicht immer wieder von Pflegerobotern die Rede? Das führt unmittelbar zur Frage über die ethischen Grundprinzipien unserer menschlichen Verfasstheit. Was macht den Menschen überhaupt aus? Wie steht es um seine angebliche Sonderstellung in der Evolutionsgeschichte? Wird er diese in absehbarer Zeit womöglich an seine siliziumbasierten Kollegen abtreten? »Wieso bilden wir uns ein, dass Leben nur auf der Basis von Kohlenstoff funktioniert und nicht auch auf Silizium? Wieso gilt das eine als Leben, das andere nicht?« Aber will man eine Abkehr vom »Kohlenstoff-Chauvinismus«, wie Bartl es nennt, überhaupt zulassen? »Wenn eine Maschine erst einmal wahrnehmen kann, ob Sie gut drauf sind oder nicht, ob Ihre Stimme zittert oder nicht, und wenn sie auch noch lernt und mit Ihnen interagiert, dann ist sie schon nahe an dem, was ein Mensch auch kann. Wir werden das in Zukunft regulieren müssen, bevor es sich selbstständig macht. Oder es ist in der Evolution so vorgesehen, dass wir in 200 Jahren dann doch Silizium basiertes Leben haben. Ich weiß es nicht, aber das ist die ethische Diskussion, die man definitiv führen muss.«

Von Vorsicht und Voraussicht

Und hier setzt auch die Verantwortung ein, die Designer in der Gestaltung und Entwicklung von Nutzungsprozessen tragen. Schon das Logo des Start-ups weist darauf hin, dass sich TAWNY seiner ethischen Verantwortung bewusst ist, die mit der Entwicklung künstlicher Intelligenz einhergeht: die Eule, die in der Mythologie für Eigenschaften wie Weisheit, Visionskraft, aber auch Wachsamkeit steht. Dabei geht es einerseits darum, den Menschen an der Schnittstelle zu einer neuen und langfristig noch nicht einschätzbaren Technologie zu schützen.

Karel J. Golta bringt die Problematik im Vergleich zum traditionellen Arbeitsbereich des Designers in Print- oder Produktdesign auf den Punkt, wenn er in PAGE sagt: »Die einzelnen Bestandteile wie Farben, Papier und Rohstoffe sind gut kontrollierbar. Diese Gewissheit war bisher Teil unserer DNA: Wir konnten den Impact unserer Arbeit kurz-, mittel- und langfristig relativ gut einschätzen. Beim Thema KI können wir hingegen maximal kurzfristig sehen, was wir erreichen. Was es langfristig mit uns macht, wissen wir nicht. Wie beeinflusst es etwa die Entwicklung unserer Kinder, wenn sie mit Sprachassistenten wie Alexa aufwachsen?«

Andererseits geht es TAWNY natürlich auch darum, den Menschen mithilfe der künstlichen Intelligenz zu schützen – zum Beispiel vor sich selbst, seiner eigenen Unzulänglichkeit. Das Start-up hat sich dazu auf die Analyse von Emotionen und affektiven Zuständen anhand psychophysiologischer Daten spezialisiert. Darauf soll eine Emotion Intelligence, kurz EI, aufbauen, die den Menschen in Zukunft erweiterte Assistenzssysteme zur Verfügung stellt. »Maschinen, Roboter oder Handys sollen wissen, wie es Ihnen gerade geht. Etwa das Auto, wenn Sie einsteigen: »Oh, der steht heute unter Druck. Da passe ich mal die Fahrsysteme etwas an und mache sie sensibler, sonst gibt’s einen Unfall.« Man kann mit dieser emotionalen Intelligenz der Maschinen Über- oder Unterforderung, Langeweile, Konzentration oder Stress identifizieren. Nehmen wir einmal Arbeitsunfälle, gerade auch in Ländern, wo es keine ausreichenden Sicherheitsvorschriften und -vorkehrungen gibt, etwa in China oder Indien. Wenn ich etwa ein Roboter in der Produktion bin, dann weiß ich: »Achtung! Der ist gerade unaufmerksam, da darf ich jetzt meinen Schwungarm nicht so weit ausfahren, sonst säbele ich ihm die Hand ab.« Solche Technologien zu nutzen, die Sicherheit und Mehrwert erzeugen, macht definitiv Sinn.«

Die grundsätzliche Funktionsprinzipien, die bei der Entwicklung von EI zusammenwirken, sind dabei nicht neu: Daten von Gesichtserkennung, Spracherkennung, Hautwiderstand oder Daten, wie sie etwa mit Fitnessarmbändern ermittelt werden. Neu hingegen ist das Zusammenspiel der einzelnen Daten, wie sie also mit komplexer Software situativ in Beziehung zueinander gesetzt werden. Dabei ist die Genauigkeit, mit der sich Aussagen über bestimmte Verhaltensaspekte der Probanden machen lassen, verblüffend.

Wir haben das mit Michi Greis, dem dreimaligen Biathlon-Weltmeister ausprobiert und prognostiziert, ob die Biathleten beim Schießen treffen werden oder nicht, und zwar bevor sie schießen und ausschließlich anhand der physiologischen Daten. Unsere Quote war mit über 90 Prozent sensationell hoch!


Ähnlich gute Testergebnisse konnten die Entwickler bei TAWNY auch im Experiment mit einem Callcenter erzielen. »Wir haben die physiologischen Daten während des Telefonierens abgenommen. Und wenn ich diese Indikatoren habe, kann ich ziemlich gut feststellen, in welchem emotionalen Zustand jemand gerade ist.« Entsprechend wurden im Callcenter den Mitarbeiter*innen bestimmte Kunden zugewiesen und mittels EI ließ sich mehr als 70% Sicherheit vorhersagen, ob der Anruf von Erfolg gekrönt sein würde oder nicht. 70% Prozent, das sind immerhin zwanzig Prozent mehr, als würde man sich dem bloßen Zufall überlassen. »Ein kleines Callcenter mit etwa 50 Personen macht etwa zehntausend Anrufe pro Tag. Sie können also zweitausend Anrufe zum richtigen Zeitpunkt dem richtigen Agenten zuweisen, um die Verkaufswahrscheinlichkeit zu verbessern. Und 2.000 Anrufe sind dann schon ziemlich viel.«

»Wir brauchen ethische Grundprinzipien und Rahmenbedingungen, die den Einsatz von Künstlicher Intelligenz beschränken und regeln«, fordert Microsoft-Präsident Brad Smith bei der Präsentation des Buchs »The Future Computed – Artificial Intelligence and its role in society«.

Vom KI-Design zum EI-System

Solange EI-Systeme dem Menschen nur assistieren, indem sie sein emotionales Befinden lesen und interpretieren, um auf dieser Basis Entscheidungshilfen zu leisten oder sogar selbst Entscheidungen zu treffen, die etwa unserer Sicherheit dienen, mag dies hilfreich sein. Doch wer sagt, dass es dabei bleibt? KI kommt, und zwar mit Riesenschritten. Darüber gibt es keine Zweifel mehr. Die entscheidende Frage, ist, »was wir aus ihr machen«, mahnte im Zuge der Einsetzung der Enquete-Kommission des Bundestags auch der SPD-Abgeordnete Sören Bartol. Und dies »auf eine Art und Weise, die untrennbar mit europäischen Werten verbunden ist.«

Auch Unternehmer und Entwickler haben die Notwendigkeit erkannt. So überraschte Microsoft Präsident Brad Smith im Januar 2018 mit einem Vorstoß, in dem er die Einführung von ethischen Grundmaßstäben im Umgang mit künstlicher Intelligenz einforderte: »Bevor wir für den Umgang mit KI neue Gesetze verabschieden, müssen wir uns der universellen Werte bewusst sein, die von den KI-Prinzipien geschützt werden sollen.» In seinem Buch »The Future Computed» formuliert er deshalb folgende Forderungen, auf denen eine Ethik des neuen Computerzeitalters beruhen soll: Fairness, Zuverlässigkeit, Privatsphäre und Sicherheit, Inklusion, Transparenz und Rechenschaftspflicht.

Golta beispielsweise plädiert ergänzend dafür, eben solche Prinzipien für Designer aufzustellen und die Berufsgruppe überhaupt früh genug in den Prozess mit einzubeziehen. So gehört zum Beispiel zu seinen vier Regeln fürs KI-Design, bereits bei der Entwicklung zu bedenken, welche Auswirkung eine Anwendung auf die menschlichen Fähigkeiten haben wird, oder Künstliche Intelligenz nur einzusetzen, um die menschlichen Eigenschaften zu verbessern.

Bartl stellt die Dringlichkeit solcher Handlungsbedarfe zwar nicht infrage, bewahrt sich aber dennoch eine gewisse Grundgelassenheit, die inmitten der hitzigen Debatten um die digitale Zukunft wohltuend ist. Eine Klarheit, die hilft Ängste abzubauen, ohne dabei übermäßig optimistische und unkritische Höhenflüge zu bedienen, und die eine Sicht auf Chancen und Grenzen der neuen Technologien eröffnet. Auch dies ein Zeichen dafür, dass im »Haus der Innovationen« der Mensch im Mittelpunkt steht.

»Natürlich wird es Gesetze brauchen, die wesentlich umfangreicher und komplexer sind. Aber diese Grundregeln sind ein guter Standard, unter dem viele Aspekte sub­sum­miert werden können«.
Mehr dazu von Karel J. Golta in der PAGE-Brancheninitiative »Connect Creative Competence«.

EI, ei, wie fein …


Wie etwa besonders schön an der jüngsten Ausgründung von HYVE zu sehen … und zu schmecken ist: »MyEier«. Der Name läuft buchstäblich nicht ganz rund, was sich dahinter verbirgt aber umso besser die Kehle hinunter: Eierlikör. »Dieser Eierlikör ist gemeinsam mit der Crowd entwickelt worden.«, klärt Michael Bartl mit einem amüsierten Lachen über die ungläubigen Blicke des Besuchers auf. »Da wurden auf einer digitalen Plattform Rezepte hochgeladen, die Chefköche nachgekocht haben. Auch der Name wurden gemeinsam mit der Communitiy kreiert.« Design von der Gemeinschaft für die Gemeinschaft, ei, EI.

Der Wandel braucht Begleitung

Ulrich Müller und Ralph Habich in einem Gespräch.

Ulrich Müller: Digitalisierung, künstliche Intelligenz, Robotik: Die Technik entwickelt sich mit atemberaubender Geschwindigkeit weiter. Entsprechend groß sind die Dimensionen der Veränderungen, mit denen zu rechnen ist, und ebenso die Spekulationen, wie sich denn unsere Gesellschaft in Zukunft weiterentwickeln wird. Das Spektrum der Szenarien, die da entwickelt werden, reicht von verklärend bis verstörend, mit allen möglichen Zwischenstufen. Was ist denn wirklich an der Sache dran?

Ralph Habich: Wenn man sich für die Zukunft gesellschaftlicher Entwicklung interessiert, dann ist die Form von regelbasierter KI, die man heute schon bei Rücknahmegeräten im Supermarkt erleben kann, wenig interessant. Die eigentlich interessante KI geht da los, wo wir es mit Systemen zu tun haben, die in der Lage sind, Situationen zu beurteilen und daraus zielgerichtete Handlungskonzepte abzuleiten. Software oder KI, die das kann, hat den Hebel in der Hand, um die Gesellschaft zu verändern.

Ulrich Müller: Mit anderen Worten, Systeme, die eine gewisse Autonomie entfalten …

Ralph Habich: Die Veränderungen durch sie werden über kurz oder lang so weitreichend sein, dass unsere Vorstellungskraft an ihre Grenzen stößt. Die KI, die ursächlich für den immensen Wandel sein wird, ist nicht nur in der Lage, Herausforderungen zu erkennen, sie wird auch gleich die Lösungskonzepte liefern und deren Umsetzung steuern beziehungsweise überwachen. Und schließlich wird sie in der Lage sein, innerhalb dieses Prozesses eigene Fehler zu identifizieren und sich selbst zu korrigieren.

hier weiterlesen

Autor

Ulrich Müller

ist Autor, Theoretiker und Musiker. Er schreibt Radio-Features, in denen er das Verhältnis von Musik zur Bildenden Kunst, Architektur, Literatur und Philosophie thematisiert. Außerdem zeichnet er für strategische Konzepte im Designbereich verantwortlich.

Weitere MCBW STORIES

  • Spaziergänge mit Kakadu.
    Zum Schlüsselbild der MCBW 2019

  • Unser täglich Brot gib uns ...
    Ein Perspektivwechsel

  • Maßgeschneiderte Produkte – Styliamo


Hat Ihnen die Story gefallen? Haben Sie Fragen oder Anmerkungen dazu? Melden Sie sich gerne bei uns.

Das Programm der MCBW wächst kontinuierlich. Änderungen bleiben selbstverständlich vorbehalten.
Für Bilder, Texte und Inhalte der einzelnen Veranstaltungen auf dieser Webseite sind ausschließlich die jeweiligen Veranstalter verantwortlich.