Wie verändern KI und synthetische Realitäten unser Verständnis von Vertrauen, Solidarität, Souveränität und Wahrheit?

Ghost in the Machine

Debatten im KI-Zeitalter verlangen nach einer klaren Haltung. Technologie darf kein unkontrollierbares Schicksal sein, sondern muss als gestaltbares gesellschaftliches Projekt begriffen werden. Genau hier setzt der Digitale Humanismus als gelebte Praxis an, wenn sich Wien vom 24. bis 26. Juni 2026 in das globale Epizentrum für die Zukunft unserer digitalen Gesellschaft verwandelt. Unter dem Motto "Orientation in turbulent times" bringt die Digital Humanism Conference 2026 (DigHum) führende Köpfe aus Wissenschaft, Politik, Industrie und Zivilgesellschaft zusammen. In den historischen Prunksälen der Österreichischen Akademie der Wissenschaften (ÖAW) geht es um nichts Geringeres als die Neugestaltung unserer technologischen Realität. Eröffnet wird die Konferenz im Wiener Gartenbaukino mit einer Vorführung von Ghost in the Machine, dem investigativen Essay-Dokumentarfilm von Valerie Veatch. Die Regisseurin untersucht die philosophischen, kulturellen und politischen Kräfte hinter dem globalen KI-Boom, ausgehend von den zentralen Fragen, was KI überhaupt ist, wer sie entwickelt und was sie für die Zukunft des Menschen bedeutet.

Digital Humanism Conference 2026

Während Künstliche Intelligenz, Plattformmonopole und automatisierte Desinformation bestehende Machtstrukturen radikal verschieben, stellt die Konferenz die fundamentale Frage, wie wir den technologischen Fortschritt so steuern, dass er nicht demokratische Institutionen aushöhlt, sondern Menschenrechte, Vielfalt und soziale Gerechtigkeit stärkt. Internationale Vordenker wie die Tech-Ethikerin Rumman Chowdhury von Humane Intelligence und der renommierte IT-Sicherheitsexperte Bruce Schneier von Inrupt diskutieren, wie wir inmitten globaler Krisen eine Balance zwischen Freiheit und kollektiver Sicherheit finden können. An das wegweisende Werk "On Personal Power" (dt: Die Kraft des Guten; 1977) des US-amerikanischen Psychologen Carl Rogers angelehnt, das die innere Stärke des Menschen und die transformativen Effekte von Selbstbestimmung beschreibt, widmet sich das Panel "On Personal Power" (26.6., 14 Uhr) der Frage, wie konkrete Gestaltungsspielräume aussehen, damit User nicht zu bloßen "Datenlieferanten" oder passiven Konsumenten von Algorithmen degradiert werden. Es geht um Bildung (Digital Literacy), ethische Software-Architektur und die Frage, wie der Einzelne trotz übermächtiger Plattformen wirksam Einfluss auf die technologische Umwelt nehmen kann. Das Panel zeichnet sich durch einen stark interdisziplinären Ansatz aus, und verbindet Informatik, kreative Praxis, Bildung und Literatur. Unter der Moderation von Alexander Schmölz (Professor für Digitalen Humanismus an der FH BFI Wien) diskutieren Renate Motschnig (Professorin für Informatik Uni Wien), der KI-Forscher, Komponist und Creative Director Lamtharn Hantrakul, der Literaturwissenschaftler und Schriftsteller Stefan Kutzenberger ("Die Liste der Lebenden"; Picus Verlag, 2026), sowie Bernhard Standl (Professor für Informatikdidaktik, Karlsruhe) und Clara Blume, Gründungsdirektorin des Open Austria Art + Tech Lab im Silicon Valley, der ersten Initiative des österreichischen Außenministeriums zur Erforschung künstlicher Kreativität. Clara Blume kuratierte preisgekrönte internationale Kooperationen mit OpenAI, Google Magenta und Salesforce AI und wurde in die Liste der Global 40 Under 40 in Art + Tech aufgenommen. Ihre aktuelle Forschung konzentriert sich auf die sich wandelnde Bedeutung von Vertrauen, Geschmack und Wahrheit im Zeitalter synthetischer Realitäten. Clara Blume kehrt aber nicht nur als Forscherin nach Wien zurück, sondern auch als Musikerin. Am 27.6. gastiert Clara Blume feat. Prime Cast Collective und Special Guest ybhn/ญบฮน aus Bangkok live im OFF Theater, 1070 Wien. Im Vorfeld zu beiden Ereignissen trafen wir uns im virtuellen Raum zum Interview.

Interview mit Clara Blume

Kulturwoche.at: Du hast mit "The Grid" eine Plattform geschaffen, die Künstler:innen, Technolog:innen und politische Entscheidungsträger:innen zusammenbringt. Warum braucht die Entwicklung neuer Technologien gerade heute den Blick der Kunst?

Clara Blume: Technologie ist nie neutral. Sie trägt die Werte derer in sich, die sie bauen. Kunst stellt Fragen, die in Produktzyklen keinen Platz haben: nach Urheberschaft, nach Bedeutung, nach dem, was wir als Gesellschaft eigentlich wollen. Mit The Grid wollte ich Künstler:innen nicht als Dekoration an den Tisch holen, sondern als Frühwarnsystem. Sie arbeiten mit neuen Werkzeugen oft lange bevor diese in Massenprodukten ankommen und erkennen die Verwerfungen früh. Wer Technologie ohne diese Perspektive gestaltet, arbeitet im Grunde im Blindflug.

Wie gehst du als Musikerin mit KI um?

Clara Blume: Ich habe fast ein Jahrzehnt im Silicon Valley mit generativen Technologien gearbeitet, unter anderem mit Systemen von OpenAI, Salesforce und Google, und kenne deren Möglichkeiten gut. Für Kreativschaffende geht es dabei weniger um die Leistungsfähigkeit dieser Modelle als um eine Frage der Integrität: was man abgibt und was bei einem selbst bleibt. Generative Technologien können überraschend gut Musik schreiben und fantastische Texte erzeugen. Oftmals ununterscheidbar von menschlicher Komposition. Und trotzdem stelle ich mir die Frage, wieso ich ausgerechnet den Teil meiner Arbeit abgeben sollte, der sie ausmacht: meine Ideen, die Geschichten, die ich erzähle, die meine Weltsicht widerspiegeln. Alles geformt von meinem Geschmack und meiner Handschrift. All das prägt meine Stimme und trägt das Vertrauen meiner Hörerschaft. Damit lehne ich keinesfalls Technologie ab, sondern entscheide mich bewusst dafür, dass meine Arbeit meine bleibt. Gerade der Teil, den ich liebe.

Stephen Hawking warnte einst, die Entwicklung einer hinreichend fortgeschrittenen Künstlichen Intelligenz könne "das Ende der Menschheit bedeuten", während andere Stimmen solche Szenarien als übertrieben ansehen. Welche Risiken werden in der öffentlichen Debatte über KI zwischen dystopischen Zukunftsbildern und technologischem Optimismus derzeit unterschätzt und welche überschätzt?

Clara Blume: Überschätzt wird das ferne Szenario einer superintelligenten Maschine, die die Menschheit bedroht. Unterschätzt wird die leise Erosion im Hier und Jetzt: die Entwertung kreativer Arbeit, die Abhängigkeit von wenigen Systemen und der schleichende Verlust einer gemeinsamen Wirklichkeit. Der Kern meiner Forschung ist Wahrheit und Erzählung in synthetischen Wirklichkeiten. Was mich beunruhigt, ist nicht eine zu kluge Maschine, sondern eine Gesellschaft, die verlernt zu unterscheiden, was echt ist, was konstruiert ist und wer davon profitiert.

Heute erleben wir eine enorme Konzentration von Daten, Rechenkapazität und KI-Kompetenz bei wenigen globalen Akteuren. Sind wir bereits auf dem Weg in eine neue Form digitaler Oligarchie, und wie lässt sich verhindern, dass technologische Innovation zu einer weiteren Konzentration von Macht führt?

Clara Blume: Wir sind bereits in einer Situation, in der sich Daten, Rechenleistung und technologische Kompetenz bei wenigen globalen Akteuren konzentrieren. Jede neue Modellgeneration verstärkt diesen Effekt und vertieft die bestehende Ungleichverteilung. Das birgt die Gefahr einer digitalen Zweiteilung zwischen technologisch Anschlussfähigen und jenen, die davon zunehmend abgeschnitten sind. Verhindern lässt sich das nicht durch Appelle, sondern nur durch Gegenstrukturen: öffentliche Infrastruktur, offene KI-Modelle, durchsetzungsfähige Regulierung und eine Kultur, die anerkennt, dass sich nicht alles der Logik des Marktes unterordnen lässt. Unsere Daten, unser kollektives Wissen und unsere kreative Produktion sind kein Rohstoff. Sie sollten Grundlage einer fairen und transparenten Aushandlung über Teilhabe und Vergütung sein.

Wie realistisch ist angesichts der Dominanz globaler Technologiekonzerne digitale Souveränität für Europa und welche konkreten Schritte wären dafür notwendig?

Clara Blume: Souveränität ist möglich, aber alles andere als selbstverständlich. Sie braucht eigene Recheninfrastruktur, offene europäische KI-Modelle und Rahmenbedingungen, die es attraktiv machen, Talente zu halten oder zurückzugewinnen. Öffentliche Beschaffung kann dabei ein zentraler Hebel sein. Vor allem aber braucht Europa Alternativen zum bestehenden Ungleichgewicht. Ohne Alternativen gibt es keine Souveränität, sondern nur Abhängigkeit.

Digitale Plattformen verbinden Menschen, können aber gleichzeitig gesellschaftliche Spaltungen verstärken. Welche Rolle kann der Digitale Humanismus dabei spielen, neue Formen von Solidarität im digitalen Raum zu fördern?

Clara Blume: Digitale Räume sind heute Teil unserer öffentlichen Infrastruktur. Warum sollten dort andere Maßstäbe gelten als in der analogen Welt? Natürlich ist die Aushandlung kompliziert. Wie viel Freiheit wollen wir ermöglichen? Wo beginnt Schaden? Wer trägt Verantwortung? Und wer entscheidet darüber? Auf all diese Fragen wird es keine einfachen oder endgültigen Antworten geben. Für mich ist entscheidend, welches Prinzip uns dabei leitet. Digitale Räume sollten Menschen nicht auf ihre Funktion als Konsument, Datenlieferant oder Aufmerksamkeitsressource reduzieren, sondern die Bedingungen schaffen und erhalten, unter denen sie als freie und verantwortliche Subjekte handeln können. Das bedeutet auch, wirtschaftliche Interessen nicht zum alleinigen Maßstab ihrer Gestaltung zu machen. Wie im analogen öffentlichen Raum braucht es Regeln, die Freiheit für möglichst viele ermöglichen und dort Grenzen ziehen, wo anderen Schaden entsteht oder ihre Würde verletzt wird. Digitaler Humanismus ist für mich kein Gegenentwurf zur Technologie, sondern die Einsicht, dass technische Machbarkeit allein noch keinen gesellschaftlichen Fortschritt bedeutet.

Desinformation, Vertrauensverlust und die Krise gemeinsamer Wissensgrundlagen zählen zu den großen Herausforderungen unserer Zeit. Welche Ansätze hältst Du für besonders vielversprechend, um digitale Öffentlichkeit resilienter zu machen?

Clara Blume: Demokratische Gesellschaften leben von einem Mindestmaß gemeinsamer Wirklichkeit. Deshalb ist die entscheidende Frage nicht nur, wie wir Informationen verbreiten, sondern wie Vertrauen entsteht und erhalten bleibt. Dazu gehört zunächst Transparenz. Wir müssen nachvollziehen können, woher Inhalte kommen, wer sie erzeugt hat und unter welchen Bedingungen sie entstanden sind. Ebenso wichtig ist Bildung, verstanden als Schulung der Urteilskraft und nicht als reine Vermittlung digitaler Kompetenzen. Wer Inhalte einordnen kann, erkennt die Interessen und Absichten dahinter. Vor allem aber braucht eine resiliente Öffentlichkeit Räume, in denen Vertrauen wachsen kann. Das geschieht selten im Feed. Es entsteht in Begegnungen, in lokalen Gemeinschaften, in Redaktionen, auf Bühnen und überall dort, wo Menschen Verantwortung füreinander übernehmen. Diese Orte sind keine Nostalgie. Sie sind die Infrastruktur einer gemeinsamen Wirklichkeit.

Der Physiker Roger Penrose argumentiert seit Jahrzehnten, dass menschliches Bewusstsein nicht vollständig durch Algorithmen erklärbar sei. Wenn er recht behalten sollte: Welche Konsequenzen hätte das für die Vorstellung, dass KI-Systeme eines Tages menschliche Fähigkeiten vollständig ersetzen könnten?

Clara Blume: Wir wissen bis heute nicht, woher Bewusstsein kommt. Penrose mag recht behalten oder irren, das wird sich zeigen. Vor allem aber halte ich die Gegenüberstellung von Mensch und Maschine oft für fehlgeleitet. Was aus Silizium entsteht, wird sich in unzähligen Hinsichten von uns unterscheiden, und genau deshalb führt das Wort "ersetzen" in die Irre. Von einem "Ersetzen menschlicher Fähigkeiten" zu sprechen, reduziert den Menschen auf das, was sich erzeugen lässt. Es bindet seinen Wert an seine ökonomische Verwertbarkeit. Und wie so oft im Leben liegt auch hier das Unglück allein im Vergleich. Die Suche nach dem letzten, unwiderruflichen Rest, der uns zu Menschen macht, ist selbst die Falle: Während wir suchen, geben wir Stück für Stück auf, was wir für besonders hielten. Am Ende steht nicht der Beweis unserer Überlegenheit, sondern ihre Entzauberung. Ich würde die Frage deshalb umdrehen. Nicht: Was macht uns im Vergleich zu Maschinen besonders? Sondern: Was lässt sich freisetzen, erweitern, beleben, befreien, wenn sich Algorithmen immer enger mit unserer Spezies verflechten? Technologie muss den Menschen nicht überflügeln, um die Welt zu verändern. Es reicht, dass sie neue Möglichkeiten schafft. Was wir daraus machen, bleibt eine menschliche Entscheidung.

Alvin Toffler warnte bereits in den 1970er-Jahren vor einem "Future Shock", also vor Gesellschaften, die mit der Geschwindigkeit technologischer Veränderungen nicht mehr Schritt halten können. Welche Kompetenzen sollten Bildungssysteme heute vermitteln, damit junge Menschen digitale Systeme nicht nur nutzen, sondern auch kritisch hinterfragen und mitgestalten können?

Clara Blume: Wer mit dem Begriff Future Shock arbeitet, denkt zuerst an Tempo. Im Zentrum sollte aber nicht reine Werkzeugkompetenz stehen, sondern Urteilskraft. Junge Menschen sollten lernen, Fragen zu stellen: Wer hat ein System entwickelt? In wessen Interesse funktioniert es? Welche Annahmen stecken darin? Und welche Verantwortung übernehme ich, wenn ich es nutze? Dazu gehört auch die Erfahrung eigener Praxis. Ein Instrument zu lernen, ein Handwerk auszuüben oder etwas mit den eigenen Händen zu schaffen vermittelt eine Erfahrung, die in einer zunehmend digitalen Welt nicht an Bedeutung verliert: dass Können Zeit braucht, dass Kreativität Arbeit ist und dass nicht alles sofort verfügbar sein muss. Solche Erfahrungen stärken den Maßstab. Sie helfen jungen Menschen, Technologien nicht nur zu konsumieren, sondern selbstbestimmt mit ihnen umzugehen. Das beste Mittel gegen Future Shock ist deshalb nicht, mit jeder technischen Entwicklung Schritt zu halten, sondern zu wissen, was man nicht aus der Hand geben will.

Du wurdest für Deine Arbeit an der Schnittstelle von Kunst und Technologie international ausgezeichnet. Welche Rolle können kreative und kulturelle Perspektiven dabei spielen, die oft unsichtbaren gesellschaftlichen Folgen von KI sichtbar zu machen?

Clara Blume: Kunst übersetzt das Abstrakte in Erfahrung. Eine Statistik über Desinformation überzeugt nur wenige, eine Geschichte kann zeigen, was sie mit einer Gesellschaft macht. In meiner kuratorischen Arbeit habe ich Künstler:innen mit KI-Laboren zusammengebracht und immer wieder erlebt, dass sie andere Fragen stellen. Nicht nur: Was kann eine Technologie? Sondern: Wie verändert sie unser Verhalten? Unsere Beziehungen? Unser Bild vom Menschen? Künstler:innen machen die gesellschaftlichen Folgen technologischer Entwicklungen erfahrbar, noch bevor sie sich in Statistiken oder Risikoberichten niederschlagen. Sie helfen uns, mögliche Zukünfte nicht nur zu berechnen, sondern auch zu imaginieren. Gerade deshalb braucht eine Gesellschaft kreative und kulturelle Perspektiven. Technologischer Fortschritt ist immer auch kultureller Wandel. Und Kultur ist der Ort, an dem wir verhandeln, was dieser Wandel für uns bedeuten soll.

Die Digital Humanism Conference 2026 (dighum) steht unter dem Motto "Orientierung in turbulenten Zeiten". Was wäre für Dich das wichtigste Ergebnis der dighum und woran würdest Du ihren Erfolg messen?

Clara Blume: Orientierung heißt nicht, fertige Antworten zu haben, sondern zu wissen, woran man sich hält. Mein Maßstab ist die Würde des Menschen, nicht als abstrakter Begriff, sondern als Frage in jeder konkreten Entscheidung: in Bildung, Beschaffung, Gesetzgebung. Erfolg wäre für mich, wenn Teilnehmer:innen nicht nur klarer wissen, was sie bewahren wollen, sondern auch, was sich gewinnen lässt, wenn Menschen Technologie nicht bloß nutzen, sondern mitgestalten. Daran würde ich Erfolg messen. //

Text und Interview mit Clara Blume: Manfred Horak
Fotos: Beth LaBerge (Header), Megan Rory
Das Interview mit Clara Blume fand im Vorfeld zur Digital Humanism Conference (24. bis 26. Juni 2026 in Wien) statt.

Konzert-Tipp:

Clara Blume in Concert
feat. Prime Cast Collective
Special Guest: ybhn/ญบฮน (Bangkok)
Samstag, 27. Juni 2026, 20:00 Uhr
DAS OFF THEATER, Wien

Gefällt Ihnen der Artikel? Jeder Beitrag zählt! 
paypal.me/gylaax
Kulturwoche.at ist ein unabhängiges Online-Magazin, das ohne Förderung von Bund/Stadt/Land bzw. Großsponsoring auskommt.