Weizenbaum Institute Publications
Permanent URI for this communityhttps://www.weizenbaum-library.de/handle/id/965
Publications by the Weizenbaum Institute
Browse
189 results
Search Results
Item Yes, we are open?! Künstliche Intelligenz verantwortungsbewusst gestalten(Weizenbaum Institute, 2025-09) Mayer, Katja; Knaus, Jochen; Züger, Theresa; Fichtner, Urs Alexander; Glinka, Katrin; Hase, Jan; Heller, Lambert; Kaffee, Lucie-Aimée; Koth, Sebastian; Kowald, Dominik; Lipp, Ilona; Meyer, Katharina; Ritter, Petra; Waag, Anne-Sophie; Skupien, Stefan; Mysegades, CharlotteDas Strategiepapier „Yes, we are open! Künstliche Intelligenz verantwortungsbewusst gestalten“ basiert auf den Arbeitsergebnissen der gleichnamigen Veranstaltung im März 2025 und zeigt auf, wie wir die Chancen von KI mutig, offen und im Sinne des Gemeinwohls nutzen können. Anstatt KI nur als „große Sprachmodelle“ zu betrachten, betont das Papier die Vielfalt der Ansätze – von regelbasierten Verfahren bis zu generativen Systemen – und macht deutlich: Offenheit ist der Schlüssel zu Vertrauen, Transparenz und Teilhabe. Offenheit bedeutet jedoch nicht „alles für alle“, sondern ein kluges Austarieren zwischen Zugänglichkeit, Datenschutz und Sicherheit. Nur so kann KI demokratisch kontrolliert, reproduzierbar und gemeinwohlorientiert gestaltet werden. Die entwickelte Vision ist eine digitale Kultur, in der KI-Technologien nachvollziehbar, nachhaltig und fair entwickelt und eingesetzt werden. Dafür wurden vier Handlungsfelder identifiziert: Wissensräume und Vernetzung für gemeinsames Lernen, Kompetenzaufbau für kritisches und praktisches Know-how, offene digitale Infrastrukturen für Souveränität und Nachhaltigkeit sowie innovative Governance-Modelle, die Regeln und FreiräumeItem Stellungnahme zum Referentenentwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689(Weizenbaum Institute, 2025-10) Braun, Melina; Iglesias Keller, Clara; Krzywdzinski, Martin; Mysegades, Charlotte; Schöbel, Philipp; Zech, HerbertDie 2024 verabschiedete Verordnung (EU) 2024/1689 (im Folgenden: AI Act) verpflichtet die Mitgliedstaaten, im Rahmen der nationalen Umsetzung des AI Act drei Arten von Behörden zu benennen oder einzurichten, vgl. Art. 70 und Art. 77 AI Act. Der AI Act lässt den Mitgliedstaaten einen Ermessensspielraum in Bezug auf die Struktur und Gestaltung dieser drei Arten von Behörden. Was die Behörden zum Schutz der Grundrechte betrifft, so waren die Mitgliedstaaten gemäß Art. 77 Abs. 2 AI Act verpflichtet, bis zum 2. November 2024 eine Liste dieser Behörden zu veröffentlichen. Die Mitgliedstaaten sollten gemäß Art. 113 lit. b) AI Act bis zum 2. August 2025 mindestens eine notifizierende Behörde und mindestens eine Marktüberwachungsbehörde als zuständige nationale Behörden errichten oder benennen. Hier setzt der Referentenentwurf eines Gesetzes zur Durchführung der KI-Verordnung (EU) 2024/1689 (im Folgenden: Referentenentwurf) an. Diese Frist ist von Deutschland bereits überschritten worden, sodass das Weizenbaum-Institut die Veröffentlichung des Referentenentwurfes und die geplante zügige Verabschiedung des Umsetzungsgesetzes begrüßt. Diese Stellungnahme greift maßgebliche Aspekte des Entwurfs auf und analysiert sie. Ein Schwerpunkt der Betrachtung liegt auf der Stellung der Bundesnetzagentur als zentrale Durchsetzungsbehörde. Ziel der Stellungnahme ist es, sowohl aus juristischer Perspektive (Rechtsstaatlichkeit, Grundrechte, Governance) als auch aus wissenschaftlicher Perspektive (Gesellschaftliche Auswirkungen, Partizipation) zentrale Regelungen kritisch zu beleuchten.Item Offenheit neu verhandeln – KI im öffentlichen Interesse gestalten(Weizenbaum Institute, 2025-12) Mayer, Katja; Knaus, Jochen; Züger, Theresa; Fichtner, Urs Alexander; Glinka, Katrin; Hase, Jan; Heller, Lambert; Kaffee, Lucie-Aimée; Koth, Sebastian; Kowald, Dominik; Lipp, Ilona; Meyer, Katharina; Ritter, Petra; Waag, Anne-Sophie; Hauswirth, Manfred; Skupien, StefanDort, wo KI öffentlich entwickelt, finanziert und eingesetzt wird – in Wissenschaft, Verwaltung und öffentlicher Infrastruktur – muss sie offen, nachvollziehbar, nachhaltig und gemeinwohlorientiert sein. Das ist kein technisches Detail, sondern eine demokratische Verpflichtung: Öffentliche Mittel erfordern Transparenz, Nachvollziehbarkeit stärkt Vertrauen, und Gemeinwohlorientierung macht KI zum Motor gesellschaftlicher Teilhabe statt privater Machtkonzentration. Damit das gelingt, braucht es politische Rückendeckung, dauerhafte Strukturen und verbindliche Regeln. Nur durch klare Rahmenbedingungen lassen sich Transparenz, Zugang, Rechenschaft und Beteiligung dauerhaft sichern. Offenheit im Zeitalter der KI ist nicht optional – sie ist ein demokratischer Gestaltungsauftrag. Dieser Forderungskatalog richtet sich an politische Entscheidungsträger:innen auf Bundes- und Landesebene, insbesondere an die zuständigen Ausschüsse für Digitales und Staatsmodernisierung, Wissenschaft und Forschung, Wirtschaft und Energie und Arbeit und Soziales. Er benennt zentrale Handlungsfelder, in denen Offenheit als Leitprinzip neu gedacht und verankert werden muss – damit KI-Technologien in den Dienst der Öffentlichkeit gestellt werden können.Item Von der Kreditkarte zu Buy-Now-Pay-Later. Soziale Ungleichheiten in der Nutzung von digitalen Bezahldiensten und Konsumkrediten(Weizenbaum Institute, 2025-10) Brandl, Barbara; Sulykosné Ignácz, Zsófia; Keiner, Alexandra; Preunkert, JennyDieses Discussion Paper untersucht auf Basis des Weizenbaum Panels 2024 die finanzielle Teilhabe in Deutschland, die hier als Zugang zu Zahlungsoptionen und Konsumkrediten definiert wird. Leitend ist die These, dass sich aktuell bei Fragen der finanziellen Teilhabe, sowohl durch die Digitalisierung des Geldes als auch die zunehmenden sozialen Ungleichheiten, neben den klassischen (vertikalen) auch neue (horizontale) Ungleichheitsmuster ergeben. Rahmend wird die Entwicklung des digitalen Geldes in drei Digitalisierungswellen nachgezeichnet: von Karten- und Girokonten über Online-Banking, SEPA und PayPal bis hin zu app-basierten Wallets und „Buy Now, Pay Later“ (BNPL). Die Daten des Weizenbaum Panels zeigen, dass trotz der nahezu flächendeckenden Verbreitung von Konten in Deutschland Ungleichheiten im Zugang zu digitalen Dienstleistungen bestehen. Bei der Nutzung digitaler Bezahldienste lassen sich zwei zentrale Trends identifizieren: Erstens geht ein höheres Einkommen mit einer höheren Nutzung digitaler Zahlungsmöglichkeiten einher. Einkommensschwache Personen greifen dagegen eher auf Bargeld zurück. Zweitens werden vor allem neuere Bezahlmethoden verstärkt von jüngeren und internetaffinen Personen genutzt, wodurch ältere und hier oft weniger internetaffine Personen tendenziell Nachteile erleiden. Konsumkredite werden eher von einkom- mensschwachen, aber auch jüngeren Haushalten genutzt. Die Gründe für die Kreditaufnahme unterscheiden sich deutlich: Einkommensstärkere und auch ältere Haushalte finanzieren mit Konsumkrediten eher größere Anschaffungen (z.B. Auto, Möbel oder Urlaub), während in der niedrigsten Einkommensgruppe und in jungen Haushalten doppelt so viele Personen Kredite zur Deckung alltäglicher Ausgaben (z.B. Lebensmittel, Miete oder Kinderbedarf) aufnehmen. Solche Alltagskredite sind ein Indikator für die Prekarisierung des täglichen Lebens und für einen Generationenwandel. Buy-Now-Pay-Later-Produkte bilden eine ambivalente Schnittstelle zwischen Zahlungsoption und Kredit. Die Nutzung ist bereits weit verbreitet – so hat ein Drittel der Befragten mindestens einmal im letzten Jahr Gebrauch von BNPL gemacht. Im Gegensatz zu nahezu allen anderen digitalen Bezahlmethoden, zeigen sich bei der Nutzung von BNPL nahezu keine Unterschiede im Hinblick auf Einkommen und Alter. Allerdings zeigt sich ganz im Gegensatz zu allen anderen Formen des Konsumkredits eine höhere Nutzung von BNPL durch Frauen. Dabei bringt BNPL einerseits Vorteile im Gegensatz zu der Nutzung von Kreditkarten, wie zunächst keine Zinsen sowie eine breite Zugänglichkeit, mit sich. Andererseits birgt BNPL jedoch auch Gefahren, wie zum Beispiel Mahn- und Verzugskosten, die zu einem erheblichen Überschuldungsrisiko führen können. Zudem fördert BNPL die Marktkonzentration zugunsten großer Tech-Unternehmen. Insgesamt zeigt sich, dass mittlerweile nicht mehr nur Einkommen, sondern gerade auch das Alter und auch das Geschlecht den Zugang und die Nutzung der finanziellen Teilhabe prägen.Item Current Challenges in Digital Elections. Lessons from Electoral Regulation and Digital Campaigning in Brazil(Weizenbaum Institute, 2025-11) Kira, Beatriz; Iglesias Keller, Clara; Wajman, Gabriel; Brito Cruz, Francisco; Bioni, Bruno; Schertel, Laura; Fonseca, Gabriel; Fernandes dos Santos, NinaThis report addresses the regulation of digital electoral environments. Using Brazil’s 2024 local elections as a case study, it analyzes innovative regulatory measures introduced by the Brazilian Superior Electoral Court (TSE) to manage digital political communications. As digital campaigning expands beyond traditional media into social platforms and AI-generated content, Brazil exemplifies the difficulties democracies face in adapting electoral oversight to new realities. The central contribution is an in-depth examination of five regulatory innovations in TSE Regulation No. 23,732/2024 that strengthen platform accountability: (1) rules on microtargeting and data protection; (2) mandatory Ad Libraries enhancing transparency of political ads; (3) regulation of generative AI content; (4) duties and content moderation obligations for digital platforms; and (5) updated intermediary liability frameworks. These reforms represent an important judicial attempt to fill legislative gaps and respond to the digital disruption of electoral processes. The report situates Brazil’s approach within a wider comparative debate on how liberal democracies confront digital electoral challenges. It highlights issues of legitimacy, legal competence, and enforcement, while providing policy recommendations applicable beyond Brazil. Ultimately, this study offers insights into evolving models of electoral governance, bridging national experience with global democratic challenges in the digital age.Item Harmonised Standards and Conformity Assessments in the AI Act: Strengthening Independent and Participatory Oversight(Weizenbaum Institute, 2025-12) Berendt, Bettina; Danos, Vasilios; Hartmann, David; Langer, Fabian; Lassiter, Tina; Mönig, Julia Maria; Mysegades, Charlotte; Puntschuh, Michael; Zech, HerbertAdopted by the European Union in 2024, the Artificial Intelligence Act (AIA) constitutes a landmark framework for the regulation of AI systems within the EU’s internal market. While recognising its significance for fostering accountability and trustworthy AI, this position paper focuses on two central mechanisms for its effective implementation: (1) technical standardisation and (2) conformity assessments. It argues that, in their current formulation, both mechanisms risk an excessive reliance on private governance, thereby constraining democratic oversight and the effective protection of fundamental rights. The AIA implements its legal obligations through technical standardisation under Article 40, delegating detailed requirements to the European standardisation organisations. Compliance with these harmonised standards creates a presumption of conformity, giving companies strong incentives to follow them. Although the AIA introduces broader stakeholder consultation via the AI Board and Advisory Forum, participation remains non-binding, allowing large corporations to dominate standard-setting and raising concerns about democratic legitimacy and fundamental rights protection. Under Article 43, conformity assessments verify whether high-risk AI systems meet AIA re- quirements before market entry. Most rely on internal self-assessment; external control is only required in very limited cases. While this reduces administrative burdens, it also risks weakening oversight, transparency, and protection of fundamental rights.Item Sustainable Digital Sovereignty. Interdependencies Between Sustainable Digitalization and Digital Sovereignty(2023) Herlo, Bianca; Ullrich, André; Vladova, GerganaThis study is dedicated to the interdependencies between digital sovereignty and sustainable digitalization, which need to be explicitly linked to an increasing degree in political discourse, aca- demia, and societal debates. Digital skills are the prerequisites for shaping digitalization in the in- terest of society and sustainable development.Item The Impact of COVID-19 on California’s Plans for Caring for its Aging Population. Technology Adoption and Employment(2024-02) Pickering, Bruce; Lindeman, David; Tang, AllysonOlder adults have traditionally been the age cohort most resistant to the adoption of technology, making aging in place difficult and frequently expensive. But recent advances in technology – and those just on the horizon – have the potential to transform the ability to age in place by making senior healthcare both safer and more connected. Such technology can enable healthcare professionals to monitor their charges in real time, respond quickly to healthcare emergencies, make healthcare consultations safer and less onerous for both patients and healthcare workers, assist elders with physical ther- apy, connect older adults to family and friends, and provide entertainment and learning opportunities for seniors. It is now even possible for older adults in rural areas to receive remote surgery from world class surgeons. The arrival of COVID-19 forced older adults into isolation, severely limiting contact with healthcare providers, family and friends. But COVID-19 also accelerated the adoption of many of the trends already extant, incentivizing older adults and healthcare providers to adopt new technologies much more rapidly than ever before. The WelbeHealth Program of All-inclusive Care for the Elderly (PACE) in California’s Central Valley, may provide a model of flexible, responsive and adaptive care.Item Data Access for Researchers under the Digital Services Act: From Policy to Practice(Weizenbaum Institute, 2025-09) Seiling, LK; Iglesias Keller, Clara; Ohme, Jakob; Klinger, Ulrike; de Vreese, ClaesAs digital platforms play an increasingly prominent role in societies around the globe, calls from policymakers, civil society, and the public for transparency, accountability and evidence-based regulation of these digital services have become louder and more urgent. Independent research seeking to provide such empirical evidence has either taken place in a legal gray zone, running the risk of legal retaliation, or depended on close collaboration with platforms. The Digital Services Act (DSA), adopted in 2022 and in force since 2024, promises to change this dynamic by clearly outlining under which conditions platforms must grant data access to researchers. The recently adopted Delegated Act on data access (DA) provided more detail on the implementation of this new right to data access for researchers. This paper provides an overview of researchers’ initial practical experience with access to publicly available data based on Art. 40(12) DSA as well as an in-depth description of procedure for access as set out in Art. 40(4) DSA, thereby comprehensively characterising the data access options outlined in the DSA and DA. We outline key provisions and their underlying rationales to provide an overview of the goals, procedures and limits of DSA-based data access, as well as an account of external factors likely to weigh in its realisation. The goal is to offer a valuable point of reference for the European as well as global community of researchers considering applications under the DSA, as well as other stakeholders aiming to understand or support the development of robust data access frameworks.Item Dynamics of Data Work in AI Implementation Processes(Weizenbaum Institute, 2025-09) Schneidemesser, Lea; Schneiß, Daniel; Heim, JanaThe discourse on automation and artificial intelligence (AI) highlights the critical yet underexplored role of data work. While previous studies have focused on data work in the production of AI systems, this article investigates its significance in subsequent implementation phases. Drawing on two in-depth case studies from traditional industries in Germany – one in manufacturing and one in administration – we explore the labor and power dynamics inherent in these processes. Our findings reveal that AI implementation necessitates additional data work which cannot be outsourced due to its reliance on organization-specific knowledge. This dependency fosters new labor relations and power dynamics among development companies, organizational management, and workers, often leading to tensions and negotiation challenges. We introduce the concept of data work facilitation to describe the unique labor emerging from these dependencies and identify potentials for a new power resource workers could employ – data work bargaining power.