Weizenbaum Discussion Papers

Permanent URI for this collectionhttps://www.weizenbaum-library.de/handle/id/968

The publications of the Weizenbaum Discussion Papers present results from the ongoing research of the institute. The series is open for different publication formats such as monographs, technical reports, preprints, working papers and many more.

Browse

Search Results

Now showing 1 - 10 of 52
  • Thumbnail Image
    Item
    Yes, we are open?! Künstliche Intelligenz verantwortungsbewusst gestalten
    (Weizenbaum Institute, 2025-09) Mayer, Katja; Knaus, Jochen; Züger, Theresa; Fichtner, Urs Alexander; Glinka, Katrin; Hase, Jan; Heller, Lambert; Kaffee, Lucie-Aimée; Koth, Sebastian; Kowald, Dominik; Lipp, Ilona; Meyer, Katharina; Ritter, Petra; Waag, Anne-Sophie; Skupien, Stefan; Mysegades, Charlotte
    Das Strategiepapier „Yes, we are open! Künstliche Intelligenz verantwortungsbewusst gestalten“ basiert auf den Arbeitsergebnissen der gleichnamigen Veranstaltung im März 2025 und zeigt auf, wie wir die Chancen von KI mutig, offen und im Sinne des Gemeinwohls nutzen können. Anstatt KI nur als „große Sprachmodelle“ zu betrachten, betont das Papier die Vielfalt der Ansätze – von regelbasierten Verfahren bis zu generativen Systemen – und macht deutlich: Offenheit ist der Schlüssel zu Vertrauen, Transparenz und Teilhabe. Offenheit bedeutet jedoch nicht „alles für alle“, sondern ein kluges Austarieren zwischen Zugänglichkeit, Datenschutz und Sicherheit. Nur so kann KI demokratisch kontrolliert, reproduzierbar und gemeinwohlorientiert gestaltet werden. Die entwickelte Vision ist eine digitale Kultur, in der KI-Technologien nachvollziehbar, nachhaltig und fair entwickelt und eingesetzt werden. Dafür wurden vier Handlungsfelder identifiziert: Wissensräume und Vernetzung für gemeinsames Lernen, Kompetenzaufbau für kritisches und praktisches Know-how, offene digitale Infrastrukturen für Souveränität und Nachhaltigkeit sowie innovative Governance-Modelle, die Regeln und Freiräume
  • Thumbnail Image
    Item
    Von der Kreditkarte zu Buy-Now-Pay-Later. Soziale Ungleichheiten in der Nutzung von digitalen Bezahldiensten und Konsumkrediten
    (Weizenbaum Institute, 2025-10) Brandl, Barbara; Sulykosné Ignácz, Zsófia; Keiner, Alexandra; Preunkert, Jenny
    Dieses Discussion Paper untersucht auf Basis des Weizenbaum Panels 2024 die finanzielle Teilhabe in Deutschland, die hier als Zugang zu Zahlungsoptionen und Konsumkrediten definiert wird. Leitend ist die These, dass sich aktuell bei Fragen der finanziellen Teilhabe, sowohl durch die Digitalisierung des Geldes als auch die zunehmenden sozialen Ungleichheiten, neben den klassischen (vertikalen) auch neue (horizontale) Ungleichheitsmuster ergeben. Rahmend wird die Entwicklung des digitalen Geldes in drei Digitalisierungswellen nachgezeichnet: von Karten- und Girokonten über Online-Banking, SEPA und PayPal bis hin zu app-basierten Wallets und „Buy Now, Pay Later“ (BNPL). Die Daten des Weizenbaum Panels zeigen, dass trotz der nahezu flächendeckenden Verbreitung von Konten in Deutschland Ungleichheiten im Zugang zu digitalen Dienstleistungen bestehen. Bei der Nutzung digitaler Bezahldienste lassen sich zwei zentrale Trends identifizieren: Erstens geht ein höheres Einkommen mit einer höheren Nutzung digitaler Zahlungsmöglichkeiten einher. Einkommensschwache Personen greifen dagegen eher auf Bargeld zurück. Zweitens werden vor allem neuere Bezahlmethoden verstärkt von jüngeren und internetaffinen Personen genutzt, wodurch ältere und hier oft weniger internetaffine Personen tendenziell Nachteile erleiden. Konsumkredite werden eher von einkom- mensschwachen, aber auch jüngeren Haushalten genutzt. Die Gründe für die Kreditaufnahme unterscheiden sich deutlich: Einkommensstärkere und auch ältere Haushalte finanzieren mit Konsumkrediten eher größere Anschaffungen (z.B. Auto, Möbel oder Urlaub), während in der niedrigsten Einkommensgruppe und in jungen Haushalten doppelt so viele Personen Kredite zur Deckung alltäglicher Ausgaben (z.B. Lebensmittel, Miete oder Kinderbedarf) aufnehmen. Solche Alltagskredite sind ein Indikator für die Prekarisierung des täglichen Lebens und für einen Generationenwandel. Buy-Now-Pay-Later-Produkte bilden eine ambivalente Schnittstelle zwischen Zahlungsoption und Kredit. Die Nutzung ist bereits weit verbreitet – so hat ein Drittel der Befragten mindestens einmal im letzten Jahr Gebrauch von BNPL gemacht. Im Gegensatz zu nahezu allen anderen digitalen Bezahlmethoden, zeigen sich bei der Nutzung von BNPL nahezu keine Unterschiede im Hinblick auf Einkommen und Alter. Allerdings zeigt sich ganz im Gegensatz zu allen anderen Formen des Konsumkredits eine höhere Nutzung von BNPL durch Frauen. Dabei bringt BNPL einerseits Vorteile im Gegensatz zu der Nutzung von Kreditkarten, wie zunächst keine Zinsen sowie eine breite Zugänglichkeit, mit sich. Andererseits birgt BNPL jedoch auch Gefahren, wie zum Beispiel Mahn- und Verzugskosten, die zu einem erheblichen Überschuldungsrisiko führen können. Zudem fördert BNPL die Marktkonzentration zugunsten großer Tech-Unternehmen. Insgesamt zeigt sich, dass mittlerweile nicht mehr nur Einkommen, sondern gerade auch das Alter und auch das Geschlecht den Zugang und die Nutzung der finanziellen Teilhabe prägen.
  • Thumbnail Image
    Item
    Current Challenges in Digital Elections. Lessons from Electoral Regulation and Digital Campaigning in Brazil
    (Weizenbaum Institute, 2025-11) Kira, Beatriz; Iglesias Keller, Clara; Wajman, Gabriel; Brito Cruz, Francisco; Bioni, Bruno; Schertel, Laura; Fonseca, Gabriel; Fernandes dos Santos, Nina
    This report addresses the regulation of digital electoral environments. Using Brazil’s 2024 local elections as a case study, it analyzes innovative regulatory measures introduced by the Brazilian Superior Electoral Court (TSE) to manage digital political communications. As digital campaigning expands beyond traditional media into social platforms and AI-generated content, Brazil exemplifies the difficulties democracies face in adapting electoral oversight to new realities. The central contribution is an in-depth examination of five regulatory innovations in TSE Regulation No. 23,732/2024 that strengthen platform accountability: (1) rules on microtargeting and data protection; (2) mandatory Ad Libraries enhancing transparency of political ads; (3) regulation of generative AI content; (4) duties and content moderation obligations for digital platforms; and (5) updated intermediary liability frameworks. These reforms represent an important judicial attempt to fill legislative gaps and respond to the digital disruption of electoral processes. The report situates Brazil’s approach within a wider comparative debate on how liberal democracies confront digital electoral challenges. It highlights issues of legitimacy, legal competence, and enforcement, while providing policy recommendations applicable beyond Brazil. Ultimately, this study offers insights into evolving models of electoral governance, bridging national experience with global democratic challenges in the digital age.
  • Thumbnail Image
    Item
    Sustainable Digital Sovereignty. Interdependencies Between Sustainable Digitalization and Digital Sovereignty
    (2023) Herlo, Bianca; Ullrich, André; Vladova, Gergana
    This study is dedicated to the interdependencies between digital sovereignty and sustainable digitalization, which need to be explicitly linked to an increasing degree in political discourse, aca- demia, and societal debates. Digital skills are the prerequisites for shaping digitalization in the in- terest of society and sustainable development.
  • Thumbnail Image
    Item
    The Impact of COVID-19 on California’s Plans for Caring for its Aging Population. Technology Adoption and Employment
    (2024-02) Pickering, Bruce; Lindeman, David; Tang, Allyson
    Older adults have traditionally been the age cohort most resistant to the adoption of technology, making aging in place difficult and frequently expensive. But recent advances in technology – and those just on the horizon – have the potential to transform the ability to age in place by making senior healthcare both safer and more connected. Such technology can enable healthcare professionals to monitor their charges in real time, respond quickly to healthcare emergencies, make healthcare consultations safer and less onerous for both patients and healthcare workers, assist elders with physical ther- apy, connect older adults to family and friends, and provide entertainment and learning opportunities for seniors. It is now even possible for older adults in rural areas to receive remote surgery from world class surgeons. The arrival of COVID-19 forced older adults into isolation, severely limiting contact with healthcare providers, family and friends. But COVID-19 also accelerated the adoption of many of the trends already extant, incentivizing older adults and healthcare providers to adopt new technologies much more rapidly than ever before. The WelbeHealth Program of All-inclusive Care for the Elderly (PACE) in California’s Central Valley, may provide a model of flexible, responsive and adaptive care.
  • Thumbnail Image
    Item
    Dynamics of Data Work in AI Implementation Processes
    (Weizenbaum Institute, 2025-09) Schneidemesser, Lea; Schneiß, Daniel; Heim, Jana
    The discourse on automation and artificial intelligence (AI) highlights the critical yet underexplored role of data work. While previous studies have focused on data work in the production of AI systems, this article investigates its significance in subsequent implementation phases. Drawing on two in-depth case studies from traditional industries in Germany – one in manufacturing and one in administration – we explore the labor and power dynamics inherent in these processes. Our findings reveal that AI implementation necessitates additional data work which cannot be outsourced due to its reliance on organization-specific knowledge. This dependency fosters new labor relations and power dynamics among development companies, organizational management, and workers, often leading to tensions and negotiation challenges. We introduce the concept of data work facilitation to describe the unique labor emerging from these dependencies and identify potentials for a new power resource workers could employ – data work bargaining power.
  • Thumbnail Image
    Item
    Ethics of Data Work. Principles for Academic Data Work Requesters
    (Weizenbaum Institute, 2025-06) Yang, Tianling; Strippel, Christian; Keiner, Alexandra; Baker, Dylan; Chávez, Alexis; Kauffman, Krystal; Pohl, Marc; Sinders, Caroline; Miceli, Milagros
    The growing use of machine learning (ML) in academic research has led to a rising demand for large, labeled datasets. While the field initially relied on the labor of students and research assistants to label data, as models grew larger and more complex, there was a shift towards relying on large-scale, low-cost platforms like Amazon Mechanical Turk (MTurk) to label data at scale. However, this shift comes with serious ethical concerns. Now part of a massive industry, many data work companies exploit workers, leaving many workers facing low wages and precarious working conditions, with little institutional oversight or protection. Despite the centrality of this labor to modern research, ethical codes and guidelines from academic societies rarely address the implications of outsourcing data work to platform-based workers. This paper advocates for the development of research ethics standards that ensure fair and responsible collaboration with data workers. We begin by defining the concept of “data work” and assessing how current ethical frameworks address it. We then highlight ongoing initiatives aimed at improving ethical regulation. Based on two focus groups and two expert workshops held at the Weizenbaum Institute in 2024, we propose a set of principles for academic data work requesters to guide ethical engagement with platform-based workers. Finally, we outline future steps for integrating these principles into scientific ethical codes and day-to-day research practices.
  • Thumbnail Image
    Item
    Big Tech kontra Gemeinwohl. Die Pathologien des Technologiewettlaufs um Künstliche Intelligenz
    (Weizenbaum Institute, 2025-06) Butollo, Florian; Görnemann, Esther
    Der Technologiewettlauf um Künstliche Intelligenz hat Pathologien hervorgebracht, die durch die Dominanz weniger mächtiger Akteure und starke Informations- und Machtasymmetrien geprägt sind. Plattformunternehmen agieren als Gatekeeper für digitale Infrastrukturen und Wissen. Ihr umfassender Zugang zu Daten und Rechenkapazitäten verstärkt im Wettlauf um KI-Marktführerschaft die Machtkonzentration bei Tech-Konzernen und benachteiligt kleinere Akteure. Wohlstand und technologische Macht konzentrieren sich in den Händen weniger, während viele von den Chancen der KI-gestützten Wertschöpfung ausgeschlossen bleiben. Globale und soziale Disparitäten verschärfen sich. Der breite Einsatz starker KI in beruflichen und privaten Kontexten wird zudem mit rasant steigendem Verbrauch von Energie, Wasser und nicht erneuerbaren Ressourcen verbunden sein, wenn Lösungen zur Ressourcenschonung nicht konsequent mitgedacht werden. Die primären Ziele der KI-Entwicklung sind jedoch Marktbeherrschung und Profitmaximierung – ökologische, soziale und ethische Gesichtspunkte werden zurückgestellt. Dies verhindert eine konsequent gemeinwohlorientierte Ausrichtung von KI, die bei einer so weitreichenden technologischen Umwälzung jedoch notwendig ist. Digitale Infrastrukturen, gerade im Bereich KI, sind von technologischen Abhängigkeiten geprägt. In geopolitisch volatilen Zeiten verschärfen sich die damit einhergehenden Risiken, denn politische Akteure haben die Möglichkeit, den Zugang zu GKI zu beschränken oder an Bedingungen zu knüpfen. Darüber hinaus können Sprachmodelle gezielt eingesetzt werden, um öffentliche Diskurse zu beeinflussen. Sprachmodelle prägen, was sichtbar und sagbar ist, welches Wissen verbreitet wird und wie es bewertet wird. Auf welche Weise Modelle dies konkret tun, spiegelt auch die politischen Neigungen ihrer Entwickler wider. Hieraus entsteht Manipulationspotenzial. Es wird offensichtlich, dass es an einer demokratischen Aushandlung über den Einsatz generativer KI mangelt.
  • Thumbnail Image
    Item
    Big Tech Versus the Common Good. Pathologies of the Technology Race for Artificial Intelligence
    (Weizenbaum Institute, 2025-06) Butollo, Florian; Görnemann, Esther
    The technology race for artificial intelligence has produced pathologies that are characterized by the dominance of a handful of powerful players and strong information and power asymmetries. Platform companies act as gatekeepers for digital infrastructures and knowledge. In the race for AI market leadership, their extensive access to data and computing capacities increases the concentration of power among tech corporations and puts smaller players at a disadvantage. Wealth and technological power are concentrated in the hands of a few, while many remain excluded from the opportunities of AI-supported value creation. Global and social disparities are widening. A widespread use of strong AI in professional and private contexts will also be associated with rapidly increasing consumption of energy, water and non-renewable resources unless solutions to conserve resources are consistently taken into account. However, the primary goals of AI development are market dominance and profit maximization: ecological, social and ethical aspects are put on the back burner. This prevents AI from being consistently oriented towards the common good, a goal which is surely necessary for such a far-reaching technological revolution. Digital infrastructures, especially in the field of AI, are characterized by technological dependencies. In geopolitically volatile times, the associated risks are exacerbated, as political actors have the ability to restrict access to essential infrastructures or to attach conditions to them. In addition, language models can be used in a targeted manner to influence public discourse. Language models shape what is visible and sayable, what knowledge is disseminated and how it is evaluated. The specific way in which models do this also reflects the political inclinations of their developers. This creates the potential for manipulation. It is clear that there is a lack of democratic negotiation on the use of generative AI.
  • Thumbnail Image
    Item
    Regulating Digital Platforms in Times of Democratic Crisis – What is Next for Germany and the EU?
    (Weizenbaum Institute, 2025-02) Iglesias Keller, Clara; Ohme, Jakob; Seiling, Lukas; Neuberger, Christoph
    This paper examines recent changes in the content moderation practices of major social media companies. Digital platforms have become a defining feature of contemporary societies. As their infrastructures increasingly mediate commercial activity, political organization, cultural life, and more, the retraction of measures meant to uphold standards and trust in their influence over online speech raises significant concerns. This paper briefly analyzes these developments in the context of ongoing processes of democratic erosion, particularly in the U.S. The goal is to foster future research and public debate by offering key insights into the implications of the current scenario for Germany and the European Union.