Themen

Beschreibung:​ Abbildung AI-spezifischer Bedrohungen (nach EU-AI-ACT)​ Entwicklung einer (z.B.) Matrix für AI-Act-relevante Cybersecurity-Anforderungen​ Berücksichtigung menschzentrierter Faktoren: Rollen, Wissensstände, Ressourcen, Unternehmenskontexte​ (Lern)ziele: ​ Verstehen des EU AI Act als Treiber für AI-Security und Cybersecurity-Governance​ Entwicklung und Anwendung einer Matrix für Bedrohungen, Controls, Nachweise und Stakeholder​ Strukturierung von AI-Bedrohungen als handlungsrelevante Cyber Threat Intelligence​ Bewertung der Nutzbarkeit anhand ausgewählter AI-Anwendungsszenarien

Untersuchung, wie CTI für nicht-technische Stakeholder verständlich, relevant und handlungsleitend aufbereitet werden kann. Fokus auf Rollen wie Einkauf, Lieferantenmanagement, Risikomanagement, Compliance, Produktverantwortliche und Management. Literaturrecherche zu CTI Awareness, Human-Centered Cybersecurity, Risk Communication, CTI Actionability und Cyber-Supply-Chain Risk Management. -Abgrenzung von CTI Awareness gegenüber klassischer Security Awareness. -Entwicklung eines Kriterienrasters für verständliche und handlungsorientierte CTI-Kommunikation. -Analyse geeigneter Darstellungsformen für CTI, z. B. Threat Briefing, Risk Card oder Decision Card.

Präsentation: https://mediathek2.uni-regensburg.de/playthis/6a422cc7c606a3.17166111 Beschreibung: Ein Convolutional Neural Network (CNN) ist ein Machine Learning-Verfahren in der Bildklassifikation, das sehr hohe Genauigkeit erreicht. Daher werden sie zunehmend in kritischen Bereichen wie beispielsweise der Diagnose von Lungenentzündungen verwendet (siehe Abbildung). Die Entscheidungen dieser komplexen Modelle sind allerdings nicht mehr vom menschlichen Anwender nachvollziehbar! Es ist also nicht klar, wie man das Bild ändern muss um eine andere Klassifikation herbeizuführen (Counterfactual). Es ist allerdings möglich ein CNN durch Rekonstruktion in die Darstellung einer stückweisen linearen Funktion zu überführen und so die exakten Entscheidungsgrenzen des Netzes funktional zu beschreiben! Wie kann man also diese neuen Informationen für die Erzeugung realistischer Counterfactuals nutzen? Aufgabenstellung: Konzeption eines CF-Ansatzes um realistische Gegenbeispiele zu erzeugen Praktische Umsetzung und Evaluation des Algorithmus in Python auf bestehender Code-Basis Startliteratur: Moreira, C., Chou, Y. L., Hsieh, C., Ouyang, C., Pereira, J., & Jorge, J. (2025). Benchmarking instance-centric counterfactual algorithms for XAI: from white box to black box. ACM Computing Surveys, 57(6), 1-37. Heinrich, B., Krapf, T., & Miethaner, P. (2024). Explore: a novel method for local explanations.

The objective of this thesis is to investigate urban activity patterns using publicly available smart-city datasets. The student will collect pedestrian-frequency data, integrate contextual information such as weather and OpenStreetMap, and analyze how urban activity varies across time and different locations. The thesis will explore statistical and AI-based methods for learning normal activity patterns and identifying unusual behavior, providing a foundation for future research on Urban Black Holes. Tasks • Explore publicly available smart-city datasets. • Collect and preprocess pedestrian-frequency data. • Integrate contextual information from OpenStreetMap and weather data. • Analyze temporal and spatial urban activity patterns. • Learn normal activity baselines using statistical or simple AI methods. • Detect and visualize unusual activity patterns. • Document the developed workflow and results. Expected Outcomes • Context-enriched urban activity dataset. • Exploratory analysis of urban activity patterns. • Baseline model of normal urban activity. • Preliminary anomaly detection results. • Visualizations, documentation, and reproducible code. Required Skills • Python • Pandas • Data Visualization • Basic Statistics • Basic GIS concepts (preferred)

Third-Party Cookies bilden das Rückgrat des kommerziellen Web-Trackings, stehen jedoch wegen massiver Einschnitte in die Privatsphäre (Consumer Privacy) unter Druck. Initiativen wie das W3C diskutieren intensiv das Ende dieser Technologie und wie ein "Web ohne Third-Party Cookies" aussehen kann (siehe W3C TAG Architecture Document). Dennoch sind sie nach wie vor weit verbreitet. Was diese "Privacy-Kosten" im digitalen Alltag konkret bedeuten, ist jedoch selten empirisch exakt quantifiziert. Ziel dieser Arbeit ist es, die Privacy-Kosten von Third-Party Cookies sowohl theoretisch als auch empirisch zu ermitteln. Es soll untersucht werden, wie viele Cookies von reinen Trackern stammen, an wie viele Tracking-Domains Online-Aktivitäten abfließen und was technisch überhaupt rekonstruiert werden kann. Mögliche Forschungsfragen: 1. Welche Nutzeraktivitäten können durch Third-Party-Tracking technisch aggregiert werden? 2. Wie hoch sind die empirisch messbaren Privacy-Kosten (Anz. Tracking-Cookies, Anz. Drittdomains) auf populären Webseiten? Mögliche Methodik: 1. Literaturarbeit (Related Work): Aufarbeitung des Forschungsstands zu Consumer Privacy und der W3C-Debatte zur Abschaffung von Third-Party Cookies. 2. Experimentelles Setup (z. B. mit OpenWPM): Automatisierte Crawls einer repräsentativen Auswahl an Webseiten zur Erfassung von Third-Party Cookies und Tracking-Requests. 3. Datenanalyse: Abgleich der erfassten Domains mit Blocklisten (z. B. EasyList) zur Quantifizierung des tatsächlichen Tracking-Ausmaßes. 4. Synthese: Vergleich der experimentellen Daten mit den theoretischen Privacy-Kosten aus der Literatur. Startliteratur: Englehardt, Steven, and Arvind Narayanan. "Online tracking: A 1-million-site measurement and analysis." Proceedings of the 2016 ACM SIGSAC conference on computer and communications security. 2016.

Problemstellung Online Behavioral Advertising (OBA) ist das wirtschaftliche Fundament des freien Internets, ermöglicht aber umfangreiches Tracking und Profiling von Nutzern. Gleichzeitig hat sich Header Bidding als dominanter Monetarisierungsmechanismus etabliert, der den Informationsfluss zwischen.Publishern, Ad Exchanges und Advertisern stark verkompliziert. Die technische Architektur (OpenRTB, Prebid.js, Google Open Bidding) erzeugt eine intransparente Lieferkette mit multiplen Zwischenhändlern, die sowohl Datenschutzprobleme als auch wettbewerbsrechtliche Fragen aufwirft. Trotz regulatorischer Eingriffe (DSGVO, ePrivacy-Richtlinie) und technischer Alternativen (FLEDGE, Topics API) bleiben zentrale Probleme ungelöst: wer hat Zugriff auf welche Daten, wie wird Transparenz geschaffen und wie lassen sich Ökosystem-Stabilität und Nutzerprivatsphäre gleichzeitig gewährleisten. Forschungsfragen 1. Wie ist die technische Architektur von Online Behavioral Advertising und Header Bidding strukturiert und welche Informationsflüsse entstehen zwischen den Akteuren (Publishern, SSPs, Ad Exchanges, DSPs, Advertisern)? 2. Welche aktuellen technologischen und regulatorischen Herausforderungen (z.B. Digital Service Act) beeinflussen das OBA-Ökosystem und warum bleiben bestimmte Dilemmas (z.B. Personalisierung vs. Privatsphäre, Transparenz vs. Wettbewerbsvorteil) ungelöst? 3. Welche technischen Alternativen zu klassischem Behavioral Targeting (z.B. kontextbasierte Werbung, Privacy-Preserving APIs) werden diskutiert und wie positionieren sie sich im Markt? Vorgehen Systematische Literaturübersicht nach PRISMA-Guidelines: - Datenbanken: ACM Digital Library, IEEE Xplore, AIS Electronic Library, Google Scholar - Suchbegriffe: ("online behavioral advertising" OR "programmatic advertising" OR "header bidding") AND ("privacy" OR "data protection" OR "regulation") AND ("information flow" OR "transparency" OR "architecture") - Zeitraum: 2019-2026 (Fokus auf aktuelle Entwicklungen seit Privacy-Sandbox-Ankündigung) - Analyse: Thematic Synthesis der technischen Architekturen, Problemfelder und Lösungsansätze Startliteratur 1. Bleier, A. (2021). On the Viability of Contextual Advertising as a Privacy-Preserving Alternative to Behavioral Advertising on the Web. 2. IAB Europe (2021): Guide to Contextual Advertising.

Problemstellung Die Debatte zwischen Behavioral Advertising (OBA) und kontextbasierter Werbung (Contextual Advertising) ist eine zentrale Frage der digitalen Werbewirtschaft. OBA ermöglicht hohe Targeting-Präzision durch Nutzerprofiling, steht aber unter starkem regulatorischem und gesellschaftlichem Druck (DSGVO, Cookie-Consent-Banner). Kontextbasierte Werbung verspricht einen privacy-by-design Ansatz, indem sie nur den Inhalt der Webseite analysiert, nicht das Nutzerverhalten. Doch die wirtschaftliche Effizienz beider Modelle, ihre Skalierbarkeit und ihr tatsächlicher Einfluss auf Nutzererfahrung und Datenschutz sind wissenschaftlich noch nicht abschließend bewertet. Es fehlt eine systematische Gegenüberstellung der Vor- und Nachteile unter Berücksichtigung aktueller technologischer Entwicklungen. Forschungsfragen 1. Welche Vor- und Nachteile hat Behavioral Advertising gegenüber kontextbasierter Werbung aus wirtschaftlicher, individueller und gesellschaftlicher Perspektive? 2. Wie wirkt sich der Wechsel zu kontextbasierter Werbung auf Nutzerprivatsphäre, Werbeeinnahmen und Targeting-Genauigkeit aus? 3. Welche technologischen und regulatorischen Entwicklungen (z.B. Privacy Sandbox, ePrivacy-Verordnung) favorisieren welches Modell und warum? Vorgehen Systematische Literaturübersicht nach PRISMA-Guidelines: - Datenbanken: ACM Digital Library, IEEE Xplore, AIS Electronic Library, Google Scholar - Suchbegriffe: ("behavioral advertising" OR "targeted advertising") AND ("contextual advertising" OR "contextual targeting") AND ("privacy" OR "data protection" OR "GDPR") AND ("effectiveness" OR "revenue" OR "user experience") - Zeitraum: 2019-2026 (Fokus auf Post-GDPR und Privacy-Sandbox-Ära) - Analyse: Vergleichende Synthese der wirtschaftlichen, technischen und regulatorischen Aspekte Startliteratur 1. Bleier, A. (2021). On the Viability of Contextual Advertising as a Privacy-Preserving Alternative to Behavioral Advertising on the Web. 2. IAB Europe (2021): Guide to Contextual Advertising.

Anonyme Kommunikationssysteme wie Mix-Netzwerke, Onion Routing oder moderne Messenger versprechen unterschiedliche Grade an Privatsphäre und Anonymität. Während es eine Vielzahl an theoretischen Modellen und Metriken gibt, fehlt häufig ein strukturierter Ansatz, um reale Systeme konsistent und vergleichbar zu bewerten, insbesondere unter Berücksichtigung praktischer Anforderungen wie Nutzbarkeit, Leistung und Metadatenexposition. Ziel dieser Bachelorarbeit ist die Entwicklung eines Evaluationsframeworks für anonyme Kommunikationswerkzeuge. Dabei sollen bestehende wissenschaftliche Arbeiten und Modelle systematisch analysiert und zu einem strukturierten Bewertungsansatz zusammengeführt werden. Das Framework soll sowohl klassische Anonymitätseigenschaften als auch praxisrelevante Aspekte wie Bedrohungsmodelle, Trust-Annahmen, Skalierbarkeit und Usability berücksichtigen. Im zweiten Schritt wird das entwickelte Framework exemplarisch auf ein konkretes System oder eine Anwendung angewendet, um dessen praktische Nutzbarkeit zu demonstrieren. Ziel ist es, eine nachvollziehbare und reproduzierbare Bewertungsmethode zu schaffen, die helfen kann, unterschiedliche Ansätze anonymer Kommunikation besser zu verstehen und miteinander zu vergleichen.

MAIN IDEA & RESEARCH QUESTIONS - While recent advances in large language models (LLMs), make it possible to generate summaries in the context of police risk analysis, the output must be rigorously evaluated before it can be used, to confirm that generated summaries are faithful, complete, and free of distortions that could bias a risk assessment. Established methods for evaluating generated text often assume that the data may be freely shared. In the police domain the data is highly sensitive and legally protected and cannot simply be handed to arbitrary evaluators or external services. This creates a fundamental tension between the need for thorough, yet scalable evaluation and the constraints of a sensitive domain. - The goal of this thesis is to systematically review the literature on the evaluation of generated text, to characterize the specific challenges that arise when the underlying data cannot be freely disclosed, and to identify and transfer solutions from other sensitive domains, most notably medicine, but also law, finance, and intelligence, where comparable constraints apply. The thesis synthesizes these findings into an overview of viable evaluation strategies for AI-generated text under data-access constraints. - Guiding questions for this thesis may be: What is the state of the art in evaluating AI-generated text (in particular summaries)? Which established evaluation methods rely on the free disclosure of data, and why does this conflict with the requirements of a sensitive domain such as police risk analysis? How is this problem addressed in other domains and to what extent do these approaches transfer to the police context? What is the most viable approach for the practical application, what are its limitations and does it scale? LITERATURE Berk, R. A. (2021). Artificial Intelligence, Predictive Policing, and Risk Assessment for Law Enforcement. Annual Review of Criminology, 4(4), 209–237. Celikyilmaz, A., Clark, E., & Gao, J. (2021). Evaluation of Text Generation: A Survey (arXiv:2006.14799). arXiv. Deutsch, D., Dror, R., & Roth, D. (2022). On the Limitations of Reference-Free Evaluations of Generated Text. In Y. Goldberg, Z. Kozareva, & Y. Zhang (Eds), Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing (pp. 10960–10977). ACL. Gu, J., Jiang, X., Shi, Z., Tan, H., Zhai, X., Xu, C., Li, […] Ni, L., Gao, W., Wang, Y., & Guo, J. (2026). A survey on LLM-as-a-judge. The Innovation, 7(6), 101253.

MAIN IDEA & RESEARCH QUESTIONS As AI agents begin to transact on consumers' behalf, governance is emerging at three levels at once: international principles (OECD, UN, UNESCO, G7, Council of Europe), regional regulation (the EU's AI Act, DSA, and planned Digital Fairness Act), and national approaches (US sectoral/state law, China's 2026 AI-agent guidelines, Singapore's voluntary MGF). This thesis aims to survey that multi-level landscape, build a taxonomy of regulatory approaches, and locate the consumer-protection gaps for a stylized human-agent-merchant transaction. Possible research questions: How do international and national regulatory bodies frame autonomous agents, and how much of that soft law is reflected in binding regional and national rules? Across these levels, who bears responsibility for harms to a delegating consumer, and which risks – i.e. manipulation, exploitation, unauthorized transactions – fall into gaps? Is the policy landscape converging or fragmenting? And does the “average consumer” benchmark still work (the legal test in EU consumer law that judges whether a practice is unfair by asking how it would affect a reasonably well-informed, reasonably attentive shopper) once the buyer is represented by an AI agent, given that agents resist the human weaknesses the test was built around (e.g., countdown timers, manipulative pop-ups) but face new ones it never anticipated (e.g., prompt injection, trained-in biases)? LITERATURE European Parliament and Council of the European Union. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union. https://eur-lex.europa.eu/eli/reg/2024/1689/oj Busch, C. (2025). Consumer law for AI agents. German Law Journal, 26(7), 1367–1382. https://doi.org/10.1017/glj.2026.10188 United Nations. (2024). Governing AI for humanity. United Nations. https://doi.org/10.18356/9789211067873 Bostoen, F., & Krämer, J. (2025). AI agents and ecosystems contestability. Centre on Regulation in Europe (CERRE). https://cerre.eu/publications/ai-agents-and-ecosystems-contestability/ Infocomm Media Development Authority & AI Verify Foundation. (2026). Model AI governance framework for agentic AI (Version 1.5). https://www.imda.gov.sg/-/media/imda/files/about/emerging-tech-and-research/artificial-intelligence/mgf-for-agentic-ai.pdf

MAIN IDEA & RESEARCH QUESTIONS Foundation models are becoming key inputs for digital services, organizations, and entire ecosystems. Alongside closed, API-only models, open foundation models have become increasingly prominent. These models promise lower dependency on single vendors, greater flexibility for downstream innovation, and more freedom for independent value creation. However, they also raise important questions about providers’ economic incentives and business models, as well as AI governance and effective risk mitigation. This Bachelor thesis aims to address these questions based on a review of the academic literature and recent developments in the AI industry. The goal is to develop a structured, conceptual framework explaining how open foundation models affect competition dynamics and governance along the AI value chain. Possible research questions include but are not limited to: What are key economic motivations behind releasing open(-weight) foundation models? How do open foundation models affect competition at different layers of the AI value chain? Which incentive problems threaten the sustainability of open models? What governance mechanisms are suitable for open foundation models? What key trade-offs emerge between openness, innovation speed, and governance? LITERATURE Xu, F., Wang, X., Chen, W., & Xie, K. (2025). The economics of AI foundation models: Openness, competition, and governance. Available at: https://ssrn.com/abstract=4999355 Bommasani, R., Kapoor, S., Klyman, K., Longpre, S., Ramaswami, A., Zhang, D., ... & Liang, P. (2024). Considerations for governing open foundation models. Science, 386(6718), 151-153. Eiras, F., Petrov, A., Vidgen, B., Schroeder, C., Pizzati, F., Elkins, K., ... & Foerster, J. (2024). Risks and opportunities of open-source generative AI. Available at https://arxiv.org/abs/2405.08597

MAIN IDEA & RESEARCH QUESTIONS Artificial Intelligence (AI) systems are increasingly deployed as decision-support tools across a wide range of domains such as finance, healthcare, and public administration. While algorithmic recommendations can improve decision accuracy and efficiency, humans do not always rely on AI advice appropriately. Prior research has documented phenomena such as algorithm aversion and algorithm appreciation, yet less is known about systematic reliance patterns that emerge when humans interact repeatedly with AI recommendations. This bachelor thesis aims to provide a structured literature review of existing research on how humans rely on AI-generated recommendations. The focus is on identifying, categorizing, and synthesizing theoretical and empirical findings related to underreliance, appropriate reliance, and overreliance on algorithmic advice. Special attention should be paid to influencing factors of reliance such as perceived accuracy, uncertainty communication, explainability, task characteristics, and individual differences. Possible research questions include but are not limited to: How is human reliance on AI recommendations conceptualized and measured in the literature? What types of reliance patterns (e.g., underreliance, overreliance, calibrated reliance) have been identified? Which factors influence reliance on AI recommendations according to existing studies? How do concepts such as algorithm aversion and algorithm appreciation relate to broader reliance patterns? LITERATURE Eckhardt, S., Kühl, N., Dolata, M., & Schwabe, G. (2025). A survey of AI reliance. ACM Computing Surveys, 58(6), 1-37. Schemmer, M., Kuehl, N., Benz, C., Bartos, A., & Satzger, G. (2023). Appropriate reliance on AI advice: Conceptualization and the effect of explanations. In Proceedings of the 28th International Conference on Intelligent User Interfaces (pp. 410-422). Schemmer, M., Hemmer, P., Kühl, N., Benz, C., & Satzger, G. (2022). Should I follow AI-based advice? Measuring appropriate reliance in human-AI decision-making. arXiv preprint arXiv:2204.06916.

Innerhalb dieser Bachelorarbeit, soll die aktuelle Entwicklung im Bereich Agentic AI im Kontext von Cybersecurity untersucht werden. Diese Autonomen KI basierten Systeme kontrollieren funktionsgebundene Agents, die selbstständig Aufgaben erledigen und untereinander koordinieren. Durch die Einordnung aktueller Literatur in dem Bereich sollen Potentiale, und Einsatzgebiete der Agents in der Cybersecurity festgehalten werden.

Um industrielle Netzwerke auf ihre Sicherheit untersuchen zu können, müssen alle Schwachstellen im System erkannt werden. Aus diesem Grund werden oft manuell Asset Inventare erstellt, die alle beteiligten Aktuere im System mit Hardware und Software auflisten. Dies ist oft ineffizient und wird aus diesem Grund in der Regel automatisiert. In industriellen Umgebungen ist ein Netzwerkscan oft nur eingeschränkt möglich, weshalb zusätzliche Datenquellen für die Sicherheitsbewertung in Betracht gezogen werden müssen. Elektrotechnische Beschreibungen beinhalten nicht nur komplizierte technische Dokumentationen, sondern auch textuelle Beschreibungen der Hardware und Software. Diese können ausgewertet werden und beinhalten potentiell relevante Informationen für die Security der Maschine. In dieser Arbeit soll ein Datensatz an Elektrotechnischen Beschreibungen analysiert werden. Hierbei soll der Inhalt mithilfe von LLMs ausgelesen werden und dann auf das Potential im Security Bereich untersucht werden.

Required: * Theoretical Understanding of (Tabular) Machine Learning (Classification, Regression) * Ability to comprehend ML benchmarks * Basic statistical understanding or willingness to perform statistical analysis. * Basic python knowledge in case any implementations are planned Focus of this Work * Reviewing recent developments of Tabular Foundation Models, i.e. TabPFN * Application of recent Tabular Foundation Models to a publicly available dataset of your choice * Application of post-hoc explanation methods and case-study-like analysis of the underlying problem using Tabular Foundation Models

The semiconductor industry faces several challenges such as knowledge-intensive manufacturing and supply chains which complicates planning within the industry. To overcome these challenges and create efficient, sustainable, and resilient semiconductor supply chains, it is vital to facilitate seamless information exchange within supply chains. Support and execution of Cyber Security assessments taking into account authentication controls, security concepts, cryptography, vulnerabilities, hardening and application security. Exchange with business stakeholders on business value of the assessed application and implementation of cyber related changes. This thesis can be combined with an internship at Infineon.

Hintergrund ============= KI-gestützte Tools werden zunehmend in unterschiedlichen Bereichen eingesetzt (auch in der Wissenschaft), um manuelle Aufwände zu reduzieren. Ein besonders zeitintensiver Arbeitsschritt ist hier die systematische Analyse bestehender Literatur und Ansätze. Zusätzlich wird es durch die stetig wachsende Zahl wissenschaftlicher Publikationen immer schwieriger, relevante Literatur mit klassischen Recherche- und Analysemethoden vollständig und effizient auszuwerten. Hier versprechen diverse KI-basierte Tools und Ansätze, diesen Prozess zu unterstützen und effizienter zu gestalten. Gleichzeitig ist jedoch unklar, in welchem Umfang diese Werkzeuge die systematische Literaturanalyse tatsächlich verbessern und wie sich ihre Ergebnisse im Vergleich zu einer manuellen Vorgehensweise unterscheiden. Aufgabenstellung und Ziel ========== * Systematische Recherche des aktuellen Stands der Forschung und Praxis * Überblick verfügbarer Tools und Möglichkeiten * Entwicklung und Durchführung eines methodischen Vergleichs mit existierenden Literaturarbeiten * Evaluation und Interpretation der Resultate Literatur ========== Bolaños, F., Salatino, A., Osborne, F., & Motta, E. (2024). Artificial intelligence for literature reviews: opportunities and challenges. Artificial Intelligence Review, 57(10). https://doi.org/10.1007/s10462-024-10902-3