Silvan Mertes M.Sc.
| Telefon: | +49 (821) 598 - 2342 |
| E-Mail: | silvan.mertes@informatik.uni-augsburginformatik.uni-augsburg.de () |
| Raum: | 2038 (N) |
| Adresse: | Universit?tsstra?e 6a, 86159 Augsburg |
Forschungsinteressen
- Generative Modelle
- Adversarial Learning
- Deep Learning
- Explainable AI (insbesondere Counterfactual Explanations)
Links
Akademische Aktivit?ten
- Reviewt?tigkeiten für Transactions on Affective Computing
- Reviewt?tigkeiten für ACM Conference on Human Factors in Computing Systems (CHI)
- Reviewt?tigkeiten für?International Conference on Autonomous Agents and Multiagent Systems (AAMAS)
- Reviewt?tigkeiten für?ACM Conference on Intelligent User Interfaces?(IUI)
- Reviewt?tigkeiten für IEEE Signal Processing Magazine
-
Reviewt?tigkeiten für International Conference on Multimodal Interaction (ICMI)
-
Reviewt?tigkeiten für Transactions on Audio, Speech and Language Processing
-
Reviewt?tigkeiten für Applied Artificial Intelligence
-
Reviewt?tigkeiten für XAI2023 (XAI@IJCAI)
-
Reviewt?tigkeiten für?European Conference on Artificial Intelligence (ECAI)
-
Reviewt?tigkeiten für?IEEE Robotics and Automation Letters
-
Reviewt?tigkeiten für?Elsevier Expert Systems With Applications
-
Reviewt?tigkeiten für?International Conference on Affective Computing & Intelligent Interaction?(ACII)
-
Reviewt?tigkeiten für?Audio Mostly
-
Reviewt?tigkeiten für?PeerJ Computer Science
-
Koordinator Human-Centered Production Technologies (im Rahmen des KI-Produktionsnetzwerks Augsburg)
-
Program Committee member?ACM Conference on Intelligent User Interfaces?(IUI) 2025
-
Program Committee member?International Conference on Autonomous Agents and Multiagent Systems (AAMAS) 2025
-
Scientific Committee member?Audiomostly 2024
-
Organizing?Committee member?Interdisciplinary Tutorshop on Interactions with Embodied Virtual Agents? at IVA 2024
-
Session Chair 5th International Conference on Deep Learning Theory and Applications (DeLTA’24)
-
Program Committee member?Trustworthy Sequential Decicion-making and Optimization Workshop at ECAI 2024
-
Program Committee member?International Conference on Affective Computing & Intelligent Interaction?(ACII) 2024
-
Program Committee member?Workshop on Explainable Artificial Intelligence at IJCAI?2023
-
Session Chair 2nd International Conference on Deep Learning Theory and Applications (DeLTA’21)
-
Program Committee member?International Conference on Multimodal Interaction (ICMI) 2021-2023
?
?
Auszeichnungen
- International Conference on Deep Learning Theories and Applications (DeLTA 2020) - Best Paper Award Paper
- IEEE Virtual Reality (IEEEVR 2022) - Honorable Mention Paper
- Creativity & Cognition (C&C 2022) - Honorable Mention Paper
- ACII A-VB Challenge 2022 "Type" Subtask - 1st Place Paper
- ComParE Challenge 2021 "Escalation Detection" Subtask - 2nd Place
- International Conference on Deep Learning Theories and Applications (DeLTA 2024) - Best Poster Award
Projekte
Betreute Abschlussarbeiten
- Latent Diffusion und Facial Action Coding für ein biopsychologisches Verst?ndnis von Facial Expression Recognition. (Master, 2024)
- Dynamische Texturgenerierung von Videospielen mit Diffusion Models. (Master, 2024)
- Automatische Generierung von Soundkulissen mit Hilfe von Deep Learning.?(Bachelor, 2024)
- Generating Personalized Counterfactual Feedback for Javelin Throw Technique Improvement.?(Bachelor, 2024)
- Automatische Kolorierung von Mangas mithilfe von Deep Learning.?(Bachelor, 2024)
- Gezielte Manipulation von Umgebung und Darstellung virtueller Charaktere in Bildern durch Diffusion Models.?(Bachelor, 2024)
- Konzeption und Implementierung einer nutzerfreundlichen grafischen Oberfl?che für multimodale Emotionserkennung.?(Bachelor, 2024)
- Entwicklung eines interaktiven, durch maschinelles Lernen gestützten Trainingssystems für extreme Gesangstechniken. (Bachelor, 2024, Co-Betreuung)
- Computer-assisted Feedback for Javelin Throw.?(Bachelor, 2024, Co-Betreuung)
- Texture Editing with Diffusion Models. (Projektmodul, 2024)
- GradCam zur Analyse von GAN-Trainingsprozessen. (Bachelor, 2024)
- Using CycleGAN to Learn Image-to-Image Translation for Unpaired Facial Expression Data. (Master, 2023, Co-Betreuung)
- Computational Generation and Adaption of Climbing Routes through Adversarial Learning. (Master, 2023, Co-Betreuung)
- Generating Audio Triggers for an Autonomous Sensory Meridian Response with Generative Adversarial Networks. (Bachelor, 2023)
- Diffusion-based Counterfactual Explanation Generation for Facial Emotion Recognition. (Projektmodul, 2023)
- Using GANs for Combining Counterfactual Explanations and Feature Attribution. (Master, 2023)
- Evaluating GAN-based Alterfactual Explanation Generation. (Projektmodul, 2023)
- Exploring Tangible User Interfaces for Latent Space Manipulation of Generative Adversarial networks. (Bachelor, 2022, Co-Betreuung)
- Implementation of a Classification Model for Rhythmic Attunement in Music Therapy Sessions. (Bachelor, 2022, Co-Betreuung)
- Generating Counterfactual Explanations for Atari Agents via Generative Adversarial Networks. (Master, 2022, Co-Betreuung)
- Alterfactuals as a Novel Explanation Method for Image Classifiers. (Master, 2021)
- Exploring Opportunities for Musical Creativity Support in VR through Human-Computer-Interfaces and Interaction Design. (Master, 2021, Co-Betreuung)
- Reinforcement Learning Techniques as Enhancement of frame-level Speech Emotion Recognition. (Master, 2021, Co-Betreuung)
- Kontr?re Chatbotpersonas im internen Businessumfeld: Entwicklung und Pr?ferenzanalyse. (Master, 2021)
- Conditional Human Image Synthesis with Generative Adversarial Networks. (Bachelor, 2020)
Offene Themen für Abschlussarbeiten und Projektmodule
Die folgenden Themen k?nnen in Umfang und Ausrichtung flexibel variiert werden, sodass die Durchführung als Bachelorarbeit, Masterarbeit oder Projektmodul m?glich ist. Au?erdem kann der inhaltliche Schwerpunkt selbstverst?ndlich auf die Interessen des durchführenden Studenten ausgerichtet werden.
Darüber hinaus freue ich mich jederzeit über eigene Themenvorschl?ge, sofern sie eine gewisse ?berschneidung mit meinem Forschungsschwerpunkt aufweisen.
?
?
Alterfactual Explanations
Alterfactual Explanations sind ein neuartiger Ansatz, künstliche Intelligenz zu erkl?ren. Hierbei werden Eingabedaten so ver?ndert, dass für die Entscheidung der KI irrelevante Merkmale ver?ndert werden. Ziel dieser Arbeit ist, existierende, GAN-basierte Algorithmen zur Erzeugung von Alterfactual Explanations auf mehrere Datens?tze anzuwenden und anschlie?end das Konzept von Alterfactuals in einer Nutzerstudie zu evaluieren.
?
?
Audio Diffusion Models
Diffusion Models sind die neuester Generation generativer künstlicher Intelligenz, bekannt geworden unter anderem durch Applikationen wie "DALL-E 2" oder "Midjourney". In dieser Arbeit soll untersucht werden, ob mit Hilfe von Diffusion Models Textbeschreibungen zu Audiodaten umgewandelt werden k?nnen, so wie es im Bereich der Bildgenerierung bereits verbreitet ist.
?
?
Interaktives Lehrsystem mit Diffusion Models
Diffusion Models sind die neuester Generation generativer künstlicher Intelligenz, bekannt geworden unter anderem durch Applikationen wie "DALL-E 2" oder "Midjourney", welche hochwertige Bilder aus Textbeschreibungen generieren k?nnen. Mit Hilfe von Diffusion Models ist es au?erdem m?glich, Teile eines vorhandenen Bildes neu zu generieren ("Inpainting"). In dieser Arbeit soll diese M?glichkeit ausgenutzt werden, um ein interaktives Erkl?rsystem zu implementieren, indem Diffusion Models und Techniken aus dem Bereich XAI kombiniert werden.
?
?
Text-to-Speech mit Diffusion Models
Diffusion Models sind die neuester Generation generativer künstlicher Intelligenz, bekannt geworden unter anderem durch Applikationen wie "DALL-E 2" oder "Midjourney". In dieser Arbeit soll untersucht werden, ob mit Hilfe von Diffusion Models Text zu Audio umgewandelt werden kann, um ein hochqualitatives Text-to-Speech System zu erhalten.
?
?
Audio Counterfactual Explanations
In dieser Arbeit soll ein System entwickelt werden, das auf Basis von Latent Vector Evolution (LVE) Erkl?rungen für KI-Systeme für die Audio-Dom?ne erzeugt. LVE ist ein auf evolution?ren Algorithmen basierendes Verfahren, um GANs zu durchsuchen. Mithilfe dieser Algorithmen sollen Counterfactual Explanations generiert werden. Dies bedeutet, von einer KI bewertete Audiodaten sollen so ver?ndert werden, dass sich die Bewertung der KI ?ndert. Dadurch wird dem Nutzer des Systems eine ?alternative Realit?t“ gezeigt, die ein besseres Verst?ndnis der KI bewirken soll.
?
?
Video Style Conversion mit Diffusion Models
Diffusion Models sind die neuester Generation generativer künstlicher Intelligenz, bekannt geworden unter anderem durch Applikationen wie "DALL-E 2" oder "Midjourney". Diffusion Models k?nnen beispielsweise dazu benutzt werden, den Stil eines Bildes zu ?ndern (z.B. von photorealistisch zu comic-like). In dieser Arbeit soll eine bestehende Diffusion Model Architektur erweitert werden, um den Stil von Videos zu ?ndern.
?
?
GUI Design für Social Signal Analysis-Framework
In dieser Abschlussarbeit soll eine funktionale und ansprechende Nutzeroberfl?che für ein existierendes, am Lehrstuhl entwickeltes Python-Framework konzeptioniert und implementiert werden. Hierzu sollen aktuelle Entwicklungen und Forschungsarbeiten aus dem Bereich User Design und User Experience in die Konzeption mit einbezogen werden.
?
?
?
Lehre
| Name | Semester | Typ |
|---|---|---|
| Seminar Grundlagen der Generativen Künstlichen Intelligenz | Wintersemester 2024/25 | Seminar |
| Seminar Generative Künstliche Intelligenz | Wintersemester 2024/25 | Seminar |
| ?bung zu Generative AI for Human-Computer Interaction Lab | Wintersemester 2024/25 | ?bung |
| Praktikum Spieleprogrammierung | Wintersemester 2024/25 | Praktikum |
| Generative AI for Human-Computer Interaction Lab | Wintersemester 2024/25 | Vorlesung |
Publikationen
|
2024 |
|
Johanna Holzinger, Alexander Heimerl, Ruben Schlagowski, Elisabeth André and Silvan Mertes. 2024. A machine learning-driven interactive training system for extreme vocal techniques. DOI: 10.1145/3678299.3678334 |
|
Tobias Hallmen, Silvan Mertes, Dominik Schiller and Elisabeth André. in press. An efficient multitask learning architecture for affective vocal burst analysis. DOI: 10.48550/arXiv.2209.13914 |
|
Fabio Hellmann, Elisabeth André, Mohamed Benouis, Benedikt Buchner and Silvan Mertes. 2024. Anonymization of faces: technical and legal perspectives. DOI: 10.1007/s11623-024-1938-6 |
|
Fabio Hellmann, Silvan Mertes, Mohamed Benouis, Alexander Hustinx, Tzung-Chien Hsieh, Cristina Conati, Peter Krawitz and Elisabeth André. in press. GANonymization: a GAN-based face anonymization framework for preserving emotional expressions. DOI: 10.1145/3641107 |
|
Pol van Rijn, Silvan Mertes, Kathrin Janowski, Katharina Weitz, Nori Jacoby and Elisabeth André. 2024. Giving robots a voice: human-in-the-loop voice creation and open-ended labeling. DOI: 10.1145/3613904.3642038 |
|
Silvan Mertes, Tobias Huber, Christina Karle, Katharina Weitz, Ruben Schlagowski, Cristina Conati and Elisabeth André. in press. Relevant irrelevance: generating alterfactual explanations for image classifiers. DOI: 10.48550/arXiv.2405.05295 |
|
Luuk H. Boulogne, Julian Lorenz, Daniel Kienzle, Robin Sch?n, Katja Ludwig, Rainer Lienhart, Simon Jegou, Guang Li, Cong Chen, Qi Wang, Derik Shi, Mayug Maniparambil, Dominik Müller, Silvan Mertes, Niklas Schr?ter, Fabio Hellmann, Miriam Elia, Ine Dirks, Matias Nicolas Bossa, Abel Diaz Berenguer, Tanmoy Mukherjee, Jef Vandemeulebroucke, Hichem Sahli, Nikos Deligiannis, Panagiotis Gonidakis, Ngoc Dung Huynh, Imran Razzak, Reda Bouadjenek, Mario Verdicchio, Pasquale Borrelli, Marco Aiello, James A. Meakin, Alexander Lemm, Christoph Russ, Razvan Ionasec, Nikos Paragios, Bram van Ginneken and Marie-Pierre Revel Dubios. 2024. The STOIC2021 COVID-19 AI challenge: applying reusable training methodologies to private data. DOI: 10.1016/j.media.2024.103230 |
|
Ruben Schlagowski, Maurizio Volanti, Katharina Weitz, Silvan Mertes, Johanna Kuch and Elisabeth André. 2024. The feeling of being classified: raising empathy and awareness for AI bias through perspective-taking in VR. DOI: 10.3389/frvir.2024.1340250 |
|
Daksitha Senel Withanage Don, Dominik Schiller, Tobias Hallmen, Silvan Mertes, Tobias Baur, Florian Lingenfelser, Mitho Müller, Lea Kaubisch, Corinna Reck and Elisabeth André. 2024. Towards automated annotation of infant-caregiver engagement phases with multimodal foundation models. DOI: 10.1145/3678957.3685704 |
|
Ruben Schlagowski, Silvan Mertes, Dariia Nazarenko, Alexander Dauber and Elisabeth André. 2024. XR composition in the wild: the impact of user environments on creativity, UX and flow during music production in augmented reality. DOI: 10.1145/3678299.3678314 |
|
2023 |
|
Silvan Mertes, Marcel Strobl, Ruben Schlagowski and Elisabeth André. 2023. ASMRcade: interactive audio triggers for an autonomous sensory meridian response. DOI: 10.1145/3577190.3614155 |
|
Andreas Triantafyllopoulos, Bjorn W. Schuller, Gokce Iymen, Metin Sezgin, Xiangheng He, Zijiang Yang, Panagiotis Tzirakis, Shuo Liu, Silvan Mertes, Elisabeth André, Ruibo Fu and Jianhua Tao. 2023. An overview of affective speech synthesis and conversion in the deep learning era. DOI: 10.1109/jproc.2023.3250266 |
|
Tobias Huber, Maximilian Demmler, Silvan Mertes, Matthew Olson and Elisabeth Andrè. 2023. GANterfactual-RL: understanding reinforcement learning agents' strategies through visual counterfactual explanations. |
|
Tobias Hallmen, Silvan Mertes, Dominik Schiller, Florian Lingenfelser and Elisabeth André. 2023. Phoneme-based multi-task assessment of?affective vocal bursts. DOI: 10.1007/978-3-031-39059-3_14 |
|
Dominik Mueller, Silvan Mertes, Niklas Schroeter, Fabio Hellmann, Miriam Elia, Bernhard Bauer, Wolfgang Reif, Elisabeth André and Frank Kramer. 2023. Towards automated COVID-19 presence and severity classification. DOI: 10.3233/shti230309 |
|
Ruben Schlagowski, Dariia Nazarenko, Yekta Said Can, Kunal Gupta, Silvan Mertes, Mark Billinghurst and Elisabeth André. 2023. Wish you were here: mental and physiological effects of remote music collaboration in mixed reality. DOI: 10.1145/3544548.3581162 |
|
2022 |
|
Alexander Heimerl, Silvan Mertes, Tanja Schneeberger, Tobias Baur, Ailin Liu, Linda Becker, Nicolas Rohleder, Patrick Gebhard and Elisabeth André. in press. "GAN I hire you?" - A system for personalized virtual job interview training. DOI: 10.48550/arXiv.2206.03869 |
|
Silvan Mertes, Christina Karle, Tobias Huber, Katharina Weitz, Ruben Schlagowski and Elisabeth André. in press. Alterfactual explanations: the relevance of irrelevance for explaining AI systems. DOI: 10.48550/arXiv.2207.09374 |
|
Ruben Schlagowski, Fabian Wildgrube, Silvan Mertes, Ceenu George and Elisabeth André. 2022. Flow with the beat! Human-centered design of virtual environments for musical creativity support in VR. DOI: 10.1145/3527927.3532799 |
|
Silvan Mertes, Tobias Huber, Katharina Weitz, Alexander Heimerl and Elisabeth André. 2022. GANterfactual - counterfactual explanations for medical non-experts using generative adversarial learning. DOI: 10.3389/frai.2022.825565 |
|
Alexander Heimerl, Silvan Mertes, Tanja Schneeberger, Tobias Baur, Ailin Liu, Linda Becker, Nicolas Rohleder, Patrick Gebhard and Elisabeth André. 2022. Generating personalized behavioral feedback for?a?virtual job interview training system through adversarial learning. DOI: 10.1007/978-3-031-11644-5_67 |
|
Ruben Schlagowski, Kunal Gupta, Silvan Mertes, Mark Billinghurst, Susanne Metzner and Elisabeth André. 2022. Jamming in MR: towards real-time music collaboration in mixed reality. DOI: 10.1109/vrw55335.2022.00278 |
|
2021 |
|
Alice Baird, Silvan Mertes, Manuel Milling, Lukas Stappen, Thomas Wiest, Elisabeth André and Bj?rn W. Schuller. 2021. A prototypical network approach for evaluating generated emotional speech. DOI: 10.21437/interspeech.2021-1123 |
|
Dominik Schiller, Silvan Mertes, Pol van Rijn and Elisabeth André. 2021. Analysis by synthesis: using an expressive TTS model as feature extractor for paralinguistic speech classification. DOI: 10.21437/interspeech.2021-1587 |
|
Silvan Mertes, Florian Lingenfelser, Thomas Kiderle, Michael Dietz, Lama Diab and Elisabeth André. 2021. Continuous emotions: exploring label interpolation in conditional generative adversarial networks for face generation. DOI: 10.5220/0010549401320139 |
|
Tobias Huber, Silvan Mertes, Stanislava Rangelova, Simon Flutura and Elisabeth André. 2021. Dynamic difficulty adjustment in virtual reality exergames through experience-driven procedural content generation. DOI: 10.1109/ssci50451.2021.9660086 |
|
Pol van Rijn, Silvan Mertes, Dominik Schiller, Peter M. C. Harrison, Pauline Larrouy-Maestri, Elisabeth André and Nori Jacoby. 2021. Exploring emotional prototypes in a high dimensional TTS latent space. DOI: 10.21437/interspeech.2021-1538 |
|
Silvan Mertes, Thomas Kiderle, Ruben Schlagowski, Florian Lingenfelser and Elisabeth André. 2021. On the potential of modular voice conversion for virtual agents. DOI: 10.1109/ACIIW52867.2021.9666349 |
|
Thomas Kiderle, Hannes Ritschel, Kathrin Janowski, Silvan Mertes, Florian Lingenfelser and Elisabeth André. 2021. Socially-aware personality adaptation. DOI: 10.1109/ACIIW52867.2021.9666197 |
|
Ruben Schlagowski, Silvan Mertes and Elisabeth André. 2021. Taming the chaos: exploring graphical input vector manipulation user interfaces for GANs in a musical context. DOI: 10.1145/3478384.3478411 |
|
2020 |
|
Silvan Mertes, Alice Baird, Dominik Schiller, Bj?rn Schuller and Elisabeth André. 2020. An evolutionary-based generative approach for audio data augmentation. DOI: 10.1109/mmsp48831.2020.9287156 |
|
Silvan Mertes, Andreas Margraf, Christoph Kommer, Steffen Geinitz and Elisabeth André. 2020. Data augmentation for semantic segmentation in the context of carbon fiber defect detection using adversarial learning. DOI: 10.5220/0009823500590067 |
|
Dominik Schiller, Silvan Mertes and Elisabeth André. 2020. Embedded emotions - a data driven approach to learn transferable feature representations from raw speech input for emotion recognition. |
|
2019 |
|
Hannes Ritschel, Ilhan Aslan, Silvan Mertes, Andreas Seiderer and Elisabeth André. 2019. Personalized synthesis of intentional and emotional non-verbal sounds for social robots. DOI: 10.1109/ACII.2019.8925487 |