Was wird präsentiert
Künstliche Intelligenz verändert die Neurowissenschaften – als Werkzeug der Forschung, als möglicher Bestandteil medizinischer Anwendungen und zunehmend auch als digitales Gegenüber im Alltag. KI-basierte Systeme dringen in Lebensbereiche vor, die bisher vor allem von zwischenmenschlichen Beziehungen geprägt waren: als Chatbots, persönliche Assistenten oder sogenannte digitale Begleiter.
Im Vortrag beleuchten Prof. Dr. Simon Eickhoff vom Institut für Neurowissenschaften und Medizin, Bereich Gehirn und Verhalten, INM-7, am Forschungszentrum Jülich und Dr. Theresa Willem von der University of Cambridge diese Entwicklung aus zwei Perspektiven.
Prof. Eickhoff wird aus neurowissenschaftlicher und klinischer Sicht diskutieren, wie Menschen auf digitale Begleiter und KI-gestützte Interaktionen reagieren. Dabei geht es um Chancen, aber auch um Herausforderungen, die sich insbesondere für vulnerable Personen ergeben können. Zur Sprache kommen unter anderem KI-gestützte Begleiter, soziale Bindungen zu digitalen Systemen sowie mögliche Auswirkungen auf psychisches Wohlbefinden, Trauerprozesse und die klinische Versorgung von Patientinnen und Patienten.
Dr. Willem ordnet diese Entwicklungen anschließend aus Sicht der KI-Ethik und der Science and Technology Studies ein. Im Mittelpunkt steht das Konzept des soziotechnischen Systems: KI wirkt nicht isoliert, sondern im Zusammenspiel von Menschen, Technik, Nutzungssituationen, Organisationen, Arbeitsabläufen und gesellschaftlichen Erwartungen. Aus dieser Perspektive lässt sich besser verstehen, wie unerwünschte Effekte entstehen können – und welche Rolle Ethik, Forschung und Regulierung dabei spielen, Risiken zu erkennen und zu begrenzen.
Hintergrund
Die öffentliche Debatte über Künstliche Intelligenz schwankt häufig zwischen Faszination und Sorge. Besonders deutlich wird das dort, wo KI-Systeme Menschen emotional ansprechen: etwa als digitale Gesprächspartner, persönliche Begleiter oder scheinbar verständnisvolle Instanzen. Solche Systeme können Orientierung geben, Einsamkeit mildern oder in bestimmten Situationen unterstützend wirken. Gleichzeitig können sie Erwartungen, Abhängigkeiten oder Fehlwahrnehmungen verstärken – besonders in psychisch sensiblen Lebenslagen.
Der Vortrag fragt deshalb nicht nur, was KI technisch leisten kann. Er fragt auch, wie Menschen solche Systeme wahrnehmen, welche sozialen Bindungen daraus entstehen können und welche Verantwortung damit verbunden ist. Ein soziotechnischer Blick hilft, KI nicht als einzelnes technisches Werkzeug zu betrachten, sondern als Teil komplexer Zusammenhänge aus Technik, menschlichem Verhalten, Institutionen, medizinischer Praxis und gesellschaftlichen Deutungen.
Ethik bedeutet in diesem Zusammenhang mehr als die allgemeine Frage, ob KI „gut“ oder „schlecht“ ist. Sie fragt konkret, wie Risiken erkannt, Verantwortlichkeiten verteilt und negative Folgen eingedämmt werden können – gerade dort, wo KI in besonders sensible Bereiche menschlicher Erfahrung vordringt.
Referenten
Prof. Dr. Simon Eickhoff ist Direktor des Instituts für Neurowissenschaften und Medizin, INM-7: Gehirn und Verhalten, am Forschungszentrum Jülich sowie Professor für Systemische Neurowissenschaften an der Heinrich-Heine-Universität Düsseldorf. Seine Forschung beschäftigt sich mit den biologischen Grundlagen menschlichen Verhaltens, psychischer Gesundheit und neurologischer Erkrankungen sowie mit dem Einsatz datengetriebener Methoden und Künstlicher Intelligenz in den Neurowissenschaften.
Dr. Theresa Willem arbeitet als Postdoc am Sustainable Computing Lab der University of Cambridge. Ihr aktueller Forschungsschwerpunkt liegt auf den Auswirkungen von KI auf die Umwelt und deren potenziell ungleichen und unfairen Folgen für die menschliche Gesundheit sowie auf Ansätzen zur Risikominderung. Vor ihrem Wechsel nach Cambridge absolvierte sie ihre Promotion und ihre erste Postdoc-Stelle an der Technischen Universität München. Dort untersuchte sie an der Schnittstelle von KI-Ethik und Science and Technology Studies die ethischen und sozialen Implikationen KI-gestützter Diagnostik in der medizinischen Bildgebung, insbesondere in Dermatologie und Radiologie.