PhD-Forscher in vertrauenswürdiger und humanzentrierter AI-Entwicklung

PhD-Forscher in vertrauenswürdiger und humanzentrierter AI-Entwicklung # 100%, Zürich, befristet #### print Drucken  Das KOF Schweizerische Wirtschaftsinstitut an der ETH Zürich ist das führende Institut für angewandte Wirtschaftsforschung in der Schweiz. Wir sind eine Forschungsgruppe innerhalb des KOF Schweizerischen Wirtschaftsinstituts an der ETH Zürich. Unsere Arbeit befindet sich an der Schnittstelle zwischen Wirtschaftsforschung und KI: Wir untersuchen Geldsysteme und Demokratien und entwickeln KI-Systeme, die mit diesen Bereichen interagieren - für Forschung, Politik und die Öffentlichkeit. Wir suchen nun nach einem PhD-Forscher, der starke technische Grundlagen mit ernsthafter Aufmerksamkeit für das Verhalten dieser Systeme in der Welt und die Menschen, die sie bedienen, kombiniert. Stellenbeschreibung ## Als PhD-Forscher werden Sie unabhängige Forschung auf dem Gebiet der vertrauenswürdigen und humanzentrierten KI betreiben und zu den Systemen beitragen, die wir in diesem Bereich entwickeln. Die Arbeit umfasst methodologische Forschung und konkrete Implementierung und behandelt Fragen der Zuverlässigkeit, Rechenschaftspflicht und der Interaktion zwischen Mensch und KI als Forschungsfragen in ihrem eigenen Recht und nicht als Überlegungen nach der Bereitstellung. Sie werden mit Forschern und Ingenieuren in einem internationalen Team zusammenarbeiten und haben die Möglichkeit, die Richtung Ihrer eigenen Dissertation zu gestalten. Ein Beispiel für ein zu entwickelndes System sind vertrauenswürdige KI-Wahlhelfer im Kontext der unterstützten Demokratie. Ihre Aufgaben werden unter anderem umfassen: • Durchführung von Forschung auf dem Gebiet der KI-Zuverlässigkeit, -Sicherheit, -Vertrauenswürdigkeit und der Interaktion zwischen Mensch und KI, mit Fokus auf hochriskante Umgebungen. • Veröffentlichung auf Top-Konferenzen im Bereich KI und verantwortungsvolle KI-Forschung (NeurIPS, ICML, ICLR, ACL, FAccT, EAAMO, AIES, CHI usw.). • Entwurf, Entwicklung und Iteration von Prototypen, die ihren realen Kontext ernst nehmen, einschließlich der Frage, wer sie verwendet, unter welchen Bedingungen und mit welchen Konsequenzen. • Hand-on-Arbeit mit großen Sprachmodellen: Auswertung ihres Verhaltens, Verbesserung ihrer Zuverlässigkeit für konkrete Anwendungsfälle und Integration in Systeme mit besonderer Aufmerksamkeit für Sicherheit, Erklärbarkeit und die Interaktion zwischen Mensch und KI. • Beitrag zur Entwicklung von LLM-basierten Systemen, einschließlich Prompting-Strategien, Werkzeugnutzung, Auswertung, retrieval-augmentierten Workflows und Anpassung. • Entwurf und Durchführung von Benutzertests, um zu bewerten, wie Menschen mit den Systemen interagieren, die wir entwickeln, in Zusammenarbeit mit anderen Mitgliedern des Teams. Profil ## Wir suchen nach jemandem, der technisch stark ist und der sich zwischen Forschung, Ingenieurwesen und den breiteren Fragen, wie KI-Systeme die Menschen und Institutionen beeinflussen, die mit ihnen interagieren, bewegen kann. Sie sollten mitbringen: • Ein Master-Abschluss in Informatik, Maschinellem Lernen, HCI oder einem verwandten Feld. • Starke Grundlagen in Maschinellem Lernen und Vertrautheit mit aktuellen KI-Tools und -Praktiken. • Ein solides Verständnis von großen Sprachmodellen, insbesondere ihrer Zuverlässigkeits-, Sicherheits- und Erklärbarkeitsmerkmale. • Vertrautheit mit der technischen und human-factors-Seite der Mensch-Computer-Interaktion. • Die Fähigkeit, unabhängig zu arbeiten, klar zu kommunizieren und offene Forschungsfragen zu navigieren Das Folgende wäre ein Plus: • Praktische Erfahrung beim Aufbau mit LLM-APIs, Open-Modellen, Auswertungspipelines, Orchestrierungsframeworks und verwandtem Tooling. • Vertrautheit mit Modellanpassung, Feinabstimmung oder verwandten Optimierungsmethoden. • Erfahrung mit Cloud-Infrastruktur, MLOps oder LLMOps, Containerisierung oder Produktionsbereitstellung. • Frontend- und/oder Backend-Entwicklungsfähigkeiten. Arbeitsplatz ## Arbeitsplatz ## Wir bieten ## Die ETH Zürich bietet internationale Wettbewerbsbedingungen. Der Starttermin für diese Position ist August oder September 2026 und die Dauer beträgt zunächst 18 Monate mit der Aussicht auf eine weitere Verlängerung bis zu insgesamt sechs Jahren, abhängig von Alter und Qualifikation.  Wir bieten die Gelegenheit, eine hochwertige Promotion an renommierten Institutionen in einer dynamischen und kooperativen Forschungsumgebung zu absolvieren. • Die ETH Zürich hat internationale Wettbewerbsbedingungen. Das Bruttogehalt beträgt den Standard-Satz für PhD-Studenten an der ETH Zürich. • KOF-PhD-Studenten sind Teil einer großen und lebendigen Gemeinschaft von Wirtschaftsforschern. Die breitere Wirtschaftsgemeinschaft in Zürich bietet die Gelegenheit, an zahlreichen Workshops und Konferenzen teilzunehmen, die alle Felder der Wirtschaft umfassen. • Eine Doktorandenposition an der Schnittstelle zwischen Informatikforschung und einem angewandten Bereich - Demokratie und Geldsysteme - wo Entscheidungen darüber, wie KI-Systeme entwickelt werden, sichtbare soziale Konsequenzen haben. • Eine Doktorarbeit von der ETH Zürich, betreut von Prof. Hans Gersbach und einem Informatikprofessor. • Einbettung in eine international anerkannte Forschungsumgebung mit engen Verbindungen zu Wirtschaft, Politik und öffentlichen Institutionen. • Engagement mit der breiteren Forschungsgemeinschaft, die an verantwortungsvoller und vertrauenswürdiger KI arbeitet. • Verbindungen über die akademische Gemeinschaft hinaus zu Zentralbanken und politischen Gemeinschaften, die an KI und Wirtschaftssystemen arbeiten. • Erheblicher Raum für Initiativen und für die Gestaltung Ihres eigenen Forschungsprogramms. • Wenn die Systeme, die wir entwickeln, in diese Richtung entwickeln, kann es Gelegenheiten geben, ihre weitere Nutzung über die Dauer des akademischen Projekts hinaus zu unterstützen. chevron\_right Working, teaching and research at ETH Zurich Wir schätzen