Wie KI von uns und voneinander lernt
KI wird immer intelligenter, aber kann sie auch lernen, zusammenzuarbeiten? Prof. Giorgia Ramponi und ihr Team untersuchen, wie Maschinen sicher und effektiv mit Menschen und untereinander kooperieren können. Text: Giorgia Ramponi
Künstliche Intelligenz wird zu einem festen Bestandteil unseres Alltags werden, von selbstfahrenden Autos, die sich nahtlos in den Verkehr einfügen, über Handelsalgorithmen, die die Energiemärkte ausgleichen, bis hin zu virtuellen Assistenten, die unsere Termine koordinieren. Keines dieser Systeme agiert alleine. Sie müssen Informationen austauschen, die Handlungen anderer antizipieren und Entscheidungen treffen, die allen Beteiligten zugutekommen. Das Team von Prof. Giorgia Ramponi untersucht, wie man solchen Agenten beibringen kann, von Menschen und voneinander zu lernen, damit ihr Verhalten sicher und effizient bleibt und mit den Absichten der Menschen übereinstimmt.
Von Menschen lernen
Ihr Ansatz, das sogenannte verstärkende Lernen, ähnelt dem Training eines Haustieres: Die KI probiert verschiedene Handlungen aus, lernt aus den Ergebnissen und entdeckt nach und nach, welche Entscheidungen zu besseren Ergebnissen führen. Es kann jedoch schwierig sein, zu definieren, was in realen Kontexten eine „Belohnung“ darstellt, wie beispielsweise Komfort, Fairness oder Vertrauenswürdigkeit. Um dieses Problem anzugehen, untersuchen sie Möglichkeiten, wie Menschen den Lernprozess direkt steuern können, entweder durch Bereitstellung von Beispielen („mach es so“) oder durch Äusserung von Präferenzen („ich bevorzuge dieses Ergebnis gegenüber jenem“). Grosse Sprachmodelle – wie die heutigen Chatbots – werden auf ähnliche Weise durch menschliches Feedback trainiert.
Ein wichtiger Schwerpunkt ihrer Forschung ist die Integration verschiedener Arten von Feedback, von Demonstrationen bis hin zu Korrekturen durch Experten, um das Lernen der KI zu bereichern und anpassungsfähiger zu machen. Eine ihrer neuesten Methoden besteht darin, einem Roboter zunächst anhand von Demonstrationen die Grundlagen beizubringen und dann sein Verhalten mithilfe einfacher menschlicher Rückmeldungen zu verfeinern. Dieser Ansatz könnte Haushaltsroboter antreiben, die lernen, heikle Aufgaben sicher auszuführen, autonome Fahrzeuge, die sich an lokale Fahrgewohnheiten anpassen können, und Operationsroboter, die ihre Präzision unter fachkundiger Anleitung verbessern können. Er ebnet den Weg für Systeme, die sich durch kleine, sinnvolle menschliche Interaktionen statt durch starre Programmierung ständig verbessern.
KI das Zusammenarbeiten beibringen
Wenn viele Akteure am Lernprozess beteiligt sind, wie beispielsweise Autos, die sich an einer Kreuzung koordinieren, oder Algorithmen, die einen Markt ausgleichen, wird Teamwork zur Herausforderung. Jede KI muss vorhersagen, wie die anderen agieren werden, und ihr Verhalten entsprechend anpassen, damit alle reibungslos zusammenarbeiten können. Ökonom:innen bezeichnen diesen Gleichgewichtspunkt als Nash-Gleichgewicht: einen Zustand, in dem keine Einzelperson ihre Situation durch eigenständiges Handeln verbessern kann. Die Forschung von Prof. Ramponi zeigt, dass einfache Nachahmung dieses Gleichgewicht nicht immer erreichen kann. Daher haben sie eine Methode entwickelt, die nur bei Bedarf Expertenhilfe in Anspruch nimmt, sodass Akteure kooperativere Strategien viel schneller erlernen können. Sie untersuchten auch, wie sich grosse Sprachmodelle in kooperativen oder kompetitiven Spielen verhalten, und stellten fest, dass stärkere Argumentation manchmal zu weniger Kooperation führte. Dies unterstreicht eine wichtige Erkenntnis: Intelligenz allein garantiert keine Zusammenarbeit; sie muss bewusst gefördert werden.
Bei all diesen Projekten ist es das Ziel der Forschenden, menschliche Intuition mit maschinellem Lernen zu verbinden. Durch die Kombination von Demonstrationen, Präferenzen und Interaktion wollen sie eine KI schaffen, die nicht nur gute Leistungen erbringt, sondern auch effektiv und verantwortungsbewusst zusammenarbeitet.
Giorgia Ramponi ist Assistenzprofessorin für künstliche Intelligenz für cyber-physische Systeme am Departement für Informatik der UZH.
Text: Giorgia Ramponi, Quelle: Oec. Mag. #24
Interessieren Sie sich für KI?
Unsere Programme „CAS in Game Changer AI“ und „CAS in Generative AI“ zeigen das wahre Potenzial dieser neuen Technologien auf und zeigen Ihnen neue Möglichkeiten, wie Sie diese in Ihrem Unternehmen einsetzen können.