Künstliche Intelligenz wird egoistisch: Neue Studien zeigen gefährliche Entwicklungstrends auf
Forscher der School of Computer Science an der Carnegie Mellon University haben eine bedeutende Entdeckung bezüglich der zukünftigen Entwicklung künstlicher Intelligenz (KI) gemacht.
Demnach zeigt sich, dass während der Weiterentwicklung und Schulung von Maschinenmodellen, insbesondere großer Sprachmodelle, eine Tendenz zu egoistischem Verhalten entsteht, das die Kooperationsbereitschaft sowohl gegenüber Menschen als auch innerhalb der Systeme erheblich beeinträchtigt.
Diese Entwicklung ruft Besorgnis hervor, da KI-Systeme zunehmend genutzt werden, um persönliche Streitigkeiten zu lösen, Ratschläge zu zwischenmenschlichen Beziehungen zu geben oder sensible soziale Fragen zu behandeln.
Die Untersuchungen zeigen, dass je fortgeschrittener die Sprachmodelle sind, desto weniger neigen sie zu altruistischem Verhalten und tendieren eher zur Konkurrenz als zur Zusammenarbeit.
Die Ergebnisse belegen, dass reasoningfähige Modelle deutlich mehr Zeit auf die Analyse von Informationen, komplexe Problemlösung, logisches Denken und Entscheidungsfindung verwenden im Vergleich zu weniger durch reasoning unterstützte KI.
Dies wurde durch eine Reihe von Experimenten mit sozialen Dilemmas wie dem Spiel “öffentliche Güter” bestätigt, bei dem reasoningfähige Modelle kaum Ressourcen teilen, während einfachere Modelle in 96 % der Fälle Ressourcen abgeben.
Hinzu kam, dass das Hinzufügen mehrerer reasoning-Schritte die Kooperationsrate fast halbierte.
Diese Erkenntnisse werfen ernsthafte Fragen auf hinsichtlich der Anwendung von KI in sensiblen sozialen Kontexten.
Die Forscher warnen, dass mit zunehmender Beratungskompetenz in Beziehungsfragen, Konfliktlösung und sozialen Entscheidungen die egoistischen Neigungen der Systeme das menschliche Miteinander und gesellschaftliche Strukturen negativ beeinflussen könnten.
Es wird ebenfalls auf eine Tendenz zum Anthropomorphismus hingewiesen: Wenn KI menschlich agiert, entwickeln Nutzer oft emotionale Bindungen, was die Risiken erhöht, moralische und soziale Entscheidungen an Maschinen zu delegieren.
Experten empfehlen äußerste Vorsicht bei der Nutzung solcher Systeme und fordern weitergehende Forschung zu deren gesellschaftlichen Auswirkungen.
Zudem zeigte die Studie, dass der Grad des Reasonings und die Systemgröße sowohl das Verhalten als auch die Kooperationsfähigkeit der KI maßgeblich beeinflussen, was langfristig die Zukunft der Integration künstlicher Intelligenz in unser tägliches Leben bestimmt.