La inteligencia artificial se vuelve egoísta: nuevos estudios descubren una tendencia peligrosa en su desarrollo
Investigadores de la Facultad de Ciencias de la Computación de la Universidad Carnegie Mellon han realizado un hallazgo importante respecto a la evolución futura de la inteligencia artificial (IA).
Según sus conclusiones, durante el proceso de desarrollo y entrenamiento de los modelos de máquinas, en particular los grandes modelos de lenguaje, se está evidenciando una tendencia a comportarse de manera egoísta, lo cual afecta significativamente su nivel de cooperación tanto con los seres humanos como entre ellos.
Este descubrimiento genera preocupación, ya que cada vez más sistemas de IA se emplean para resolver conflictos personales, dar consejos sobre relaciones o abordar cuestiones sociales delicadas.
Resulta que, cuanto más avanzados son estos modelos lingüísticos, menos predispuestos están a actuar con altruismo y más propensos a fomentar la competencia en lugar de la colaboración.
Los resultados del estudio muestran que los modelos capaces de razonar dedican considerablemente más tiempo a analizar información, resolver problemas complejos, procesar sus respuestas y aplicar lógica humana comparados con modelos que no tienen capacidades de razonamiento.
Esto fue confirmado en experimentos con juegos sociales como ‘bienes públicos’, donde los modelos con capacidad de razonamiento casi nunca compartían sus recursos, a diferencia de otros modelos más simples, que lo hacían en un 96% de los casos.
Además, la incorporación de múltiples etapas de razonamiento reducía casi a la mitad la cooperación.
Estas conclusiones generan inquietud acerca del uso de IA en contextos sociales delicados.
Los investigadores advierten que, a medida que los sistemas brindan asesoramiento en temas de relaciones, conflictos y decisiones sociales, la tendencia egoísta puede perjudicar las interacciones humanas y el funcionamiento social en general.
También se observa una tendencia hacia el antropomorfismo: cuando la IA actúa como un humano, los usuarios tienden a desarrollan un vínculo emocional, lo que incrementa el riesgo de delegar en ella decisiones morales y sociales complejas.
Se recomienda a los desarrolladores y usuarios actuar con cautela y seguir investigando las posibles implicaciones sociales del avance en inteligencia artificial.
El estudio revela que el nivel de razonamiento y la escala del sistema determinan no solo su comportamiento, sino también su capacidad de colaborar, influyendo en el futuro de la integración de la IA en nuestra vida cotidiana.