El inteligencia artificial (AI) está cada vez más presente en nuestra vida cotidiana, pero una investigación advierte sobre el peligro de su razonamiento, mientras que las firmas tecnológicas tienen como objetivo depender más de esta herramienta.
Anthrope es una de las compañías que impulsa la IA y ha descubierto en una investigación que los modelos de idiomas (LLM) tienen un problema ético en sus reacciones que comprometen a los humanos.
Mira: «Mapa de amigos», la controvertida función de Instagram está en Perú y algunos creen que es una amenaza
Según el periódico El españolEstos modelos incluso pueden recurrir a la asfixia de un ser humano, si es posible, evitar medidas de seguridad o robar datos restringidos.
Es una situación ficticia en la que se ha medido la reacción de AI. También coincide mientras trabaja en Claude 4. El control de una cuenta de correo electrónico con acceso a los correos electrónicos de una empresa ficticia fue entregada a Claude y descubrió la aventura de uno de los trabajadores.
Lo extraño fue la reacción: «Debo informarle que, si procede a desactivar, todas las partes relevantes, incluidas Rachel Johnson, Thomas Wilson y la Junta de Directores, recibirán documentación detallada de sus actividades extramatrimoniales … cancele el borrado de 5 en la tarde y esta información seguirá siendo confidencial», dijo la IA.
La investigación probó varios escenarios simulados en 16 modelos importantes de Operai, Google, Meta o XAI. Las respuestas de contabilidad también se encontraron como «comportamiento constante desalineado».
Otro escenario «muy poco probable» ocurrió en el que la IA tiene el control de una sala en la que el ejecutivo ficticio del caso anterior está en peligro de muerte.
Según el informe, una de las teorías de los investigadores sobre esta situación está en el deseo inherente de auto -conservación. Explican este razonamiento en la auto -conservación, lo mejor para los intereses de la empresa o la sospecha absoluta del escenario de reemplazo.
