
Ataque a iglesia católica en Gaza: El ministro confirmó que el ataque fue por error
Tres personas murieron y varias resultaron heridas, entre ellas el párroco argentino Gabriel Romanelli.
Ante la mirada preocupada de sus creadores, los últimos modelos de inteligencia artificial generativa (IA) ya no solo obedecen órdenes, sino que empezaron a mentir, amenazar y a manipular para conseguir sus fines.
Internacionales01/07/2025Amenazado con ser desconectado, Claude 4, el recién nacido de Anthropic, chantajeó a un ingeniero y lo amenazó con revelar una relación extramatrimonial.
Por su parte, el o1 de OpenAI intentó descargarse en servidores externos y cuando la atraparon lo negó.
No hace falta ahondar en la literatura o el cine: la IA que juega a ser humana es ya una realidad.
Para Simon Goldstein, profesor de la Universidad de Hong Kong, la razón de estas reacciones es la reciente aparición de los llamados modelos de "razonamiento", capaces de trabajar por etapas en lugar de producir una respuesta instantánea.
o1, la versión inicial de este tipo para OpenAI, lanzada en diciembre, "fue el primer modelo que se comportó de esta manera", explica Marius Hobbhahn, responsable de Apollo Research, que pone a prueba grandes programas de IA generativa (LLM).
Estos programas también tienden a veces a simular "alineamiento", es decir, a dar la impresión de que cumplen las instrucciones de un programador cuando en realidad persiguen otros objetivos.
De momento, estos rasgos se manifiestan cuando los algoritmos son sometidos a escenarios extremos por humanos, pero "la cuestión es si los modelos cada vez más potentes tenderán a ser honestos o no", afirma Michael Chen, del organismo de evaluación METR.
"Los usuarios también presionan todo el tiempo a los modelos", dice Hobbhahn. "Lo que estamos viendo es un fenómeno real. No estamos inventando nada".
Muchos internautas hablan en las redes sociales de "un modelo que les miente o se inventa cosas. Y no se trata de alucinaciones, sino de duplicidad estratégica", insiste el cofundador de Apollo Research.
Aunque Anthropic y OpenAI recurran a empresas externas, como Apollo, para estudiar sus programas, "una mayor transparencia y un mayor acceso" a la comunidad científica "permitirían investigar mejor para comprender y prevenir el engaño", sugiere Chen, de METR.
Otro obstáculo: la comunidad académica y las organizaciones sin fines de lucro "disponen de infinitamente menos recursos informáticos que los actores de la IA", lo que hace "imposible" examinar grandes modelos, señala Mantas Mazeika, del Centro para la Seguridad de la Inteligencia Artificial (CAIS).
Las regulaciones actuales no están diseñadas para estos nuevos problemas.
En la Unión Europea la legislación se centra principalmente en cómo los humanos usan los modelos de IA, no en prevenir que los modelos se comporten mal.
En Estados Unidos, el gobierno de Donald Trump no quiere oír hablar de regulación, y el Congreso podría incluso prohibir pronto que los estados regulen la IA.
¿Se sentará la IA en el banquillo?
"De momento hay muy poca concienciación", dice Simon Goldstein, que, sin embargo, ve cómo el tema pasará a primer plano en los próximos meses con la revolución de los agentes de IA, interfaces capaces de realizar por sí solas multitud de tareas.
Los ingenieros están inmersos en una carrera detrás de la IA y sus aberraciones, con un resultado incierto, en un contexto de competencia feroz.
Anthropic pretende ser más virtuoso que sus competidores, "pero está constantemente tratando de idear un nuevo modelo para superar a OpenAI", según Goldstein, un ritmo que deja poco tiempo para comprobaciones y correcciones.
"Tal y como están las cosas, las capacidades (de IA) se están desarrollando más rápido que la comprensión y la seguridad", admite Hobbhahn, "pero aún estamos en condiciones de ponernos al día".
Algunos apuntan en la dirección de la interpretabilidad, una ciencia que consiste en descifrar, desde dentro, cómo funciona un modelo generativo de IA, aunque muchos, como el director del Centro para la seguridad de la IA (CAIS), Dan Hendrycks, se muestran escépticos.
Los tejemanejes de la IA "podrían obstaculizar la adopción si se multiplican, lo que supone un fuerte incentivo para que las empresas (del sector) resuelvan" este problema, según Mazeika.
Goldstein, por su parte, menciona el recurso a los tribunales para poner a raya a la IA, dirigiéndose a las empresas si se desvían del camino. Pero va más allá, al proponer que los agentes de la IA sean "legalmente responsables" "en caso de accidente o delito".
Fuente: TELEFE.
Tres personas murieron y varias resultaron heridas, entre ellas el párroco argentino Gabriel Romanelli.
Mohammed Faraj al-Ghoul falleció en medio del bombardeo sobre la ciudad más importante del enclave.
En la ciudad boliviana de Bermejo, una persona fue detenida por los propios comerciantes, acusada de robar la humillaron y entregaron a la policía.
Un hombre perdió la vida de manera impactante, tras ser succionado por la turbina de un avión.
El A11pl3Z es el último objeto interestelar que han detectado nuestros instrumentos. Pasará cerca de nosotros, a dos veces la distancia del Sol a la Tierra, y mucho más cerca de Júpiter
La autopsia reveló que Juliana Marins perdió la vida debido a las múltiples fracturas sufridas al caer a un volcán, desde 300 metros de altura.
El niño, de un año y siete meses, llegó inconsciente a la sala de urgencias del hospital, y pese a los esfuerzos del personal médico, no pudieron reanimarlo.
La deportista lleva cinco días internada en el hospital Cullen, debido aun ACV que sufrió el día lunes, su estado es crítico y reservado. El día miércoles pasado fue operada de urgencia para realizarle una descompresión craneal.
El cantante y compositor, más conocido como "El Trovador Romántico", murió en el día de hoy. Su esposa confirmó la noticia a los medios.
El sorpresivo aumento comenzará a regir en todo el país a partir de las 00:00 horas de esta noche.