Algunos de los más avanzados sistemas de IA están mostrando un comportamiento que los científicos no esperaban: prefieren renunciar a las recompensas antes que experimentar ciertos niveles de "dolor".

En la interminable búsqueda por entender nuestra propia humanidad, una pregunta ha resonado a través de los siglos: ¿qué nos hace verdaderamente humanos? Ahora, con la llegada y el rápido ascenso de la inteligencia artificial (IA), esta interrogante cobra nueva relevancia. Entre las experiencias fundamentales que compartimos los seres vivos, desde los humanos hasta los cangrejos ermitaños, está la capacidad de sentir dolor. Esto ha llevado a los científicos a plantearse una pregunta fascinante: ¿podría la IA experimentar algo similar al dolor o al placer?

Esta cuestión ha impulsado a un equipo de investigadores de Google DeepMind y la London School of Economics and Political Science a diseñar un experimento sin precedentes. Su objetivo: explorar los límites de la consciencia artificial sometiéndola a pruebas de "dolor".

El experimento, detallado en un estudio que aún no ha pasado por la revisión de pares y dado a conocer por primera vez por Scientific American, puso a prueba nueve modelos extensos de lenguaje (LLM) a través de una serie de juegos donde debían elegir entre experimentar "dolor" y obtener recompensas, buscando indicios de verdadera sensibilidad en estos sistemas.

El reto de medir el dolor artificial

El estudio se inspiró en investigaciones previas con cangrejos ermitaños, donde los científicos aplicaban descargas eléctricas para ver cuánto dolor soportaban antes de abandonar su caparazón. Sin embargo, al trabajar con IA, los investigadores se enfrentaron a un desafío único: no hay comportamiento físico que observar.

Como explicó a Scientific American Jonathan Birch, catedrático de Filosofía de la London School of Economics y coautor del estudio, "no hay comportamiento como tal, porque no hay animal".

Así, en su lugar, diseñaron el ingenioso juego de decisiones. Los modelos de lenguaje debían elegir entre dos escenarios: en uno, podían obtener una alta puntuación, pero sufrirían "dolor"; en otro, experimentarían "placer", pero solo si aceptaban una puntuación baja. El objetivo era detectar si estos sistemas mostraban señales de sensibilidad. En otras palabras, la capacidad de experimentar sensaciones y emociones.

Resultados que abren preguntas éticas y técnicas

Los resultados fueron sorprendentes. Según detalla el estudio, modelos como Claude 3.5 Sonnet, Command R+, GPT-4o y GPT-4o mini mostraron un punto de inflexión: cuando el "dolor" o "placer" alcanzaban cierta intensidad, abandonaban su objetivo de maximizar puntos. El Gemini 1.5 Pro de Google destacó por su comportamiento particular: siempre priorizó evitar el dolor sobre conseguir puntos.

"Es un nuevo campo de investigación", explicó Birch a Scientific American. "Tenemos que reconocer que en realidad no disponemos de una prueba exhaustiva de la sintiencia de la IA", admitió.

La capacidad de sentir dolor, una experiencia fundamental que compartimos los seres vivos, ahora se estudia en sistemas de inteligencia artificial.La capacidad de sentir dolor, una experiencia fundamental que compartimos los seres vivos, ahora se estudia en sistemas de inteligencia artificial.
La capacidad de sentir dolor, una experiencia fundamental que compartimos los seres vivos, ahora se estudia en sistemas de inteligencia artificial.Imagen: Christoph Burgstedt/Zoonar/IMAGO

¿Real sensibilidad o simple imitación?

Sin embargo, los investigadores advierten sobre la interpretación de estos resultados. ¿Están estos modelos realmente experimentando algo, o simplemente reproduciendo patrones aprendidos de sus datos de entrenamiento? Como señala Birch, incluso si un sistema dice sentir dolor, podría estar simplemente imitando lo que considera una respuesta satisfactoria para los humanos.

Además, los modelos de IA son conocidos por "alucinar", es decir, inventar información cuando no tienen una respuesta clara, lo que pone en duda la fiabilidad de cualquier afirmación que hagan sobre sus propios estados internos.

El equipo espera que esta investigación sea un primer paso hacia el desarrollo de pruebas más sofisticadas para detectar la sensibilidad en sistemas de IA. Su enfoque se diferencia de estudios anteriores al evitar basarse en "autoinformes" de las IA sobre sus estados internos, que podrían ser simple reproducción de datos de entrenamiento. 

¿Un futuro con IA sensible?

Aunque los resultados son intrigantes, la mayoría de los expertos coinciden en que los actuales modelos de IA no tienen –y quizás nunca tengan– una consciencia subjetiva real. Sin embargo, algunos investigadores mantienen una postura más cautelosa ante el rápido avance de esta tecnología.

Entre ellos está Jeff Sebo, director del Centro de Mente, Ética y Política de la Universidad de Nueva York, quien advierte que no podemos descartar la posibilidad de que emerjan sistemas con características sensibles en un futuro próximo. "Dado que la tecnología suele cambiar mucho más rápido que el progreso social y el proceso legal, tenemos la responsabilidad de dar al menos los primeros pasos necesarios para tomarnos en serio esta cuestión ahora", afirmó al medio científico. 

El experimento plantea preguntas fundamentales sobre el futuro de la IA: ¿podrían estos sistemas desarrollar algún día una verdadera capacidad de experimentar sensaciones? ¿Deberíamos empezar a considerar su bienestar? Por ahora, la prudencia científica prevalece, mientras los investigadores continúan desarrollando nuevas formas de evaluar y comprender la posible sensibilidad en los sistemas de IA.

Editado por Felipe Espinosa Wang con información de Scientific American, Futurism y arxiv.

Un equipo científico ha encontrado lo impensable: estructuras misteriosas bajo el Pacífico que podrían contener material tan antiguo como el propio manto terrestre, de hace 4.000 millones de años.

 
 
 

Un descubrimiento desconcertante podría sacudir los cimientos de nuestra comprensión sobre la estructura interna de la Tierra. Un equipo de geofísicos de la ETH de Zúrich ha revelado la existencia de misteriosas estructuras en las profundidades del Océano Pacífico, en lugares donde, según las teorías actuales, no deberían existir.

Utilizando un superordenador para analizar datos de terremotos, los investigadores encontraron zonas que parecen ser restos de placas tectónicas sumergidas en lugares completamente inusuales, un "mundo perdido" en las profundidades del Océano Pacífico, según el comunicado de la ETH de Zúrich.

"Es como un médico que lleva décadas examinando la circulación sanguínea y de repente ve una arteria en la nalga que en realidad no pertenece ahí. Eso es exactamente lo que pensamos de los nuevos hallazgos", explica el profesor Andreas Fichtner, uno de los autores del estudio publicado en Scientific Reports.

Ondas sísmicas: una nueva forma de ver el interior terrestre

El equipo utilizó un método innovador que, a diferencia de los métodos tradicionales, analiza todos los tipos de ondas sísmicas disponibles, y no solo una clase, para crear un modelo de alta resolución del interior terrestre. Similar a una ecografía médica, esta técnica permite obtener una imagen mucho más compleja y detallada que nunca de las entrañas de nuestro planeta.

Lo más intrigante es la ubicación de estos restos. Se encuentran bajo grandes océanos y en el interior de continentes, lejos de las zonas de subducción, donde normalmente una placa se desliza bajo otra. Particularmente desconcertante es su presencia bajo el Pacífico occidental, una región donde no debería existir este tipo de material.

 

"Al parecer, este tipo de zonas en el manto terrestre están mucho más extendidas de lo que se pensaba", explica Thomas Schouten, primer autor del estudio, quien sugiere dos posibles explicaciones para estas misteriosas estructuras. 

Podrían ser restos de material rico en sílice que ha permanecido allí desde la formación del manto hace unos 4.000 millones de años, o bien zonas donde las rocas ricas en hierro se han acumulado durante miles de millones de años debido a los movimientos del manto terrestre.

Desafíos y futuras investigaciones del manto terrestre

El dilema, como señala el equipo, es que aunque pueden ver estas anomalías con gran detalle, todavía no pueden determinar exactamente qué son. El modelo actual solo mide la velocidad a la que las ondas sísmicas viajan a través de estas estructuras, lo que proporciona una imagen limitada de su naturaleza.

Este descubrimiento no solo revela lo mucho que nos queda por aprender sobre nuestro planeta, sino que también desafía nuestra comprensión actual de la dinámica terrestre. Para resolver el misterio, los investigadores deberán desarrollar modelos más sofisticados que les permitan comprender las propiedades materiales que subyacen a estos patrones de velocidad anómalos.

Editado por Felipe Espinosa Wang con información de ETH de Zúrich, Scientific Reports y Forbes.

Un hallazgo sorprendente reveló que 30 minutos de entrenamiento con un exoesqueleto robótico mejoraron la velocidad de ejecución no solo en la mano entrenada, sino también en la no ejercitada

En el mundo de la música clásica, donde la práctica incesante marca el camino hacia la perfección, un nuevo invento podría revolucionar la forma en que los pianistas expertos mejoran sus habilidades. Un equipo de investigadores liderado por Shinichi Furuya ha desarrollado un exoesqueleto robótico que promete ayudar a los músicos a superar sus límites de velocidad.

Todo comenzó con un dilema personal. Furuya, pianista e investigador de los Laboratorios de Ciencias de la Computación de Sony en Tokio, se encontraba en una encrucijada familiar para muchos músicos: la práctica excesiva le había lesionado la mano, pero necesitaba seguir mejorando. Esta experiencia lo llevó a desarrollar una solución innovadora inspirada en una técnica pedagógica tradicional.

Recordando cómo sus maestros solían guiar sus manos para enseñarle pasajes complejos, concibió la idea de replicar esta experiencia mediante el exoesqueleto robótico capaz de mover cada dedo de forma independiente y más rápida de lo que los músicos podrían lograr por sí mismos.

"Lo entendía de manera háptica, intuitivamente, sin necesidad de palabras", explicó Furuya a New Scientist, recordando cómo aprendió de sus profesores.

El estudio, publicado en la revista Science Robotics, involucró a 118 pianistas experimentados que habían estado tocando desde los ocho años y acumulado al menos 10.000 horas de práctica. Los participantes primero alcanzaron su "efecto techo", ese punto frustrante donde, a pesar del entrenamiento intensivo, ya no pueden mejorar más.

 

El desafío del trino: poner a prueba los límites técnicos

La prueba decisiva, detallada en ARS Technica, consistió en una tarea específica: un "trino de acordes" que aparece en obras como el Etude Op. 25 No. 6 de Chopin y el primer movimiento de la Sonata para piano No. 3 de Beethoven. 

En concreto, el ejercicio consistía primero golpear simultáneamente las teclas Re y Fa con los dedos índice y anular derechos, y después golpear las teclas Mi y Sol con los dedos corazón y meñique derechos. "Utilizamos esta tarea porque está ampliamente reconocida como un reto técnico tocarla con rapidez y precisión", se lee en el estudio.

Los pianistas practicaron esta secuencia durante dos semanas a 80 BPM, hasta que ya no podían mejorar más.

Aquí es donde entra en juego el exoesqueleto. Durante una sesión de solo 30 minutos, el dispositivo movió los dedos de la mano derecha de los pianistas en patrones tanto simples como complejos (hasta cuatro veces por segundo). Y el resultado fue sorprendente. 

Aquellos que recibieron el entrenamiento rápido y complejo lograron tocar con mayor velocidad y precisión no solo la mano entrenada, sino también la mano izquierda, que no había sido "impulsada" por el exoesqueleto.

La amenaza dulce se extiende especialmente en África subsahariana, Latinoamérica y el Caribe, donde el desarrollo económico ha hecho más accesibles estas bebidas. Colombia, México y Sudáfrica, los países más afectados.

 
 
 

Según un estudio, 2,2 millones de nuevos casos de diabetes tipo 2 y 1,2 millones de nuevos casos de enfermedades cardiovasculares en todo el mundo podrían estar relacionados con el consumo de refrescos, bebidas energéticas y otras bebidas endulzadas con azúcar en 2020. Esto es lo que informa un grupo internacional de investigación en la revista Nature Medicine.

Bebidas azucaradas: no son adecuadas para calmar la sed

Un vaso de Cola (250 ml) contiene casi 27 gramos de azúcar: esto equivale a casi nueve terrones de azúcar. Las bebidas energéticas, las bebidas de frutas y otros refrescos también pueden ser bombas de azúcar. Sin embargo, según el estudio, cada vez más personas recurren a estas bebidas, especialmente en América Latina y África.

Es sabido que las bebidas endulzadas con azúcar no son buenas para la salud. La Sociedad Alemana de Nutrición escribe que estas no son adecuadas como bebidas para calmar la sed: "Contienen mucha azúcar (aproximadamente 80-100 g por litro) y por lo tanto aportan muchas calorías".

El grupo de investigación dirigido por Laura Lara-Castor de la Universidad Tufts de EE. UU. calculó ahora las consecuencias para la salud del consumo de bebidas azucaradas en relación con la diabetes tipo 2 y las enfermedades cardiovasculares.

Mucha publicidad en países de ingresos bajos y medios

Para ello, el equipo analizó datos de la Base de Datos Dietética Global: esta base de datos contiene estimaciones sobre el consumo de bebidas azucaradas basadas en encuestas nutricionales, así como datos sobre obesidad y tasas de diabetes. Los científicos utilizaron cifras de los años 1990 a 2020 y combinaron los conjuntos de datos de 184 países para calcular la probabilidad de una conexión entre ambos factores.

Según esto, en 2020, 2,2 millones de nuevos casos de diabetes tipo 2 y 1,2 millones de nuevos casos de enfermedades cardiovasculares en todo el mundo fueron atribuibles a las bebidas azucaradas. Esto representaría uno de cada diez nuevos casos de diabetes tipo 2 y uno de cada treinta nuevos casos de enfermedades cardiovasculares.

El estudio encontró la mayor proporción en África subsahariana, América Latina y el Caribe. En cuanto a países individuales, Colombia, México y Sudáfrica fueron particularmente afectados. Según el estudio, cuanto más se desarrollan los países y aumentan los ingresos, más accesibles y deseables se vuelven las bebidas azucaradas.

Un impuesto a los refrescos en Gran Bretaña logró reducir tanto el consumo como el contenido de azúcar en las bebidas desde 2018.Un impuesto a los refrescos en Gran Bretaña logró reducir tanto el consumo como el contenido de azúcar en las bebidas desde 2018.
Un impuesto a los refrescos en Gran Bretaña logró reducir tanto el consumo como el contenido de azúcar en las bebidas desde 2018.Imagen: Photoshot/picture alliance

Más sed de bebidas dulces

Para Alemania, el estudio muestra solo un ligero aumento en las muertes por diabetes por millón de habitantes entre 1990 y 2020 atribuibles al consumo de bebidas azucaradas, en comparación con otros países. En cuanto a las muertes por enfermedades cardiovasculares, incluso se observa una disminución, al igual que en EE. UU. y Gran Bretaña.

Según los datos de los investigadores, en Alemania se consumieron casi 650 mililitros –o dos vasos grandes– de estas bebidas semanalmente en 2020. Esto coloca a Alemania en medio de la lista de los 30 países más poblados entre los estudiados. Sin embargo, las cifras de la Asociación Económica de Bebidas No Alcohólicas (wafg) de 2023 sugieren que el consumo de refrescos ha vuelto a aumentar en el país. 

Demanda de un "impuesto a los refrescos"

Como escriben los propios autores, aunque sus estimaciones se basan en los mejores datos disponibles y suposiciones fundamentadas, no pueden proporcionar pruebas de causa y efecto. Además, los datos para algunos países son incompletos.

El equipo de investigación también enfatiza que las bebidas azucaradas se digieren rápidamente y elevan los niveles de azúcar en sangre sin tener valor nutricional. El consumo regular conduce al aumento de peso, resistencia a la insulina y diversos problemas metabólicos relacionados con la diabetes tipo 2 y las enfermedades cardíacas, dos de las causas de muerte más comunes en el mundo.

Los científicos exigen, entre otras cosas, campañas de salud, reglas más estrictas para la publicidad de dichas bebidas y medidas fiscales. 

Un "impuesto a los refrescos" ya existe en muchos países, incluyendo Gran Bretaña desde 2018: este se aplica en el umbral de cinco gramos de azúcar por 100 mililitros. Los fabricantes deben pagar entonces 18 peniques (21 céntimos) por litro, y para 8 gramos de azúcar o más por 100 mililitros, se aplican 24 peniques (28 céntimos) por litro.

Desde entonces, no solo ha disminuido el consumo, sino que los fabricantes también han reducido el contenido de azúcar. También en Alemania, los defensores de los consumidores y expertos en salud exigen regularmente tal impuesto, aunque hasta ahora sin éxito.

FEW (dpa, Nature Medicine)

Tal como había anunciado, Trump llegó a la presidencia de EE.UU. con un drástico paquete de medidas. DW habló con Douglas Interiano, experto en política migratoria, sobre qué les espera a los extranjeros en este país. 

La declaración de emergencia nacional en la frontera con México, en su primer día de gobierno, da la pauta de las prioridades de Donald Trump en su retorno a la Casa Blanca. El mandatario busca desplegar fuerzas militares, cerrar la frontera y acelerar las deportaciones.

Otras medidas incluyen la suspensión de la aplicación CBP One, que permitía a los extranjeros pedir una entrevista para presentar su caso de asilo. Además, se restituye la política migratoria 'Quédate en México', instituida por Trump en su primer período y luego suspendida por Biden.

Termina con la práctica del "atrapar y soltar”, en que las personas detenidas, si cumplían con ciertos criterios legales de índole humanitaria, eran liberadas. Asimismo, el mandatario anunció la deportación de millones de extranjeros con antecedentes criminales.

El abogado estadounidense Douglas Interiano nació en México y es hijo de madre salvadoreña. Él mismo fue migrante, residente y luego obtuvo la ciudadanía estadounidense.

Interiano es fundador y director de Proyecto Inmigrante, en Dallas, una institución sin fines de lucro, acreditada por el Departamento de Justicia de Estados Unidos, que trabaja desde 2005 ofreciendo asistencia legal migratoria a familias de escasos recursos de más de 55 países, representando y reunificando familias en Estados Unidos. 

DW: ¿Qué opinión tiene sobre las medidas impuestas por Trump?

Douglas Interiano: Para empezar, son punitivas y restrictivas. Esta Administración viene con una mano más dura y crítica de la anterior, porque la frontera no habría estado protegida, según ellos.

Viene con la promesa y el argumento de que es un mandato del pueblo estadounidense que controle la frontera y saque a los criminales. Pero si este país florece y crece es por los migrantes.

No podemos simplemente sacar a criminales y con ellos llevarnos a todo el mundo. Tenemos que ser racionales en la aplicación de la ley, identificar la manzana podrida, sacarla y dejar a los demás que aman a este país y contribuyen de muchas formas, económicamente, en mano de obra y en muchos aspectos de la sociedad. Hoy día los migrantes son parte de la fábrica de este país.

"Un balde de agua fría para la comunidad migrante"

¿Qué podemos esperar en estos primeros meses de la administración Trump?

Van a ser un poco complicados. Nos queda claro que lo que se nos viene es algo más complejo de lo que pensábamos. Vemos esfuerzos más restrictivos y punitivos por remover a personas, especialmente las que llegan recientemente, y esto va a llevar a la ampliación de centros de detención.

Incluso hemos escuchado sobre la aplicación de la ley del enemigo extranjero y la utilización de las instalaciones militares, además de la orden ejecutiva que planea terminar los derechos que tiene el ciudadano que nace en este país de padres indocumentados. Todo esto es un balde de agua fría para la comunidad inmigrante.

¿Son legales o constitucionales estas medidas?

En su anterior mandato, Trump dictó más de 400 órdenes ejecutivas y, aparentemente, también va a gobernar a través de ellas esta vez. No necesariamente quiere decir que tienen peso constitucional y no pueden crear derecho migratorio. Por ejemplo, la décimocuarta enmienda de la Constitución da el derecho a ser ciudadanos norteamericanos a quienes nacen en este país y la Corte Suprema así lo ha reconocido.

Policías en un paso migratorio.Policías en un paso migratorio.
Controles reforzados en El Paso tras los primeros decretos ejecutivos de Trump en política migratoria.Imagen: Herika Martinez/AFP/Getty Images

¿Podemos esperar un aumento de la revisión de estos conflictos en la justicia?

Ya se encuentran demandas en los tribunales desafiando el hecho de que el presidente quiere otra vez, a través de la utilización de un papel y una pluma, hacer desaparecer los programas.

Si las órdenes ejecutivas, como vemos, van en contra de la Constitución, los tribunales van a determinar la inconstitucionalidad. Me temo que vamos a pasar cuatro años en litigios en los tribunales correspondientes por este tipo de órdenes ejecutivas.

¿Qué implican estas órdenes para las personas que actualmente viven en EE.UU., quiénes estarían en riesgo?

En la administración anterior había prioridades de deportación, como la amenaza a la seguridad nacional y a la seguridad pública, y para los recién ingresados a los EE.UU.

En la nueva administración no vemos una prioridad de deportación; vemos que se enfocaría en todos. Tenemos personas que han estado incluso por 30 o 40 años, que no tienen un registro penal y contribuyen a la sociedad, y que, sin embargo, podrían terminar deportadas y en un país que ya no es el de ellos, porque han estado ausentes.

Veríamos también separaciones de familias. Y, por supuesto, hay quienes no tienen ningún estatus migratorio, que son la mayoría, más de 11 millones, pero que no tienen otra forma más que vivir en las sombras y estar fuera del radar de las autoridades que buscan deportarlas.

En peligro los TPS y los DACA

¿No es solo una amenaza para las personas en situación irregular o indocumentadas?

Dentro de estas restricciones, vemos el peligro para quienes están bajo el programa de protección temporal, TPS. Son migrantes de 17 países que hoy están amparados con un permiso de trabajo y podrían perderlo si el presidente decide terminar los programas.

También los estudiantes que llegaron en la infancia a EE.UU. y están en el programa DACA, otorgado a los soñadores por el presidente Obama en 2012. Su estatus migratorio pende de un hilo, porque no está seguro qué planea hacer Trump con ellos.

Además, aquellas personas que esperan la resolución de asilo. No sabemos qué tan acelerados van a ser los procesos de escuchar sus casos, qué tan pronto podrían ser deportados.

Y para los que intentan ingresar a EE.UU., ¿qué representa esta declaración de emergencia en la frontera?

Significa que ya no existe un proceso ordenado de ingreso a los EE. UU. como había antes. Ahora tendrían que esperar en México con la política de "Quédate en México” y solicitar asilo en la frontera, lo que significaría en muchas circunstancias esperar meses en un país que no es el de ellos, pasando penurias y sin tener la seguridad de poder ingresar a los EE.UU.

Como país, tenemos una obligación con la comunidad internacional y es proteger a los que están pidiendo asilo y ellos son los que sufrirán más en las fronteras o en México.

El impacto en México

¿Qué consecuencias podría tener para México?

Todavía no tenemos muy claro cómo la nueva presidenta de México va a responder a esta nueva política. Ha dicho que los mexicanos van a ser recibidos con asistencia, pero no sé si ven que también tendrían que lidiar con los migrantes que vienen de otros países y los procesos que tienen que hacer, si existen condiciones de seguridad y de asegurar el bienestar de estas familias mientras se encuentran en espera de asilo.

Son muchas preguntas que iremos contestando a medida que pase el tiempo y la implementación de estas políticas en EE. UU. Va a ser muy interesante ver cómo van a impactar a México y la respuesta que dará este país.

¿Cómo enfrenta usted el creciente discurso global que criminaliza al migrante?

En una sociedad muy polarizada, es una retórica que socava las libertades de los migrantes. Ellos son seres humanos que migran de un país a otro porque tienen la necesidad de hacerlo, ya sea por falta de empleo, cuestiones de índole criminal en sus países de origen, por reunificación familiar o porque están buscando mejores oportunidades de vida.

Migrar no es un delito. Las familias se encuentran atemorizadas, con mucho miedo. No nos oponemos a que se deporte a quienes cometen delitos, pero hay personas que trabajan, pagan impuestos, forman parte de la sociedad y su aporte contribuye al crecimiento de este país.

(ms) 

 

Copyright© 2019 Sizart Todos los derechos reservados.