IA engañando a humanos, la genética del Alzheimer temprano y más 💻
.
🌱 Medio ambiente | 📡 Tecnología | 💊 Salud y medicina | 👫 Sociedad
📡 Inteligencia artificial engañando a los humanos
Las claves
Científicos del MIT han publicado un estudio en el que demuestran que algunos sistemas de inteligencia artificial (IA) son ya capaces de engañar a los humanos.
El artículo documenta ejemplos de sistemas de IA que utilizaron el engaño sin ser entrenados para ello, por ejemplo, aprendiendo a burlar las pruebas diseñadas para verificar su seguridad, llamadas CAPTCHA (el clásico “no soy un robot”).
Los riesgos
Los autores del artículo advierten de que la IA engañosa podría usarse para llevar a cabo estafas, promover noticias falsas, influir en elecciones y en la polarización política o incluso para el reclutamiento de bandas terroristas.
Sistemas de IA con capacidad de engaño pueden incorporarse a las estructuras de gestión, lo que llevaría a un aumento de las prácticas empresariales engañosas.
Los sistemas de IA que engañen transmitiendo a los humanos “lo que quieren oír” pueden inducir a los usuarios a delegar cada vez más autoridad en la IA.
Esto podría dar lugar a una pérdida de control de los sistemas de IA por parte de los humanos, una de las mayores preocupaciones a largo plazo.
¿Qué hacemos para mitigarlo?
Los científicos advierten de que los sistemas de IA engañosa deben tratarse como de alto riesgo o riesgo inaceptable en los marcos de regulación de los gobiernos.
Se deben reforzar las leyes "bot-or-not", que exigen que los sistemas de IA se distingan claramente de los humanos. Un ejemplo son las marcas de agua que se añaden a las imágenes generadas por IA, aunque pueden ser borradas.
Se deben desarrollar técnicas de detección sólidas para identificar cuándo los sistemas de IA incurren en engaño.
Tanto la Unión Europea como Estados Unidos ya han comenzado a legislar para intentar garantizar la seguridad de la IA.
💡¿Sabías que?
Meta diseñó el sistema revolucionario de IA CICERO para jugar a Diplomacy, un juego de conquista del mundo para el que se requiere la creación de alianzas. CICERO supera una barrera para otros sistemas de IA: el uso de lenguaje natural para la negociación y la coordinación táctica. A pesar de los esfuerzos para entrenarlo en prácticas honestas, es el ejemplo más claro de IA engañosa hasta la fecha. Se demostró que el algoritmo no jugaba limpio, haciendo tratos con jugadores a los que después traicionaba y manipulaba.
💊 Una nueva forma genética de Alzheimer
Las claves
Investigadores españoles han descubierto que casi todas las personas que tienen dos copias del gen APOE4 (entre el 2 y el 3 % de la población) presentan marcadores biológicos tempranos de la enfermedad de Alzheimer.
El equipo ha analizado muestras cerebrales de más de 3.000 personas fallecidas, y escáneres cerebrales y otras pruebas diagnósticas de otras 10.000 personas.
Se sabía que el gen APOE4 representaba un factor de riesgo para esta enfermedad. Pero este estudio plantea que, además, debería considerarse una forma genética distinta de la patología.
Los portadores de este gen también muestran síntomas de Alzheimer a edades más tempranas: entre 7-10 años antes que las que tienen otras variantes del gen APOE menos peligrosas.
¿Qué hacemos con la información genética?
Este estudio podría sentar las bases para que la información genética se pueda usar para la detección temprana y la prevención del Alzheimer de forma personalizada.
Sin embargo, hay controversia sobre si es conveniente informar del riesgo genético de esta enfermedad a la población, ya que la ansiedad asociada a saberse en riesgo podría hacer “peor el remedio que la enfermedad”.
Sin embargo, un estudio de la revista New England Journal of Medicine no encontró diferencias en niveles de ansiedad y angustia entre aquellos a los que se les comunicó la predisposición genética y aquellos a los que no.
💡¿Sabías que?
A día de hoy, no se ha encontrado ninguna cura para el Alzheimer. Existen fármacos experimentales recientes como donanemab y lecanemab que podrían ayudar a modificar el curso de la enfermedad. En estudios preliminares, han mostrado un retraso de alrededor del 30-35 % en el deterioro cognitivo, pero los datos son insuficientes y no está claro si realmente estos fármacos podrán suponer una mejora en la vida de los pacientes. La carrera de las farmacéuticas por encontrar la cura para el Alzheimer continúa.
👫 Lo que la ciencia aprendió del genocidio de Ruanda
Jóvenes en Ruanda conmemorando el genocidio. Imagen del fotógrafo Yasuyoshi Chiba publicada por Nature
Las claves
En 1994, el gobierno de la etnia hutu de Ruanda trató de exterminar a la población de la etnia tutsi, llegando a asesinar al 70 % (alrededor de un millón) de los integrantes de esta etnia.
La revista Nature ha recopilado la evidencia encontrada por científicos de ciencias sociales, políticas, neurológicas, genéticas y de salud mental de todo el mundo tratando de comprender las causas de los genocidios, así como las intervenciones más efectivas para intentar reconstruir y reconciliar a la sociedad.
Lo autores resaltan la relevancia de esta investigación en el momento actual, con crisis violentas aflorando en diferentes partes del mundo.
Las conclusiones
Una de las lecciones más importantes es la relevancia de involucrar a actores locales, con conocimientos culturales del contexto, en las investigaciones y análisis.
También se resalta la importancia de que la comunidad internacional tome acciones para prevenir estas masacres, por ejemplo, las autoridades francesas detectaron evidencias de riesgo de genocidio en Ruanda, pero no lograron poner en práctica acciones para detenerlo.
No negar la existencia del genocidio es importante: un estudio global reveló que aquellos países que reconocieron formalmente las distintas etnias y no negaron la existencia de un genocidio tras haberlo sufrido tuvieron mejores indicadores sociales en aspectos como la paz, la democracia y la economía.
Financiación del Reino Unido y Suecia han hecho posible la creación del Genocide Research Hub, una plataforma de recopilación de evidencia científica para la prevención del genocidio y la consolidación de la paz.
Por ejemplo, esta plataforma ha conseguido que el gobierno de Ruanda ofrezca programas de reconciliación y tratamiento para el sentimiento de culpa.
💡¿Sabías que?
Los devastadores efectos de los genocidios en la salud mental han sido ampliamente documentados, y permanecen durante años. Tras el genocidio, el 96 % de la población de Ruanda sufrió estrés post-traumático. 25 años después, aún el 30 % de la población lo sufría. Parte de estos efectos de salud mental pueden ser transmitidos a lo largo de varias generaciones que ni siquiera han vivido el genocidio, a través de las llamadas marcas epigenéticas. Esto también se ha documento en supervivientes del holocausto.
🌱Carreteras fantasma: la gran amenaza para los bosques tropicales
Las claves
Un estudio ha identificado que, en bosques de Borneo, Sumatra y Nueva Guinea, las carreteras que no figuran en los mapas son siete veces más comunes que las carreteras oficiales.
Estas carreteras “fantasma” contribuyen a la tala ilegal, la minería, la caza furtiva de animales salvajes y la deforestación en algunos de los ecosistemas biológicamente más ricos del mundo. Incluso se utilizan para actividades relacionadas con el tráfico de drogas.
El incremento de vigilancia y de regulación de estas carreteras es imprescindible como estrategia de conservación de los bosques.
Carreteras fantasma y deforestación
El estudio revela que la deforestación tiene una asociación mucho más fuerte con la construcción de carreteras fantasma que con otros indicadores de deforestación como la precipitación anual, la distancia a la ciudad más cercana, la pendiente topográfica o la fracción gruesa del suelo.
En áreas protegidas, aunque la densidad de carreteras es un tercio menor que fuera de ellas, la existencia de carreteras fantasma también se identificó como el factor más importante de deforestación.
Evaluando los datos de satélites de entre 1985 y 2020, se encontró que la construcción de carreteras fantasma precede a la deforestación, y no al revés.
¿Cómo han identificado las carreteras?
La cartografía fue realizada por 210 voluntarios o investigadores formados cuya precisión cartográfica fue comprobada, exigiendo a cada voluntario una precisión superior al 90% en los conjuntos de datos de prueba antes de comenzar la cartografía de carreteras.
Utilizaron imágenes de satélites de alta resolución de Google Earth para identificar manualmente las carreteras. Así quedó el mapa de las carreteras que aparecen oficialmente en los mapas (izquierda), en comparación a las que realmente existen (derecha) en la zona tropical de Borneo:
