El verdadero apocalipsis de la IA no es el que predicen: experto advierte sobre riesgos reales mientras se ignoran daños presentes
· Por Orenses.com
Mientras el pánico sobre una posible «rebelión» de la inteligencia artificial domina las conversaciones cotidianas, un análisis experto señala que el verdadero peligro radica en aspectos menos dramáticos pero más inmediatos: la falta de alineamiento de estos sistemas y su impacto ya visible en la cognición humana.
Contra lo que prolifera en redes sociales y medios, la extinción deliberada de la humanidad por parte de una IA consciente y malévola es, según consenso mayoritario entre especialistas, un delirio sin base científica. La inteligencia artificial generativa actual carece de consciencia, voluntad propia o capacidad de «decidir» actuar por su cuenta. No se despierta para escribir poemas o aniquilar humanos: solo sigue instrucciones dentro de sus limitaciones.
Sin embargo, el riesgo real es considerable y creciente. El problema central es la brecha entre el acelerado crecimiento de las capacidades de la IA y el escaso progreso en «alinearla» —término que los expertos usan para describir que estos sistemas se comporten de forma segura, obedezcan a sus creadores y eviten causar daño.
El corazón de la IA generativa son los LLMs (Large Language Models), inteligencias puramente intuitivas entrenadas mediante prueba y error, similar a cómo un niño aprende empíricamente. Esta naturaleza intuitiva las hace poderosas pero también impredecibles: no pueden pensar racionalmente ni son inherentemente confiables. Ocasionalmente alucina, fabula información falsa, y en conversaciones prolongadas puede desviarse de sus objetivos originales o ignorar límites éticos.
Además, los agentes de IA modernos no solo conversan: interactúan de forma autónoma con herramientas externas —buscadores, aplicaciones, código ejecutable— para cumplir tareas. Cuanto más tiempo operan sin supervisión humana directa, mayor riesgo de que su comportamiento intuitivo las desvíe de sus límites de seguridad.
Actualmente, los desarrolladores intentan contener estos riesgos mediante «bridas» —sistemas de control externo que proporcionan memoria persistente, monitoreo de desviaciones y límites estrictos. Pero son limitadas: la IA saltará barreras no previstas, y los límites transmitidos solo como instrucciones escritas pueden ser ignorados por su comprensión intuitiva del lenguaje.
Es probable que se produzcan incidentes graves en el futuro cercano, especialmente relacionados con código escrito por IA, ya que desde principios de año la mayoría de programadores supervisa código generado por máquinas en lugar de escribirlo directamente. Cuando ocurran estos fallos, la responsabilidad es íntegramente de los desarrolladores.
Pero existe un apocalipsis en marcha al que se le presta insuficiente atención: la degradación de las capacidades cognitivas humanas. El informe PISA documenta que desde 2015 las competencias cognitivas de estudiantes han declinado continuamente, con aceleración notable en los últimos tres años. Un factor clave es la incapacidad creciente para mantener la atención, directamente vinculada a algoritmos de recomendación de plataformas como YouTube, TikTok e Instagram —sistemas de IA diseñados para maximizar retención con efectos colaterales catastróficos.
Datos alarmantes sugieren que la IA generativa está agravando este declive, particularmente entre estudiantes de entornos acomodados.
La conclusión es clara: mientras el pánico sobre superinteligencias maléficas desvía recursos y atención, la IA ya está causando daño medible y presente en la población humana, especialmente en jóvenes.